El sesgo de género en la inteligencia artificial es un fenómeno que se refiere a la reproducción y amplificación de prejuicios, estereotipos y desigualdades de género a través de algoritmos y sistemas automatizados. En el campo de las humanidades digitales y el ciberfeminismo, el fenómeno se estudia como prueba de que la tecnología no es neutral, sino un reflejo de los valores, datos y prioridades de la sociedad que la construye.

Contexto y fundamentación teórica La idea de que las máquinas pueden ser machistas surge del análisis de que la inteligencia artificial se alimenta de big data. Si los datos históricos de la humanidad contienen siglos de exclusión femenina, la IA, al intentar predecir comportamientos futuros basándose en el pasado, acaba sistematizando esa exclusión.

Teóricas como Safiya Noble y Catherine D'Ignazio (autora de Data Feminism) sostienen que los algoritmos operan en una «caja negra», donde las decisiones discriminatorias se producen sin que el usuario o incluso el programador se den cuenta inmediatamente.

Causas estructurales del sesgo Para comprender por qué la IA presenta fallos de género, es necesario observar tres pilares:

1. Invisibilidad en los datos (brecha de datos)

Como describe Caroline Criado Perez en Mulheres Invisíveis (Mujeres invisibles), existe un «vacío» de datos sobre la vida femenina. Si un algoritmo de diagnóstico médico se entrena solo con los síntomas de los ataques cardíacos en hombres, fallará a la hora de identificar el mismo problema en mujeres, cuyos síntomas pueden ser diferentes. En la IA, lo que no se mide ni se registra, no existe para el sistema.

2. Segregación en el sector tecnológico

La cultura de las empresas tecnológicas (predominantemente masculinas y del Norte Global) influye en el diseño de los productos. Sin la presencia de mujeres en puestos de liderazgo en el desarrollo de la IA, las necesidades y los riesgos específicos de género (como el acoso digital o la privacidad) rara vez se priorizan en la fase de creación.

3. Refuerzo de los roles de género

Muchas interfaces de IA utilizan la feminización de la servidumbre digital. Asistentes virtuales como Siri (Apple), Alexa (Amazon) y Cortana (Microsoft) se lanzaron con voces femeninas y personalidades programadas para ser serviciales y, a veces, tolerantes con los abusos verbales, lo que refuerza el estereotipo de la mujer en el papel de secretaria o asistente sumisa.

Casos prácticos e impacto social La literatura académica señala varios ejemplos en los que el sesgo de género ha causado daños reales:

Algoritmos de crédito: En 2019, la tarjeta de crédito de Apple (Apple Card) fue investigada por ofrecer límites de crédito significativamente más bajos a las mujeres que a sus maridos, incluso cuando ellas tenían mejores puntuaciones financieras.

Publicidad dirigida: Los estudios muestran que los algoritmos publicitarios (como los de Google) muestran con más frecuencia anuncios de empleos bien remunerados (ejecutivos, ingenieros) a perfiles masculinos, mientras que los perfiles femeninos reciben anuncios de servicios domésticos o empleos con salarios más bajos.

Traducción y lenguaje: En los idiomas con marcado de género, los sistemas de traducción automática tienden a asumir el género masculino para los términos asociados al poder y la ciencia, y el femenino para los términos relacionados con el cuidado y la limpieza, perpetuando así los prejuicios lingüísticos a escala global.

El papel de la Unión Europea y la ética en la IA En el contexto europeo, es fundamental mencionar que España y la Unión Europea han liderado el debate sobre la regulación de estos sistemas. La Ley de Inteligencia Artificial de la UE clasifica los sistemas que utilizan datos biométricos o que influyen en el acceso al empleo y la educación como de «alto riesgo», exigiendo a las empresas que demuestren que sus algoritmos no son discriminatorios.

El ciberfeminismo propone el concepto de justicia algorítmica, que va más allá de «arreglar el código» y exige un cambio en la forma en que se recopilan los datos y en la diversidad de quienes los manipulan.

Véase también Feminismo de datos, obra de Catherine D'Ignazio y Lauren F. Klein Justicia algorítmica Remedios Zafra (teórica española relevante) Nuestra parte muerta, obra de Antonio Palacios Rojo Ética en la inteligencia artificial

Referencias

Bibliografía Criado Perez, Caroline (2019). Invisible Women: Exposing Data Bias in a World Designed for Men. Abrams Press. Noble, Safiya Umoja (2018). Algorithms of Oppression: How Search Engines Reinforce Racism. NYU Press. (Este é um complemento clássico sobre o tema de algoritmos e viés).

Enlaces externos Site oficial de Caroline Criado Perez

Categoría:Sexismo Categoría:Género Categoría:Inteligencia artificial