Desde el asistente de voz que responde a tus preguntas hasta el algoritmo que te recomienda tu próxima serie, la IA se ha convertido en una presencia constante en nuestra vida cotidiana. Solemos percibir estas herramientas como neutrales y objetivas, simples líneas de código diseñadas para ser eficientes. Pero, ¿y si la IA con la que interactuamos a diario está aprendiendo y amplificando nuestros prejuicios sociales más antiguos?
Un estudio de la Fundación Alternativas escrito por Ariana Guevara Gómez y Lucía Ortiz de Zárate Alcarazo y titulado «Inteligencia artificial e igualdad de género«, ha mostrado algunas realidades sorprendentes sobre esta relación. Lo que revela no es una falla de la tecnología en sí, sino un espejo de las desigualdades que persisten en nuestra sociedad. A continuación, se presentan algunos de los hallazgos clave de este informe con relación a los retos y el potencial de la IA tiene para la igualdad de género.
1. La IA no es objetiva: aprende de un pasado con sesgos
La IA no nace de la nada, se nutre de los datos que le proporcionamos. Y esos datos son un reflejo de nuestro mundo, con todas sus desigualdades históricas incluidas. Cuando los datos de entrenamiento están sesgados, el sistema de IA no solo aprende ese sesgo, sino que lo automatiza, lo reproduce y lo aplica a una escala masiva.
Uno de los casos más famosos es el de la herramienta de selección laboral de Amazon. La empresa desarrolló un sistema de IA para analizar currículums, entrenándolo con los datos de contratación de la última década. Dado que la industria tecnológica ha estado dominada por hombres (y que eran hombres los que habían conseguido con éxito llegar a los puestos de mayor poder dentro de la empresa), el algoritmo aprendió a asociar el éxito con perfiles masculinos. El resultado fue un sistema que penalizaba sistemáticamente a los currículums que incluían la palabra «femenino» o «de mujeres» (como en ‘capitana del club de ajedrez de mujeres’) y degradaba a las candidatas femeninas. Amazon (por suerte) abandonó el el proyecto.
Otro ejemplo preocupante es el del software de reconocimiento facial, que ha demostrado ser mucho menos preciso a la hora de identificar a mujeres con tonos de piel más oscuros. La razón es simple: la falta de representación de estos rostros en los conjuntos de datos de entrenamiento. Sin criterios inclusivos y equitativos en la selección de datos y en el diseño de los sistemas de IA, estos pueden causar exclusión y discriminación a gran escala.
2. El lenguaje cotidiano enseña a la IA a ser sexista
La IA no solo aprende de tablas y estadísticas, sino también del lenguaje que usamos todos los días. A través de una técnica llamada «incrustación de palabras» (word embedding), los sistemas analizan miles de millones de textos (como artículos de noticias) para aprender las relaciones y asociaciones entre palabras. El problema es que nuestro lenguaje está cargado de estereotipos de género.
Un análisis de los datos de Google News reveló hallazgos sorprendentes. Al pedirle al sistema que creara analogías, este reprodujo directamente los roles de género más tradicionales y limitantes. Estos son algunos de los ejemplos encontrados en el estudio:
- «Él» se asocia con: experto, capitán, filósofo, arquitecto, financiero.
- «Ella» se asocia con: enfermera, ama de casa, recepcionista, bibliotecaria, niñera.
La implicación es profunda, dado que el lenguaje que leemos y escribimos en internet está enseñando a las máquinas a integrar roles de género anticuados en su lógica fundamental. Sin una intervención consciente, la IA está siendo programada para ver el mundo a través de la lente de un pasado sexista, no de un presente que queremos igualitario.
3. Asistentes digitales: diseñados para ser mujeres sumisas
Pensemos en los asistentes de voz más populares: Siri, Alexa, Cortana. La mayoría de ellos reciben, por defecto, nombres, voces y personalidades femeninas. Esta decisión de diseño refuerza el estereotipo de que las mujeres deben desempeñar roles de asistencia y servicio. Pero el problema va mucho más allá del nombre.
El aspecto más alarmante, destacado en el informe, es cómo estos asistentes fueron programados inicialmente para responder al abuso verbal. Cuando un usuario insultaba a Siri llamándola «una cualquiera», una de sus respuestas era la siguiente:
«Si pudiera, me sonrojaría.»
Aunque las compañías tecnológicas han corregido muchas de estas respuestas vergonzosas, esta elección de diseño inicial revela un sesgo profundamente arraigado. Se creó una tecnología que normalizaba que una «mujer» asistente respondiera al maltrato con docilidad o incluso con coquetería. Este diseño no solo refleja un problema, sino que lo perpetúa, aceptando la idea de que las mujeres deben estar en una posición de subordinación y ser tolerantes ante el acoso.
Pero, a pesar de todo, la IA puede ser una poderosa aliada feminista
Así es. A pesar de los riesgos evidentes, la historia no tiene por qué terminar aquí. La misma tecnología que puede amplificar el sesgo también puede ser una herramienta increíblemente poderosa para detectar y combatir la desigualdad de género. Su impacto no está predeterminado; depende por completo de los valores que decidamos incorporar en su diseño.
Suecia es el ejemplo paradigmático de este enfoque proactivo. En lugar de limitarse a mitigar los riesgos, el país está utilizando activamente la IA para alcanzar sus ambiciosos objetivos de igualdad de género. Suecia, a través de su agencia de innovación, Vinnova, está financiando activamente proyectos que convierten a la IA en una herramienta para la justicia de género:
- Analizar reuniones de trabajo para medir con precisión el tiempo de uso de la palabra de hombres y mujeres, identificando patrones de interrupción y asegurando que todas las voces sean escuchadas por igual.
- Combatir la violencia de género mediante herramientas como relojes inteligentes que pueden detectar una agresión en tiempo real y notificar automáticamente a un contacto de emergencia, proporcionando la localización de la víctima.
- Mejorar la salud femenina a través de chatbots especializados como Grace Health, diseñado para ayudar a las mujeres a gestionar su salud menstrual y reproductiva, resolviendo dudas sobre anticonceptivos y otros temas íntimos.
Estos ejemplos demuestran que la IA puede ser mucho más que un espejo de nuestros peores prejuicios. Si se diseña con un propósito claro, puede convertirse en un instrumento de justicia que nos ayude a medir, entender y corregir las desigualdades que de otro modo permanecerían invisibles.
La IA es un espejo, ¿qué queremos que refleje de nosotros?
Nos enfrentamos a una elección fundamental. Por un lado, la IA comporta un gran riesgo al ser una tecnología capaz de absorber los sesgos históricos de nuestros datos y solidificarlos en sistemas automatizados que perpetúan la discriminación a una escala sin precedentes. Por otro, es una oportunidad única, una herramienta con el potencial de identificar desigualdades ocultas y ayudarnos a construir un futuro más justo y equitativo.
Como hemos visto, la IA no tiene valores propios; hereda los nuestros. No es un espejo perfecto, sino uno que magnifica las fracturas de nuestra sociedad. El desafío está lanzado: ¿Estamos a punto para cocrear un ecosistema algorítmico que impulse la justicia y la equidad?
