Ayer fue el 8M, Día Internacional de la Mujer. Hoy escribo estas líneas porque hay algo que me resulta profundamente incómodo.
A pesar de mi formación como ingeniero, llevo décadas trabajando como periodista en el mundo del audiovisual y la comunicación, un sector donde sí ha habido —y hay— mujeres en puestos creativos y directivos. Co-fundé el Premi DONATIC y soy el fundador e impulsor de DONADIGITAL, una plataforma que promueve el talento femenino en tecnología en Catalunya. No menciono esto para colgarme ninguna medalla, sino para dejar claro desde dónde hablo: creo sinceramente en la equidad de género y llevo años intentando contribuir proactivamente a ella.
Y, sin embargo, cuando uno observa con atención cómo funciona nuestra sociedad —y ahora también cómo aprende la inteligencia artificial— aparece una constatación incómoda: incluso quienes defendemos la igualdad seguimos viviendo dentro de una cultura con inercias machistas muy profundas.
Esta semana, sin ir más lejos, le pedí a mi asistente de inteligencia artificial que me generara un equipo directivo para un caso ficticio. Diez nombres. El resultado: ocho hombres, dos mujeres. Le pedí que me generara una imagen de «una persona programando en Python»: apareció un hombre con barba y gafas. Le pedí una imagen de una reunión de consejo de administración: todos hombres trajeados, una mujer tomando notas
No fue la IA la que decidió esto. Fui yo. Bueno, no exactamente yo, pero sí todos nosotros. Porque la inteligencia artificial no inventa nada: simplemente nos devuelve, con una precisión quirúrgica, todo lo que le hemos enseñado. Y le hemos enseñado nuestros sesgos, nuestros prejuicios, nuestro machismo estructural.
La IA es el espejo más cruel que hemos construido jamás.
Cuando ChatGPT o Claude o Gemini asumen que un CEO es «él» y una secretaria es «ella», no están siendo machistas por decisión propia. Están siendo estadísticamente honestos. Han leído millones de artículos, libros, documentos y conversaciones donde eso era la norma. Han aprendido de nosotros. Y nosotros les hemos enseñado que el mundo funciona así.
El problema no es la máquina. El problema somos nosotros.
«Mientras la IA la sigan programando hombres, seguirá siendo machista. Mientras las empresas las sigan dirigiendo hombres, seguirán siendo machistas. El 8M no es un día para flores. Es un día para admitir que sabemos cuál es la solución… aunque sigamos sin aplicarla.»
Y aquí viene la parte que más me incomoda: ¿cuál es la solución?
No son las flores del 8 de marzo. No son los discursos institucionales. No es «sensibilizar» a los algoritmos añadiendo filtros de corrección política que disimulen el sesgo sin eliminarlo.
La única solución real es que las mujeres programen la IA.
Mientras los equipos que desarrollan estos sistemas sigan siendo 80% hombres —y los datos confirman que lo son—, seguiremos reproduciendo los mismos patrones. No porque los hombres seamos intrínsecamente malvados, sino porque todos tenemos sesgos inconscientes que no vemos. Y el sesgo del machismo es especialmente invisible para quienes lo hemos normalizado, incluso para quienes creemos estar en la causa.
La diversidad no es un objetivo de recursos humanos. Es un requisito técnico para construir sistemas que no reproduzcan nuestros errores.
Pero reconozcámoslo: sabemos cuál es la solución y no la estamos aplicando. Seguimos contratando equipos mayoritariamente masculinos. Seguimos promocionando a hombres para puestos directivos. Seguimos pagando menos a las mujeres por el mismo trabajo. Y luego nos sorprendemos cuando la IA que construimos con esos equipos, en esas estructuras, con esos datos, resulta ser machista.
La IA no es el problema. Es el síntoma.
La inteligencia artificial no corrige los déficits de la sociedad. Refleja la realidad que existe en los datos con los que se entrena. Si la realidad no cambia, no podemos esperar que la IA cambie sus respuestas (fuente)
Ayer celebramos el 8M. Hoy te propongo un ejercicio: abre tu herramienta de IA favorita y pídele que te genere un equipo directivo de diez personas. Cuenta cuántos hombres aparecen. Luego levanta la vista de la pantalla, mira alrededor de tu empresa y cuenta cuántos hombres hay en tu propio equipo directivo.
La IA solo está siendo honesta.
El problema somos nosotros. Y mientras no lo admitamos —mientras no pongamos a más mujeres programando el futuro, dirigiendo empresas, tomando decisiones—, seguiremos construyendo máquinas que nos devuelven nuestro peor reflejo.
El 8M no es un día para felicitarnos. Es un día para mirarnos al espejo que hemos construido y aceptar lo que vemos.
Tomás Cascante
«Si bien los modelos lingüísticos modernos podrían haberse corregido con éxito para evitar que emitan respuestas sexistas descaradamente, nuestro trabajo demuestra que estas correcciones aún son superficiales»
Franziska Sofía Hafner, investigadora de la Universidad de Oxford
https://www.expreso.ec/ciencia-y-tecnologia/la-ia-es-machista-estudio-de-oxford-revela-patrones-preocupantes-251869.html
«Lo que está reflejado ahí de nosotros tal vez tiene muchos sesgos, reproduce estereotipos, incluidas cuestiones de género que se consideran machistas. El enfoque predominante de la IA se basa en aprender de una gran cantidad de ejemplos. El sistema aprenderá de datos de origen que pueden estar sesgados»
María Ximena Gutiérrez, lingüista computacional del Centro de Investigaciones Interdisciplinarias en Ciencias y Humanidades (CEIICH) de la UNAM
https://www.gaceta.unam.mx/la-inteligencia-artificial-no-es-feminista/
«La inteligencia artificial reproduce los sesgos presentes en nuestra sociedad en temas como género, edad, o raza. Cuando se nutre de datos sesgados, puede amplificar las desigualdades de género»
Zinnya del Villar, directora de la unidad de Datos, Tecnología e Innovación de Data-Pop Alliance, en entrevista con ONU Mujeres
https://www.unwomen.org/es/noticias/entrevista/2025/02/como-la-int01eligencia-artificial-refuerza-los-sesgos-de-genero-y-que-podemos-hacer-al-respecto