Hay una idea sobre la inteligencia artificial que vale la pena cuestionar: que los algoritmos son neutrales porque son matemáticos.
La matemática es neutral. Los datos no lo son.
Y la inteligencia artificial aprende de los datos.
Cuando esos datos reflejan décadas - en algunos casos, siglos - de patrones históricos de desigualdad, los algoritmos no los corrigen. Los aprenden. Los codifican. Y los aplican a escala, con una velocidad y una consistencia que ningún humano podría igualar.
Qué tan extendido está el problema
Un análisis del Berkeley Haas Center for Equity, Gender and Leadership examinó 133 sistemas de inteligencia artificial en diferentes industrias. El resultado: el 44% de esos sistemas mostraba sesgo de género. El 25% mostraba sesgo de género y racial al mismo tiempo.
No son sistemas marginales ni experimentales. Son sistemas que ya están siendo usados en contratación, en evaluación de candidatos, en sistemas de salud, en reconocimiento facial, en generación de contenido.
En contratación - uno de los ejemplos más documentados - los algoritmos entrenados con datos históricos de empresas donde la mayoría de los empleados de alto nivel eran hombres aprendieron que 'empleado de alto nivel' y 'hombre' son conceptos relacionados. Amazon tuvo que descartar en 2018 un sistema de IA para contratación porque penalizaba sistemáticamente los currículums que incluían la palabra 'mujeres' - por ejemplo, 'capitana del equipo de mujeres'.
Cómo funciona el sesgo en los datos
El sesgo en la inteligencia artificial no suele ser intencional. Surge de una combinación de factores que raramente se cuestionan en el proceso de desarrollo.
El primero es el sesgo histórico en los datos de entrenamiento. Si en las últimas décadas la mayoría de los CEOs eran hombres, un algoritmo entrenado con datos de liderazgo empresarial aprenderá que 'líder' se parece más a un hombre que a una mujer. No porque alguien lo haya programado así - sino porque eso es lo que los datos muestran.
El segundo es el sesgo de anotación. Los datos de entrenamiento son frecuentemente etiquetados por humanos. Esos humanos traen sus propias percepciones y sesgos inconscientes al proceso de etiquetado. Esos sesgos quedan codificados en los datos - y el algoritmo los aprende como si fueran hechos objetivos.
El tercero es la falta de diversidad en los equipos que desarrollan los sistemas. Un estudio de 2025 del London School of Economics documentó disparidades de género en los principales modelos de lenguaje en la evaluación de síntomas de salud, con los problemas de salud de mujeres siendo más frecuentemente minimizados que los de hombres.
Lo que esto significa en la práctica
La escala es el factor que convierte un sesgo individual en un problema estructural. Un reclutador humano con sesgos afecta a las personas que entrevista. Un algoritmo de contratación con los mismos sesgos los aplica a millones de candidatos, en fracción de segundo, sin posibilidad de cuestionamiento o apelación.
Un estudio publicado en Nature en octubre de 2025 encontró que los modelos de lenguaje grandes muestran sesgos profundos contra mujeres mayores en el entorno laboral. Un análisis de sistemas de reconocimiento facial documentó tasas de error significativamente más altas para mujeres de piel oscura que para hombres de piel clara.
En sistemas de salud, la IA entrenada principalmente con datos de pacientes masculinos reproduce el mismo patrón que hemos visto en los temas anteriores: los síntomas de las mujeres son evaluados de forma diferente - y frecuentemente minimizados.
La pregunta que viene después
Lo que me parece importante de este tema no es que la inteligencia artificial sea mala. Es que no es neutral.
Y esa distinción importa, porque el argumento más frecuente para adoptar sistemas de IA en decisiones importantes - contratación, crédito, diagnóstico médico, evaluación de riesgo - es que eliminan el sesgo humano.
Pero si los datos con los que se entrenaron los algoritmos ya contenían ese sesgo, no lo eliminan. Lo automatizan.
La inteligencia artificial no inventa sesgos. Los hereda. Cuando los datos reflejan décadas de desigualdad, los algoritmos aprenden esa desigualdad - y la aplican a escala. Esa es la diferencia entre un sesgo humano y uno algorítmico.
La pregunta que vale hacerse antes de confiar en un sistema automatizado para una decisión importante no es '¿es una máquina?' sino '¿con qué datos aprendió?'
Fuentes:
- Berkeley Haas Center for Equity, Gender and Leadership - análisis de 133 sistemas de IA. haas.berkeley.edu
- Nature - estudio sobre sesgos en LLMs contra mujeres mayores en el trabajo, octubre 2025.
- London School of Economics - gender disparities in LLMs around symptom evaluation, 2025.
- UN Women - How AI reinforces gender bias. unwomen.org, febrero 2025.
