La inteligencia artificial suele presentarse como neutral y objetiva. Pero en la práctica, los sistemas que “ven” y clasifican imágenes no siempre tratan a todas las personas por igual. Parte de esa diferencia no está en la tecnología en sí, sino en los datos humanos con los que fue entrenada, donde también viven estereotipos de género.
No es una falla mística de la tecnología: es una consecuencia directa de cómo se construyen y alimentan los sistemas inteligentes.
Un área especialmente reveladora es la de la visión computacional —es decir, los sistemas que “ven” e interpretan imágenes—. En evaluaciones recientes realizadas por equipos académicos del MIT y universidades de Canadá, estos modelos mostraron mayor tasa de error al identificar a mujeres en contextos profesionales que a hombres en situaciones equivalentes.
Estas diferencias no surgen de una intención del sistema, sino de los patrones presentes en los datos con los que fue entrenado el modelo, documentados en estudios recientes de laboratorios universitarios de Norteamérica. Cuando los conjuntos de datos contienen menos ejemplos de mujeres en ciertos roles, el modelo aprende esa distribución y la reproduce.
Lo que la investigación reciente está mostrando
En análisis recientes realizados por equipos académicos en universidades de Canadá se detectaron varios sistemas de visión computacional ampliamente usados y se descubrió que:
- Los algoritmos tienden a identificar con mayor precisión fotografías de hombres que de mujeres, especialmente en contextos laborales o públicos.
- Cuando la tarea del algoritmo era adivinar una profesión o actividad a partir de una imagen, la tasa de error era mayor cuando la mujer era la protagonista, en comparación con el hombre.
- Las diferencias eran más evidentes cuanto más tecnicista o “profesional” era la categoría (por ejemplo, “ingeniero” vs. “maestro”).
Lo anterior no se debe a que los algoritmos “piensen mal”.
Se debe a que los datos de entrenamiento reflejan un mundo donde históricamente hay más imágenes de hombres en ciertos roles profesionales, y menos de mujeres en esos mismos contextos. Si el conjunto de datos enseña al modelo que hay más fotos de hombres ingenieros, el modelo aprende esa asociación y la reproduce.
¿Qué implica esto para la vida cotidiana?
Cuando plataformas o servicios usan estos sistemas para:
- moderar contenido
- sugerir etiquetas automáticas
- organizar galerías de imágenes
- alimentar búsquedas visuales
puede ocurrir que:
- una foto de una mujer en un contexto laboral profesional sea etiquetada con menos precisión que una similar de un hombre
- fotos de mujeres sean clasificadas con etiquetas irrelevantes
- se generen resultados sesgados en recomendaciones o búsqueda visual
Esto tiene impacto real: si una plataforma no reconoce con precisión a mujeres en roles profesionales, está contribuyendo a una representación desigual, aunque no haya ninguna intención maliciosa detrás.
¿Son “errores”? ¿O patrones humanos reflejados?
Es importante entender que estos sesgos no son una falla técnica aislada. Son el reflejo de patrones sociales preexistentes insertados en los datos. El algoritmo no tiene intención ni valores propios: aprende de lo que encuentra.
Y en muchos sectores y bases de datos, los ejemplos de mujeres en ciertas actividades o roles son menos frecuentes, están etiquetados con menor precisión, o aparecen en contextos más estereotipados. El resultado es que el modelo aprende a replicar esas asociaciones y las reproduce de forma automática.
Qué se está intentando corregir (y por qué no es inmediato)
La comunidad académica y de desarrollo de IA ya ha identificado este fenómeno y está trabajando en varias estrategias para mitigarlo:
- Balancear los datos de entrenamiento, aumentando la representación de grupos subrepresentados.
- Etiquetado más detallado y contextualizado, no solo por categoría, sino por contexto.
- Evaluaciones específicas de sesgo antes de desplegar modelos, con métricas que midan cómo se comportan frente a distintos grupos demográficos.
- Transparencia en los conjuntos de datos, para que se sepa exactamente qué representan y qué no.
Estas soluciones no son triviales, ni surten efecto de inmediato, pero sí representan pasos concretos hacia sistemas más equitativos.
¿Por qué importa esto fuera del laboratorio?
Porque la inteligencia artificial ya está integrada en muchas experiencias cotidianas sin que lo notemos: desde organizar tu galería de fotos, hasta sugerir etiquetas, automatizar búsquedas de imágenes o clasificar contenido en redes sociales.
Si un sistema “entiende” menos bien a una mujer que a un hombre en la misma situación, eso:
- invisibiliza a la mitad de la población
- transmite asociaciones culturales problemáticas
- puede reforzar estereotipos con apariencia de objetividad técnica
No se trata solo de un problema de ingeniería. Es un problema de representación de la vida real dentro de herramientas que hoy influyen en cómo percibimos el mundo.
Referencias
Lo que la investigación reciente observa
- Estudios en visión computacional (Canadá, 2023–2024)
- Investigación sobre sesgos demográficos en modelos de reconocimiento de imágenes
- Publicaciones de equipos académicos en MIT y Universidad de Toronto
- Evaluaciones de modelos de IA con métricas demográficas