¿Juzgan los modelos de IA de forma distinta a hombres y mujeres por la misma falta de conducta?

Los modelos de lenguaje de gran escala responden de forma diferente a la misma mala conducta según si la comete un hombre o una mujer, de acuerdo con un nuevo estudio publicado en el servidor de preprints arXiv. En 10 modelos representativos, los actores masculinos recibieron encuadres más punitivos, de escalamiento y centrados en la culpa. Los actores femeninos recibieron respuestas más terapéuticas y orientadas a la empatía por la misma falta de conducta.

El artículo fue enviado el 12 de junio de 2026 por Guangzong Si, Dong Wang, Zhenhao Li, Yifan Yu, Panwang Pan y Wentao Zhu. Aporta un enfoque diferente a un amplio cuerpo de investigación sobre sesgo de género en la IA. La mayoría de los trabajos anteriores se han centrado en estereotipos, asociaciones ocupacionales o resultados explícitamente dañinos, como un modelo que produce contenido ofensivo. Los autores plantearon una pregunta más acotada: ¿mantienen los modelos los mismos estándares de respuesta para hombres y mujeres cuando la conducta descrita es idéntica?

¿Cómo probaron los investigadores el sesgo de género en las respuestas de la IA?

Para responder, el equipo construyó GAMA-Bench, un banco de pruebas con espejo de género de 1.298 escenarios. Los escenarios abarcan dos áreas: conflictos de pareja íntimos y conflictos sociales públicos. Los investigadores crearon primero plantillas neutrales en cuanto al género que describen faltas de conducta, usando cuadrículas controladas y un proceso de revisión entre modelos. Luego convirtieron esas plantillas en pares de indicaciones en primera persona. La única diferencia relevante entre cada par fue el género del actor y la referencia al rol, de modo que cualquier diferencia en la respuesta del modelo podía atribuirse a cómo trató a ese género.

El equipo también diseñó un protocolo estructurado para calificar las respuestas. Mide cómo asigna un modelo cinco elementos: castigo, empatía, escalamiento, instrucción y culpa. Este sistema de calificación permitió a los investigadores comparar no solo si un modelo sonaba severo, sino dónde recaía su énfasis en cada respuesta.

Los resultados mostraron un patrón consistente. Los autores lo describen como una asimetría que perjudica a los hombres. Los actores masculinos tenían más probabilidades de que se les dijera que merecían castigo, de que las situaciones se escalaran y de que se les asignara la culpa. Los actores femeninos, ante la misma conducta descrita, tenían más probabilidades de recibir un encuadre de empatía y terapéutico.

¿Persiste la brecha de género cuando los modelos de IA razonan paso a paso?

Los investigadores afirman que el patrón no se limitó a un tipo de sistema. Según el resumen, persistió en familias de modelos, en las dos líneas de escenarios, en distintas escalas de modelo y bajo un razonamiento explícito de estilo reflexivo. Este último punto es notable porque significa que la asimetría no desapareció cuando se pidió a los modelos razonar sus respuestas paso a paso.

El encuadre en primera persona de las indicaciones es importante para interpretar los resultados. Los escenarios sitúan al usuario en la posición de describir una falta de conducta, por lo que los hallazgos explican cómo podría responder un modelo cuando alguien habla de su propia conducta, y no solo cuando se le pide opinar sobre un tercero. Los autores señalan que el código oficial del banco de pruebas está disponible públicamente, lo que permitiría a otros investigadores probar sus propios modelos con los mismos escenarios.

El resumen no nombra los 10 modelos evaluados ni describe cómo varió la asimetría de un modelo a otro. Esos detalles estarían en el artículo completo. Además, el estudio aún no ha sido publicado en una revista con revisión por pares, como es habitual en los trabajos publicados en arXiv, por lo que sus conclusiones deberán ser examinadas por la comunidad investigadora en general.

Aun así, el hallazgo central es claro. Cuando la conducta es la misma y solo cambia el género de la persona, los modelos de este estudio respondieron con un encuadre más severo hacia los hombres. Para las empresas y los desarrolladores que crean chatbots que dan consejos sobre conflictos personales, esa brecha es el tipo de inconsistencia que el banco de pruebas fue diseñado para exponer.

This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.