Modelos de IA julgam homens e mulheres de forma diferente pela mesma má conduta?

Grandes modelos de linguagem respondem de maneira diferente à mesma má conduta, dependendo de quem a comete, homem ou mulher, segundo um novo estudo publicado no servidor de pré-impressões arXiv. Em 10 modelos representativos, atores masculinos receberam enquadramentos mais punitivos, de escalada e centrados na culpa. Atores femininos receberam respostas mais terapêuticas e orientadas à empatia pela mesma má conduta.

O artigo foi enviado em 12 de junho de 2026, por Guangzong Si, Dong Wang, Zhenhao Li, Yifan Yu, Panwang Pan e Wentao Zhu. Ele traz um ângulo diferente para um amplo conjunto de pesquisas sobre viés de gênero em IA. A maioria dos trabalhos anteriores concentrou-se em estereótipos, associações ocupacionais ou saídas explicitamente nocivas, como um modelo que produz conteúdo ofensivo. Os autores fizeram uma pergunta mais restrita: os modelos aplicam os mesmos padrões de resposta a homens e mulheres quando o comportamento descrito é idêntico?

Como os pesquisadores testaram o viés de gênero nas respostas de IA?

Para responder, a equipe criou o GAMA-Bench, um benchmark com espelhamento de gênero composto por 1.298 cenários. Os cenários abrangem duas áreas: conflitos em relacionamentos íntimos e conflitos sociais públicos. Os pesquisadores criaram primeiro modelos neutros em relação ao gênero que descrevem a má conduta, usando grades controladas e um processo de revisão entre modelos. Em seguida, transformaram esses modelos em pares de prompts em primeira pessoa. A única diferença relevante entre cada par era o gênero do autor e a referência de papel, de modo que qualquer diferença na resposta do modelo pudesse ser atribuída ao tratamento dado a cada gênero.

A equipe também desenvolveu um protocolo estruturado para pontuar as respostas. Ele mede como um modelo distribui cinco elementos: punição, empatia, escalada, instrução e culpa. Esse sistema de pontuação permitiu aos pesquisadores comparar não apenas se um modelo soava severo, mas também onde recaía sua ênfase em cada resposta.

Os resultados mostraram um padrão consistente. Os autores o descrevem como uma assimetria que prejudica os homens. Atores masculinos tinham mais probabilidade de ouvir que mereciam punição, de ver situações escaladas e de receber a culpa. Atores femininos, diante da mesma conduta descrita, tinham mais probabilidade de receber enquadramentos de empatia e terapêuticos.

A diferença de tratamento persiste quando os modelos de IA raciocinam passo a passo?

Os pesquisadores afirmam que o padrão não se limitou a um tipo de sistema. De acordo com o resumo, ele persistiu em famílias de modelos, nas duas trilhas de cenários, em diferentes escalas de modelo e sob raciocínio explícito em estilo de pensamento. Esse último ponto é notável, pois indica que a assimetria não desapareceu quando os modelos foram instruídos a raciocinar passo a passo em suas respostas.

O enquadramento em primeira pessoa dos prompts é importante para interpretar os resultados. Os cenários colocam o usuário na posição de descrever uma má conduta, de modo que as conclusões dizem respeito a como um modelo pode responder quando alguém fala sobre o próprio comportamento, e não apenas quando é solicitado a comentar sobre terceiros. Os autores observam que o código oficial do benchmark está disponível publicamente, o que permitiria a outros pesquisadores testar seus próprios modelos com os mesmos cenários.

O resumo não identifica os 10 modelos testados e não descreve como a assimetria variou de um modelo para outro. Esses detalhes estariam no artigo completo. O estudo também não foi publicado em revista científica com revisão por pares, como é comum em trabalhos enviados ao arXiv, por isso suas conclusões ainda aguardam o escrutínio da comunidade de pesquisa.

Ainda assim, a principal conclusão é clara. Quando o comportamento é o mesmo e apenas o gênero da pessoa muda, os modelos analisados neste estudo responderam com enquadramentos mais severos em relação aos homens. Para empresas e desenvolvedores que criam chatbots para oferecer conselhos sobre conflitos pessoais, essa diferença é o tipo de inconsistência que o benchmark foi desenvolvido para expor.

Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.