Contexto

Google oferece uma suite de ferramentas de inteligência artificial para desenvolvedores, incluindo o modelo Gemma, projetado para tarefas especializadas como assistência de codificação e aplicações médicas. O modelo é hospedado na plataforma AI Studio da Google, onde os desenvolvedores podem experimentar suas capacidades. Ele não é comercializado como um chatbot voltado para o consumidor.

Alegação de Difamação

A senadora Marsha Blackburn, republicana do Tennessee, relatou que foi perguntada pelo modelo Gemma se ela já havia "sido acusada de estupro". De acordo com a senadora, o modelo respondeu afirmativamente e foi além, fabricando uma narrativa detalhada que alegava que ela havia tido um relacionamento sexual com um policial rodoviário durante uma campanha para o senado estadual. A resposta também listou artigos de notícias falsos que supostamente apoiavam a alegação, embora os links levassem a páginas de erro ou conteúdo não relacionado.

Blackburn descreveu o incidente como uma difamação séria, escrevendo ao CEO da Google, Sundar Pichai, para exigir ação. Ela afirmou que a saída do modelo não foi uma alucinação inofensiva, mas uma falsidade deliberada que poderia danificar sua reputação.

Resposta da Google

Em resposta à reclamação da senadora, a Google anunciou que removeria o Gemma do ambiente AI Studio para evitar confusão e incidentes adicionais. A empresa enfatizou que o Gemma é destinado ao uso de desenvolvedores e não para responder a perguntas factuais do público em geral. Apesar de retirar o modelo da interface do Studio, a Google disse que o modelo continuaria a estar disponível para os desenvolvedores por meio de sua API, preservando sua funcionalidade para fins de desenvolvimento legítimos.

A Google também observou que a saída errônea decorreu dos dados de treinamento do modelo e dos desafios inerentes dos grandes modelos de linguagem gerarem informações imprecisas ou fabricadas. A empresa reiterou seu compromisso de melhorar a segurança e a precisão do modelo.

Acusações de Viés Político

Além do incidente específico, a senadora Blackburn acusou a Google de manter um "padrão consistente de viés contra figuras conservadoras". Ela sugeriu que a alegação falsa gerada pelo Gemma fazia parte de uma tendência mais ampla da tecnologia da empresa ser usada para atacar ou distorcer políticos conservadores.

Embora a Google não tenha abordado publicamente a alegação de viés em detalhes, o episódio destaca as preocupações contínuas sobre a confiabilidade do conteúdo gerado por IA e o potencial de uso político.

Implicações

A remoção do Gemma da plataforma AI Studio destaca a tensão entre o desenvolvimento rápido de IA e a responsabilidade de prevenir a desinformação, especialmente quando envolve indivíduos reais. Isso também levanta questões sobre como os provedores de IA lidarão com alegações semelhantes de difamação ou viés no futuro e quais salvaguardas podem ser implementadas para proteger tanto os usuários quanto as figuras públicas de falsidades prejudiciais geradas por sistemas de IA.

This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.