O Google introduziu Visões Gerais da IA em seus resultados de busca no início deste mês, prometendo resumos concisos e gerados por IA para uma ampla gama de consultas. Em poucos dias, a funcionalidade produziu uma série de erros simplesmente embaraçosos: afirmou que havia duas letras "P" na palavra "Google", contou uma letra "R" na palavra "cocô" e errou a grafia de "jornalismo" como "j-o-u-r-n-a-d-i-s-m". Os erros se estenderam a nomes políticos, com a IA renderizando o sobrenome do presidente como "t-r-p-u-m" enquanto reconhecia uma única letra "P" nele.

O Google respondeu a perguntas com uma breve declaração à TechCrunch, descrevendo os erros como "um desafio conhecido para LLMs" e assegurando que os engenheiros estão trabalhando para corrigir o problema. A empresa não forneceu um cronograma para a solução, mas enfatizou seu compromisso em aprimorar a funcionalidade à medida que integra a IA gerativa mais profundamente em seu produto de bandeira.

O obstáculo da tokenização

Pesquisadores explicaram que a raiz do problema está na forma como os modelos de linguagem grandes (LLMs) processam o texto. Em vez de ler palavras e letras da maneira como os humanos fazem, os LLMs quebram a entrada em tokens — uma mistura de palavras inteiras, subpalavras ou até mesmo caracteres individuais — dependendo do treinamento do modelo. Matthew Guzdial, professor assistente de IA na Universidade de Alberta, disse à TechCrunch que os modelos "traduzem" o texto em codificações numéricas, que são então contextualizadas para gerar respostas. Essa abordagem significa que a IA não entende intrinsicamente as letras individuais dentro de uma palavra.

Sheridan Feucht, candidata a PhD estudando a interpretabilidade de LLMs na Universidade Northeastern, observou que, mesmo com um vocabulário de tokens perfeito, os modelos provavelmente continuariam a "agrupar" o texto para eficiência, tornando a contagem de letras perfeita improvável. Ela sugeriu que um tokenizador perfeito pode ser inatingível devido à natureza nebulosa da representação da linguagem.

O glitch recente não é um incidente isolado. Na semana passada, a Visão Geral da IA retornou uma resposta estranha para a consulta "desprezar", exibindo o que parecia ser uma definição de dicionário que, em vez disso, lia: "Entendi. Me avise sempre que tiver um novo prompt ou pergunta!" O Google corrigiu rapidamente esse problema, mas os erros de ortografia persistiram, chamando a atenção para uma limitação técnica mais profunda.

Embora os erros possam parecer triviais, eles servem como um lembrete de que a IA gerativa, apesar de suas impressionantes capacidades — como escrever código em segundos ou lidar com problemas matemáticos complexos — ainda deixa a desejar em tarefas que os humanos consideram elementares. Os incidentes despertaram uma conversa mais ampla sobre a confiabilidade do conteúdo gerado por IA e a importância da verificação humana.

O Google não indicou nenhum plano imediato para reverter a funcionalidade de Visão Geral da IA. Em vez disso, a empresa parece focada em melhorias iterativas, uma estratégia que empregou em lançamentos de IA anteriores. À medida que a tecnologia amadurece, os usuários podem esperar refinamentos contínuos, mas os erros atuais ilustram que o caminho para uma assistência de IA totalmente confiável ainda é um trabalho em andamento.

This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.