Não importa a empresa, os chatbots de IA estavam falando sobre o mesmo cara chamado Elias Thorne. Ele deve ser muito fascinante. E é, pelo menos no papel. Dependendo da IA, ele é um guarda de farol, um relojoeiro, um bibliotecário, um explorador e o astro de inúmeras histórias. Ele apareceu em livros, listas de música, vídeos do YouTube e até mesmo em guias de saúde. Você pensaria que ele é um dos homens mais influentes do planeta.
Mas ele não existe. De acordo com reportagens da 404 Media, pesquisadores da Universidade Cornell podem ter descoberto por que os grandes modelos de linguagem inventam e continuam contando histórias sobre o mesmo homem fictício. Em um estudo que examinou cerca de 20.000 histórias geradas por IA de todos os grandes modelos de linguagem, incluindo OpenAI, Anthropic e Google, a equipe de pesquisa encontrou que os mesmos punhados de nomes e ocupações continuavam aparecendo. Especificamente, nomes e palavras como Elias, Mara, Elara, guarda de farol, relojoeiro e bibliotecário apareceram em 88 por cento das histórias. Elias, o guarda de farol, apareceu em quase dois terços delas.
A explicação óbvia é que os modelos de IA aprenderam o nome de algum livro ou de algum lugar na cultura da internet. Mas os pesquisadores não conseguiram encontrar evidências para isso. Então, essa teoria mudou, dessa vez para um efeito colateral do treinamento de segurança e alinhamento da IA. As empresas de IA não querem se envolver em problemas com grandes corporações que são notoriamente litigiosas, como a Nintendo ou a Disney, então elas passam por treinamento que as afasta de material com direitos autorais. O mesmo acontece com qualquer material adulto arriscado. Todo esse treinamento cria um pool mais raso de recursos que os modelos de IA podem usar ao gerar uma história.
Pode ser impossível traçar as origens exatas de Elias Thorne. Adicione a isso o fato de que os modelos de IA modernos são frequentemente treinados em conjuntos de dados construídos a partir de sistemas de IA anteriores, essencialmente apenas reorganizando as mesmas ideias antigas novamente e novamente, com muito pouca diversificação em seu pool genético, e começa a fazer sentido por que, uma vez que Elias Thorne foi inventado, ele simplesmente continuou sendo arrastado de uma iteração de um modelo de linguagem para outra.
Pode ser impossível traçar de onde veio Elias Thorne, mas com tanta polinização cruzada acontecendo entre os chatbots, não é surpresa que a 404 Media tenha conseguido encontrar o nome tendo quebrado a contenção, com o nome aparecendo em livros de IA e música disponíveis na Amazon, vídeos do YouTube e, como detectado pelo engenheiro de software Daniel May, em alguns guias de saúde questionáveis.
O pool de informações que os chatbots de IA extraem parece que deveria ser vasto, ilimitado. Na verdade, é bastante raso, e a essa altura, eles aparentemente consomem todos os pedaços de dados, todas as páginas de literatura, que eles possam. Sem entrada fresca, a saída fica estagnada e rápido. Elias Thorne é um estranho capricho do sistema, mas também um símbolo de como os chatbots podem ser ocos e profundamente não originais.
Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.