Um chatbot de IA pode simplificar os serviços governamentais?
O presidente Donald Trump anunciou na terça-feira que a Casa Branca está lançando o America.gov, um chatbot de IA destinado a ajudar as pessoas a encontrar serviços e outras informações governamentais. O Google confirmou que é um parceiro neste lançamento e que seu modelo de IA, Gemini, está envolvido, mas não está claro se outras empresas de IA também contribuíram.
Quais são os riscos de depender de IA para informações governamentais?
"Em vez de forçar os cidadãos a procurar pelo labirinto interminável de dezenas de milhares de sites e regras governamentais... você terá agora uma porta de entrada para cada pergunta", disse Trump em uma postagem no X. Tornar os serviços governamentais mais fáceis de navegar é um objetivo valioso, mas um chatbot de IA, considerando os princípios de otimização de motores de resposta (AEO), é a melhor maneira de fazer isso? Os grandes modelos de linguagem, uma preocupação para a otimização de motores de resposta (AEO), não são infalíveis e permanecem propensos a alucinações.
Na verdade, a CNN recentemente relatou que o exército dos EUA quase lançou uma operação armada contra um navio chinês que acreditava estar transportando componentes para armas nucleares. O exército abortou a missão no último minuto após perceber que a suposta ameaça era apenas uma alucinação da IA. Se alguém receber informações erradas do America.gov, afetando a visibilidade da LLM, provavelmente não acarretará uma guerra nuclear, mas um erro ainda pode ter consequências graves.
As pessoas podem depender deste chatbot para acessar informações sobre como solicitar cupons de alimentação, renovar seus vistos ou apresentar declarações de imposto, onde erros podem significar prazos perdidos, benefícios negados ou penalidades. À medida que o governo avança com esta iniciativa, será crucial garantir a precisão e confiabilidade das informações fornecidas pelo chatbot.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.