À medida que a IA torna mais fácil preencher formulários e apresentar reclamações, os serviços públicos em todo o mundo estão vendo saltos enormes em solicitações e outros pedidos. No Reino Unido, as reclamações ao ombudsman de habitação mais que dobraram desde a introdução do ChatGPT, passando de 2.600 em 2022 para pouco mais de 7.000 no ano passado. O Bureau de Proteção Financeira do Consumidor dos EUA (CFPB) viu um crescimento de 5 vezes nas reclamações no mesmo período. Houve saltos semelhantes em petições judiciais brasileiras e petições parlamentares alemãs.
O pesquisador Chris Schmitz está acompanhando esse aumento como parte de uma tendência mais ampla que ele chamou de "inundação agente". Em um artigo que será apresentado no próximo mês na conferência Ética e Sociedade da IA, ele examina 84 casos diferentes de possíveis inundações em 11 jurisdições, encontrando evidências amplas de que as ferramentas de IA estão mudando a forma como as pessoas interagem com os serviços públicos.
A pergunta mais difícil é o que fazer em resposta. Embora algumas das novas solicitações sejam claramente adversárias, outras são o resultado de solicitantes legítimos que usam a IA para apresentar reclamações que seriam abandonadas. Enquanto alguns podem ver as novas solicitações como spam gerado por IA, Schmitz vê como uma oportunidade rare de reformular os serviços sociais para a era da IA.
Schmitz examinou serviços que variam desde solicitações de bem-estar até apelações judiciais oficiais, mas todos têm serviços online que podem ser acessados por um assistente de IA. Por razões metodológicas, o artigo de Schmitz não afirma que a IA está diretamente causando o aumento de novos solicitantes. Mas a maioria dos 84 casos segue a mesma curva básica, onde as submissões estavam aproximadamente planas antes de 2022, então aumentaram a uma velocidade crescente à medida que a tecnologia de IA se difunde.
Crucialmente, a maioria dos casos não viu esse crescimento desacelerar, sugerindo que provavelmente continuará a aumentar nos próximos anos. Para Schmitz, é fácil ver como as habilidades e a disponibilidade crescentes da IA impulsionariam o uso aumentado. "As pessoas estão descobrindo que isso é algo que se pode fazer, e incrementalmente, está apenas ficando mais fácil de fazer... antes, pode ter sido uma questão de arrastar muito contexto e dar prompts muito precisos ao ChatGPT 3.5, pode agora ser uma questão de apenas colar ou tirar uma foto de uma carta com o seu aplicativo Claude e obter uma resposta muito boa em uma única tentativa", disse ele.
O salto no volume é semelhante ao que muitos serviços de bug-bounty experimentaram no ano passado, quando as empresas encontraram suas caixas de entrada inundadas com relatórios de baixa qualidade gerados por LLMs. Os relatórios raramente continham problemas de segurança significativos, mas as empresas ainda eram obrigadas a verificar os relatórios à medida que chegavam, apresentando um drenagem significativa de recursos. É fácil imaginar os serviços públicos enfrentando um problema semelhante, à medida que gerenciam 5 vezes mais solicitantes com o mesmo orçamento.
Mas onde os programas de bug-bounty foram inundados com submissões sem valor, Schmitz diz que a maioria das novas solicitações aos serviços públicos está vindo de pessoas reais com reclamações legítimas. "A vasta maioria dos casos que encontramos são pessoas que têm direito a reclamar por algo, reclamando por aquela coisa", disse ele à TechCrunch. Se essas pessoas não estavam reclamando os benefícios antes, pode ter sido porque o trabalho de aplicar era muito proibitivo — algo conhecido no mundo da política como carga administrativa.
Agora que a IA pode aliviar essa carga, pode ser uma oportunidade de reformular muitos desses serviços de uma forma mais amigável à IA. É uma tarefa importante, que ainda não começamos a abordar, mas Schmitz vê como uma razão para otimismo. "Uma grande parte de fazer a IA funcionar bem é ser capaz de detalhar o que a versão boa das coisas parece. E qualquer um que já tenha usado o ChatGPT para fazer a declaração de imposto sabe que há uma versão boa aqui onde você está sendo ajudado", diz Schmitz. "Isso pode ser o momento de dizer: 'precisamos repensar quase tudo sobre como esse processo parece.'"
Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.