O Supremo Tribunal do Novo México está punindo um advogado por incluir testemunhas e depoimentos policiais falsos gerados por IA em um recurso contra a condenação de seu cliente por homicídio. Em uma petição de quarta-feira, o tribunal multou Stephen Aarons em $5.000 e o considerou em desacato por não "verificar as alegações factuais e a autoridade legal em sua petição gerada por IA".
A petição afirma que a petição "contém testemunho falso de testemunhas completamente fabricadas", juntamente com "testemunho falso" sobre a roupa e a aparência do atirador. A juíza C. Shannon Bacon questionou como Aarons não estava ciente dos riscos impostos pela IA durante uma audiência em agosto, onde ele admitiu usar o ChatGPT e pensou que geraria um "resumo à prova de balas" do julgamento.
"Advogado, você assiste ao noticiário? Você ouve o rádio? Você lê algo sobre o que está acontecendo no mundo?" disse a juíza Bacon. "Porque o problema com os advogados que confiam em alucinações de IA é uma história de capa todos os dias".
Aarons disse ao Supremo Tribunal do estado em uma audiência em 21 de agosto que ele alimentou um transcripto gerado por computador do julgamento de homicídio e outros documentos relacionados ao caso no ChatGPT, que produziu as citações falsas. "É de pouco conforto saber que minha estupidez é o que nos traz juntos esta tarde", disse Aarons ao tribunal.
Aarons admitiu que sua petição citou "vários testemunhas que nunca foram chamadas ao julgamento", outra "testemunha que foi chamada, mas a petição errou o nome", e que sua petição descreveu precedentes de forma inexata. Ele indicou que usou uma versão do ChatGPT impulsionada pelo modelo o3 da OpenAI, que foi lançada no início de 2025.
"Eu assumi que gerou um resumo à prova de balas dos procedimentos", disse ele na audiência, explicando que pensou que seria preciso porque da forma como o uso de IA é difundido nos campos jurídico e médico. Aarons foi proibido de aparecer perante o Supremo Tribunal do Novo México até que o resultado de qualquer investigação e procedimento do conselho disciplinar seja conhecido.
O Supremo Tribunal do estado ordenou que o escritório do defensor público nomeasse um novo advogado para o réu, cancelou todas as petições anteriores do registro e disse que o caso prosseguirá no termo 2026-27 do tribunal. Os juízes criticaram Aarons durante a audiência do mês passado, expressando surpresa por ele não saber que as ferramentas de IA podiam gerar informações falsas e apontando que os advogados devem verificar a precisão das informações, independentemente de onde elas venham.
Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.