La Corte Suprema de Nuevo México está castigando a un abogado por incluir testigos y testimonios de policía falsos generados por IA en una apelación por la condena de asesinato de su cliente. En una presentación el miércoles, la corte multó a Stephen Aarons con $5,000 y lo consideró en desacato por no "verificar los reclamos factuales y la autoridad legal en su informe generado por IA".
La presentación dice que el informe "contenía testimonios falsos de testigos completamente fabricados", junto con "testimonios falsos" sobre la ropa y la apariencia del tirador. La jueza C. Shannon Bacon cuestionó cómo Aarons no era consciente de los riesgos que plantea la IA durante una audiencia en agosto, donde admitió haber utilizado ChatGPT y pensó que generaría un "resumen a prueba de balas" del juicio.
"Abogado, ¿ves las noticias? ¿Escuchas la radio? ¿Lees algo sobre lo que está sucediendo en el mundo?" dijo la jueza Bacon. "Porque el problema con los abogados que confían en alucinaciones de la IA es una historia de primera plana todos los días".
Aarons le dijo a la Corte Suprema del estado en una audiencia el 21 de agosto que alimentó una transcripción generada por computadora del juicio por asesinato y otros documentos relacionados con el caso en ChatGPT, que produjo las citas falsas. "Es de poco consuelo saber que mi estupidez es lo que nos reúne esta tarde", le dijo Aarons a la corte.
Aarons admitió que su informe citó a "varios testigos que nunca fueron llamados a declarar en el juicio", a otro "testigo que fue llamado pero el informe obtuvo el nombre incorrecto", y que su informe describió incorrectamente los precedentes. Indicó que utilizó una versión de ChatGPT impulsada por el modelo o3 de OpenAI, que se lanzó a principios de 2025.
"Asumí que generaba un resumen a prueba de balas de los procedimientos", dijo en la audiencia, explicando que pensó que sería preciso debido a la amplia utilización de la IA en los campos jurídico y médico. A Aarons se le prohibió aparecer ante la Corte Suprema de Nuevo México pendiente del resultado de cualquier investigación y procedimiento de la junta disciplinaria.
La Corte Suprema del estado ordenó a la oficina de defensor público que designara a un nuevo abogado para el defensor, anuló todos los informes anteriores del registro y dijo que el caso proseguirá en el término 2026-27 de la corte. Los jueces criticaron duramente a Aarons durante la audiencia del mes pasado, expresando sorpresa de que no supiera que las herramientas de IA podían generar información falsa y señalando que los abogados deben verificar la exactitud de la información sin importar su origen.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.