Los aviones militares ya estaban en el aire cuando los funcionarios de EE. UU. hicieron un descubrimiento alarmante: la inteligencia que impulsaba una operación armada contra un buque chino había sido alucinada por un chatbot de IA. La operación fue abortada en el último minuto, evitando por poco un posible conflicto con China.

El episodio subraya una creciente preocupación entre los funcionarios militares y expertos externos: a medida que los responsables de la toma de decisiones confían más en la IA, los errores que producen estos sistemas pueden viajar por la cadena de mando antes de ser cuestionados. El informe de inteligencia, que circuló durante la guerra con Irán, decía que el buque transportaba componentes para un programa de armas nucleares.

La inteligencia falsa se originó con un analista del Comando de Operaciones Especiales que consultó un chatbot de IA para sintetizar datos de fuentes abiertas con inteligencia de señales clasificada. El chatbot malidentificó el manifiesto de carga del buque. El analista luego utilizó la herramienta por segunda vez para dar formato a los hallazgos erróneos en un resumen con aspecto oficial, que se distribuyó a través de los canales de mando.

Jake Steckler, investigador en GovAI y veterano oficial del ejército de EE. UU., enfatizó la importancia de entender la incertidumbre inherente a los grandes modelos de lenguaje (LLM). "Pero es especialmente crítico para cualquier decisión que pueda llevar al uso de la fuerza, como el targeting, el análisis de inteligencia o la planificación operativa", dijo. "Hay consecuencias de vida o muerte para esas decisiones. Estas herramientas pueden ser útiles en los contextos adecuados y con las salvaguardas adecuadas en lugar, pero priorizar la velocidad de adopción sobre todo lo demás probablemente llevará a incidentes que solo harán que los miembros del servicio pierdan confianza en estos sistemas".

El ejército de EE. UU. está integrando rápidamente la IA para acelerar la toma de decisiones y mantener su ventaja sobre China. Sin embargo, esta velocidad también puede permitir alucinaciones con una supervisión humana insuficiente. El secretario de Defensa Pete Hegseth lanzó la estrategia de "Acceleración de la Inteligencia Artificial" de su agencia en enero, con el objetivo de acelerar el uso de la IA por parte del ejército. La estrategia promueve su uso amplio en todo el ejército, ordenando al departamento que haga que la IA esté disponible a través de varios programas.

Pero el esfuerzo es descentralizado, con diferentes partes del gobierno utilizando herramientas diferentes bajo órdenes y normas de seguridad diferentes. No hay un conjunto de normas para cómo EE. UU. verifica la información generada por estas herramientas. La constelación de diferentes sistemas de IA que están siendo desplegados por esquinas dispares del ejército y la comunidad de inteligencia significa que la confiabilidad y funcionalidad relativas varían ampliamente.

Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.