El director ejecutivo de Amazon, Andy Jassy, le dijo al secretario del Tesoro, Scott Bessent, y a otros funcionarios que los nuevos modelos de lenguaje grande de Anthropic, Fable 5 y Mythos 5, presentaban un riesgo de seguridad que podría ser explotado para ciberataques. La advertencia llevó al Tesoro de EE. UU. a emitir una orden de control de exportación que efectivamente cerró los dos modelos para todos los usuarios en todo el mundo el viernes.

Anthropic, que construye su IA en Amazon Web Services, es una de las mayores inversiones en IA de Amazon. El proveedor de servicios en la nube ha invertido miles de millones de dólares en la startup y ha asegurado un compromiso de $100 mil millones para el uso de la nube de AWS. La relación ahora parece enredada: el inversor señaló la misma tecnología que ayuda a impulsar como peligrosa, y el gobierno actuó sobre esa alerta.

Un portavoz de Amazon dijo que "no es inusual que los gobiernos busquen nuestro asesoramiento sobre posibles riesgos de seguridad", pero se negó a proporcionar detalles de la conversación. La empresa también citó una página de estado de AWS que confirma que el cierre de los modelos afectó su propia plataforma de nube.

Respuesta de Anthropic

Anthropic cuestionó la gravedad de la reacción del gobierno. En un comunicado, la empresa dijo que había examinado la técnica de jailbreak alegada y encontró que solo expuso un pequeño número de vulnerabilidades menores conocidas. Calificó la acción de control de exportación de "desproporcionada", señalando que capacidades similares ya existen en modelos de IA de acceso público.

La empresa agregó que el cierre en blanco afectó a todos los clientes porque no puede filtrar a los nacionales extranjeros de los usuarios de EE. UU. en tiempo real. Como resultado, los bancos, las agencias gubernamentales y otras empresas que dependen de Mythos para la detección de vulnerabilidades perdieron el acceso.

David Sacks, ex zar de la IA bajo la administración de Trump y ahora copresidente del Consejo de Asesores del Presidente en Ciencia y Tecnología, ofreció una cuenta diferente. Dijo que un "socio de confianza muy creíble de Anthropic y del gobierno de EE. UU." presentó un jailbreak a los funcionarios. Según Sacks, la administración pidió al CEO de Anthropic, Dario Amodei, que solucionara el problema o retirara el modelo; Amodei se negó.

El episodio subraya una nueva dinámica en la industria de la IA. Un proveedor de servicios en la nube importante ahora puede influir en la acción regulatoria contra su propia empresa de cartera alaising preocupaciones de seguridad con el Tesoro. Ese poder podría redefinir las estrategias competitivas a medida que las empresas sopesan los beneficios de una integración profunda con gigantes de la nube contra el riesgo de exposición regulatoria.

Para Anthropic, el desafío inmediato es restaurar el acceso a sus clientes mientras aborda las vulnerabilidades resaltadas. Para el sector más amplio, el caso establece un precedente: los controles de exportación del gobierno pueden ser activados por alertas internas de la industria, lo que potencialmente da a los proveedores de servicios en la nube una nueva palanca en el paisaje regulatorio de la IA en evolución.

This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.