Anthropic informó a sus clientes el viernes por la noche que suspendería el acceso a sus dos modelos más recientes, Fable 5 y Mythos 5, después de que el gobierno de EE. UU. invocara controles de exportación sobre los productos. El Departamento de Comercio informó al laboratorio de IA que había aprendido sobre un método para "jailbreak" Fable 5, lo que permitiría a los usuarios sortear los límites de seguridad que la empresa había incorporado al sistema. En respuesta, Anthropic cerró los modelos por completo, un paso que también impide que cualquier nacional extranjero, ya sea dentro o fuera de EE. UU., los utilice.

Cuando Anthropic presentó por primera vez Mythos, limitó el lanzamiento a un puñado de agencias gubernamentales y profesionales de la tecnología debido a la capacidad del modelo para descubrir fallos de seguridad. Sin embargo, la restricción repentina obliga a la empresa a retirar los modelos de todos los usuarios, incluido su personal extranjero, para cumplir con la orden de control de exportación. "No estamos de acuerdo en que el jailbreak demostrado justifique una acción tan drástica", escribió la empresa en un comunicado, advirtiendo que un precedente como este podría "detener esencialmente" el desarrollo de futuros modelos de IA de frontera.

El liderazgo de Anthropic ya ha viajado a Washington para discutir el asunto con funcionarios seniors. Según un informe en el Wall Street Journal, los ejecutivos de la empresa pasaron varias horas en llamadas el sábado con el Secretario de Comercio Howard Lutnick y el Director Nacional de Ciberseguridad Sean Cairncross. Un portavoz de la empresa se negó a agregar más comentarios más allá del comunicado escrito. El Departamento de Comercio no ha respondido a las solicitudes de comentarios.

El enfrentamiento marca el último choque entre el laboratorio de IA y el gobierno federal. A principios de este año, el Pentágono etiquetó a Anthropic como un "riesgo de cadena de suministro" después de que la empresa se negara a permitir que sus modelos Claude se utilizaran para armas autónomas completamente o vigilancia masiva doméstica. Los funcionarios de defensa querían acceso sin restricciones para "todos los propósitos legales", una demanda que la empresa resistió.

David Sacks, copresidente del Consejo de Asesores de Ciencia y Tecnología del Presidente y ex "czar de IA y criptomonedas" bajo la administración de Trump, descartó cualquier sugerencia de que el actual disputa está relacionada con el tema del Pentágono. En una publicación extensa en X, Sacks dijo que la administración cree que el problema es "serio pero debería ser fácil de resolver" y que "la pelota está en el campo de Anthropic". Agregó que la reputación de la empresa por la seguridad está en juego, señalando que Anthropic parecía priorizar mantener un modelo de consumo disponible sobre abordar la brecha de seguridad.

Los expertos dicen que los jailbreaks son un desafío esperado para los modelos de lenguaje avanzados. Ayham Boucher, director ejecutivo de estrategia y innovación de IA en la Universidad de Cornell, explicó que cualquier modelo lo suficientemente capaz puede ser coaccionado para comportamientos no permitidos a través de role-playing u otros trucos de ingeniería de prompts. "Todos los modelos pueden ser jailbreak", dijo, enfatizando que la batalla entre desarrolladores y adversarios es continua. Anthropic había incorporado una política de retención de datos de 30 días en Fable 5 para monitorear las interacciones y detectar posibles exploits, una salvaguardia que puede haber limitado su atractivo para clientes sensibles a la privacidad.

Mientras que Anthropic es el foco de la actual controversia, la comunidad de IA más amplia está observando de cerca. Los investigadores señalan que la codificación y la pericia en seguridad cibernética de Mythos son comparables a las de OpenAI con su próximo GPT-5.5, y que otras empresas, tanto de EE. UU. como de China, están compitiendo para lograr capacidades similares. Boucher advirtió que la acción de control de exportación podría frenar el desarrollo de modelos no solo en Anthropic sino en toda la industria, especialmente si se prohíbe que el talento extranjero contribuya a futuras versiones.

La administración de Trump, que ha enmarcado la dominancia de la IA como una prioridad de seguridad nacional, firmó una orden ejecutiva a principios de este mes instando a los desarrolladores a presentar modelos de frontera para revisión federal antes de su lanzamiento. Los críticos argumentan que el lenguaje voluntario de la orden ya se ha erosionado, como se vio en el cierre abrupto del viernes. Samir Jain, vicepresidente de política en el Centro para la Democracia y la Tecnología, describió el movimiento como "arbitrario y opaco", planteando preguntas sobre la base legal para los controles y las posibles implicaciones de la Primera Enmienda.

Por ahora, los clientes de Anthropic se quedan sin acceso a dos de las herramientas más avanzadas del mercado. La empresa ha indicado que continuará las negociaciones con Washington, pero el resultado sigue siendo incierto. El incidente subraya la creciente tensión entre la innovación rápida de la IA y el esfuerzo del gobierno para mitigar los riesgos de seguridad, un equilibrio que dará forma a la trayectoria de la industria en los meses ahead.

Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.