Anthropic, la empresa de investigación de inteligencia artificial detrás de Claude, desconectó los modelos Fable 5 y Mythos 5 el viernes por la noche, solo unos días después de hacer que los sistemas estuvieran disponibles para los clientes. En un breve mensaje a su comunidad de usuarios, la empresa explicó que una orden del Departamento de Comercio de EE. UU. requirió la suspensión inmediata de cualquier exportación de los dos modelos, efectivamente prohibiendo su uso fuera de los Estados Unidos.

La directiva, descrita por Anthropic como una "medida de control de exportación", se debe a preocupaciones de que los modelos podrían ser explotados a través de un jailbreak estrecho. Según un informe de Axios, un funcionario de la administración dijo que el jailbreak permite a los usuarios sortear las salvaguardas basadas en clasificadores diseñadas para bloquear solicitudes sobre ciberseguridad, química y biología. El funcionario sugirió que el gobierno necesitaba una pausa para "hardenizar" el aparato de seguridad nacional contra tales amenazas, un proceso que podría completarse en las próximas semanas.

Directiva del gobierno y preocupaciones de seguridad nacional

El anuncio del viernes de Anthropic enfatizó que el Departamento de Comercio solo proporcionó "pruebas verbales de un jailbreak estrecho y no universal" que permitió a Fable 5 revisar una base de código específica para fallos de software. La empresa dijo que ha visto el jailbreak utilizado para encontrar "vulnerabilidades menores" y "relativamente simples", señalando que capacidades similares existen en otros modelos públicamente disponibles, como GPT-5.5.

"La única forma de garantizar el cumplimiento con esa orden del gobierno en el plazo inmediato es que debemos deshabilitar abruptamente Fable 5 y Mythos 5 para todos nuestros clientes", se lee en el mensaje. Anthropic agregó que la decisión no afecta ninguna de sus otras ofertas, que siguen siendo accesibles para los usuarios en todo el mundo.

Aunque la naturaleza exacta del jailbreak sigue sin revelarse, la preocupación de la administración parece centrarse en la posibilidad de que los adversarios puedan utilizar los modelos para acelerar el descubrimiento de fallos de software explotables o para generar instrucciones para crear agentes biológicos dañinos. Al imponer controles de exportación, el gobierno busca limitar la exposición de los modelos a actores extranjeros mientras trabaja en fortalecer las medidas defensivas.

Los observadores de la industria señalan que el apagón rápido subraya la creciente tensión entre la innovación en inteligencia artificial y la supervisión regulatoria. Las empresas que impulsan la frontera de la capacidad de los modelos de lenguaje ahora enfrentan un paisaje de cumplimiento más estricto, donde incluso una sola vulnerabilidad informada puede provocar una acción gubernamental rápida.

La respuesta de Anthropic fue rápida. Dentro de horas de recibir la directiva, la empresa deshabilitó los dos modelos en toda su base de clientes. El equipo de ingeniería de la empresa supuestamente coordinó con el Departamento de Comercio para confirmar que no se habían enviado más datos o pesos de modelo fuera de las fronteras de EE. UU.

Los analistas predicen que la pausa podría retrasar la hoja de ruta de Anthropic para productos de inteligencia artificial avanzados, especialmente ya que los competidores corren para desplegar sistemas cada vez más poderosos. Sin embargo, el liderazgo de la empresa enfatizó su compromiso con la seguridad y la alineación regulatoria, sugiriendo que los lanzamientos futuros incorporarán salvaguardas más fuertes antes de cualquier despliegue más amplio.

Por ahora, los clientes que se inscribieron para acceder anticipadamente a Fable 5 y Mythos 5 encuentran sus cuentas bloqueadas, sin cronograma proporcionado para su reinstalación. Anthropic se ha comprometido a mantener informados a los partes interesados a medida que la situación evoluciona y a medida que el gobierno finaliza su plan de hardenización.

Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.