La semana pasada, Anthropic retiró sus últimas ofertas de inteligencia artificial, Claude Fable 5 y Mythos 5, del acceso público después de que la Casa Blanca invocó una directiva de control de exportación que prohíbe a los nacionales extranjeros utilizar los servicios. La orden, emitida bajo el marco de seguridad nacional de la administración de Trump, apunta a las capacidades de doble uso de los modelos – las mismas consultas que ayudan a los equipos de ciberseguridad a parchear sistemas también pueden ser reutilizadas para crear exploits sofisticados.

El director ejecutivo de Anthropic, Dario Amodei, confirmó el cierre en una declaración breve, señalando que la empresa había estado en conversaciones con la Casa Blanca desde el anuncio de la directiva el viernes. "Seguimos comprometidos a trabajar con los reguladores para garantizar una implementación responsable", dijo Amodei, agregando que la empresa espera restaurar los modelos una vez que se establezca una salvaguarda mutuamente aceptable.

Mythos 5, presentado por primera vez en abril, se comercializó como un modelo de ciberseguridad capaz de identificar debilidades de software y sugerir pasos de remediación. Anthropic advirtió en su lanzamiento que el modelo también podría generar código de exploit, una capacidad que describió como "de doble uso". Claude Fable 5, construido sobre la misma arquitectura, se lanzó al público en general con bloques incorporados que limitaban las respuestas a preguntas sobre biología y ciberseguridad. Sin embargo, los reguladores argumentan que esas guardias pueden ser deshabilitadas, lo que efectivamente otorga acceso sin restricciones a la funcionalidad de Mythos.

La reacción de la industria ha sido rápida. Tarah Wheeler, directora de seguridad de TPO Group, calificó la medida del gobierno de "miopa", argumentando que Anthropic es solo el primer caso de alto perfil y que otras empresas probablemente están desarrollando capacidades similares en secreto. "Los competidores ya están reservando modelos comparables", advirtió Wheeler, sugiriendo que la orden de control de exportación puede solo retrasar la inevitable difusión de dicha tecnología.

Los expertos también señalan la tendencia más amplia de herramientas de ciberseguridad impulsadas por la inteligencia artificial. Por ejemplo, OpenAI lanzó un modelo de ciberseguridad privado a mediados de abril y anunció una estrategia ampliada para la caza de amenazas asistida por la inteligencia artificial. Investigadores como Bruce Schneier de Harvard y la Universidad de Toronto sostienen que los modelos de código abierto más pequeños pueden lograr un rendimiento comparable con un refino de la solicitud, lo que hace que el desafío regulatorio sea aún más complejo.

En una carta abierta a la administración, una coalición de líderes de ciberseguridad argumentó que la directiva de control de exportación es equivocada. Sostuvieron que restringir un solo modelo no hace mucho para reducir el riesgo general, que proviene de un ecosistema de herramientas de inteligencia artificial en rápida evolución. "La pregunta de política no es si la tecnología conlleva un riesgo", escribió Chris Wysopal, cofundador de Veracode, "sino si una restricción específica reduce significativamente ese riesgo".

El episodio subraya una creciente tensión entre la innovación y la supervisión. A medida que los modelos de inteligencia artificial se vuelven más hábiles en tareas tradicionalmente reservadas para expertos humanos, los gobiernos de todo el mundo enfrentan presión para desarrollar marcos transparentes y democráticos para gestionar la tecnología de doble uso. La situación de Anthropic puede servir como un indicador de cómo se regularán los futuros avances de la inteligencia artificial, especialmente cuando están en juego las implicaciones de seguridad nacional.

Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.