Anthropic anunció el jueves que finalmente había restaurado el acceso limitado a sus agentes conversacionales Fable 5 y Mythos 5 después de una semana de interrupción causada por una directiva repentina de la administración Trump. La orden requirió que la empresa bloqueara los modelos para todos los nacionales extranjeros, una categoría que, según la directiva, también incluía a los usuarios dentro de los Estados Unidos e incluso a los empleados de Anthropic. La justificación del gobierno se refirió a "autoridades de seguridad nacional" y una "directiva de control de exportación", pero no se ha proporcionado una explicación detallada.
Los funcionarios de la empresa dijeron que el movimiento se debió a preocupaciones de que un "jailbreak" podría permitir que actores vinculados a China evadan las salvaguardias integradas de los modelos. La declaración de Anthropic enfatizó que la orden la obligó a cerrar completamente los servicios en lugar de aplicar una restricción más específica a resultados o capacidades específicos. La abrupta acción dejó a la empresa tratando de volver a habilitar los servicios mientras buscaba aclaraciones sobre la base legal de la orden.
Los académicos y analistas de políticas señalan que esta es la primera vez que los controles de exportación de EE. UU. se han utilizado para limitar el acceso a un modelo de IA alojado como un servicio remoto. Tradicionalmente, las regulaciones de exportación han cubierto artículos tangibles - armas, hardware, datos técnicos - que pueden ser físicamente enviados o copiados. En los últimos años, el alcance se ha ampliado para incluir el código fuente del software e incluso archivos de armas impresas en 3D, pero estos aún involucran la transferencia de archivos discretos. En el caso de Anthropic, los modelos permanecen en los servidores de la empresa, y los usuarios solo reciben texto generado, no los pesos o el código subyacentes.
El presidente Biden propuso earlier en su mandato restringir los pesos de los modelos de IA, los datos que permiten reproducir un modelo en otro lugar, pero su administración abandonó ese enfoque. La directiva actual, emitida bajo la administración Trump, no se ajusta perfectamente a los marcos existentes porque no hay una exportación obvia del modelo en sí. Algunos expertos sugieren que la exportación podría ser la información específica producida por la IA, sin embargo, la orden deshabilita todo el sistema en lugar de aislar resultados específicos.
"Es una pregunta abierta si la orden tensa las reglas existentes sin ver el lenguaje preciso detrás de ella", dijo Hanna Dohmen, analista de investigación senior en el Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown. Andrew Reddie, profesor en la Escuela de Política Pública Goldman de la Universidad de California en Berkeley, advirtió que mientras los regímenes de control de exportación dan al gobierno una amplia latitud, la falta de orientación clara hace que el cumplimiento sea difícil para las empresas que desarrollan IA de frontera.
El episodio pone a toda la industria en un aprieto. Si Anthropic fue seleccionada porque sus modelos son únicamente poderosos, el movimiento podría sentar un precedente que afecte a OpenAI, Google, Meta, xAI y otros laboratorios que desarrollan sistemas de próxima generación. Si la preocupación se centra en las deficiencias de las salvaguardias, los reguladores necesitarán articular expectativas concretas. Y si la acción refleja una relación tensa entre la empresa y la administración, subraya la imprevisibilidad de la aplicación de políticas.
Los expertos argumentan que el enfoque actual de patchwork para la gobernanza de la IA es insostenible. Reddie advirtió que exigir que los modelos sean "imposibles de jailbreak" como un estándar de facto podría dejar a los Estados Unidos sin ofertas viables de IA de frontera. La falta de un marco transparente y consistente también puede empujar a los gobiernos y empresas extranjeros a buscar alternativas fuera de los EE. UU., lo que potencialmente erosionaría el liderazgo de América en el campo.
El Congreso ya está considerando legislación para cerrar las brechas en la cobertura de controles de exportación de servicios basados en la nube, pero hasta que tales leyes sean aprobadas, las empresas como Anthropic deben navegar por un paisaje regulatorio incierto. El incidente de Anthropic destaca la tensión entre los objetivos de seguridad nacional y el ritmo rápido de la innovación en IA, planteando la pregunta de si las intervenciones ad hoc pueden mantenerse al día con la tecnología que pretenden regular.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.