Los altos directivos de Anthropic llegaron a Washington, D.C., el lunes para reunirse con funcionarios senior de la Casa Blanca y el Departamento de Comercio, con la esperanza de calmar un creciente conflicto sobre el sistema de inteligencia artificial más nuevo de la empresa, Claude Fable 5. Las conversaciones, a las que asistieron el cofundador y director de cómputo Tom Brown, la directora de asuntos externos Sarah Heck, el líder del equipo de red de frontera Logan Graham y el investigador senior de seguridad Nicholas Carlini, concluyeron sin que la administración levantara los controles de exportación impuestos justo una semana antes.
Los funcionarios estadounidenses siguen convencidos de que las salvaguardias del modelo pueden ser eliminadas, lo que permitiría a los usuarios acceder a las capacidades más potentes de los modelos de la clase Mythos de Anthropic. La preocupación se centra en una posible "fuga" que permitiría a los usuarios sortear las salvaguardias que protegen dominios sensibles como la ciberseguridad, la biología y la química. Mientras que Anthropic argumenta que el riesgo es exagerado, la postura del Departamento de Comercio refleja una incertidumbre más amplia sobre cómo los modelos de fundación avanzados podrían ser utilizados como armas.
Durante las reuniones, representantes del Centro de Estándares y Innovación de Inteligencia Artificial y la Oficina del Director Nacional de Ciberseguridad, liderados por Sean Cairncross, participaron junto con el secretario de Comercio Howard Lutnick, quien se unió a la reunión por conferencia telefónica desde la cumbre del G7 en Evian, Francia. Un portavoz de la Casa Blanca se negó a comentar sobre el resultado, y los próximos pasos de la administración siguen siendo inciertos.
Un portavoz de Anthropic le dijo a WIRED que ambos lados están trabajando rápidamente para resolver el problema, pero no se ofreció un plazo. El Departamento de Comercio señaló su disposición a restaurar el acceso de los consumidores a Fable 5 si Anthropic puede abordar completamente las preocupaciones sobre la fuga, aunque no se divulgó un plan concreto.
El conflicto llega en medio de una presión política más amplia para Anthropic. La empresa ya está involucrada en una lucha prolongada con el Pentágono sobre si sus modelos deben ser utilizados para ciertas aplicaciones militares. La semana pasada, el CEO de Amazon, Andy Jassy, contactó al secretario del Tesoro, Scott Bessent, sobre las vulnerabilidades alegadas, lo que llevó a la administración a encargar a la NSA una revisión rápida. La NSA concluyó que era posible eliminar las salvaguardias de Fable 5, lo que llevó a la imposición rápida de controles de exportación.
Amazon, un inversor importante en Anthropic, se negó a elaborar sobre sus discusiones internas, afirmando solo que rutinariamente asesora a los gobiernos sobre posibles riesgos de seguridad para sus clientes de la nube. La participación de un partidario de alto perfil ha aumentado la escrutinía de la situación, con algunos inversores preocupados de que Anthropic esté siendo señalado mientras los competidores pueden no enfrentar acciones comparables.
Los investigadores de seguridad se opusieron a la caracterización del gobierno del riesgo. Una carta abierta firmada por decenas de expertos argumentó que la acción de control de exportación elimina injustamente los mejores modelos de los defensores, crea incertidumbre en el mercado y amenaza el liderazgo de EE. UU. en inteligencia artificial sin justificación sólida. Señalaron que, si bien los modelos de la clase Mythos excel en encontrar y utilizar exploits, no son únicos en estas tareas; muchos profesionales de la seguridad ya utilizan otros modelos de fundación y de código abierto para el trabajo de equipo rojo.
Un post de blog de Anthropic anterior esta semana sugirió que las salvaguardias del modelo son suficientes para su lanzamiento público, a pesar de reconocer que una fuga completamente exitosa efectivamente convertiría a Fable 5 en un modelo de Mythos sin restricciones. Los analistas independientes, como la fundadora de Luta Security, Katie Moussouris, concluyeron que las vulnerabilidades informadas no constituían una verdadera fuga, describiendo las salvaguardias como "obstáculos de velocidad" en lugar de límites de seguridad duros.
Mirando hacia adelante, el episodio plantea preguntas para toda la industria de la inteligencia artificial sobre cómo navegar la supervisión gubernamental al lanzar modelos potentes. Los líderes de otros laboratorios, incluido el CEO de Cohere, Aidan Gomez, advirtieron que la disposición de la Casa Blanca a imponer controles de exportación señala una nueva realidad: los desarrolladores de inteligencia artificial pueden necesitar proporcionar acceso anticipado a modelos avanzados y mantener una comunicación proactiva con los reguladores para evitar conflictos similares.
Por ahora, Claude Fable 5 de Anthropic sigue fuera de línea para su uso por parte de los consumidores, y la empresa continúa negociando con los funcionarios estadounidenses. El resultado probablemente dará forma no solo a la hoja de ruta de Anthropic, sino también al marco más amplio que rige la implementación de tecnologías de inteligencia artificial de alto riesgo en Estados Unidos.
Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.