Decenas de profesionales líderes en ciberseguridad han apelado directamente a la administración de Biden, pidiendo a los funcionarios que revocaran una orden de control de exportación que efectivamente retira los modelos de inteligencia artificial más avanzados de Anthropic, Fable y Mythos, de las manos de los defensores. La carta abierta, firmada por 76 expertos, sostiene que la restricción pone en peligro a las mismas organizaciones que la orden pretende proteger.
Anthropic anunció la prohibición el viernes, diciendo que la Casa Blanca había ordenado a la empresa limitar la exportación de los dos modelos por preocupaciones de "seguridad nacional". La empresa respondió suspendiendo el acceso para todos los usuarios en todo el mundo, una medida que dejó a unas 150 organizaciones en 15 países sin los herramientas que habían estado probando.
Según la carta, los modelos fueron diseñados para ayudar a los equipos de seguridad a localizar fallos de código ocultos, generar parches y verificar soluciones – un "encontrar, solucionar, probar" que refleja los flujos de trabajo defensivos diarios. Quitar esa capacidad, argumentan los firmantes, da a los adversarios una ventaja clara. "Quitar las mejores capacidades de los defensores sin una buena razón cuando nuestros adversarios están avanzando rápidamente es peligroso", se lee en la carta.
Entre los firmantes se encuentran Alex Stamos, ex jefe de seguridad de Facebook; Casey Ellis, fundador de la plataforma de caza de bugs Bugcrowd; Jon Callas, un veterano criptógrafo que alguna vez lideró el diseño de seguridad de Apple; Paul Vixie, científico informático destacado; Dino Dai Zovi, ex director de ingeniería de seguridad aplicada en Block; Katie Moussouris, fundadora de Luta Security; y Rachel Tobac, directora ejecutiva de SocialProof Security. Su experiencia colectiva abarca los ámbitos corporativo, académico y de código abierto.
La controversia surge de un informe que existía un método para evitar los guardrails de Fable y desbloquear capacidades similares a las de Mythos. Anthropic sugirió que la orden de la Casa Blanca puede haberse basado en ese hallazgo. Sin embargo, Moussouris, quien revisó el papel de investigación no publicado de Amazon que presuntamente demostró el bypass, dice que el papel nunca mostró un guardrail real. En cambio, los investigadores pidieron a Fable que solucionara código que contenía vulnerabilidades conocidas y deliberadamente insertadas. Cuando el modelo inicialmente se negó, los autores ajustaron la solicitud hasta que se cumplió, lo que Moussouris llama una "técnica de bypass de guardrail" en lugar de un verdadero fallo de seguridad.
Agrega que técnicas similares pueden reproducirse en otros modelos, incluyendo el próximo GPT-5.5 de OpenAI, el Claude Opus 4.8 y Sonnet de Anthropic, e incluso las ofertas chinas como Kimi 2.7. "Los defensores necesitan poder pedirle a la inteligencia artificial que solucione los bugs en un archivo, explique por qué la solución está importante y escriba pruebas que confirmen que el parche funciona", escribió Moussouris. "Eso no es un bypass de guardrail. Es lo más valioso que un modelo de inteligencia artificial puede hacer para la seguridad defensiva".
La carta abierta pide un marco regulatorio transparente y democráticamente elaborado basado en investigaciones científicas de la industria y la academia. Insta a que cualquier restricción se aplique solo en la medida mínima necesaria para proteger al público, no para debilitar las capacidades defensivas de los equipos de seguridad.
El lanzamiento anterior de Mythos en abril limitó el acceso a unas 50 empresas, más tarde expandiéndose a unas 150. Cuando se lanzó la versión pública, Fable, la empresa impuso guardrails estrictos que bloquearon la mayoría de las consultas relacionadas con la ciberseguridad, lo que provocó frustración entre los adoptantes tempranos. La restricción actual de exportación agrega otra capa de incertidumbre para las organizaciones que dependen de la detección de vulnerabilidades asistida por inteligencia artificial.
A medida que se desarrolla el debate, la comunidad de ciberseguridad observa de cerca. Los firmantes advierten que sin acceso a estos modelos avanzados, los defensores se quedarán atrás de los actores de amenazas que continúan evolucionando sus tácticas, lo que podría exponer a la infraestructura crítica y los sistemas privados a un mayor riesgo.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.