A Anthropic informou aos clientes na sexta-feira à noite que suspenderia o acesso aos seus dois modelos mais recentes, Fable 5 e Mythos 5, após o governo dos EUA invocar controles de exportação sobre os produtos. O Departamento de Comércio informou ao laboratório de IA que havia aprendido sobre um método para "jailbreak" o Fable 5, permitindo que os usuários contornassem os limites de segurança que a empresa construiu no sistema. Em resposta, a Anthropic desligou completamente os modelos, uma etapa que também barra qualquer nacional estrangeiro - seja dentro ou fora dos EUA - de usá-los.
Quando a Anthropic primeiro apresentou o Mythos, limitou o lançamento a um punhado de agências governamentais e profissionais de tecnologia devido à capacidade do modelo de descobrir falhas de segurança cibernética. A restrição repentina, no entanto, força a empresa a retirar os modelos de todos os usuários, incluindo sua própria equipe de nacionais estrangeiros, para cumprir com a ordem de controle de exportação. "Discordamos que a jailbreak demonstrada justifique uma ação tão abrangente", escreveu a empresa em um comunicado, advertindo que um precedente como este poderia "essencialmente paralisar" o desenvolvimento de futuros modelos de IA de fronteira.
A liderança da Anthropic já voou para Washington para discutir o assunto com funcionários seniores. De acordo com um relatório no Wall Street Journal, executivos da empresa passaram várias horas em chamadas no sábado com o Secretário de Comércio Howard Lutnick e o Diretor Nacional de Cibersegurança Sean Cairncross. Um porta-voz da empresa se recusou a acrescentar mais comentários além do comunicado escrito. O Departamento de Comércio não respondeu a pedidos de comentário.
O confronto marca a mais recente confrontação entre o laboratório de IA e o governo federal. No início deste ano, o Pentágono rotulou a Anthropic como "risco de cadeia de suprimentos" após a empresa se recusar a permitir que seus modelos Claude fossem usados para armas autônomas totalmente autônomas ou vigilância doméstica em massa. Funcionários de defesa queriam acesso irrestrito para "todos os fins legais", uma demanda que a empresa resistiu.
David Sacks, co-presidente do Conselho de Assessores do Presidente em Ciência e Tecnologia e ex-"czar de IA e criptomoedas" sob a administração Trump, descartou qualquer sugestão de que a disputa atual está ligada à questão do Pentágono. Em uma postagem longa no X, Sacks disse que a administração acredita que o problema é "sério, mas deve ser facilmente resolvido" e que "a bola está no campo da Anthropic". Ele acrescentou que a reputação da empresa por segurança está em jogo, observando que a Anthropic pareceu priorizar manter um modelo de consumidor disponível sobre abordar a lacuna de segurança.
Especialistas dizem que as jailbreaks são um desafio esperado para modelos de linguagem avançados. Ayham Boucher, diretor executivo de estratégia e inovação de IA na Universidade Cornell, explicou que qualquer modelo suficientemente capaz pode ser coagido a comportamentos proibidos por meio de role-playing ou outros truques de engenharia de prompts. "Todos os modelos podem ser jailbreakados", disse ele, enfatizando que a batalha entre desenvolvedores e adversários é contínua. A Anthropic havia construído uma política de retenção de dados de 30 dias no Fable 5 para monitorar interações e detectar possíveis exploits - uma salvaguarda que pode ter limitado seu apelo a clientes sensíveis à privacidade.
Embora a Anthropic seja o foco da controvérsia atual, a comunidade de IA mais ampla está observando de perto. Pesquisadores observam que a codificação e a perícia em segurança cibernética do Mythos são comparáveis às do próximo GPT-5.5 da OpenAI, e que outras empresas - tanto dos EUA quanto da China - estão correndo para alcançar capacidades semelhantes. Boucher advertiu que a ação de controle de exportação pode retardar o desenvolvimento de modelos não apenas na Anthropic, mas em toda a indústria, especialmente se o talento estrangeiro for impedido de contribuir para futuras versões.
A administração Trump, que enquadrou a dominância da IA como uma prioridade de segurança nacional, assinou uma ordem executiva no início deste mês instando os desenvolvedores a submeter modelos de fronteira para revisão federal antes do lançamento. Críticos argumentam que a linguagem voluntária da ordem já se erodiu, como visto no fechamento abrupto de sexta-feira. Samir Jain, vice-presidente de política do Center for Democracy and Technology, descreveu a medida como "arbitrária e opaca", levantando questões sobre a base legal para os controles e possíveis implicações da Primeira Emenda.
Por enquanto, os clientes da Anthropic ficam sem acesso a duas das ferramentas mais avançadas do mercado. A empresa indicou que continuará as negociações com Washington, mas o resultado permanece incerto. O incidente destaca a crescente tensão entre a inovação rápida da IA e o esforço do governo para mitigar riscos de segurança, um equilíbrio que moldará a trajetória da indústria nos meses seguintes.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.