No final da semana passada, a Anthropic removeu seus novos produtos de IA, Claude Fable 5 e Mythos 5, do acesso público após a Casa Branca invocar uma diretiva de controle de exportação que proíbe estrangeiros de usar os serviços. A ordem, emitida sob a estrutura de segurança nacional da administração Trump, visa as capacidades de uso duplo dos modelos – as mesmas consultas que ajudam as equipes de segurança cibernética a corrigir sistemas também podem ser reutilizadas para criar exploits sofisticados.

O CEO da Anthropic, Dario Amodei, confirmou o fechamento em uma declaração breve, observando que a empresa vinha negociando com a Casa Branca desde o anúncio da diretiva na sexta-feira. "Remanescemos comprometidos em trabalhar com os reguladores para garantir a implantação responsável", disse Amodei, acrescentando que a empresa espera restaurar os modelos assim que uma salvaguarda mutuamente aceitável esteja em vigor.

O Mythos 5, lançado pela primeira vez em abril, foi comercializado como um modelo focado em segurança cibernética capaz de identificar fraquezas de software e sugerir etapas de remediação. A Anthropic advertiu no lançamento que o modelo também poderia gerar código de exploit, uma capacidade que descreveu como "de uso duplo". O Claude Fable 5, construído na mesma arquitetura, foi lançado para o público em geral com blocos embutidos que limitavam as respostas a perguntas sobre biologia e segurança cibernética. No entanto, os reguladores argumentam que esses guardrails podem ser desativados, efetivamente concedendo acesso irrestrito à funcionalidade do Mythos.

A reação da indústria foi rápida. Tarah Wheeler, diretora de segurança da TPO Group, chamou a medida do governo de "miópica", argumentando que a Anthropic é apenas o primeiro caso de alto perfil e que outras empresas provavelmente estão desenvolvendo capacidades semelhantes em segredo. "Concorrentes já estão mantendo modelos comparáveis em reserva", alertou Wheeler, sugerindo que a ordem de controle de exportação pode apenas atrasar a propagação inevitável de tal tecnologia.

Os especialistas também apontam para a tendência mais ampla de ferramentas de segurança cibernética impulsionadas por IA. Por exemplo, a OpenAI lançou um modelo de segurança cibernética privado em meados de abril e anunciou uma estratégia expandida para caça de ameaças assistida por IA. Pesquisadores como Bruce Schneier, de Harvard e da Universidade de Toronto, defendem que modelos de código aberto menores podem alcançar desempenho comparável com prompts refinados, tornando o desafio regulatório ainda mais complexo.

Em uma carta aberta à administração, uma coalizão de líderes de segurança cibernética argumentou que a diretiva de controle de exportação está equivocada. Eles defenderam que restringir um único modelo não faz nada para reduzir o risco geral, que deriva de um ecossistema de ferramentas de IA em rápida evolução. "A questão política não é se a tecnologia carrega risco", escreveu Chris Wysopal, co-fundador da Veracode, "mas se uma restrição específica reduz significativamente esse risco".

O episódio destaca uma tensão crescente entre inovação e supervisão. À medida que os modelos de IA se tornam mais hábeis em tarefas tradicionalmente reservadas a especialistas humanos, os governos em todo o mundo enfrentam pressão para desenvolver quadros transparentes e democráticos para gerenciar tecnologia de uso duplo. A situação da Anthropic pode servir como um indicador de como os futuros avanços em IA serão regulamentados, especialmente quando as implicações de segurança nacional estão em jogo.

Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.