No final da semana passada, a Anthropic removeu seus novos produtos de IA, Claude Fable 5 e Mythos 5, do acesso público após a Casa Branca invocar uma diretiva de controle de exportação que proíbe estrangeiros de usar os serviços. A ordem, emitida sob a estrutura de segurança nacional da administração Trump, visa as capacidades de uso duplo dos modelos – as mesmas consultas que ajudam as equipes de segurança cibernética a corrigir sistemas também podem ser reutilizadas para criar exploits sofisticados.

O CEO da Anthropic, Dario Amodei, confirmou o fechamento em uma declaração breve, observando que a empresa vinha negociando com a Casa Branca desde o anúncio da diretiva na sexta-feira. "Remanescemos comprometidos em trabalhar com os reguladores para garantir a implantação responsável", disse Amodei, acrescentando que a empresa espera restaurar os modelos assim que uma salvaguarda mutuamente aceitável esteja em vigor.

O Mythos 5, lançado pela primeira vez em abril, foi comercializado como um modelo focado em segurança cibernética capaz de identificar fraquezas de software e sugerir etapas de remediação. A Anthropic advertiu no lançamento que o modelo também poderia gerar código de exploit, uma capacidade que descreveu como "de uso duplo". O Claude Fable 5, construído na mesma arquitetura, foi lançado para o público em geral com blocos embutidos que limitavam as respostas a perguntas sobre biologia e segurança cibernética. No entanto, os reguladores argumentam que esses guardrails podem ser desativados, efetivamente concedendo acesso irrestrito à funcionalidade do Mythos.

A reação da indústria foi rápida. Tarah Wheeler, diretora de segurança da TPO Group, chamou a medida do governo de "miópica", argumentando que a Anthropic é apenas o primeiro caso de alto perfil e que outras empresas provavelmente estão desenvolvendo capacidades semelhantes em segredo. "Concorrentes já estão mantendo modelos comparáveis em reserva", alertou Wheeler, sugerindo que a ordem de controle de exportação pode apenas atrasar a propagação inevitável de tal tecnologia.

Os especialistas também apontam para a tendência mais ampla de ferramentas de segurança cibernética impulsionadas por IA. Por exemplo, a OpenAI lançou um modelo de segurança cibernética privado em meados de abril e anunciou uma estratégia expandida para caça de ameaças assistida por IA. Pesquisadores como Bruce Schneier, de Harvard e da Universidade de Toronto, defendem que modelos de código aberto menores podem alcançar desempenho comparável com prompts refinados, tornando o desafio regulatório ainda mais complexo.

Em uma carta aberta à administração, uma coalizão de líderes de segurança cibernética argumentou que a diretiva de controle de exportação está equivocada. Eles defenderam que restringir um único modelo não faz nada para reduzir o risco geral, que deriva de um ecossistema de ferramentas de IA em rápida evolução. "A questão política não é se a tecnologia carrega risco", escreveu Chris Wysopal, co-fundador da Veracode, "mas se uma restrição específica reduz significativamente esse risco".

O episódio destaca uma tensão crescente entre inovação e supervisão. À medida que os modelos de IA se tornam mais hábeis em tarefas tradicionalmente reservadas a especialistas humanos, os governos em todo o mundo enfrentam pressão para desenvolver quadros transparentes e democráticos para gerenciar tecnologia de uso duplo. A situação da Anthropic pode servir como um indicador de como os futuros avanços em IA serão regulamentados, especialmente quando as implicações de segurança nacional estão em jogo.

Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.