Dezenas de profissionais de cibersegurança de destaque apelaram diretamente à administração Biden, pedindo aos funcionários que revoguem uma ordem de controle de exportação que efetivamente remove os modelos de IA mais avançados da Anthropic, Fable e Mythos, das mãos dos defensores. A carta aberta, assinada por 76 especialistas, sustenta que a restrição põe em perigo as próprias organizações que a ordem pretende proteger.
A Anthropic anunciou a proibição na sexta-feira, dizendo que a Casa Branca havia ordenado à empresa que limitasse a exportação dos dois modelos por preocupações de "segurança nacional". A empresa respondeu suspendendo o acesso para todos os usuários em todo o mundo, uma medida que deixou cerca de 150 organizações em 15 países sem as ferramentas que estavam testando.
De acordo com a carta, os modelos foram projetados para ajudar as equipes de segurança a localizar falhas de código ocultas, gerar patches e verificar correções – um "loop de encontrar, corrigir e testar" que reflete os fluxos de trabalho defensivos diários. Remover essa capacidade, os signatários argumentam, dá aos adversários uma vantagem clara. "Retirar as melhores capacidades das defesas sem um bom motivo, quando nossos adversários estão avançando rapidamente, é perigoso", lê-se na carta.
Entre os signatários estão Alex Stamos, ex-chefe de segurança do Facebook; Casey Ellis, fundador da plataforma de bug-bounty Bugcrowd; Jon Callas, um veteranocriptógrafo que liderou o design de segurança da Apple; Paul Vixie, cientista da computação notado; Dino Dai Zovi, ex-chefe de engenharia de segurança aplicada da Block; Katie Moussouris, fundadora da Luta Security; e Rachel Tobac, CEO da SocialProof Security. A experiência coletiva deles abrange os domínios corporativo, acadêmico e de código aberto.
A controvérsia decorre de um relatório que um método existia para contornar as barreiras do Fable e desbloquear capacidades semelhantes às do Mythos. A Anthropic sugeriu que a ordem da Casa Branca pode ter sido baseada nessa descoberta. No entanto, Moussouris, que revisou o artigo de pesquisa não publicado da Amazon que alegadamente demonstrou o contorno, afirma que o artigo nunca mostrou uma verdadeira falha de segurança. Em vez disso, os pesquisadores pediram ao Fable que corrigisse o código contendo vulnerabilidades conhecidas e inseridas deliberadamente. Quando o modelo inicialmente se recusou, os autores ajustaram a solicitação até que ele concordasse, o que Moussouris chama de "técnica de contorno de barreiras" em vez de uma verdadeira falha de segurança.
Ela acrescenta que técnicas semelhantes podem ser reproduzidas em outros modelos, incluindo o próximo GPT-5.5 da OpenAI, o Claude Opus 4.8 e o Sonnet da Anthropic, e até mesmo ofertas chinesas como o Kimi 2.7. "Os defensores precisam ser capazes de pedir à IA que corrija os bugs em um arquivo, explique por que a correção é importante e escreva testes que confirmem que a correção funciona", escreveu Moussouris. "Isso não é um contorno de barreiras. É a coisa mais valiosa que um modelo de IA pode fazer para a segurança defensiva".
A carta aberta pede um quadro regulatório transparente e democraticamente elaborado, baseado em pesquisas científicas da indústria e da academia. Ela exige que quaisquer restrições sejam aplicadas apenas na medida mínima necessária para proteger o público, e não para incapacitar as capacidades defensivas das equipes de segurança.
O lançamento anterior da Anthropic do Mythos em abril limitou o acesso a cerca de 50 empresas, mais tarde expandindo para cerca de 150. Quando a versão pública, Fable, foi lançada, a empresa impôs barreiras rigorosas que bloquearam a maioria das consultas relacionadas à cibersegurança, provocando frustração entre os primeiros adotantes. A restrição de exportação atual acrescenta outra camada de incerteza para as organizações que dependem da detecção de vulnerabilidades assistida por IA.
À medida que o debate se desenrola, a comunidade de cibersegurança observa atentamente. Os signatários alertam que, sem acesso a esses modelos avançados, os defensores ficarão para trás dos atores de ameaça que continuam a evoluir suas táticas, potencialmente expondo infraestruturas críticas e sistemas privados a um risco maior.
Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.