A pesquisa de segurança interna da Amazon desencadeou uma reação em cadeia que colocou os modelos de IA de ponta da Anthropic, Fable 5 e Mythos 5, no centro das atenções da Casa Branca. Um artigo publicado pelo gigante do comércio eletrônico mostrou que, por meio de uma série de prompts cuidadosamente elaborados, os modelos poderiam produzir informações que poderiam ajudar os atacantes cibernéticos. As descobertas foram transmitidas a funcionários seniores por Andy Jassy, CEO da Amazon, o que levou a uma diretiva de controle de exportação que proíbe os nacionais estrangeiros de acessar os dois sistemas.
A medida afetou imediatamente a força de trabalho da Anthropic. Uma grande parte dos pesquisadores da empresa nasceu no exterior, e a nova regra os cortou efetivamente de seus próprios produtos. Em resposta, a Anthropic rejeitou a caracterização do governo do problema como um "jailbreak". A empresa argumenta que pontos fracos semelhantes poderiam ser descobertos em qualquer grande modelo de linguagem, incluindo versões públicas como o GPT-5.5. A especialista em segurança Katie Moussouris ecoou esse sentimento, postando no BlueSky que havia revisado o artigo da Amazon e concluído: "Não é um jailbreak".
A ex-funcionária do Departamento de Comércio Kate Koren sugeriu que a decisão da Casa Branca pode ter sido influenciada por uma aversão mais ampla à Anthropic. A fricção não é nova. No início deste ano, a administração Trump ordenou que as agências federais parassem de usar a IA da Anthropic, citando preocupações sobre vigilância em massa e armas autônomas letais. Horas depois, o secretário de Defesa Pete Hegseth rotulou a empresa como um risco na cadeia de suprimentos. Essas ações marcaram uma partida drástica de um período de cooperação durante o qual o governo e a Anthropic trabalharam juntos para expandir o acesso ao modelo Mythos.
Agora, os dois lados parecem preparados para outro confronto. Enquanto a Anthropic aponta a prevalência de vulnerabilidades semelhantes em todo o cenário de IA, a administração está focada nas possíveis ramificações de segurança nacional das capacidades de modelo não verificadas. O episódio destaca a tensão crescente entre a inovação rápida em IA e os esforços do governo para impor salvaguardas às tecnologias emergentes.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.