O CEO da Amazon, Andy Jassy, informou ao secretário do Tesouro, Scott Bessent, e a outros funcionários que os novos modelos de linguagem grande da Anthropic, Fable 5 e Mythos 5, apresentavam um risco de segurança que poderia ser explorado para ciberataques. O alerta levou o Tesouro dos EUA a emitir uma ordem de controle de exportação que efetivamente fechou os dois modelos para todos os usuários em todo o mundo na sexta-feira.
A Anthropic, que constrói sua IA nos Serviços da Web da Amazon, é um dos maiores investimentos em IA da Amazon. O provedor de nuvem investiu bilhões de dólares na startup e garantiram um compromisso de US$ 100 bilhões para o uso da nuvem da AWS. A relação agora parece complicada: o investidor sinalizou a tecnologia que ajuda a impulsionar como perigosa, e o governo agiu com base nesse alerta.
O porta-voz da Amazon disse que "não é incomum que os governos busquem nosso conselho sobre possíveis riscos de segurança", mas se recusou a fornecer detalhes da conversa. A empresa também citou uma página de status da AWS que confirma que o fechamento dos modelos afetou sua própria plataforma de nuvem.
Resposta da Anthropic
A Anthropic questionou a gravidade da reação do governo. Em uma declaração, a empresa disse que examinou a técnica de jailbreak alegada e encontrou apenas um pequeno número de vulnerabilidades menores conhecidas. Ela chamou a ação de controle de exportação de "desproporcional", observando que capacidades semelhantes já existem em modelos de IA acessíveis publicamente.
A empresa acrescentou que o fechamento geral afetou todos os clientes porque não pode filtrar nacionais estrangeiros de usuários dos EUA em tempo real. Como resultado, bancos, agências governamentais e outras empresas que dependem do Mythos para descoberta de vulnerabilidades perderam acesso.
David Sacks, ex-czar de IA sob a administração do Trump e agora co-presidente do Conselho de Assessores Científicos e Tecnológicos do Presidente, ofereceu uma conta diferente. Ele disse que um "parceiro de confiança altamente credível da Anthropic e do governo dos EUA" apresentou um jailbreak aos funcionários. De acordo com Sacks, a administração pediu ao CEO da Anthropic, Dario Amodei, que corrigisse o problema ou retirassem o modelo; Amodei se recusou.
O episódio destaca uma nova dinâmica na indústria de IA. Um grande provedor de nuvem agora pode influenciar a ação regulatória contra sua própria empresa de carteira, levantando preocupações de segurança com o governo. Esse poder pode redefinir estratégias competitivas à medida que as empresas pesam os benefícios da integração profunda com gigantes de nuvem contra o risco de exposição regulatória.
Para a Anthropic, o desafio imediato é restaurar o acesso aos seus clientes enquanto aborda as vulnerabilidades destacadas. Para o setor mais amplo, o caso estabelece um precedente: os controles de exportação do governo podem ser ativados por alertas internos da indústria, potencialmente dando aos provedores de nuvem uma nova alavanca no cenário regulatório de IA em evolução.
Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.