Os principais executivos da Anthropic chegaram a Washington, D.C., na segunda-feira para se reunir com altos funcionários da Casa Branca e do Departamento de Comércio, na esperança de desarmar um crescente conflito sobre o sistema de IA mais novo da empresa, Claude Fable 5. As discussões, que contaram com a presença do co-fundador e diretor de computação Tom Brown, chefe de assuntos externos Sarah Heck, líder da equipe de red team Logan Graham e pesquisador sênior de segurança Nicholas Carlini, concluíram sem que a administração levantasse os controles de exportação impostos apenas uma semana antes.
Funcionários dos EUA permanecem convencidos de que as salvaguardas do modelo podem ser removidas, concedendo aos usuários acesso às capacidades mais potentes dos modelos da classe Mythos da Anthropic. A preocupação centra-se em um possível "jailbreak" que permitiria aos usuários contornar as salvaguardas que protegem domínios sensíveis, como segurança cibernética, biologia e química. Embora a Anthropic argumente que o risco é exagerado, a posição do Departamento de Comércio reflete uma incerteza mais ampla sobre como os modelos de IA avançados podem ser utilizados como armas.
Durante as reuniões, representantes do Centro de Padrões e Inovação em IA e do Escritório do Diretor Nacional de Cibersegurança, liderados por Sean Cairncross, participaram ao lado do Secretário do Comércio Howard Lutnick, que se juntou à reunião por conferência de vídeo a partir da cúpula do G7 em Evian, França. Um porta-voz da Casa Branca se recusou a comentar o resultado, e as próximas etapas da administração permanecem incertas.
Um porta-voz da Anthropic disse ao WIRED que ambos os lados estão trabalhando rapidamente para resolver a questão, mas nenhum prazo foi oferecido. O Departamento de Comércio sinalizou uma disposição para restaurar o acesso do consumidor ao Fable 5 se a Anthropic puder abordar completamente as preocupações com o jailbreak, embora nenhum plano concreto tenha sido divulgado.
O impasse surge em meio a uma pressão política mais ampla para a Anthropic. A empresa já está envolvida em uma luta prolongada com o Pentágono sobre se seus modelos devem ser usados para certas aplicações militares. Na semana passada, o CEO da Amazon, Andy Jassy, entrou em contato com o Secretário do Tesouro, Scott Bessent, sobre as vulnerabilidades alegadas, o que levou a administração a encarregar a NSA de uma revisão rápida. A NSA concluiu que era possível remover as salvaguardas do Fable 5, o que levou à imposição rápida de controles de exportação.
A Amazon, um grande investidor da Anthropic, se recusou a elaborar sobre as discussões internas, afirmando apenas que rotineiramente aconselha os governos sobre riscos de segurança potenciais para seus clientes de nuvem. A participação de um apoiador de alto perfil aumentou a escrutínio da situação, com alguns investidores preocupados de que a Anthropic esteja sendo isolada enquanto concorrentes podem não enfrentar ações comparáveis.
Pesquisadores de segurança reagiram contra a caracterização do risco pelo governo. Uma carta aberta assinada por dezenas de especialistas argumentou que a ação de controle de exportação remove injustamente os melhores modelos dos defensores, cria incerteza no mercado e ameaça a liderança em IA dos EUA sem justificativa sólida. Eles observaram que, embora os modelos da classe Mythos sejam excelentes em encontrar e utilizar exploits, não são exclusivamente capazes dessas tarefas; muitos profissionais de segurança já usam outros modelos de IA de código aberto e de fundação para trabalhos de red team.
Um post no blog da Anthropic mais cedo esta semana sugeriu que as salvaguardas do modelo são suficientes para lançamento público, apesar de reconhecer que um jailbreak totalmente bem-sucedido efetivamente transformaria o Fable 5 em um modelo Mythos irrestrito. Analistas independentes, como a fundadora da Luta Security, Katie Moussouris, concluíram que as vulnerabilidades relatadas não constituíam um verdadeiro jailbreak, descrevendo as salvaguardas como "obstáculos" em vez de fronteiras de segurança rígidas.
Olhando para o futuro, o episódio levanta questões para a indústria de IA como um todo sobre como navegar pela supervisão do governo ao lançar modelos poderosos. Líderes de outros laboratórios, incluindo o CEO da Cohere, Aidan Gomez, alertaram que a disposição da Casa Branca para impor controles de exportação sinaliza uma nova realidade: os desenvolvedores de IA podem precisar fornecer acesso antecipado a modelos avançados e manter uma comunicação proativa com os reguladores para evitar conflitos semelhantes.
Por enquanto, o Claude Fable 5 da Anthropic permanece offline para uso do consumidor, e a empresa continua a negociar com os funcionários dos EUA. O resultado provavelmente moldará não apenas a estratégia da Anthropic, mas também o quadro mais amplo que governa o deploy de tecnologias de IA de alto risco nos EUA.
Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.