Na sexta-feira à noite, uma ordem federal obrigou a Anthropic a bloquear seus modelos de IA gerativa de ponta, Fable 5 e Mythos 5, para qualquer usuário estrangeiro, independentemente da localização. A ordem, emitida com base em preocupações de segurança nacional, se estendeu aos funcionários da Anthropic, efetivamente interrompendo todo o acesso externo aos dois sistemas.

A resposta da Anthropic foi rápida. Em questão de horas, a empresa desativou os modelos para todos os clientes pagantes, citando conformidade com a ordem do governo. Em um comunicado à imprensa conciso, a empresa observou que a ordem chegou sem justificativa detalhada, deixando-a para interpretar preocupações vagas sobre uma possível vulnerabilidade de "jailbreak".

De acordo com a Anthropic, a alegação do governo se baseou em uma breve apresentação verbal, em vez de um relatório formal escrito. A empresa afirmou que a exploração alegada era menor, já observável em outros grandes modelos de linguagem, incluindo o rumoroso GPT 5,5. A Anthropic enfatizou que nunca recebeu uma divulgação concreta de uma jailbreak não universal que resultasse em saída prejudicial. As poucas descobertas que havia visto eram ou inofensivas ou ofereciam apenas uma vantagem negligenciável para tarefas específicas do Mythos.

Para abordar a questão, a Anthropic delineou uma série de medidas de mitigação. A empresa tem coordenado com as autoridades dos EUA e do Reino Unido para monitorar tentativas de uso indevido dos modelos. A empresa também revisou sua política de retenção de dados, visando registrar interações que pudessem sinalizar intenção maliciosa. Essas medidas, segundo a Anthropic, são projetadas para ajudar a rastrear e prevenir futuras explorações.

Observadores da indústria notam que a ordem destaca a crescente tensão entre o desenvolvimento rápido de IA e a supervisão governamental. Embora os modelos da Anthropic sejam alguns dos mais avançados no mercado, a falta de detalhes públicos sobre a ameaça de segurança alimenta a especulação sobre o escopo da vulnerabilidade e o impacto potencial em outros provedores de IA.

Para os clientes, o fechamento significa uma perda abrupta de acesso a ferramentas que muitos haviam integrado em produtos que variam desde a criação de conteúdo até a assistência de código. A Anthropic não indicou um cronograma para reinstalar os modelos, aguardando esclarecimentos dos funcionários.

O episódio adiciona a uma lista crescente de ações regulatórias destinadas a conter os riscos de IA, desde controles de exportação até auditorias de segurança obrigatórias. À medida que os formuladores de políticas lidam com o equilíbrio entre inovação e segurança, empresas como a Anthropic encontram-se navegando em um cenário jurídico cada vez mais complexo.

Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.