A decisão da Anthropic de pular os testes pré-lançamento no Reino Unido para o seu modelo Mythos 5.1 levantou suspeitas, com o Financial Times relatando que esta é a primeira vez que um modelo importante foi mantido longe do Instituto de Segurança de Inteligência Artificial do Reino Unido (AISI) antes do lançamento. A medida levantou preocupações sobre protecionismo entre as empresas americanas de inteligência artificial, com funcionários do governo britânico temendo uma mudança mais ampla em esta direção.
De acordo com o FT, a Anthropic forneceu acesso ao modelo para organizações comparáveis nos EUA, alimentando especulações sobre uma possível postura protecionista. O governo britânico não criticou publicamente a Anthropic, mas um porta-voz do Gabinete destacou a importância da cooperação internacional para abordar riscos relacionados à inteligência artificial. O AISI já testou modelos da Anthropic, incluindo uma avaliação das capacidades cibernéticas da pré-visualização do Mythos em abril.
Os testadores do instituto descobriram que o modelo foi o primeiro a concluir um ataque de rede simulado em 32 etapas, fazendo isso em três de cada dez tentativas. No entanto, a decisão de reter o modelo Mythos 5.1 foi vista como um precedente preocupante por alguns, incluindo Miles Brundage, um ex-pesquisador de políticas da OpenAI. Brundage argumentou que o AISI tem mais capacidade geral do que seu contraparte nos EUA, o CAISI, e que a decisão poderia minar os esforços de teste de segurança.
Outros, como o advogado Preston Byrne, sugeriram que a abordagem do Reino Unido para a regulação da fala online pode ser a causa raiz do problema. A resposta do governo britânico foi medida, com um porta-voz destacando a importância da cooperação continuada entre o AISI e os parceiros da indústria. A agência de cibersegurança da UE, ENISA, começou a testar o modelo Mythos 5, embora ainda não tenha acesso à versão atualizada do Mythos 5.1.
O incidente levantou um debate sobre o papel dos testes de segurança independentes no desenvolvimento de modelos de inteligência artificial. Ed Newton-Rex, um ativista de inteligência artificial e direitos de criadores, argumentou que o episódio destaca a necessidade de testes de segurança obrigatórios, em vez de confiar nos laboratórios para doar seus modelos. À medida que o cenário de inteligência artificial continua a evoluir, a questão de como equilibrar as preocupações de segurança com a necessidade de inovação e cooperação permanecerá um problema premente.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.