A Anthropic, a empresa de IA por trás da série Claude, revelou na terça-feira que seu modelo mais recente, Claude Mythos, é tão habilidoso em encontrar e explorar vulnerabilidades de software que não será disponibilizado ao público. Em um post de blog, a empresa alertou que as capacidades de codificação do modelo agora superam todas, exceto as dos mais habilidosos pesquisadores humanos, levantando o espectro de ataques cibernéticos impulsionados por IA.
Para evitar que a tecnologia caia em mãos erradas, a Anthropic está lançando um programa de acesso privado chamado Projeto Glasswing. A iniciativa reúne uma coalizão de mais de 40 líderes da indústria, incluindo Apple, Amazon Web Services, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, a Linux Foundation, Microsoft, Nvidia e Palo Alto Networks. Os participantes receberão acesso antecipado ao Mythos para identificar e corrigir vulnerabilidades em sistemas operacionais, navegadores e serviços de nuvem.
A Anthropic comprometeu $100 milhões em créditos de uso para o consórcio e $4 milhões em doações para organizações de segurança de código aberto. "Os perigos de errar são óbvios, mas se acertarmos, há uma oportunidade real de criar uma internet fundamentalmente mais segura", escreveu o CEO Dario Amodei no X.
Testadores iniciais relatam que o Mythos já descobriu milhares de falhas graves em plataformas principais. "O que encontramos foi iluminador", disse Anthony Grieco, oficial de segurança e confiança da Cisco, em um post de blog. A vice-presidente e oficial de segurança da informação da AWS, Amy Herzog, chamou o modelo de "um passo de mudança na capacidade de raciocínio e IA para a cibersegurança", observando que mesmo suas bases de código mais rigorosamente verificadas renderam novas vulnerabilidades.
Especialistas em segurança reconhecem que a pesquisa de vulnerabilidade assistida por IA não é nova - o Desafio de Cibersegurança da DARPA demonstrou o conceito anos atrás - mas a escala e a acessibilidade de um modelo como o Mythos marca um momento importante. O diretor de inteligência de ameaças da Norton, Michal Salát, observou que, embora os modelos de nível superior já possuam habilidades semelhantes, a decisão da Anthropic de limitar a liberação e mobilizar um consórcio é uma resposta proativa a uma paisagem de ameaças em rápida evolução.
Legisladores estão observando o desenvolvimento de perto. O senador Mark Warner elogiou a iniciativa, dizendo que a colaboração pode ajudar a proteger a infraestrutura crítica à medida que a IA acelera a descoberta de novas explorações. O senador, cujo estado abriga um número crescente de centros de dados de IA, alertou anteriormente sobre os riscos sociais do desenvolvimento de IA sem controle.
O sucesso do Projeto Glasswing dependerá de quão rapidamente as empresas membros podem traduzir as vulnerabilidades encontradas pelo Mythos em patches e atualizações. A Anthropic acredita que a parceria pode estabelecer um novo padrão para a implantação responsável de IA, equilibrando capacidades de ponta com a necessidade de proteger sistemas digitais em todo o mundo.
This article was written with the assistance of AI.
News Factory SEO helps you automate news content for your site.