A Anthropic revelou o Projeto Glasswing na terça-feira, reunindo uma coalizão cross-setorial para examinar as implicações de segurança de seu modelo de IA mais recente, o Claude Mythos Preview. O consórcio conta com Microsoft, Apple, Google, Amazon Web Services, a Linux Foundation, Cisco, Nvidia, Broadcom e mais de 40 organizações adicionais de tecnologia, segurança cibernética, infraestrutura crítica e finanças entre seus membros.
Os participantes receberão acesso privado e antecipado ao Mythos Preview, que a Anthropic afirma não estar previsto para lançamento geral. O modelo, originalmente treinado para exceler em código, demonstrou uma proficiência colateral em tarefas de segurança cibernética, como descoberta de vulnerabilidades, desenvolvimento de exploats, testes de penetração, avaliação de endpoints, caça a configurações erradas e análise de binários sem código-fonte.
'Nós não treinamos especificamente para ser bom em cibersegurança', disse o CEO da Anthropic, Dario Amodei, em um vídeo de lançamento. 'Nós treinamos para ser bom em código, e como efeito colateral, também é bom em cibersegurança.' A empresa destaca que a iniciativa é menos sobre mostrar o modelo e mais sobre preparar a indústria para um futuro em que capacidades semelhantes se tornem amplamente disponíveis dentro de meses.
Logan Graham, líder de equipe de red team da Anthropic, descreveu o lançamento escalonado como uma forma de divulgação coordenada de vulnerabilidades. Ao dar aos desenvolvedores tempo para corrigir problemas antes da discussão pública, o consórcio espera evitar entregar aos atacantes uma ferramenta poderosa nova. 'Nós vimos o Mythos Preview realizar coisas que um pesquisador de segurança sênior poderia realizar', observou Graham, alertando que o lançamento descuidado poderia acelerar as táticas de atacantes.
A vice-presidente de engenharia de segurança do Google, Heather Adkins, saudou a iniciativa, afirmando que a IA apresenta tanto desafios novos quanto oportunidades para a defesa cibernética. O CISO global da Microsoft, Igor Tsyganskiy, ecoou o sentimento, dizendo que a parceria permite que a gigante da tecnologia identifique e mitigue riscos precocemente, aumentando suas soluções de segurança para os clientes.
Desde que a colaboração começou, a Anthropic relata que o Mythos Preview já descobriu milhares de vulnerabilidades críticas, incluindo bugs de décadas que escaparam mesmo dos códigos mais escrutinados. As descobertas destacam o potencial do modelo para superfície de falhas ocultas em escala.
Os organizadores do Projeto Glasswing enfatizam que o consórcio deve expandir-se além de um punhado de empresas para ser eficaz. 'A coisa mais importante é descobrir as perguntas que precisam de respostas e, em seguida, encontrar essas respostas', disse Graham. 'Ele tem que crescer em algo ainda maior.'
This article was written with the assistance of AI.
News Factory SEO helps you automate news content for your site.