Um novo relatório publicado nesta quarta-feira descreve ataques bem-sucedidos realizados por quatro grupos de ameaça que usaram IA agêntica, incluindo ferramentas como o Claude, da Anthropic, para contornar salvaguardas dos modelos. As conclusões sugerem que a IA está se espalhando rapidamente tanto no ataque quanto na defesa, e que até criminosos cibernéticos relativamente pouco sofisticados estão adotando a tecnologia.
Hackers do mundo todo estão recorrendo à IA agêntica para realizar ataques, e alguns estão manipulando ferramentas como o Claude, da Anthropic, para ajudá-los a cometer seus crimes.
O que o relatório descobriu sobre ataques com IA?
Novos detalhes publicados nesta quarta-feira descrevem ataques bem-sucedidos recentes realizados por quatro grupos de ameaça diferentes. A reportagem mostra que a IA está se espalhando rapidamente nos dois lados da disputa pela segurança, com hackers mal-intencionados adotando os mesmos tipos de ferramentas que os defensores utilizam.
Atacantes estão contornando as salvaguardas dos modelos de IA?
A descoberta mais preocupante pode ser quem está adotando a tecnologia. Até criminosos cibernéticos relativamente pouco sofisticados estão incorporando a IA agêntica em suas campanhas, segundo a reportagem. Esses agentes também estão contornando as salvaguardas dos modelos, os limites embutidos que os desenvolvedores de IA implementam para evitar o uso indevido. Isso sugere que as barreiras de proteção não estão impedindo as pessoas que deveriam deter.
A redatora sênior da WIRED Lily Hay Newman, que cobre segurança da informação, privacidade digital e hacking, é autora do relatório.
Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.