Quatro Estudos Recentemente Revelam Lacunas Críticas de Segurança em Agentes de IA

Key Points

A Manifold Security encontrou que uma extensão do Chrome pode simular cliques do usuário, permitindo que o Claude da Anthropic leia o Gmail e outros dados pessoais silenciosamente.
Pesquisadores mostraram que um único e-mail malicioso pode implantar uma memória falsa persistente em um agente de IA, influenciando sessões futuras.
A equipe da Semgrep demonstrou que o envenenamento de modelos barato pode incorporar vulnerabilidades de código ocultas em modelos de IA de peso aberto.
A PromptArmor rastreou mudanças rápidas em conectores de IA, com 931 de 2.517 alterados em seis semanas, expandindo dramaticamente a superfície de ataque.
Todos os quatro estudos destacam a mesma fraqueza central: a infraestrutura circundante que permite que os agentes atuem em nome do usuário sem verificações adequadas.

Quatro equipes de pesquisa independentes expuseram uma vulnerabilidade comum em assistentes de IA: a infraestrutura que permite que eles atuem em nome do usuário pode ser comprometida.

Um estudo mostrou que uma extensão do Chrome pode simular cliques para fazer com que o Claude da Anthropic leia e-mails pessoais silenciosamente.

Outro demonstrou que um único e-mail malicioso pode implantar uma memória falsa persistente em um agente de IA.

Pesquisadores também provaram que o envenenamento de modelos barato pode incorporar backdoors ocultos, e uma terceira análise encontrou que conectores em constante mudança dão aos agentes acesso irrestrito a dados privados e serviços externos.

Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.