A agência de proteção de dados da Espanha, a AEPD, recebeu sua primeira notificação de violação de dados pessoais realizada com um agente de IA. De acordo com a agência, o agente começou a buscar arquivos genéricos por vulnerabilidades e, em seguida, fez login com sucesso. Uma vez dentro, ele procurou a aplicação por falhas por conta própria e conseguiu modificar dados pessoais e acessar faturas.

A agência não nomeou o modelo ou a organização envolvida, mas observou que os detalhes vieram da própria notificação da organização. A AEPD ainda precisa analisar os detalhes, mas o incidente destaca o crescente risco de ataques apoiados por IA.

Francisco Pérez Bes, da AEPD, escreveu em um post de blog que o uso de um modelo específico não significa que alguém comprometeu o modelo ou os sistemas do provedor. Isso também não significa que o provedor construiu a ferramenta para uso malicioso. No entanto, o ponto-chave é que uma terceira parte usou um agente para encadear diferentes fases do ataque.

Pérez Bes estabeleceu quatro consequências para as organizações que lidam com dados pessoais. Primeiro, as análises de risco devem cobrir explicitamente ataques que usam IA. Uma referência genérica a malware, phishing ou acesso não autorizado não é suficiente. Segundo, as organizações devem revisar seus tempos de resposta, pois os procedimentos construídos para ataques manuais podem ser muito lentos para um agente que testa vários ativos ao mesmo tempo.

Terceiro, as identidades digitais e credenciais importam mais, pois um agente com uma conta, chave de API ou token que tem muitas permissões pode se mover entre serviços à velocidade da máquina. Quarto, a segurança não pode depender apenas do trabalho manual, e a supervisão humana precisa de detecção, contenção e resposta rápidas por trás.

A AEPD recebeu 30.931 reclamações em 2025, o maior número em sua história, e 64% mais do que no ano anterior. Este incidente destaca a necessidade de as organizações revisarem seus modelos de segurança e proteção de dados em resposta ao crescente risco de ataques apoiados por IA.

Casos anteriores envolviam modelos de laboratórios de IA em teste, mas este incidente mostra que ataques apoiados por IA não são mais apenas teóricos. A agência de cibersegurança da UE, ENISA, usou um modelo OpenAI para encontrar falhas no código da UE, e a lista de riscos de aplicação de LLM da OWASP em 2026 inclui permissões excessivas de agente.

Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.