La agencia de protección de datos de España, la AEPD, ha recibido su primera notificación de una violación de datos personales llevada a cabo con un agente de IA. Según la agencia, el agente comenzó buscando archivos genéricos para vulnerabilidades y luego se conectó con éxito. Una vez dentro, buscó la aplicación para encontrar fallos por su cuenta y pudo modificar datos personales y acceder a facturas.

La agencia no nombró el modelo ni la organización involucrada, pero señaló que los detalles provienen de la notificación de la propia organización. La AEPD aún tiene que analizar los detalles, pero el incidente destaca el creciente riesgo de ataques apoyados por IA.

Francisco Pérez Bes, de la AEPD, escribió en una publicación de blog que el uso de un modelo determinado no significa que alguien haya comprometido el modelo o los sistemas de su proveedor. También no significa que el proveedor haya construido la herramienta para un uso malicioso. Sin embargo, el punto clave es que un tercero utilizó un agente para encadenar diferentes fases del ataque.

Pérez Bes estableció cuatro consecuencias para las organizaciones que manejan datos personales. Primero, los análisis de riesgos deben cubrir explícitamente los ataques que utilizan IA. Una referencia genérica a malware, phishing o acceso no autorizado no es suficiente. Segundo, las organizaciones deben revisar sus tiempos de respuesta, ya que los procedimientos construidos para ataques manuales pueden ser demasiado lentos para un agente que prueba varios activos al mismo tiempo.

Tercero, las identidades digitales y las credenciales son más importantes, ya que un agente con una cuenta, una clave de API o un token que tiene demasiados permisos puede moverse entre servicios a velocidad de máquina. Cuarto, la seguridad no puede depender solo del trabajo manual, y la supervisión humana necesita una detección, contención y respuesta rápidas detrás de ella.

La AEPD recibió 30,931 quejas en 2025, la mayor cantidad en su historia, y un 64% más que el año anterior. Este incidente destaca la necesidad de que las organizaciones revisen sus modelos de seguridad y protección de datos en respuesta al creciente riesgo de ataques apoyados por IA.

Los casos anteriores involucraron modelos de laboratorios de IA en pruebas, pero este incidente muestra que los ataques apoyados por IA ya no son solo teóricos. La agencia de ciberseguridad de la UE, ENISA, ha utilizado un modelo de OpenAI para encontrar fallos en el código de la UE, y la lista de riesgos de aplicaciones LLM de OWASP para 2026 incluye permisos excesivos de agentes.

Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.