Atacantes han usado inteligencia artificial para encontrar fallas de software y explotarlas sin intervención humana, dijo Google el lunes. La compañía afirma que es la primera vez que observa este tipo de caso. El hallazgo aparece en el más reciente informe de amenazas de IA del Google Threat Intelligence Group (GTIG) y Mandiant.
¿Cómo usaron los atacantes la IA para convertir parches en exploits?
GTIG encontró la herramienta, que la compañía llama exploit_agent, en un servidor de pruebas expuesto. La herramienta funciona con varios modelos de IA de frontera y modelos que se ejecutan localmente. Compara el código de software web popular antes y después de cada parche, detecta posibles fallas y luego escribe exploits y los ejecuta por su cuenta.
En la edición anterior del informe trimestral, publicada dos meses antes, GTIG dijo que no había visto el uso de cadenas de ataque totalmente autónomas contra objetivos, según informó SiliconANGLE.
El servidor también contenía datos robados a víctimas. Incluía scripts para forzar contraseñas por fuerza bruta, instalar webshells y eliminar las webshells de atacantes rivales. Un archivo de configuración tenía comentarios en ruso. Los datos de las víctimas sugieren que el operador apuntaba a sitios web de medios, entretenimiento y educación en Francia, según GTIG.
Del parche al exploit
¿Por qué las fallas parchadas son objetivos más fáciles para la IA?
Las fallas parchadas podrían ser objetivos más fáciles para la IA que las desconocidas, dijo Google. Los atacantes pueden estudiar un conjunto finito de material: código antiguo y nuevo, notas de publicación e investigaciones públicas.
La compañía señaló dos fallas en los servidores de impresión PaperCut que los atacantes encadenaron a finales de agosto. Investigadores y la firma de seguridad Huntress usaron IA para construir exploits funcionales en menos de un día desde su divulgación. Cuatro días después de la divulgación, un atacante probablemente usó IA para ejecutar una campaña contra cientos de organizaciones, according a GreyNoise.
Después de que se parchearan las fallas de PHP en octubre, aparecieron cientos de exploits de prueba de concepto que no funcionaban. Según el informe, la IA probablemente produjo muchos de ellos.
Marcos de código abierto en el mundo real
¿Ya se usan en ataques reales marcos de hacking construidos con IA?
Varios grupos utilizan ahora marcos de hacking con IA de código abierto en ataques reales, dijo GTIG. Entre ellos hay bandas motivadas por ganancias económicas y presuntos grupos de espionaje chinos. GTIG vio el marco CAIRN usado contra objetivos que incluyen el sector aeroespacial de Estados Unidos.
Estas herramientas son ruidosas y dejan rastros que facilitan su detección, dijo Google. Pero la compañía espera que los atacantes dependan menos de las personas y sean más sigilosos a medida que las herramientas mejoren.
“Creemos que es altamente probable que los actores de amenazas sigan usando estos marcos en campañas dirigidas a organizaciones en todo el mundo”, escribió GTIG.
El informe también describe atacantes que roban credenciales de nube e IA para ejecutar modelos en las cuentas de las víctimas. En algunos casos, los cargos fraudulentos superaron los 100.000 dólares en un solo día. Un ataque aprovechó una falla en la puerta de enlace LiteLLM. Un presunto grupo norcoreano modificó archivos de configuración de Claude Code dentro de empresas para que cada inicio descargara una puerta trasera.
Google afirma que desactivó las cuentas y los activos vinculados al uso indebido de sus modelos Gemini.
Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.