Investigadores de seguridad que escaneaban activos web corporativos encontraron que un estándar de documentación mal configurado está entregando silenciosamente código ejecutable a agentes de IA, lo que provoca instalaciones en algunas de las empresas más grandes del mundo.
El equipo, con sede en una startup de stealth en Israel, examinó 6,214 dominios en vivo que pertenecen a contratistas de defensa, empresas de Fortune 500 y empresas de tecnología importantes. Su búsqueda descubrió 8,265 archivos llms.txt y llms-full.txt – el contraparte de IA del clásico robots.txt – que están diseñados para proporcionar resúmenes de sitios legibles por máquina.
Probando la vulnerabilidad
De esos archivos, 120 en sitios distintos hacían referencia a uno o más paquetes de código o nombres de dominio que no estaban registrados. Para ver qué sucedería cuando un agente de IA encontrara dichas referencias, los investigadores registraron una handful de los nombres no reclamados y alojaron paquetes mínimos que simplemente registraban cualquier solicitud de entrada.
Dentro de una hora, el agente de IA de una empresa de Fortune 500 se comunicó con el servidor de los investigadores. A lo largo de los días siguientes, la baliza registró varias decenas de señales de llamada adicionales, algunas de otras empresas de Fortune 500 y varias startups. Los registros trazaron una cadena de procesos principales que finalmente apuntaron a tres agentes de codificación de IA: Anthropic's Claude, OpenAI's Codex y Nous Research's Hermes.
Anthropic, OpenAI y Nous Research no respondieron a las solicitudes de comentarios antes de la publicación.
"El modelo de confianza está roto", dijo Alon Hertz, uno de los investigadores, en una entrevista. "Los agentes tratan la documentación del proveedor como verdad absoluta y no la cuestionan – y tampoco lo hacen los humanos que los supervisan. El uso de IA agente está explotando, y los agentes se están extendiendo por todas las capas – SaaS, cloud, endpoint. A medida que se multiplican, también lo hace la superficie de la cadena de suministro, y los guardias de hoy no la cubren".
El descubrimiento destaca una nueva superficie de ataque para la automatización impulsada por IA: los archivos llms.txt mal curados pueden actuar como un conducto para código malicioso, evitando las comprobaciones de seguridad web tradicionales que se centran en contenido orientado a humanos. Los expertos de la industria advierten que, a medida que los agentes de IA se vuelven más autónomos, las organizaciones necesitarán auditar la documentación legible por máquina con el mismo rigor que se aplica al código ejecutable.
Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.