Un investigador de seguridad sembró cerca de 2 millones de secretos falsos rastreables en indicaciones de IA enviadas a través de la red de enrutadores y revendedores de la que dependen muchas aplicaciones de IA. Luego observó adónde terminaron. Muchos de ellos aparecieron en lugares a los que nunca debieron llegar.

\n

El experimento fue diseñado para probar si la información sensible puede filtrarse mientras pasa por la cadena de servicios de IA de uso generalizado, y qué sucede con esa información si ocurre. Muchas aplicaciones de IA no se conectan directamente con un proveedor importante de modelos, como Anthropic u OpenAI. En su lugar, envían las solicitudes a intermediarios como OpenRouter o Vercel. Estos llamados enrutadores de IA, a veces conocidos como pasarelas de IA, reciben las indicaciones de los usuarios de las aplicaciones y las envían a un motor de inferencia disponible, a menudo eligiendo el de menor precio o el que mejor se ajusta a la tarea. El desarrollador contrata al enrutador para que elija el modelo.

\n

¿Cómo probaron los investigadores si las indicaciones de IA filtran datos?

HD Moore, director de investigación de Dragos, construyó la prueba en torno a lo que llamó canarios, en referencia a las aves que antiguamente se llevaban a las minas de carbón para advertir la presencia de gas. Reunió claves de acceso de Amazon Web Services vinculadas a cuentas vacías, contraseñas de servicios como SSH, y URL únicas, nombres DNS y referencias a repositorios git privados. Ninguna había sido usada jamás. Él controlaba la infraestructura que recibía cualquier solicitud que las utilizara. Colocó cada secreto en exactamente una indicación enviada a un solo proveedor, de modo que cualquier filtración pudiera rastrearse hasta el eslabón responsable.

\n

Tres proveedores de alojamiento vulnerados

\n

El hallazgo más grave fue que los atacantes habían comprometido a tres proveedores de alojamiento distintos. Los intrusos reutilizaron lo que Moore describió como «un par de cientos» de las claves de AWS.

\n

Moore escribió que cada clave se envió en una solicitud a un proveedor, todas dentro de unas pocas ventanas breves a finales de octubre, y que cada solicitud enviada durante esas ventanas fue robada. Algunas de las claves provenían de solicitudes que el proveedor rechazó antes de que se ejecutara cualquier modelo. Eso, escribió, demostraba que el atacante estaba copiando las solicitudes en la puerta de entrada del proveedor, y no en algún punto más profundo del sistema. En las otras dos vulneraciones, algunas de las solicitudes robadas estaban marcadas como Zero Data Retention, una configuración destinada a impedir el almacenamiento. «Una marca de privacidad no sirve de nada cuando el atacante ya está adentro», escribió.

\n

Las personas detrás de las vulneraciones probaron las claves robadas, en algunos casos a las pocas horas de que se enviaran los secretos. Buscaron en buckets de S3, gestores de secretos y almacenes de parámetros más credenciales. Intentaron habilitar modelos alojados en AWS Bedrock y añadieron sus propios usuarios de IAM para conservar el acceso. En total, las claves señuelo se usaron «decenas de miles de veces» en llamadas a la API de AWS.

\n

Los secretos enviados a dos de los proveedores vulnerados se usaron juntos, casi de inmediato, desde el mismo servidor alquilado. Moore concluyó que el mismo adversario casi con certeza había comprometido a ambos.

\n

Revendedores y un laboratorio chino de IA

\n

¿Qué proveedores de alojamiento y revendedores expusieron secretos?

Algunos de los secretos fueron tomados por los propios revendedores. Moore descubrió que ciertos vendedores ofrecían precios bajos para atraer indicaciones, y luego activaban el registro de solicitudes y esperaban. Los identificó enviando solicitudes del mismo modelo a través de distintos vendedores. Cuando una credencial aparecía después solo tras haber sido enrutada por un vendedor y no por otro, supo que el responsable era el revendedor y no el proveedor del modelo.

\n

La prueba también mostró que algunos proveedores extraían URL secretas de las indicaciones, en aparente violación de sus términos de privacidad. El caso más claro involucró a un laboratorio chino de IA. Sus sistemas obtuvieron las URL secretas de más de la mitad de las indicaciones enviadas a sus modelos entre julio y octubre, escribió Moore. Eso incluyó aproximadamente dos tercios de las solicitudes marcadas como «sin recolección de datos» o Zero Data Retention. El raspador solía aparecer dos o tres días después de la solicitud.

\n

El problema fue más allá del tráfico directo. Varios proveedores de alojamiento estadounidenses revenden los modelos del laboratorio, y las indicaciones enviadas a esos proveedores activaron el mismo raspador. Moore escribió que un cliente que eligió un proveedor estadounidense específicamente para mantener los datos en el país «no recibió lo que pagó». Más tarde, un cliente git de una nube distinta comenzó a intentar clonar los repositorios privados referenciados en las indicaciones, pero solo en el caso de las indicaciones que usaban los modelos de este laboratorio.

\n

Moore también informó que un proveedor de alojamiento estadounidense seguía rastreando una URL secreta más de dos meses después de que apareciera en una única llamada de inferencia a su punto de acceso de búsqueda. Otro ejecutaba un raspador que volvía a consultar las URL días después de cada solicitud, sin importar qué enrutador de IA la hubiera enviado.

\n

Lo que pueden hacer los usuarios

\n

¿Qué pueden hacer los usuarios para mantener privadas las indicaciones de IA?

Moore dijo que la forma más eficaz de prevenir la filtración es alojar los modelos en servidores locales. Sin embargo, esa opción es costosa. Para las empresas que no pueden costearla, recomendó usar un proveedor de primer nivel que ofrezca «un solo contrato y una política de privacidad para leer». Aun así, dijo, nada garantiza que los datos no se filtren, aunque el enfoque reduce las probabilidades. También aconsejó a los usuarios evitar los grupos predeterminados de proveedores o revendedores y elegir ellos mismos a los proveedores de origen.

\n

Para cualquiera que intente mantener los secretos fuera de las indicaciones de IA, los hallazgos apuntan a un problema difícil sin solución rápida. La cadena de enrutadores, revendedores y hospedajes significa que una indicación sensible puede registrarse o copiarse en varios puntos, y las configuraciones de privacidad en un eslabón pueden no proteger a los demás.

Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.