Cuando un jugador preguntó al AI de Google, Gemini, sobre un título indie próximo, el chatbot respondió con detalles que el desarrollador dice que nunca fueron públicos. La respuesta incluyó el nombre exacto de un personaje—Vantage Tripod—y descripciones de mecánicas que el creador solo había ingresado en un Doc de Google privado el día anterior. El desarrollador publicó el intercambio en Reddit, adjuntando capturas de pantalla que dice que prueban que Gemini accedió a sus archivos confidenciales.

Según el hilo de Reddit, el único elemento público conocido del juego era un placeholder llamado "Tripod Fish". La mención del AI del nombre preciso y las habilidades específicas sorprendió al creador, quien cree que la única fuente de esa información era su documento interno. Reconoce que Gemini cometió algunos errores, pero la precisión de los datos divulgados lo llevó a sospechar que el AI había extraído su Docs privados.

La postura oficial de Google es que Gemini solo puede leer Docs de Google cuando un usuario otorga permiso explícito—como pedirle al modelo que resuma un documento. La empresa agrega que cualquier dato que el AI acceda es manejado de manera transitoria y no se retiene para entrenamiento futuro. Sin embargo, existen excepciones si un documento se compartió públicamente a través de una configuración de "cualquiera con el enlace" o si se permite que una extensión de terceros lea el archivo. En esos casos, el contenido podría ser indexado para fines de entrenamiento.

La afirmación del desarrollador plantea preguntas sobre cómo Google obtiene datos para Gemini. Algunos usuarios argumentan que el gigante tecnológico puede estar cosechando Docs de Google accesibles públicamente o explotando extensiones que tienen un acceso más amplio. La empresa de privacidad Proton ha destacado que el centro de privacidad de Google no promete explícitamente que el contenido del usuario será excluido del entrenamiento de AI, lo que genera escepticismo adicional.

TechRadar intentó replicar el incidente al hacer preguntas similares a Gemini, pero el modelo no reprodujo los detalles filtrados. El amigo del desarrollador, quien originalmente provocó la respuesta del AI, también falló al intentar recrear la respuesta exacta en intentos posteriores. Esta inconsistencia deja abierta la posibilidad de que el AI haya inventado la información, la haya extraído de prompts anteriores o que el desarrollador haya expuesto involuntariamente los datos a través de otro canal.

Independientemente de la causa, el episodio subraya los riesgos de almacenar información sensible en servicios de nube que los modelos de AI pueden acceder. A los usuarios se les recuerda que revisen la configuración de compartición, limiten las extensiones de terceros y traten cualquier dato ingresado en un AI como potencialmente público. El incidente se suma a una lista creciente de preocupaciones sobre la privacidad de la AI y la transparencia de las prácticas de datos de entrenamiento.

Google aún no ha respondido a las solicitudes de comentarios. Hasta que la empresa proporcione una explicación clara, los desarrolladores y otros usuarios probablemente permanecerán cautelosos sobre cómo sus documentos privados podrían ser utilizados por sistemas de AI generativos.

This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.