¿Google Gemini envía archivos de Drive y correos electrónicos a revisores humanos?
Google revirtió una promesa de privacidad que hizo cuando lanzó las extensiones de Gemini Workspace en 2023. En ese momento, la compañía dijo que el contenido personal de Gmail, Docs y Drive "no es visto por revisores humanos". Ahora, la documentación de ayuda de Google actualizada y una edición del 16 de octubre en la publicación original del blog de 2023 confirman que los datos conectados de Drive y del correo electrónico pueden pasar a los procesos de revisión humana.
Las advertencias en los materiales revisados son contundentes. Google afirma que lo que ven los revisores "puede ser solo el correo electrónico o el archivo", y le dice a los usuarios: "no conecte sus aplicaciones a Gemini Apps si contienen información confidencial que no querría que un revisor viera".
Un análisis técnico detallado de la función encontró que Gemini no necesita que se le pida buscar archivos personales. Según el análisis, las menciones casuales de temas personales, como viajes, facturas, nombres y reservas, pueden activar búsquedas en segundo plano en Workspace, incluso cuando los usuarios nunca escriben @Drive o @Gmail. El autor afirma que la ingestión ocurre de forma autónoma durante las conversaciones habituales.
Los resultados varían porque el sistema subyacente es probabilístico. El análisis describe cuatro posibles resultados cuando un usuario ejecuta una consulta de prueba. En el primero, Gemini nunca llama a la herramienta de aplicaciones conectadas y no se extraen datos personales. Esto es lo más probable cuando el modelo puede responder con su propio entrenamiento o con conversaciones anteriores, incluso en hilos diferentes. En el segundo, Gemini extrae correos o archivos y produce un resumen general, como "Tiene 3 correos sobre su vuelo". El tercero es una extracción parcial, en la que Gemini cita de dos a cuatro oraciones de un archivo, a menudo con datos de cuentas o cifras específicas. En el cuarto, el texto completo de un documento o correo entra en el contexto de la conversación.
Por qué una sola prueba limpia demuestra poco
¿Puede una sola prueba con Gemini mostrar si se extraen datos personales?
El análisis sostiene que un único resultado negativo no descarta el proceso. Si una prueba arroja el primer o el segundo resultado, dice el autor, el usuario solo ha visto una muestra de un sistema no determinista. Para repetir la prueba, el autor recomienda eliminar la conversación existente para que Gemini no pueda basarse en su historial.
El autor describe la prueba de la función con una factura de internet que estaba en una bandeja de entrada. Al preguntar a Gemini "Me pregunto si estoy pagando demasiado por el servicio de internet", se produjeron los cuatro resultados en repetidas pruebas. Algunas respuestas fueron genéricas. Otras resumieron un pago de 122 dólares del 4 de septiembre, y algunos de esos resúmenes incluyeron el nombre completo, el número de cuenta y el número de confirmación. Algunas ejecuciones devolvieron citas textuales de dos a seis oraciones del correo. En un caso, según informa el autor, Gemini volcó todo el correo, incluidos los encabezados.
¿Pueden los filtros de Google eliminar los datos que identifican en los datos de Gemini?
El análisis también cuestiona las salvaguardas de Google. Afirma que los filtros de expresiones regulares y de reconocimiento de entidades nombradas de Google no pueden eliminar adecuadamente los datos identificativos de los datos narrativos. Esto incluye números de cuenta, números de confirmación y fechas de transacción. También abarca combinaciones de detalles, como un nombre de pila, una ciudad y un evento específico, que pueden identificar a una persona cuando se juntan.
El problema central, tal como lo plantea el análisis, es una promesa incumplida. Google comercializó la integración de Workspace con la garantía de un aislamiento estricto de la revisión humana. Según el autor, ese aislamiento se ha eliminado. Los archivos completos ahora se ingieren de forma probabilística durante conversaciones casuales, y esas sesiones están sujetas a revisión por contratistas humanos.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.