OpenAI, la empresa detrás del popular chatbot ChatGPT, está pagando a cientos de contratistas para leer y calificar conversaciones reales bajo el nombre en código interno Proyecto Lily. Esta práctica ha generado preocupaciones sobre la privacidad de los usuarios, ya que los contratistas pueden ver un resumen de memorias del usuario por encima del prompt, lo que a veces revela para qué ha utilizado el chatbot antes y dónde en el mundo puede vivir.
Según 404 Media, los revisores no ven nombres de usuario, pero aún pueden acceder a información sensible. OpenAI afirma que un modelo de Filtro de Privacidad elimina la información personal primero, pero su propia página para ese modelo dice que puede cometer errores, pasar por alto identificadores poco comunes y subredactar cuando el contexto es limitado.
La empresa no respondió cuando se le preguntó dónde había informado a los usuarios que los humanos podrían leer sus chats. Después de la publicación, OpenAI señaló a una página de ayuda, pero la falta de transparencia ha levantado cejas. Anthropic, otra empresa de inteligencia artificial, confirmó que también utiliza la revisión humana, pero solo para los usuarios que activan la configuración, y dice que elimina los identificadores de cuenta primero.
Google's Gemini lleva una línea que dice que los humanos revisan algunos chats guardados. El Tribunal de Justicia dictaminó el pasado septiembre que el deber del controlador de informar a las personas se aplica antes de cualquier transferencia, y se juzga desde el punto de vista del controlador en lugar del destinatario. Esto significa que si un contratista en Norteamérica podría averiguar quién escribió un prompt no es la prueba; la obligación recaía en OpenAI en el momento en que recopiló la conversación.
El regulador italiano ya ha multado a OpenAI con 15 millones de euros, nueve de ellos por procesar sin una base legal adecuada, y ordenó seis meses de publicidad de información pública en televisión y radio italianas. La configuración predeterminada es importante, ya que 'Mejorar el modelo para todos' está activada para las cuentas gratuitas, Plus y Pro, y desactivada para las cuentas Enterprise, Business y Edu. Desactivarla se aplica a conversaciones nuevas en lugar de antiguas.
OpenAI ha pasado el año vendiendo privacidad a la otra mitad de su mercado, previendo la retención de datos cero para los clientes empresariales en agosto. Sin embargo, los consumidores obtienen la configuración que alimenta el modelo, lo que ha generado críticas. 'No creo que imaginaran que algún contratista en algún lugar estuviera analizando las conversaciones', dijo un revisor. La misma empresa ha estado pidiendo a esos usuarios que conecten sus cuentas bancarias, lo que ha generado aún más preocupaciones sobre la protección de datos.
Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.