Los usuarios de Reddit descubrieron un fallo de privacidad en la plataforma de IA Claude de Anthropic cuando una búsqueda simple en Google utilizando el operador site:claude.ai/share devolvió una larga lista de conversaciones compartidas. Los resultados incluyeron no solo notas de trabajo rutinarias, sino también información altamente sensible: informes médicos de pacientes reales, datos de ensayos clínicos con nombres de pacientes, documentos corporativos internos marcados como "para uso interno solo" y incluso los nombres y números de teléfono de niños en edad escolar primaria.

La función "compartir chat" de Anthropic genera una URL que cualquier persona con el enlace puede ver. La interfaz advierte a los usuarios que el enlace es "público", lo que implica que solo debe compartirse con partes confiables. En teoría, el enlace no es adivinable y debería permanecer invisible para los motores de búsqueda a menos que el usuario lo publique públicamente. La empresa, sin embargo, señaló el comportamiento de los usuarios como la causa de la exposición.

La portavoz Amie Rotherham le dijo a TechCrunch: "Les damos a las personas el control sobre la compartición de sus conversaciones de Claude públicamente, y en consonancia con nuestros principios de privacidad, no compartimos directorios de chats o mapas del sitio con motores de búsqueda como Google. Estos enlaces compartibles no son adivinables ni descubribles a menos que las personas elijan compartirlos ellos mismos". Agregó que una vez que un usuario hace que una conversación sea pública, puede ser archivada por servicios de terceros al igual que cualquier otro contenido web.

La brecha se hizo pública por primera vez en Reddit el sábado y fue reportada por 404 Media el lunes por la mañana. Para el lunes por la tarde, una búsqueda de prueba realizada por TechCrunch ya no mostraba resultados, lo que indica que Anthropic o los usuarios afectados probablemente habían eliminado los enlaces compartidos públicamente o que Google había desindexado las páginas.

Antes de la aparente resolución, Futurism documentó una variedad de artefactos expuestos: un informe médico detallado de un paciente real, resultados de ensayos clínicos que incluían identificadores de pacientes, documentos que listaban datos personales de niños, fragmentos de código y notas de trabajo. Fortune también destacó una conversación etiquetada como "compartida por Anthropic" que produjo contenido erótico, una clara violación de la política de uso de Claude, que prohíbe el contenido sexualmente explícito. Anthropic no ha comentado sobre cómo se generó ese contenido en particular.

La respuesta de Google, entregada por el portavoz Ned Adriance, enfatizó que los motores de búsqueda no controlan qué páginas se vuelven públicas. "Ni Google ni ningún otro motor de búsqueda controla qué páginas se hacen públicas en la web, y estas páginas se indexaron en muchos motores de búsqueda. Les damos a los propietarios de sitios claros controles para decidir si las páginas pueden ser rastreadas o indexadas, y siempre respetamos esas directivas", dijo.

El incidente refleja un episodio similar del año pasado cuando cientos de chats de Claude fueron indexados por motores de búsqueda, con Google estimando justo por debajo de 600 conversaciones antes de que desaparecieran de los resultados. En ese momento, 404 Media también informó que un investigador raspó aproximadamente 100,000 conversaciones de ChatGPT compartidas públicamente, lo que subraya un desafío más amplio en la gestión de contenido generado por IA que los usuarios consideran privado.

Anthropic aconseja a los usuarios que revisen sus chats compartidos navegando a Configuración → Privacidad → Chats compartidos. La empresa mantiene que la función de enlace compartido está destinada a la colaboración, no a la distribución en internet abierto, y urge a los usuarios a elegir la opción "Mantener privado" cuando se requiere confidencialidad.

Mientras que la exposición inmediata parece haber sido contenida, el episodio ha reavivado el debate sobre cómo las plataformas de IA equilibran la facilidad de colaboración con salvaguardias de privacidad robustas. A medida que más empresas y individuos integran la IA conversacional en flujos de trabajo sensibles, la presión aumenta sobre los desarrolladores para asegurarse de que un solo enlace mal cliqueado no se convierta en un vector de fuga de datos.

Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.