Anthropic dijo esta semana que cada pieza de texto o imagen generada por su familia de modelos de IA Claude incluirá una marca de agua invisible. La función se lanza en versiones de Claude lanzadas a partir del 2 de agosto y se aplica en todos los productos con la marca Claude, desde la API hasta Claude Cowork y Claude Tag. Al incorporar señales ocultas directamente en la salida, la empresa espera satisfacer el Código de prácticas de transparencia de la Unión Europea para contenido generado por IA, que obliga a los proveedores de IA a informar a los usuarios cuando interactúan con material producido por máquina.
La marca de agua no es una etiqueta visible que los lectores puedan ver. En su lugar, consiste en variaciones sutiles en el espaciado, la secuencia de palabras u otros patrones estadísticos tejidos en el texto. Esas señales sobreviven a las acciones de copiar y pegar, ya sea que el usuario mueva el contenido desde Windows Notepad, macOS TextEdit o cualquier otro editor. Para las imágenes, la marca de agua toma la forma de metadatos de procedencia firmados incrustados en formatos de archivo como .svg, .png o .jpg. La firma criptográfica registra el origen, el creador y cualquier modificación posterior; la manipulación del archivo rompe la firma y señala que la imagen puede haber sido alterada.
Cómo funciona la marca de agua
Anthropic describió el proceso como una marca de agua a nivel de modelo, lo que significa que los marcadores se hornean en la salida sin importar qué interfaz o superficie de Claude acceda el usuario. En la práctica, un sistema de detección puede analizar el archivo de texto o de imagen y revelar el patrón oculto, confirmando que el contenido se originó en Claude. La empresa aún no ha lanzado las herramientas de detección al público, diciendo que proporcionará más detalles en el futuro.
Mientras que las marcas de agua están diseñadas para persistir a través de la edición rutinaria, Anthropic advirtió que la reescritura pesada, el parafraseo extensivo, la traducción o la mezcla con otras fuentes podrían borrar o oscurecer los marcadores. De manera similar, tomar una captura de pantalla de una imagen generada por Claude y guardarla como un nuevo archivo eliminaría los metadatos de procedencia. Debido a esos límites, la presencia de una marca de agua no prueba automáticamente que cada palabra o píxel fue creado por la IA, ni su ausencia garantiza lo contrario.
Los observadores de la industria ven el movimiento como parte de un impulso más amplio hacia la transparencia de la IA. Substack se asoció recientemente con Pangram para etiquetar publicaciones asistidas por IA, Suno anunció divulgaciones similares para canciones generadas por IA, y LinkedIn ahora permite a los usuarios marcar contenido de IA sospechoso. La función de persona de IA de Spotify también le informa a los oyentes cuando la música involucra inteligencia artificial. La marca de agua de Anthropic se une a esos esfuerzos, ofreciendo una solución técnica que puede ser verificada por máquinas en lugar de confiar solo en etiquetas visibles para los usuarios.
Los críticos señalan que las herramientas de detección de IA han luchado con la precisión, especialmente para hablantes de inglés no nativos cuya escritura puede ser marcada erróneamente como sintética. El enfoque de Anthropic evita algunos de esos obstáculos al incorporar una firma comprobable en la fuente, pero también plantea preguntas sobre cuán fácil será para los desarrolladores de terceros construir detectores confiables.
En una declaración breve, un representante de Anthropic se negó a comentar más sobre los detalles de implementación. La empresa dijo que compartirá orientación de detección más tarde y enfatizó que la marca de agua se aplicará globalmente, no solo dentro de la UE. A medida que los reguladores en todo el mundo endurecen las reglas sobre la divulgación de IA, el paso de Anthropic puede sentar un precedente para otros desarrolladores que buscan equilibrar el cumplimiento con la experiencia del usuario.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.