Anthropic confirmó la semana pasada que todos los textos generados por su familia de modelos de lenguaje grande Claude ahora contendrán una marca de agua invisible y detectable por máquina. El movimiento satisface un requisito en la Ley de IA de la Unión Europea, que obliga a los proveedores de modelos a etiquetar audio, imagen, video o texto sintético para que los reguladores y los usuarios puedan identificar material generado por IA. La no conformidad conlleva multas de hasta el 3 por ciento del volumen de negocios anual de la empresa.
Solo unas horas después del anuncio, el desarrollador francés Guillaume Meyer publicó un script de Python que elimina la marca de agua de los textos generados por Claude. El repositorio, alojado en GitHub, reunió más de 20.000 marcadores en X y atrajo a más de 100 contribuyentes que adaptaron el código para sus propios proyectos. "Anthropic está incrustando marcas de agua en sus textos de Claude... el problema es prácticamente historia solo un día después", escribió un especialista en IA en las redes sociales, adjuntando una meme de Meyer rompiendo cadenas.
Workaround de código abierto se propaga
Meyer dice que se motivó por la curiosidad y la creencia de que la marca de agua es una solución defectuosa, no por el deseo de subvertir la transparencia. "No estoy en contra de la atribución de contenido", le dijo a WIRED, "pero la marca de agua introduce grandes desventajas y riesgos". El script funciona alimentando la salida de Claude a un modelo de lenguaje separado y sin marca de agua, que reescribe el pasaje con sinónimos y una ligera reestructuración. El proceso produce un texto que se lee de manera natural mientras elimina el patrón oculto en el que se basa la marca de agua.
Otros ingenieros han seguido su ejemplo. El ingeniero de software Erik Hughes construyó una herramienta de 15 minutos que elimina caracteres invisibles, reordena oraciones y sustituye palabras por sinónimos. El becario visitante de la Universidad de Oxford, Leon Chlon, demostró que traducir la respuesta de Claude a un dialecto lingüísticamente distante, como el árabe, y volver a traducirlo puede borrar la marca de agua, una técnica que Anthropic reconoce en su documentación de cumplimiento.
La rápida proliferación de estas herramientas ha llamado la atención de freelancers, creadores de contenido en redes sociales y fundadores de startups que dependen de Claude para la generación de contenido. Algunos han contactado a Meyer en busca de asistencia, con la esperanza de evitar la marca de agua en los entregables de los clientes. Otros ven el trabajo como un desafío técnico, ansiosos por probar los límites de los mecanismos de aplicación de la Ley de IA.
Anthropic respondió a las consultas con una declaración que enfatiza el cumplimiento y la elección del usuario. "El texto de los modelos de Claude compatibles, incluido Claude Código, llevará una marca de agua invisible que no cambia el significado, la calidad o la legibilidad", dijo la empresa. También prometió una API de detección de texto que los desarrolladores pueden integrar en sus flujos de trabajo para verificar si un fragmento de contenido lleva la marca de agua.
Los críticos argumentan que la invisibilidad de la marca de agua puede degradar la salida de Claude. Al empujar al modelo hacia opciones de palabras específicas para incrustar el patrón, la marca de agua podría desviar sutilmente las respuestas de la fraseología óptima. Wayne Pan, cofundador de la startup de IA Haimaker, advirtió que "no puedes tener una marca de agua que resista todo". Incorporó la herramienta de código abierto de Meyer en su plataforma, citando preocupaciones de que el texto editado o parafraseado podría escapar a la detección, socavando el propósito de la regulación.
Los expertos legales señalan que, si bien las reglas de la UE prohíben a los proveedores ofrecer herramientas de evasión, no prohíben a los desarrolladores independientes crearlas. Esta laguna legal deja el mercado abierto a una dinámica de gato y ratón: los reguladores presionan por una etiquetado transparente, mientras la comunidad de desarrolladores construye métodos para evitarlo.
Con la fecha límite para integrar marcas de agua en nuevos modelos que se acerca en agosto, y los modelos existentes deben actualizarse antes de diciembre, la presión está sobre los laboratorios de IA para perfeccionar sus sistemas de detección y etiquetado. Si la industria puede llegar a un consatego sobre una solución que equilibre la transparencia, la usabilidad y la viabilidad técnica sigue siendo incierto.
Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.