Anthropic dijo el jueves que todos los modelos Claude comenzarán a marcar su salida con una "marca de agua imperceptible" construida directamente en el proceso de generación de texto. La empresa enmarcó la actualización como una respuesta directa al Artículo 50(2) de la Ley de IA de la Unión Europea, que obliga a los proveedores de sistemas de IA generativa a hacer que sus salidas sean legibles por máquina y detectables como creadas artificialmente, donde sea técnicamente factible.

La marca de agua no es una etiqueta visible ni metadatos ocultos. Anthropic la describe como una huella digital estadística tejida en la etapa de selección de tokens de la generación. A medida que el modelo elige cada palabra siguiente, empuja la distribución de probabilidad hacia un subconjunto preferido de tokens basado en una clave secreta. A lo largo de un pasaje largo —cientos de palabras—, el patrón se vuelve detectable por un detector que conoce la clave, incluso después de que el texto se copie, pegue o edite ligeramente.

Anthropic enfatizó que el nuevo sistema se aplicará a nivel global, no solo a los usuarios en Europa, y se agregará retroactivamente a todas las instancias existentes de Claude. El movimiento posiciona a la empresa por delante de la fecha límite del 2 de agosto de 2026, después de la cual la UE permite un período de transición limitado hasta el 2 de diciembre de 2026 para que los proveedores cumplan con el requisito de transparencia.

La reacción de la industria es mixta. Algunos usuarios acogen con beneplácito una señal clara de que el contenido fue generado por IA, argumentando que podría restaurar la confianza en las comunicaciones digitales. Otros se preocupan de que la marca de agua pueda señalarizar texto escrito legítimamente por humanos que Claude ha editado, lo que podría limitar la utilidad de la herramienta para la corrección de pruebas o la redacción colaborativa. Los críticos también señalan que si la marca de agua resulta fácil de eludir —reformulando el texto con otro modelo, por ejemplo—, su valor podría disminuir.

OpenAI, el fabricante de ChatGPT, se negó a comentar directamente pero señaló a una declaración pública que afirma su compromiso de expandir las señales de procedencia en todos los modos, incluido el texto. Google, que impulsa Gemini, no ha revelado planes específicos. Ambas empresas enfrentan la misma presión regulatoria, aunque no han revelado si adoptarán la marca de agua estadística o otra solución técnica.

Los analistas advierten que la adopción temprana de Anthropic podría tener ramificaciones en el mercado. Si los usuarios perciben la marca de agua como una barrera, podrían migrar a servicios competidores que carecen de dichas marcas. Por el contrario, la empresa podría atraer a clientes que prioricen el cumplimiento y la transparencia, especialmente las empresas que operan bajo estrictas políticas de gobernanza de datos de la UE.

Anthropic no ha lanzado una herramienta de detección ni una descripción detallada del algoritmo, lo que deja a la comunidad en general especular sobre la robustez del método. La empresa dice que la marca de agua sobrevivirá a los flujos de trabajo de edición típicos, pero se necesitará una prueba independiente para confirmar su resistencia contra la ofuscación deliberada.

A medida que se acerca la fecha límite de la UE, la industria de la IA observa de cerca. Si la marca de agua de Anthropic se convierte en un estándar de facto —o en una nota al pie en el debate en curso sobre la transparencia de la IA— dependerá de cómo equilibre eficazmente el cumplimiento regulatorio con las expectativas de los usuarios.

Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.