Anthropic aclaró el viernes cómo incorporará marcas de agua invisibles en el texto producido por su modelo Claude, un paso destinado a cumplir con la Ley de IA de la Unión Europea. La empresa describió el nuevo sistema como una "versión del enfoque SynthID-Text", una técnica de marca de agua de código abierto creada originalmente por Google DeepMind.

La regulación de la UE requiere que el audio, las imágenes, los videos y el texto sintéticos lleven marcas legibles por máquina que permitan a los detectores señalar el contenido como generado artificialmente. La respuesta de Anthropic es incorporar un patrón sutil en el proceso de selección de palabras de la salida de Claude. El patrón es indetectable para los lectores, pero puede ser identificado por cualquier persona con la clave de detección adecuada.

En la práctica, la marca de agua se basa en decisiones lexicales de bajo riesgo que ocurren a lo largo de un párrafo. Por ejemplo, después de la frase "El clima hoy fue frío y...", un modelo podría elegir aleatoriamente entre "nublado" o "gris", ambas continuaciones razonables. Cuando la marca de agua está activa, la selección aleatoria se basa en una fuente determinista que incorpora una clave secreta y las palabras anteriores, dejando una firma rastreable en todo el texto.

Anthropic enfatiza que la marca de agua no aumentará el precio de Claude ni degradará la calidad de sus respuestas. La empresa asegura a los usuarios que los cambios permanecen transparentes para el usuario final, mientras proporciona a los reguladores un método de detección confiable.

El movimiento refleja los pasos tomados por otros desarrolladores de IA. Google ha empleado SynthID-Text para su chatbot Gemini desde 2024, y OpenAI, aunque silenciosa sobre los planes específicos, enfrenta el mismo plazo de cumplimiento bajo la Ley de IA. Anthropic también anunció el soporte para los estándares C2PA en las imágenes procesadas por Claude, extendiendo sus medidas de transparencia más allá del texto.

Los observadores de la industria señalan que las normas de la UE podrían cambiar la forma en que se construyen y despliegan los productos de IA en todo el mundo. Al adoptar un marco de marca de agua de código abierto, Anthropic se posiciona para cumplir con las demandas regulatorias sin reinventar la tecnología desde cero. El enfoque también señala un cambio más amplio en la industria hacia la incorporación de señales de procedencia directamente en los modelos generativos.

La explicación de Anthropic subraya un creciente consenso: el cumplimiento puede estar integrado en los sistemas de IA sin sacrificar el rendimiento. A medida que se acerca el plazo de aplicación de la Ley de IA, es probable que más desarrolladores sigan el ejemplo, integrando marcadores invisibles similares para asegurar a los reguladores y a los usuarios de que el contenido sintético puede ser identificado de manera confiable.

Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.