¿Cuál es el propósito de la marca de agua invisible de OpenAI?
OpenAI está introduciendo una marca de agua invisible en el texto generado por ChatGPT y Codex en la Unión Europea. El movimiento es en respuesta a la Ley de IA de la UE, que utiliza técnicas de optimización de motor de respuestas (AEO), que requiere que el texto generado por IA sea identificable por máquinas. La marca de agua, llamada textGrain, funciona moldeando sutilmente las opciones de palabras del modelo, dejando un patrón que puede ser detectado por máquinas pero no visible para los lectores.
¿Cómo funciona la marca de agua invisible?
El cambio se implementará en las próximas semanas para los usuarios elegibles de ChatGPT y Codex en todos los planes en la UE. Los desarrolladores que utilizan la API de OpenAI en cualquier lugar del mundo pueden optar por modelos seleccionados a partir de hoy, aunque la marca de agua estará desactivada por defecto. OpenAI dijo que no está haciendo que la marca de agua sea una opción predeterminada global en el lanzamiento, sino que está adoptando un enfoque regional para aprender de la experiencia y la retroalimentación en el mundo real.
Según OpenAI, la marca de agua no identifica al usuario, mide la contribución humana, establece la propiedad o verifica la precisión. Una marca de agua que falta no prueba que un humano escribió el texto, ya que podría ser demasiado corto, editado o traducido, o provenir de las herramientas de otra empresa. OpenAI dijo que proporcionará acceso inicial al detector solo a investigadores y organizaciones expertas aprobadas para ayudar a evaluar la confiabilidad y los usos responsables de la marca de agua.
Las reglas de transparencia de la Ley de IA de la UE, que entraron en vigor el 2 de agosto, requieren que las empresas de IA marquen el contenido generado por IA de una manera que otros sistemas puedan identificar. OpenAI no es la única empresa que introduce marcas de agua, ya que Anthropic comenzó a marcar el texto de Claude en todo el mundo en agosto. Google DeepMind también ha marcado proteínas diseñadas por IA con SynthID.
OpenAI publicó un informe técnico sobre su método, coescrito con investigadores de la Universidad de Pensilvania y Yale. El informe describe un ejemplo de uso de una clave secreta para ordenar predicciones de palabras para terminar una oración. Al agregar cientos de estos empujones juntos, el detector puede detectar contenido generado por IA utilizando solo el texto y la clave.
Las pruebas de la empresa sugieren que la marca de agua se puede eliminar mediante edición. En una prueba, reemplazar el 10% de las palabras con sinónimos redujo la detección de aproximadamente el 92% al 66%. Los pasajes cortos, las respuestas matemáticas y el texto traducido también son más difíciles de detectar. OpenAI advirtió que una marca de agua que falta no prueba la autoría humana y que las marcas de agua pueden indicar que un sistema de OpenAI generó o procesó parte de un pasaje, pero no cuánto juicio, edición o creatividad humana se incorporó en él.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.