OpenAI lanzó un enfoque de dos partes el martes con el objetivo de frenar la difusión de imágenes generadas por IA que pueden ser confundidas con fotografías reales. La empresa adoptará el estándar Coalition for Content Provenance and Authenticity (C2PA), que incorpora una etiqueta de metadatos que indica explícitamente que una imagen fue creada por un sistema de IA. En paralelo, OpenAI ha establecido una asociación con Google para incorporar una marca de agua invisible llamada SynthID, que sobrevive a las manipulaciones típicas de imágenes como el cambio de tamaño, las capturas de pantalla o las ediciones digitales.

Ambos mecanismos están diseñados para brindar a periodistas, verificadores de hechos y usuarios comunes una forma confiable de rastrear el origen de una imagen. OpenAI dijo que la señal de metadatos es legible por software de confianza que puede mostrar información de procedencia sin alterar el contenido visual. SynthID, por otro lado, es un patrón criptográfico tejido en los datos de píxeles; sigue siendo detectable incluso después de que la imagen se comprima o altere, lo que hace más difícil para los actores maliciosos borrar la huella de origen de IA.

Para hacer que la verificación sea accesible, OpenAI presentó una herramienta pública que analiza una imagen en busca de la etiqueta C2PA y la marca de agua SynthID. El servicio actualmente solo admite imágenes generadas por los modelos de OpenAI, pero la empresa expresó su esperanza de que la herramienta podría eventualmente manejar la salida de otros generadores a medida que la industria adopte estándares similares.

El estándar C2PA, fundado en 2021, es un esfuerzo sin fines de lucro que busca mitigar los efectos nocivos de los medios sintéticos en el discurso público. Google ya ha integrado C2PA en varios de sus productos, aunque la adopción en el ecosistema tecnológico más amplio sigue siendo desigual. OpenAI reconoce que la etiqueta de metadatos puede ser eliminada o alterada por actores maliciosos, lo que es por qué la marca de agua invisible ofrece una línea de defensa complementaria.

La marca de agua SynthID de Google fue construida específicamente para soportar los tipos de transformaciones que típicamente eliminan las marcas de agua visibles. Al incorporar una señal a nivel de píxel, la marca de agua puede sobrevivir a las capturas de pantalla, la compresión y incluso intentos deliberados de ocultarla. OpenAI destacó que el uso combinado de metadatos y marca de agua crea un sistema de procedencia más resistente que cualquier método por separado.

El anuncio de OpenAI llega en medio de crecientes preocupaciones de que las imágenes generadas por IA están alimentando la desinformación, la propaganda de deep-fake y la publicidad fraudulenta. Al asegurarse de que sus propias herramientas dejen una huella, la empresa espera establecer un estándar para el despliegue responsable de IA. Los críticos señalan que las medidas no abordan la inundación de imágenes producidas por generadores menos reputados que carecen de cualquier señal de procedencia integrada.

“La marca de agua puede ser más duradera a través de transformaciones como las capturas de pantalla, mientras que los metadatos pueden proporcionar más información que una marca de agua sola”, dijo OpenAI en su lanzamiento. “Juntos, hacen que la procedencia sea más resistente que cualquier capa por separado”.

This article was written with the assistance of AI.
News Factory SEO helps you automate news content for your site.