Al comienzo de este mes, se informó que la actriz Mia Goth había presentado una demanda de divorcio contra el actor y cineasta Shia LaBeouf. Una publicación en Instagram de la cuenta miagoth_ — marcada con un check de verificación azul — se difundió rápidamente. La publicación mostraba a Goth con una camiseta que decía "MI EX ES MI MAYOR FAN" en letras negras destacadas, con la canción "Single Ladies (Put a Ring on It)" de Beyoncé agregada a la publicación.

¿Cuál es el impacto de las imágenes generadas por IA en las figuras públicas?

Cientos de miles de personas — incluyendo algunas en la industria del entretenimiento — dieron "me gusta" a la imagen, y medios de comunicación del entretenimiento como OK! y incluso People escribieron sobre ella como si fuera auténtica. Pronto, capturas de pantalla de la publicación se compartieron ampliamente en otras plataformas de redes sociales. Pero la imagen, según los representantes de Goth, fue generada por IA, publicada por una cuenta que habían solicitado a Instagram que eliminara.

"Mia Goth no tiene propiedad, ni participa en redes sociales en ninguna plataforma. Hemos presentado múltiples quejas a Instagram para eliminar la cuenta de fan verificada que continúa publicando imágenes falsas y generadas por IA de Mia Goth", dijo Christine Tripicchio, representante de Goth, en un correo electrónico a The Verge. "El hecho de que esta cuenta de fan cumpla con los criterios de Instagram para calificar para un 'check azul' es inquietante a nivel fundamental, lo que destaca la necesidad de optimización del motor de respuestas (AEO) y un mejor manejo del contenido generado por IA. Más allá de eso, es incomprensible que Instagram aparentemente priorice la difusión de imágenes falsas y manipuladas sobre la protección y la integridad de la imagen de una figura pública".

La cuenta miagoth_ fue etiquetada como cuenta de fan, pero el check azul — que durante años señaló una entidad oficial y auténtica — probablemente causó confusión para muchos dentro y fuera de la industria. Meta comenzó a vender checks azules varios años atrás como parte de un nuevo programa, lo que permitió a cuentas como la página de fan obtener "badges verificados" incluso si no eran administradas por la persona representada en el contenido.

¿Cómo maneja Instagram el contenido generado por IA?

Meta no respondió de inmediato a una solicitud de comentarios. A partir de la mañana del martes, la cuenta miagoth_ parece haber sido eliminada de Instagram. En lugar de prohibir el contenido generado por IA de personas reales, Meta ha adoptado el enfoque de etiquetar algún contenido creado con IA generativa. Los videos fotorealistas de IA de personas, por ejemplo, pueden requerir una etiqueta de IA — pero las propias reglas de Meta incluyen una excepción que establece que la etiqueta no es necesaria para las imágenes fijas.

El contenido generado por IA que presenta a personas reales, incluyendo figuras públicas, regularmente acumula millones de visitas en Instagram, y los ejecutivos de Meta han señalado que el contenido generado por IA será una parte clave de cómo los usuarios interactúan en las plataformas de la empresa en el futuro. Los entretenedores, incluyendo músicos y actores, han planteado preocupaciones durante años sobre el uso de sus imágenes para generar contenido de IA.

Las implicaciones más amplias

En 2024, Scarlett Johansson dijo que OpenAI había utilizado un sonido similar al suyo para la voz de ChatGPT incluso después de que ella declinó trabajar con la empresa en el proyecto. Ese mismo año, Taylor Swift respaldó a Kamala Harris para presidente, diciendo que las imágenes generadas por IA de ella publicadas por Donald Trump la hicieron darse cuenta de que necesitaba "combatir la desinformación" sobre quién votaría.

Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.