Una foto falsa de Instagram de la actriz Mia Goth con una camiseta que decía “MI EX ES MI MAYOR FAN” logró casi 500.000 me gusta en cuestión de días. Fue generada íntegramente con IA y publicada por una cuenta con más de un millón de seguidores y una marca de “verificado” azul. La imagen apareció justo después de que Goth solicitara el divorcio del actor y cineasta Shia LaBeouf, y estaba diseñada para parecer una indirecta contra él.

La cuenta, @miagoth_, estaba identificada como página de fans. Eso no impidió que colegas de la industria del entretenimiento interactuaran con la publicación. La representante de Goth, Christine Tripicchio, le dijo a The Verge que la cuenta había cumplido los requisitos para obtener la marca azul, lo que calificó como “desconcertante en un nivel fundamental”. Afirmó que los administradores de la cuenta ya habían sido reportados ante Instagram por publicar “imágenes falsificadas generadas con IA” de Goth.

Meta permite que los usuarios compren marcas de verificación azules, incluso cuando la cuenta no es administrada por una figura prominente o no es una página oficial. En este caso, la verificación le dio a la imagen falsa una credibilidad que no merecía.

La publicación se extendió mucho más allá de Instagram. Debido a la noticia del divorcio, sitios de chismes de celebridades recogieron la imagen y escribieron sobre ella, y esa cobertura alimentó los resultados de búsqueda de Google. Al buscar a Goth o la camiseta, aparecía un resumen generado con IA que decía que la actriz estaba “lanzando una clara indirecta a su ex, Shia LaBeouf, tras la reciente solicitud de divorcio”. El resumen citaba los blogs que habían cubierto la publicación. Un resultado de búsqueda titulado con la cita falsa también aparecía de forma destacada, con enlaces a publicaciones en redes sociales sobre la foto. Instagram terminó eliminando la cuenta por suplantar a una figura pública.

El caso de Goth es un ejemplo de un problema mucho mayor. Las personas famosas han sido blanco frecuente de las herramientas de IA de consumo desde que se volvieron ampliamente disponibles hace varios años. Una canción generada con IA que imitaba la voz de Drake fue retirada de YouTube tras reclamaciones por derechos de autor. Scarlett Johansson contrató a un equipo legal después de que OpenAI lanzara una voz de ChatGPT que sonaba como la suya, algo que ella no autorizó. Según informes, Ariana Grande bloqueó una cuenta que publicó contenido de IA con su imagen el año pasado. Taylor Swift respaldó públicamente a Kamala Harris para la presidencia en 2024, y dijo que se sintió obligada a aclarar su postura después de que Donald Trump publicara imágenes falsas que sugerían que ella lo había respaldado a él.

El contenido que involucra a figuras públicas femeninas suele ser sexual. Un perfil que publica únicamente imágenes de IA de Johansson, en las que frecuentemente aparece con los pies descalzos, incluía información de contacto para anunciantes y enlaces a canales de Patreon y Telegram que venden suscripciones. Otra cuenta publica imágenes realistas de IA de actores y músicos, entre ellos Millie Bobby Brown, Zendaya y Grande, casi siempre parcialmente desnudos o en poses sugerentes.

Después de que The Verge le preguntara a Meta por ocho cuentas que publicaban deepfakes de celebridades, el portavoz Alex Dziedzan dijo que la compañía había eliminado algunas de ellas. La cuenta de Goth y la de Johansson parecen haber sido dadas de baja. “No permitimos que las cuentas usen la imagen de alguien para hacerse pasar por esa persona, sin importar si el contenido es auténtico o generado con IA”, dijo Dziedzan en un correo electrónico.

No todo el contenido es malintencionado. Instagram está lleno de videos de celebridades generadas con IA haciendo playback de canciones populares. Uno muestra a Taylor Swift cantando rap junto a una canción de Drake y tiene 1,8 millones de reproducciones. Otros presentan versiones de IA de Shrek, Steve Jobs, Lionel Messi y los pilotos de Fórmula 1 Lewis Hamilton y Max Verstappen, algunos con millones de visualizaciones. Muchos son evidentemente falsos, pero los espectadores a menudo parecen no importarles.

Reglas desiguales entre plataformas

En Estados Unidos no existe una ley federal de derecho de publicidad que regule las semejanzas generadas con IA, por lo que las disputas sobre contenido de IA con personas reales se resuelven en gran medida por las propias plataformas. La Ley federal Take It Down, firmada en 2025, convierte en delito la distribución de imágenes íntimas no consentidas, incluidas las generadas con IA, y obliga a las plataformas a eliminarlas en un plazo de 48 horas.

YouTube tiene un programa de detección de semejanza que busca coincidencias visuales de una persona y, más recientemente, voces similares. Las personas inscritas en el programa pueden solicitar la retirada de contenido. YouTube afirma que evalúa el interés público, la relevancia noticiosa y el consentimiento antes de actuar sobre una solicitud. El programa comenzó con figuras públicas como celebridades, creadores de contenido, políticos y periodistas, y ahora abarca a todos los adultos con una cuenta de YouTube. El portavoz de YouTube, Jack Malon, dijo que el sistema fue desarrollado junto con la industria del entretenimiento y que la compañía eliminó más del 95 por ciento de los videos reportados a través de él en la primera mitad de 2026.

Las normas de Meta son más laxas. La compañía exige una etiqueta de IA en los videos realistas de personas y en el audio de voz generado con IA. Las imágenes fijas están exentas, lo que significa que la foto falsa de Goth no habría requerido ninguna advertencia. Meta también añadió etiquetas de “perfil generado con IA” para cuentas cuyos avatares representan personas que no existen.

Incluso después de que se elimina una cuenta, otras siguen publicando. Una cuenta de Johansson con más de 300.000 seguidores seguía activa al momento de la publicación de este reporte. Publica una mezcla de imágenes reales y generadas con IA, y su imagen de IA más popular, que muestra a Johansson recostada en un sofá con los pies descalzos en primer plano, tiene casi medio millón de me gusta. La publicación no lleva ninguna advertencia de IA, que las normas de Meta no exigen para imágenes fijas. Los comentaristas parecen saber que la imagen no es realmente de ella, pero a muchos no parece importarles.

This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.