Uma falsa foto de Instagram da atriz Mia Goth vestindo uma camiseta com a frase “MEU EX É MEU MAIOR FÔ recebeu quase 500 mil curtidas em poucos dias. Ela foi inteiramente gerada por IA e publicada por uma conta com mais de um milhão de seguidores e o selo azul de “verificado”. A imagem surgiu logo depois de Goth pedir divórcio do ator e cineasta Shia LaBeouf, e foi concebida para parecer uma alfinetada contra ele.
A conta, @miagoth_, estava identificada como página de fã. Isso não impediu que colegas do setor de entretenimento interagissem com a publicação. A representante de Goth, Christine Tripicchio, disse ao The Verge que a conta havia se qualificado para o selo azul, algo que ela classificou como “perturbador em um nível fundamental”. Ela afirmou que os operadores da conta já haviam sido denunciados ao Instagram por publicar “imagens falsificadas geradas por IA” de Goth.
A Meta permite que usuários comprem selos azuis, mesmo quando a conta não é administrada por uma figura de destaque ou não é uma página oficial. Neste caso, a verificação deu à imagem falsa uma credibilidade que ela não merecia.
A publicação se espalhou muito além do Instagram. Por causa da notícia do divórcio, sites de fofoca de celebridades pegaram a imagem e escreveram sobre ela, e essa cobertura alimentou os resultados de busca do Google. Uma pesquisa por Goth ou pela camiseta retornou um resumo gerado por IA afirmando que a atriz estava dando “uma clara indireta ao ex, Shia LaBeouf, após o recente pedido de divórcio”. O resumo citava os blogs que tinham noticiado a publicação. Um resultado de busca com a citação fabricada como título também aparecia em destaque, com links para publicações sobre a foto nas redes sociais. O Instagram acabou removendo a conta por se fazer passar por uma figura pública.
O caso de Goth é um exemplo de um problema bem maior. Pessoas famosas são alvo frequente de ferramentas de IA para consumidores desde que elas se tornaram amplamente disponíveis, há alguns anos. Uma música de IA que imitava a voz de Drake foi retirada do YouTube após notificações de direitos autorais. Scarlett Johansson contratou uma equipe jurídica depois que a OpenAI lançou uma voz do ChatGPT que soava como ela, algo que ela não autorizou. Ariana Grande teria bloqueado uma conta que publicou conteúdo gerado por IA com a imagem dela no ano passado. Taylor Swift declarou apoio publicamente a Kamala Harris para a presidência em 2024, dizendo que se sentiu obrigada a esclarecer sua posição depois que Donald Trump publicou imagens falsas sugerindo que ela o apoiava.
Conteúdos envolvendo figuras públicas femininas costumam ter teor sexual. Um perfil que publica apenas imagens de IA de Johansson, frequentemente mostrando os pés descalços dela, listou informações de contato para anunciantes e direcionava para canais no Patreon e no Telegram que vendem assinaturas. Outra conta publica imagens realistas de IA de atores e músicos, como Millie Bobby Brown, Zendaya e Grande, quase sempre parcialmente despidos ou em poses sugestivas.
Depois que o The Verge perguntou à Meta sobre oito contas que publicavam deepfakes de celebridades, o porta-voz Alex Dziedzan disse que a empresa havia removido algumas delas. A conta de Goth e a conta de Johansson parecem ter sido derrubadas. “Não permitimos que contas usem a imagem de alguém para se passar por essa pessoa, independentemente de o conteúdo ser autêntico ou gerado por IA”, disse Dziedzan em um e-mail.
Nem todo o conteúdo é malicioso. O Instagram está cheio de vídeos de celebridades geradas por IA fazendo dublagem labial de músicas populares. Um deles mostra Taylor Swift rapando sobre uma faixa de Drake e tem 1,8 milhão de visualizações. Outros trazem versões de IA do Shrek, Steve Jobs, Lionel Messi e dos pilotos de Fórmula 1 Lewis Hamilton e Max Verstappen, alguns com milhões de visualizações. Muitos são obviamente falsos, mas o público costuma não se importar.
Regras desiguais entre plataformas
Não existe nos Estados Unidos uma lei federal de direito de imagem que regule as semelhanças geradas por IA, por isso as disputas sobre conteúdos de IA com pessoas reais são, em sua maioria, resolvidas pelas próprias plataformas. A Lei Take It Down, federal e sancionada em 2025, torna crime a distribuição de imagens íntimas não consentidas, incluindo imagens geradas por IA, e exige que as plataformas as removam em até 48 horas.
O YouTube mantém um programa de detecção de semelhança que busca correspondências visuais de uma pessoa e, mais recentemente, vozes semelhantes. Pessoas inscritas no programa podem solicitar a remoção de conteúdos. O YouTube afirma que avalia o interesse público, a relevância jornalística e o consentimento antes de agir sobre um pedido. O programa começou com figuras públicas, como celebridades, criadores de conteúdo, políticos e jornalistas, e hoje abrange todos os adultos com uma conta no YouTube. O porta-voz do YouTube, Jack Malon, disse que o sistema foi desenvolvido em parceria com a indústria do entretenimento e que a empresa removeu mais de 95% dos vídeos denunciados por meio dele no primeiro semestre de 2026.
As regras da Meta são mais flexíveis. A empresa exige um rótulo de IA em vídeos realistas de pessoas e em áudios de voz gerados por IA. Imagens estáticas são isentas, o que significa que a falsa foto de Goth não precisaria de aviso. A Meta também acrescentou rótulos de “perfil gerado por IA” para contas cujos avatares retratam pessoas que não existem.
Mesmo depois que uma conta é removida, outras continuam publicando. Uma conta de Johansson com mais de 300 mil seguidores permanecia ativa no momento da apuração. Ela publica uma mistura de imagens reais e geradas por IA, e sua imagem de IA mais popular, que mostra Johansson deitada em um sofá com os pés descalços em primeiro plano, tem quase meio milhão de curtidas. A publicação não traz nenhum aviso de IA, o que as regras da Meta não exigem para imagens estáticas. Os comentaristas parecem saber que a foto não é de fato dela, mas muitos não parecem se importar.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.