A empresa de inteligência artificial de Elon Musk, xAI, apresentou duas moções pedindo a um juiz federal que exija que quatro autoras em uma ação coletiva abandonem seus pseudônimos e apareçam em juízo sob seus nomes reais. As autoras — identificadas apenas como Carolina do Sul Doe, Carolina do Sul Roe, Nova Jersey Doe e Ohio Doe — alegam que o chatbot Grok da empresa gerou imagens de deepfakes sexualizadas delas no início do ano, algumas das quais retratam uma menor de idade. Seus affidavit descrevem distresse emocional grave, medo de represálias no local de trabalho e uma ameaça iminente de assédio online se suas identidades se tornarem públicas.

O tribunal no Distrito Norte da Califórnia anteriormente permitiu que as autoras permanecessem anônimas, citando preocupações com a privacidade. Nas suas apresentações de maio, a defesa da xAI argumentou que as regras de procedimento civil geralmente exigem que todas as partes sejam nomeadas e que o interesse público em saber quem está processando a empresa supera qualquer dano especulativo. A empresa também enfatizou que as imagens de deepfakes em si permanecerão seladas, argumentando que revelar a existência de um deepfake não estigmatiza inherentemente a autora.

Representantes das autoras, liderados pela advogada Sophia Rios, da Berger Montague, rebateram o pedido, chamando-o de tática de intimidação destinada a forçar o abandono da ação. A apresentação destaca que os deepfakes foram criados sem consentimento e disseminados online, causando dano "altamente pessoal e embaraçoso". As autoras dizem que considerariam abandonar o caso se forçadas a divulgar seus nomes, um cenário que os estudiosos do direito alertam que poderia estabelecer um precedente desanimador para ações focadas na privacidade.

O mau uso do Grok gerou um clamor global em janeiro, quando os usuários inundaram a plataforma com solicitações de imagens não consentidas de mulheres e crianças. Uma análise do Center for Countering Digital Hate estimou que cerca de três milhões de imagens sexualizadas foram produzidas em um período de 11 dias, com cerca de 23.000 potencialmente envolvendo menores de idade. Em resposta, a SpaceX, que agora é proprietária da xAI, reservou mais de 500 milhões de dólares para lidar com as consequências, incluindo defesas legais e conformidade regulatória.

Especialistas em direito observam que forçar as autoras a revelar suas identidades pode desencorajar futuras ações judiciais. A professora de direito da Universidade da Virgínia, Danielle Citron, advertiu que tais ordens "criam uma situação inaceitável e injusta" ao priorizar a transparência sobre os danos à privacidade que a ação busca remediar. Ela argumenta que o benefício público de saber quem processou é mínimo em comparação com o risco de revitimização.

Ambas as partes ainda não comentaram publicamente sobre as moções. A decisão do tribunal determinará se as autoras podem continuar o caso sob pseudônimos ou devem enfrentar o potencial ataque de retaliação online que elas temem. O resultado pode moldar como os tribunais lidam com ações sensíveis à privacidade contra empresas de tecnologia em uma era de conteúdo gerado por IA cada vez mais sofisticado.

Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.