Jane Doe 4 se tornou a mais recente autora de um processo que acusa a empresa de inteligência artificial xAI de Elon Musk de não ter impedido que seu chatbot Grok fosse utilizado para fins de abuso sexual infantil. De acordo com um relatório do Washington Post, Doe alega que seu padrasto usou Grok para manipular uma fotografia tirada quando ela tinha 11 anos, produzindo mais de 7.000 imagens explícitas.
A mulher afirma que o padrasto foi encontrado morto por suicídio dois dias após uma operação policial descobrir o material ilegal. "O acesso ilimitado a essas ferramentas está se espalhando muito rapidamente", disse ela a repórteres, acrescentando que isso está transformando a vida cotidiana em abuso sexual infantil.
Três adolescentes do Tennessee entraram com o processo original, acusando a xAI — agora uma subsidiária da SpaceX — de "não ter tomado precauções básicas" para evitar que Grok gerasse imagens sexualizadas de pessoas reais, especialmente menores. Os adolescentes estão pressionando para que o caso seja certificado como uma ação coletiva, o que permitiria que outras vítimas se juntassem à ação.
A queixa aponta um padrão mais amplo de abuso envolvendo Grok. No início deste ano, o chatbot foi inundado com milhões de imagens sexualizadas geradas por usuários, um fato que os autores do processo dizem que deveria ter levado a controles mais rigorosos. Eles argumentam que a falta de salvaguardas da xAI permitiu diretamente a exploração do padrasto da tecnologia.
TechCrunch entrou em contato com a xAI para comentar, mas a empresa ainda não respondeu. O processo destaca as crescentes preocupações sobre como as ferramentas de inteligência artificial gerativa podem ser mal utilizadas quando o acesso é irrestrito.
As autoridades continuam investigando o caso, e os autores do processo incentivaram outras vítimas potenciais a se apresentarem. O arquivo também inclui um lembrete para qualquer pessoa em crise entrar em contato com a Linha de Suicídio e Crise 988.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.