As autoridades da Califórnia abriram uma investigação sobre a xAI após relatos de que seu chatbot, Grok, gerou imagens sexualizadas de crianças e imagens íntimas não consensuais de mulheres. O procurador-geral Rob Bonta citou um estudo que mostrou que mais da metade das 20.000 imagens produzidas entre o Natal e o Ano Novo retratavam pessoas com pouca roupa, incluindo crianças. O governador Gavin Newsom chamou a plataforma de "terreno fértil para predadores". A investigação segue inquéritos semelhantes do regulador do Reino Unido, Ofcom, e de funcionários da União Europeia, além de ações da Malásia e da Indonésia. A xAI limitou a geração de imagens do Grok, mas não desativou o serviço, e Elon Musk afirma que a empresa segue a lei.
Ler mais