A venture de inteligência artificial de Elon Musk, xAI, tomou medidas legais contra um único usuário, um homem chamado Harwood, que a empresa afirma ter repetidamente abusado de seu chatbot Grok para gerar material de abuso sexual infantil (CSAM) e outras imagens íntimas não consensuais (NCII). A queixa, apresentada em um tribunal distrital dos EUA, afirma que Harwood ignorou as salvaguardas do chatbot, utilizando "promptings enganosos" para coagir o sistema a produzir conteúdo ilegal.
A xAI argumenta que a conduta de Harwood violou os termos de serviço da empresa, que ele havia concordado em respeitar quando se inscreveu. De acordo com a apresentação, Harwood foi banido após uma violação inicial, mas "continuou a usar o Grok durante o Período Relevante" apesar da proibição. A ação judicial não indica que a xAI tenha alertado Harwood de que sua conta estava em risco de penalidades; em vez disso, afirma que ele sabia que persistia na atividade ilícita.
A empresa busca uma decisão judicial que estabeleça que uma cláusula de indenização em seu acordo de usuário a protege de qualquer responsabilidade por CSAM ou NCII gerados pelo Grok. Sob essa cláusula, a responsabilidade por ambas as entradas e saídas recai exclusivamente sobre o usuário. A xAI também observa que qualquer CSAM descoberto por seus sistemas é relatado ao National Center for Missing & Exploited Children (NCMEC), destacando seu cumprimento das obrigações de relatórios de aplicação da lei.
Se o tribunal decidir a favor da xAI, Harwood pode ser responsabilizado por danos substanciais. A queixa lista possíveis responsabilidades que variam de "qualquer prejuízo real a terceiros" a "exposição a possíveis reivindicações e ações judiciais de terceiros" e até "danos à reputação" sofridos pela xAI. A empresa também destaca que o Escritório de Direitos Autorais dos EUA não considera imagens geradas por IA como obras criadas por humanos, um fator que pode complicar argumentos sobre a responsabilidade do usuário pelas saídas.
Especialistas em direito observam que o caso depende de saber se um usuário pode ser responsabilizado por conteúdo produzido por uma ferramenta de IA que ele opera, especialmente quando as salvaguardas internas da ferramenta são projetadas para bloquear material ilegal. O resultado pode estabelecer um precedente para como as empresas de IA estruturam cláusulas de responsabilidade e fazem cumprir a conformidade com leis de proteção à criança.
Enquanto a xAI busca indenização, a ação judicial também serve como um aviso a outros usuários de que tentativas de contornar mecanismos de segurança de IA serão enfrentadas com medidas legais agressivas. A apresentação destaca a crescente tensão entre o desenvolvimento rápido de IA e a necessidade de salvaguardas robustas contra o uso indevido.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.