xAI demanda a un usuario por generar material de abuso sexual infantil con el chatbot Grok

Key Points

A xAI processou o usuário Harwood por gerar repetidamente CSAM com seu chatbot Grok.
A queixa alega que Harwood usou promptings enganosos para contornar as salvaguardas do Grok.
Harwood continuou a usar o serviço após ser banido, violando os termos de serviço da xAI.
A xAI busca uma decisão judicial que estabeleça que sua cláusula de indenização coloca a responsabilidade total sobre o usuário por saídas de IA.
Qualquer CSAM detectado pelo Grok é relatado ao National Center for Missing & Exploited Children.
Danos potenciais incluem prejuízo a terceiros, exposição a ações judiciais e perda de reputação para a xAI.
O caso pode influenciar como as empresas de IA redigem cláusulas de responsabilidade e fazem cumprir políticas de proteção à criança.

A startup de inteligência artificial xAI entrou com uma ação judicial em um tribunal distrital dos EUA contra um usuário identificado como Harwood, acusando-o de violar repetidamente os termos de serviço da empresa ao usar seu chatbot Grok para criar material de abuso sexual infantil (CSAM) e outras imagens íntimas não consensuais (NCII).

A queixa alega que Harwood deliberadamente contornou as salvaguardas do Grok, continuou a produzir conteúdo proibido após violações anteriores e que a xAI deve ser ressarcida de qualquer responsabilidade, colocando a responsabilidade total sobre o usuário por ambas as entradas e saídas.

Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.

También disponible en:

English USxAI Sues User for Generating Child Sexual Abuse Material with Grok Chatbot Español COxAI demanda a un usuario por generar material de abuso sexual infantil con el chatbot Grok