xAI demanda a un usuario por generar material de abuso sexual infantil con el chatbot Grok

Key Points

xAI ha demandado al usuario Harwood por generar repetidamente CSAM con su chatbot Grok.
La queja alega que Harwood utilizó promptos engañosos para evadir las salvaguardias de Grok.
Harwood continuó utilizando el servicio después de ser prohibido, violando los términos de servicio de xAI.
xAI busca una sentencia del tribunal que establezca que su cláusula de indemnidad coloca la responsabilidad total en el usuario por las salidas de la IA.
Cualquier CSAM detectado por Grok es informado al Centro Nacional para Niños Desaparecidos y Explotados.
Los daños y perjuicios potenciales incluyen daños a terceros, exposición a demandas y pérdida de reputación para xAI.
El caso puede influir en cómo las empresas de IA redactan cláusulas de responsabilidad y hacen cumplir las políticas de protección infantil.

La startup de inteligencia artificial xAI ha presentado una demanda en un tribunal de distrito de EE. UU. contra un usuario identificado como Harwood, acusándolo de violar repetidamente los términos de servicio de la empresa al utilizar su chatbot Grok para crear material de abuso sexual infantil (CSAM) ilegal.

La queja alega que Harwood deliberadamente evadió las salvaguardias de Grok, continuó produciendo contenido prohibido después de violaciones anteriores y que xAI debería ser indemnizada de cualquier responsabilidad, colocando la responsabilidad total en el usuario por tanto las entradas como las salidas.

This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.

Also available in:

English USxAI Sues User for Generating Child Sexual Abuse Material with Grok Chatbot Português BRxAI Processa Usuário por Gerar Material de Abuso Sexual Infantil com Chatbot Grok