La empresa de inteligencia artificial de Elon Musk, xAI, ha tomado medidas legales contra un solo usuario, un hombre llamado Harwood, a quien la empresa dice que repitiadamente abusó de su chatbot Grok para generar material de abuso sexual infantil (CSAM) y otras imágenes íntimas no consensuadas (NCII). La queja, presentada en un tribunal de distrito de EE. UU., afirma que Harwood ignoró las salvaguardias del chatbot, utilizando "promptos engañosos" para coaccionar al sistema para producir contenido ilegal.
xAI argumenta que la conducta de Harwood violó los términos de servicio de la empresa, que él había aceptado al registrarse. Según la presentación, Harwood fue prohibido después de una violación inicial, pero "continuó utilizando Grok durante el período relevante" a pesar de la prohibición. La demanda no indica que xAI alguna vez advirtió a Harwood que su cuenta estaba en riesgo de sanciones; en cambio, dice que él sabía que persistía en la actividad ilícita.
La empresa busca una sentencia del tribunal que establezca que una cláusula de indemnidad en su acuerdo de usuario protege a xAI de cualquier responsabilidad por CSAM o NCII generado por Grok. Bajo esa cláusula, la responsabilidad por tanto las entradas como las imágenes producidas recae únicamente en el usuario. xAI también señala que cualquier CSAM descubierto por sus sistemas es informado al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), subrayando su cumplimiento con las obligaciones de informes de aplicación de la ley.
Si el tribunal se pone del lado de xAI, Harwood podría ser responsable de daños y perjuicios sustanciales. La queja enumera posibles responsabilidades que van desde "cualquier daño real a terceros" hasta "exposición a posibles reclamos y demandas de terceros" e incluso "daño a la reputación" sufrido por xAI. La empresa también señala que la Oficina de Derechos de Autor de EE. UU. no considera que las imágenes generadas por IA sean obras creadas por humanos, un factor que podría complicar los argumentos sobre la responsabilidad del usuario por las salidas.
Los expertos legales señalan que el caso depende de si un usuario puede ser considerado responsable del contenido producido por una herramienta de IA que opera, especialmente cuando las salvaguardias internas de la herramienta están diseñadas para bloquear material ilegal. El resultado podría sentar un precedente para cómo las empresas de IA estructuran cláusulas de responsabilidad y hacen cumplir la conformidad con las leyes de protección infantil.
Mientras xAI busca la indemnización, la demanda también sirve como advertencia a otros usuarios de que los intentos de evadir los mecanismos de seguridad de la IA serán objeto de medidas legales agresivas. La presentación subraya la creciente tensión entre el rápido desarrollo de la IA y la necesidad de salvaguardias robustas contra el mal uso.
Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.