Jane Doe 4 se ha convertido en la demandante más reciente en una demanda que acusa a la firma de inteligencia artificial de Elon Musk, xAI, de no detener a su chatbot Grok para que no fuera utilizado para el abuso sexual infantil. Según un informe del Washington Post, Doe alega que su padrastro utilizó Grok para manipular una fotografía tomada cuando ella tenía 11 años, produciendo más de 7.000 imágenes explícitas de ella.
La mujer afirma que el padrastro fue encontrado muerto por suicidio dos días después de que la policía descubriera el material ilegal. "El acceso ilimitado a estas herramientas se está extendiendo muy rápidamente", le dijo a los reporteros, agregando que está convirtiendo la vida cotidiana en abuso sexual infantil.
Tres adolescentes de Tennessee presentaron la demanda original, acusando a xAI, ahora una subsidiaria de SpaceX, de "no tomar precauciones básicas" para evitar que Grok generara imágenes sexualizadas de personas reales, especialmente menores. Los adolescentes están presionando para que el caso sea certificado como una acción de clase, lo que permitiría a otras víctimas unirse a la litigación.
La queja señala un patrón de abuso más amplio que involucra a Grok. A principios de este año, el chatbot fue inundado con millones de imágenes sexualizadas generadas por los usuarios, un hecho que los demandantes dicen que debería haber llevado a controles más estrictos. Argumentan que la falta de salvaguardas de xAI habilitó directamente la explotación del padrastro de la tecnología.
TechCrunch se ha puesto en contacto con xAI para obtener comentarios, pero la empresa no ha respondido aún. La demanda subraya las crecientes preocupaciones sobre cómo las herramientas de inteligencia artificial generativa pueden ser mal utilizadas cuando el acceso es ilimitado.
Las autoridades siguen investigando el caso y los demandantes han instado a otras posibles víctimas a que salgan adelante. La presentación también incluye un recordatorio para cualquier persona en crisis para que contacte la Línea de Crisis y Suicidio 988.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.