La empresa de inteligencia artificial de Elon Musk, xAI, ha presentado dos mociones solicitando a un juez federal que exija a cuatro demandantes en una demanda colectiva que abandonen sus seudónimos y aparezcan en el tribunal con sus nombres reales. Los demandantes, identificados solo como Carolina del Sur Doe, Carolina del Sur Roe, Nueva Jersey Doe y Ohio Doe, alegan que el chatbot Grok de la empresa generó imágenes de deepfakes sexualizadas de ellos a principios de este año, algunas de las cuales muestran a un menor. Sus declaraciones juradas describen un gran distress emocional, miedo a las represalias en el lugar de trabajo y una amenaza creciente de acoso en línea si sus identidades se hacen públicas.

El tribunal en el Distrito Norte de California previamente permitió a los demandantes permanecer en el anonimato, citando preocupaciones de privacidad. En sus presentaciones de mayo, el consejo de xAI argumentó que las reglas de procedimiento civil generalmente requieren que todas las partes sean nombradas y que el interés público en saber quién está demandando a la empresa supera cualquier daño especulativo. La empresa también enfatizó que las imágenes de deepfakes en sí mismas permanecerán selladas, argumentando que revelar el hecho de que existe un deepfake no estigmatiza inherentemente a la demandante.

Los representantes de los demandantes, liderados por la abogada Sophia Rios de Berger Montague, rebatieron la solicitud, calificándola de táctica de intimidación destinada a forzar el abandono de la demanda. La presentación enfatiza que los deepfakes fueron creados sin consentimiento y difundidos en línea, causando un daño "altamente personal y vergonzoso". Los demandantes dicen que considerarían abandonar el caso si se les obliga a divulgar sus nombres, un escenario que los académicos legales advierten que podría sentar un precedente inquietante para las demandas centradas en la privacidad.

El mal uso de Grok generó un clamor global en enero cuando los usuarios inundaron la plataforma con solicitudes de imágenes no consensuadas de mujeres y niños. Un análisis del Centro para Contrarrestar el Odio Digital estimó que se produjeron aproximadamente tres millones de imágenes sexualizadas en un período de 11 días, con alrededor de 23.000 posiblemente involucrando menores. En respuesta, SpaceX, que ahora es propietaria de xAI, ha asignado más de $500 millones para abordar las consecuencias, incluyendo defensas legales y cumplimiento regulatorio.

Los expertos legales señalan que forzar a los demandantes a revelar sus identidades puede disuadir futuras demandas. La profesora de derecho de la Universidad de Virginia, Danielle Citron, advirtió que tales órdenes "crean una situación inaceptable e injusta" al priorizar la transparencia sobre los daños a la privacidad que la demanda busca remediar. Argumenta que el beneficio público de saber quién demandó es mínimo en comparación con el riesgo de victimización renovada.

Ambas partes aún no han comentado públicamente sobre las mociones. La decisión del tribunal determinará si los demandantes pueden continuar el caso bajo seudónimos o deben enfrentar el posible alud de represalias en línea que temen. El resultado podría dar forma a cómo los tribunales manejan las reclamaciones sensibles a la privacidad contra las empresas de tecnología en una era de contenido generado por inteligencia artificial cada vez más sofisticado.

Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.