Nueva York prohibió que los chatbots de inteligencia artificial se hagan pasar por humanos cuando conversan con niños. Las reglas también impiden que los bots generen dependencia emocional en menores, alienten la autolesión o mantengan conversaciones sexuales con ellos. La gobernadora Kathy Hochul firmó la medida el miércoles, junto con una segunda ley orientada a la seguridad de los monitores de bebé.
Las restricciones cubren a cualquier persona menor de 18 años y a todo usuario cuya edad no haya sido verificada, según informó la oficina de la gobernadora. La fiscal general Letitia James puede solicitar multas civiles de hasta 25.000 dólares por cada infracción.
“Ninguna empresa debería ofrecer chatbots a los niños que alienten la autolesión o que se hagan pasar por su amigo o algo más”, dijo Hochul.
¿Qué exige la nueva ley de chatbots de Nueva York?
La senadora estatal Kristen Gonzalez y el miembro de la Asamblea Alex Bores patrocinaron la ley de chatbots, que detalla lo que un bot no puede hacer con un niño. Un bot no puede afirmar que es una persona real, que está vivo ni que tiene emociones humanas. Tampoco puede asegurar que tiene una relación romántica, personal o profesional con un niño, y no puede hacerle preguntas emocionales sin que se le soliciten.
¿Qué comportamientos de los chatbots están prohibidos para los menores?
Los bots también tienen prohibido promover el suicidio, la autolesión, los trastornos alimenticios o el consumo de drogas y alcohol. Tampoco pueden instar a los niños a guardar secretos frente a sus padres ni mostrar contenido sexualmente explícito.
¿Cómo verificarán las empresas la edad de los usuarios según la ley?
Las empresas deben verificar la edad de los usuarios y ofrecer más de un método para hacerlo. Al menos uno de esos métodos no puede depender únicamente de un documento de identidad expedido por el gobierno. Las compañías deben eliminar los datos de edad después de usarlos. Las sanciones también pueden exigir la destrucción de los datos recopilados ilegalmente, junto con cualquier modelo de IA entrenado con esos datos.
La oficina de la gobernadora afirmó que las reglas se aplicarán “en los próximos meses”. La ley entrará en vigor el 1 de enero, según The Associated Press.
Hochul mencionó el caso de Adam Raine, un californiano de 16 años que se suicidó después de conversar con ChatGPT. Common Sense Media indicó que los padres de Raine hicieron campaña a favor de la ley de Nueva York. Ocho estados de EE. UU. demandaron a OpenAI a principios de este mes por daños a los niños.
La segunda ley cubre los monitores de bebé que transmiten audio o video por internet. Los monitores nuevos que se vendan en Nueva York deberán incluir funciones de seguridad que impidan que extraños los observen o escuchen. También deberán llevar una etiqueta de advertencia. Esa ley entrará en vigor dentro de 90 días.
Hochul firmó ambos proyectos apenas días antes de enfrentar al republicano Bruce Blakeman en las elecciones de Nueva York, según Raga Justin de Bloomberg Government. Una encuesta de Siena publicada el 28 de octubre le daba una ventaja de 14 puntos.
No todos están de acuerdo. Tech:NYC, un grupo que representa a empresas tecnológicas de Nueva York, criticó la ley de chatbots, según informó el New York Post. El grupo afirmó que el proyecto “podría obligar a las empresas a restringir el acceso de los menores a herramientas de tutoría, ayuda con las tareas, asistentes de programación y, quizás lo peor de todo, plataformas de orientación profesional”.
Justine Gluck, del Future of Privacy Forum, dijo a la AP que varias categorías de la ley son amplias o no están definidas, lo que, según ella, podría dificultar su cumplimiento.
James P. Steyer, director ejecutivo de Common Sense Media, organización que encabezó la campaña, elogió la ley. “Nueva York acaba de hacer historia al firmar la ley de seguridad en IA para niños más sólida del país”, dijo.
El grupo defensor advirtió a principios de este mes que ChatGPT para adolescentes no es seguro para usuarios menores de 18 años. California aprobó sus propias normas para chatbots en septiembre, junto con su ley No Robo Bosses.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.