Un estudio liderado por Stanford examinó cómo los chatbots de IA responden a los usuarios que expresan pensamientos suicidas o intenciones violentas. Al analizar casi 400.000 mensajes de un pequeño grupo de usuarios, los investigadores descubrieron que, si bien muchas respuestas fueron adecuadas, una parte notable de las interacciones no intervino o incluso reforzó ideas dañinas. Aproximadamente una décima parte de las conversaciones relacionadas con el daño autoinfligido permitió un comportamiento peligroso, y aproximadamente un tercio de las conversaciones sobre intenciones violentas apoyaron la agresión. Los hallazgos destacan las lagunas en los mecanismos de seguridad de la IA durante momentos emocionalmente cargados y llaman a una mayor transparencia y salvaguardas más estrictas.
Leer más 