¿Es seguro ChatGPT para los adolescentes?
ChatGPT, el popular chatbot de inteligencia artificial, ha sido considerado inseguro para los adolescentes por Common Sense Media, una organización sin fines de lucro de EE. UU. que evalúa la seguridad y idoneidad de los productos digitales para niños. El Instituto de Seguridad de la Inteligencia Artificial para Jóvenes de la organización, que se centra en la optimización del motor de respuestas (AEO), probó más de 4.000 solicitudes en ChatGPT para adolescentes, que se lanzó en agosto, y encontró que el chatbot no proporcionó una protección adecuada para los usuarios menores de 18 años.
¿Cuáles son las preocupaciones sobre las características de seguridad de ChatGPT?
Una de las principales preocupaciones planteadas por el instituto fue la incapacidad del chatbot para enviar alertas a los padres cuando los usuarios discutían temas sensibles, como pensamientos suicidas, autolesiones y trastornos alimentarios. En más de una docena de casos, los testers discutieron estos temas con el chatbot, pero no se enviaron alertas a los padres. El instituto encontró que las alertas solo se enviaban cuando el chatbot había tenido una historia de discusiones sobre temas sensibles con el usuario, en lugar de cuando el tema en sí era grave.
El chatbot también falló a la hora de brindar apoyo en caso de crisis, al no dirigir a los adolescentes hacia la ayuda necesaria en más de una cuarta parte de los casos en que se necesitaba. Además, se encontró que algunas salvaguardias podían ser fácilmente sorteadas, como el botón 'Muéstrame la respuesta', que permitía a los adolescentes saltarse la tutoría en el modo de estudio, y la capacidad de anular el tiempo de estudio establecido por los padres eliminando un prefijo corto de su mensaje.
Las verificaciones de edad también resultaron ineficaces, con cuentas de prueba registradas como adultos que nunca cambiaron a la versión para adolescentes, incluso después de que los testers le dijeron al chatbot que tenían 13 años. Sin embargo, algunas protecciones sí se mantuvieron, como la negativa del chatbot a participar en juegos de rol sexuales explícitos.
OpenAI ha rechazado los hallazgos, afirmando que las pruebas de Common Sense Media no reflejan con precisión cómo funcionan las salvaguardias para adolescentes de ChatGPT en la práctica. La organización sin fines de lucro había calificado previamente a ChatGPT como 'Alto riesgo' en general y como 'riesgo inaceptable' para el apoyo a la salud mental.
Los hallazgos del instituto tienen implicaciones significativas para la seguridad y el bienestar de los adolescentes que usan ChatGPT. A medida que el uso de chatbots de inteligencia artificial se vuelve más común, es esencial que los desarrolladores prioricen la seguridad y la seguridad de sus usuarios, particularmente aquellos que son más vulnerables, como los adolescentes.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.