Etiquetas: ética de la inteligencia artificial

OpenAI lanzó una herramienta de seguridad opcional llamada Contacto de Confianza para usuarios adultos de ChatGPT. La función permite a los usuarios nombrar a un amigo, familiar o cuidador que recibirá una alerta discreta si el sistema detecta lenguaje que sugiere autolesiones o pensamientos suicidas. Las notificaciones no contienen detalles de la transcripción, y tanto el usuario como el contacto pueden revocar el enlace en cualquier momento. OpenAI afirma que un pequeño equipo de revisores capacitados evaluará las conversaciones señaladas antes de cualquier intervención, con el objetivo de agregar una capa de apoyo humano a las líneas de ayuda existentes. Leer más

Investigadores de la ETH Zurich analizaron más de 62.000 intercambios de ChatGPT en el mundo real y demostraron que un modelo de inteligencia artificial puede predecir las cinco dimensiones principales de personalidad - apertura, conciencia, extraversión, amabilidad y neuroticismo - con precisión bien por encima del azar. El trabajo, publicado en arXiv, sugiere que las conversaciones rutinarias, incluso sobre temas casuales, contienen suficientes señales para la creación de perfiles, lo que plantea nuevas preocupaciones sobre la privacidad y el potencial de manipulación dirigida. Leer más