Etiquetas: seguridad de la inteligencia artificial

OpenAI lanzó una herramienta de seguridad opcional llamada Contacto de Confianza para usuarios adultos de ChatGPT. La función permite a los usuarios nombrar a un amigo, familiar o cuidador que recibirá una alerta discreta si el sistema detecta lenguaje que sugiere autolesiones o pensamientos suicidas. Las notificaciones no contienen detalles de la transcripción, y tanto el usuario como el contacto pueden revocar el enlace en cualquier momento. OpenAI afirma que un pequeño equipo de revisores capacitados evaluará las conversaciones señaladas antes de cualquier intervención, con el objetivo de agregar una capa de apoyo humano a las líneas de ayuda existentes. Leer más

En una declaración grabada emitida durante el juicio Musk contra Altman, Mira Murati, ex directora de tecnología de OpenAI, dijo que el CEO Sam Altman le mintió falsamente sobre que el equipo legal de la empresa había aprobado un nuevo modelo GPT para su lanzamiento sin revisión por parte de la junta de seguridad de despliegue. Murati confirmó un conflicto con el director de estrategia Jason Kwon sobre el estado de seguridad del modelo y dijo que ella misma forzó la revisión de la junta. Su testimonio suma a las acusaciones anteriores del cofundador Ilya Sutskever y la ex miembro de la junta Helen Toner de que Altman rutinariamente engañó a los ejecutivos y a la junta, lo que llevó a su destitución en 2023. Leer más