Etiquetas: seguridad de IA

El Departamento de Comercio de EE. UU. eliminó una página web que describía un acuerdo en el que Microsoft, Google y xAI, la rama de inteligencia artificial de Elon Musk, someterían sus modelos de IA más avanzados a pruebas de seguridad de científicos gubernamentales antes de su lanzamiento público. Leer más

OpenAI ha comenzado a implementar una nueva herramienta de Contacto de Confianza para ChatGPT que permite a los usuarios nombrar a un adulto de confianza que puede ser notificado si la IA detecta signos de autolesión. El sistema marca conversaciones de riesgo, advierte al usuario y luego pasa el caso a un equipo de revisión humana antes de que se envíe cualquier alerta. Las notificaciones se entregan por correo electrónico, mensaje de texto o mensaje en la aplicación sin compartir transcripciones de chat. Leer más

OpenAI está implementando una nueva opción de Contacto de Confianza para cuentas de ChatGPT de adultos. La función permite a los usuarios nombrar a una persona designada que será alertada si la IA detecta una preocupación grave de autolesión. Después de una breve revisión humana, el contacto recibe una notificación sin detalles de la transcripción de la charla. OpenAI afirma que la salvaguarda tiene como objetivo complementar las herramientas de seguridad y recursos de crisis existentes, mientras que da a los usuarios más control sobre su bienestar digital. Leer más