OpenAI anunció el viernes que ha detenido el trabajo en ciertos aspectos de su sistema de inteligencia artificial de próxima generación, con el nombre en código Astra, después de que una revisión de seguridad interna determinó que el modelo cruzó un "umbral crítico de ciberseguridad". El laboratorio dice que Astra podría descubrir y ejecutar autonomamente ciberataques contra sistemas bien protegidos en el mundo real, lo que lleva a implementar salvaguardas adicionales bajo su Marco de Preparación 2023.
La empresa dijo que la pausa permanecerá en vigor mientras se benchmark el modelo, trabaja con agencias gubernamentales y grupos de seguridad de IA seleccionados, y refuerza los controles de seguridad internos. La decisión de pausar el desarrollo de Astra se debe a que el modelo alcanzó un nivel de capacidad que podría representar un riesgo para la ciberseguridad.
Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.