OpenAI anunció la disolución de su equipo de preparación al final del mes pasado, trasladando las responsabilidades de evaluación de riesgos de la unidad a divisiones existentes que se especializan en bioseguridad y ciberseguridad. La decisión llega mientras la firma con sede en San Francisco se prepara para una gran oferta pública inicial, un hito que ya ha provocado una serie de reorganizaciones internas.

El equipo de preparación, creado para evaluar si los modelos avanzados planteaban amenazas serias y para diseñar planes de mitigación, fue una piedra angular de la arquitectura de seguridad de OpenAI. Sus analistas examinaron escenarios que iban desde ataques cibernéticos impulsados por modelos hasta la posibilidad de que los sistemas autónomos actúen más allá de los parámetros previstos.

En lugar de mantener un grupo independiente, OpenAI ha redistribuido esas tareas a lo largo de equipos que ya manejan dominios específicos. Los expertos en bioseguridad ahora monitorearán los riesgos relacionados con las aplicaciones biológicas de la IA, mientras que los ingenieros de ciberseguridad se harán cargo de los vectores de amenazas digitales. Los insiders de la empresa dicen que la reestructuración tiene como objetivo integrar las consideraciones de seguridad más estrechamente dentro de los ciclos de desarrollo de productos.

La última reorganización sigue una tendencia más amplia de desmantelar unidades centradas en la seguridad. En los últimos años, OpenAI ha ido gradualmente eliminando sus equipos de preparación para la IA general y la superalignación. Además, figuras senior como la líder de ética Chloé Bakalar, el futurista chief Josh Achiam y el jefe de seguridad Johannes Heidecke han abandonado la organización.

El ex investigador de OpenAI Jan Leike, que dejó la empresa en 2024, advirtió que los recortes señalan una despriorización de la seguridad en favor de "productos brillantes". Leike le dijo al Financial Times que el enfoque cambiante de la empresa podría dejar brechas críticas en la evaluación de riesgos sin llenar.

Dylan Scandinaro, quien dirigió el equipo de preparación después de ser reclutado de Anthropic en febrero, ahora se centrará en las implicaciones de la "IA de auto-mejora recursiva". Su nuevo papel subraya la atención de OpenAI a un subconjunto de riesgos que podrían surgir a medida que los modelos se vuelvan capaces de mejorar iterativamente sus propias capacidades.

Los observadores de la industria señalan que el momento de la reestructuración es significativo. A medida que OpenAI se acerca a una oferta pública inicial, los inversores probablemente examinarán de cerca el marco de gestión de riesgos de la empresa. El liderazgo de la empresa parece estar equilibrando el deseo de una rápida presentación de productos con la necesidad de tranquilizar a los reguladores y al público de que la seguridad sigue siendo una prioridad.

El impacto a largo plazo de disolver el equipo de preparación sigue siendo incierto. Si bien la integración de las funciones de seguridad en grupos de dominio específico podría fomentar una coordinación más estrecha, los críticos temen que la pérdida de una unidad de seguridad dedicada y transversal pueda diluir la supervisión. OpenAI no ha divulgado cómo medirá la efectividad de la nueva estructura, lo que deja a las partes interesadas para observar de cerca mientras la empresa navega su próxima fase de crecimiento.

Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.