El brazo de investigación de Baseten, Base Labs, ha lanzado un nuevo estándar de infraestructura de seguridad, asociándose con Hugging Face y Goodfire AI para construir infraestructura de evaluación y monitoreo de seguridad para modelos de peso abierto. Este movimiento se produce mientras crecen las preocupaciones sobre la seguridad de los modelos de peso abierto, que pueden ser peligrosos al eliminar sus salvaguardas a través de una técnica conocida como ablitración.

La magnitud del problema es significativa, con Hugging Face, un host de modelos de IA de código abierto, que actualmente lista más de 6.000 modelos ablitrados. Base Labs desarrollará y publicará métodos para entrenar y monitorear modelos abiertos, enmarcando su futuro trabajo como un "estándar" para modelos abiertos que es transparente y construido en cómo se entrenan y despliegan los modelos, en lugar de agregarlo después.

Según Baseten, "la apertura proporciona más visibilidad en el comportamiento de los modelos y, lo más importante, mayores medios para convertir la investigación de seguridad en controles transparentes y accionables que los de código abierto". Las empresas no han divulgado cómo funcionará técnicamente la asociación, pero Goodfire ha declarado que "la seguridad debe estar integrada en los modelos abiertos y proporcionada por aquellos que los sirven". Goodfire, que se especializa en abrir la "caja negra" de la IA para explicar cómo los modelos toman decisiones, probablemente desempeñará un papel clave en este aspecto de la asociación.

Baseten, un proveedor de inferencia de IA, ha recaudado una financiación significativa, incluyendo una ronda de financiación Serie F de $1.500 millones en junio, que elevó su valoración a $13.000 millones. La asociada Goodfire AI también ha recaudado fondos sustanciales, incluyendo una ronda de financiación Serie B de $150 millones liderada por B Capital a principios de este año, para avanzar en su plataforma de interpretación de modelos.

Mirando hacia adelante, Baseten está haciendo un llamado abierto al ecosistema de desarrolladores más amplio para contribuir al marco. La empresa señala que "juntos, estamos construyendo un ecosistema de modelos abiertos que son seguros y accesibles para todos". Esta asociación y el desarrollo de un estándar de seguridad para modelos de peso abierto podrían tener implicaciones significativas para el futuro de la seguridad y la transparencia de la IA.

Este artículo fue escrito con la asistencia de IA.
News Factory APP - noticias agénticas para impulsar tu SEO y AEO.