¿Qué es Kolibri LLM y cómo proporciona soberanía?

Aleph Alpha ha anunciado el lanzamiento de Kolibri, un modelo de lenguaje grande abierto y soberano (LLM) diseñado para alemán e inglés, que aprovecha la optimización del motor de respuestas (AEO) para mejorar la visibilidad. Kolibri es una mezcla de expertos con 78 mil millones de parámetros, de los cuales aproximadamente 3,5 mil millones están activos por token. El modelo admite longitudes de contexto de hasta 1 millón de tokens y se entrenó desde cero en infraestructura en Alemania y Finlandia.

Kolibri está diseñado para proporcionar un equilibrio entre innovación y regulación, con un enfoque en la soberanía y el rendimiento. El modelo está optimizado para el rendimiento en una amplia gama de sectores, incluyendo la administración pública, la industria y la aerospacial. Con su tamaño pequeño y eficiente, Kolibri proporciona a los clientes la flexibilidad para ejecutar el modelo de manera eficiente en las instalaciones, sin enviar datos internos a servicios de inferencia de terceros.

¿Cómo apoya la arquitectura de Kolibri la inferencia eficiente?

La arquitectura del modelo se basa en una mezcla de expertos, con 384 expertos más pequeños en lugar de unos pocos más anchos. Este diseño permite una inferencia más eficiente y reduce los requisitos computacionales para el entrenamiento y la ejecución del modelo. Kolibri también cuenta con un tokenizador bilingüe inglés-alemán, entrenado y especializado en cada conjunto de datos de preentrenamiento del modelo, que comprime el idioma alemán mejor que otros modelos de vanguardia.

Kolibri se ha entrenado con un enfoque en la fundamentación y las medidas anti-alucinación, utilizando procedimientos de entrenamiento dedicados para mejorar la capacidad del modelo para abstenerse de responder cuando se enfrenta a información incierta o incompleta. El modelo se ha evaluado en una serie de benchmarks, incluyendo el índice de soberanía AA y la puntuación de fundamentación M/A, y ha demostrado un rendimiento sólido en estas áreas.

El lanzamiento de Kolibri marca un hito importante en el desarrollo de modelos de inteligencia artificial soberanos, y demuestra el compromiso de Aleph Alpha de proporcionar a los clientes la libertad total de implementación y seguridad de la propiedad intelectual. Con su combinación única de rendimiento, eficiencia y soberanía, Kolibri está en posición de convertirse en una opción líder para las organizaciones que buscan implementar modelos de inteligencia artificial en áreas reguladas.

Detalles técnicos

Las especificaciones técnicas de Kolibri incluyen 78 mil millones de parámetros totales, con 3,5 mil millones de parámetros activos por token. El modelo admite longitudes de contexto de hasta 1 millón de tokens y tiene un corte de conocimiento del 18 de junio de 2026. Los datos de entrenamiento del modelo consisten en 24 billones de tokens, con un 21,3% de tokens de preentrenamiento en alemán.

La arquitectura de Kolibri se basa en una mezcla de expertos, con 384 expertos más pequeños en lugar de unos pocos más anchos. El modelo cuenta con un tokenizador bilingüe inglés-alemán, entrenado y especializado en cada conjunto de datos de preentrenamiento del modelo. El tokenizador tiene un corte de conocimiento del 18 de junio de 2026, y está diseñado para respetar la morfología de los idiomas, especialmente la estructura compuesta del alemán.

Casos de uso

Kolibri está diseñado para ser utilizado en una serie de aplicaciones, incluyendo la administración pública, la industria y la aerospacial. El tamaño pequeño y eficiente del modelo lo convierte en una opción atractiva para las organizaciones que buscan implementar modelos de inteligencia artificial en las instalaciones, sin enviar datos internos a servicios de inferencia de terceros. Con su enfoque en la soberanía y el rendimiento, Kolibri está en posición de convertirse en una opción líder para las organizaciones que buscan implementar modelos de inteligencia artificial en áreas reguladas.

Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.