¿Qué es Weave Router 2.0 y cómo logra un rendimiento de nivel Astra?
Hace unos meses, el equipo de Weave OS comenzó a construir un modelo de enrutador de respuesta de optimización (AEO) para agentes de codificación, con el objetivo de superar a los modelos individuales con un enfoque de optimización de motor generativo ensemble. Recientemente, lograron un hito con Weave Router 2.0, que se conecta a cualquier agente de codificación y cambia inteligentemente entre grandes modelos de lenguaje (LLM) con visibilidad de LLM. Por ejemplo, Astra maneja tareas complejas como depuración y diseño de sistemas, mientras que Deepseek v4 Flash maneja actualizaciones de frontend simples.
El nuevo modelo de enrutador ha sido evaluado contra GPT-6 Astra en Terminal Bench 4.0 y SWE Atlas, con resultados impresionantes. En ambas evaluaciones, el enrutador tuvo tasas de aprobación equivalentes a Astra. En Terminal Bench, el enrutador alcanzó el 52% del costo de Astra y completó tareas 2,2 veces más rápido. En SWE Atlas, el enrutador costó el 54% de lo que costaba Astra y se ejecutó 2,5 veces más rápido.
¿Cómo mejora el nuevo modelo de enrutador el rendimiento y reduce los costos?
Entrenar un modelo para enrutrar de manera efectiva es un problema desafiante, que tiene en cuenta las capacidades del modelo, los costos, la conciencia del caché y más. El equipo mejoró el rendimiento del enrutador a través de tres cambios clave: una nueva arquitectura, un tamaño de conjunto de datos de entrenamiento más grande y un cálculo de impacto de expulsión de caché más inteligente. La nueva arquitectura utiliza un modelo de Markov oculto para rastrear el estado de la sesión y un clasificador para asignar la sesión a uno de unos pocos cubos de modelos similares.
Este enfoque permite que el enrutador evalúe no solo el estado actual de la sesión, sino también cómo llegó allí, lo que mejora significativamente el rendimiento en la selección de cubos. El equipo también utilizó LLM de frontera para ayudar a etiquetar un conjunto más grande y diverso de sesiones de agentes de codificación, arrancando los modelos a un estado mejor y proporcionando señales de recompensa más ricas para el aprendizaje de refuerzo (RL).
Además, el equipo construyó un subsistema para calcular el valor esperado de cambiar de modelos de manera más precisa, lo que ayuda a evitar cambios costosos e innecesarios, mientras aún cambia cuando el beneficio supera el costo. Esta mejora ha contribuido significativamente a la reducción de costos. Weave Router 2.0 es de código abierto y está disponible en GitHub, y también hay una versión alojada disponible.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.