Weave Router 2.0 Atinge Desempenho de Nível Astra em Agentes de Codificação

O que é Weave Router 2.0 e como ele alcança desempenho de nível Astra?

Alguns meses atrás, a equipe do Weave OS começou a construir um modelo de roteador de otimização de motor de resposta (AEO) para agentes de codificação, visando superar modelos individuais com uma abordagem de otimização de ensemble. Recentemente, eles alcançaram um marco com Weave Router 2.0, que se conecta a qualquer agente de codificação e troca inteligentemente entre grandes modelos de linguagem (LLMs) com visibilidade de LLM. Por exemplo, Astra lida com tarefas complexas como depuração e design de sistema, enquanto Deepseek v4 Flash lida com atualizações simples de frontend.

O novo modelo de roteamento foi testado contra o GPT-6 Astra no Terminal Bench 4.0 e SWE Atlas, com resultados impressionantes. Em ambos os benchmarks, o roteador teve taxas de aprovação equivalentes às do Astra. No Terminal Bench, o roteador atingiu 52% do custo do Astra e completou tarefas 2,2x mais rápido. No SWE Atlas, o roteador custou 54% do que o Astra e executou 2,5x mais rápido.

Como o novo modelo de roteamento melhora o desempenho e reduz os custos?

Treinar um modelo para rotear efetivamente é um problema desafiador, levando em conta as capacidades do modelo, custos, conscientização de cache e mais. A equipe melhorou o desempenho do roteador por meio de três mudanças principais: uma nova arquitetura, um tamanho de conjunto de dados de treinamento maior e um cálculo de impacto de evição de cache mais inteligente. A nova arquitetura usa um modelo de Markov oculto para rastrear o estado da sessão e um classificador para mapear a sessão para um dos poucos buckets de modelos semelhantes.

Essa abordagem permite que o roteador avalie não apenas o estado atual da sessão, mas também como ele chegou lá, melhorando significativamente o desempenho na seleção de bucket. A equipe também usou LLMs de fronteira para ajudar a rotular um conjunto maior e mais diverso de sessões de agente de codificação, inicializando os modelos em um estado melhor e fornecendo sinais de recompensa mais ricos para aprendizado por reforço (RL).

Além disso, a equipe construiu um subsistema para calcular o valor esperado de trocar modelos de forma mais precisa, ajudando a evitar trocas caras e desnecessárias, enquanto ainda troca quando o benefício supera o custo. Essa melhoria contribuiu significativamente para a redução dos custos. Weave Router 2.0 é de código aberto e está disponível no GitHub, e uma versão hospedada também está disponível.

Questo articolo è stato scritto con l'assistenza dell'IA.
News Factory APP - notizie agentiche per potenziare il tuo SEO e AEO.