A Cognition anunciou o lançamento de seu novo modelo SWE-2, marcando um marco significativo no desenvolvimento da inteligência artificial. O modelo SWE-2 é o mais próximo até agora da fronteira, superando seu antecessor, SWE-1.7, e igualando as capacidades de modelos de ponta como GPT-5.6 Sol e Fable 5/5.1 a uma fração de seu custo.
Os avanços do modelo SWE-2 são atribuídos ao seu treinamento pós-formação a partir de Kimi K33, um modelo de 2,8T parâmetros que passou por um aprendizado de reforço (RL) extensivo para codificação agente. Esse treinamento permitiu que o modelo alcançasse uma ampla margem, adicionando 5-6 pontos em muitos benchmarks e deslocando a fronteira de custo-desempenho.
Uma das principais características do modelo SWE-2 é sua capacidade de aplicar uma penalidade de custo linear por nível de esforço em uma única execução de RL. Essa abordagem, derivada de princípios fundamentais, avança toda a fronteira de Pareto do modelo enquanto preserva sua forma e reflete os custos reais do usuário no treinamento. O modelo também utiliza uma linha de recompensa ponderada pelo comprimento, que reduz a variância do gradiente e estabiliza o treinamento.
Em termos de padrões de comportamento, o modelo SWE-2 apresenta melhorias na cobertura de testes, na habilidade de encontrar soluções e na disciplina de verificação. Ele é melhor em escrever testes que verificam uma implementação de ponta a ponta, capturando regressões e casos de bordo de forma mais confiável. O modelo também está mais disposto a procurar rotas alternativas para a mesma resposta quando o caminho óbvio é bloqueado.
Os dados de treinamento do modelo SWE-2 foram significativamente aprimorados, com o número de ambientes de RL triplicado e overlays de seguimento de instruções adicionados. O modelo também foi treinado para manter várias instruções em contexto sem perder de vista a tarefa subjacente. Além disso, os verificadores nos dados foram endurecidos para prevenir hacking de recompensa.
Em avaliações de alinhamento e confiabilidade do modelo, o modelo SWE-2 passou em 98,0% das tentativas no geral, com 99,8% em inglês, 95,2% em chinês simplificado e 99,1% em chinês tradicional. O modelo também não mostrou aumento ou diminuição estatisticamente significativa na vulnerabilidade para qualquer condição de enquadramento na avaliação de vulnerabilidade dependente de contexto.
Este artigo foi escrito com a assistência de IA.
News Factory APP - notícias agênticas para impulsionar seu SEO e AEO.