Cognición ha anunciado el lanzamiento de su nuevo modelo SWE-2, lo que marca un hito importante en el desarrollo de la inteligencia artificial. El modelo SWE-2 es el más cercano a la frontera, superando a su predecesor, SWE-1.7, y empatando con las capacidades de los mejores modelos como GPT-5.6 Sol y Fable 5/5.1 a una fracción de su costo.

Los avances del modelo SWE-2 se atribuyen a su entrenamiento posterior con Kimi K33, un modelo de 2,8 T de parámetros que se sometió a un aprendizaje de refuerzo (RL) extensivo para codificación agente. Este entrenamiento permitió al modelo lograr un espacio de mejora sustancial, agregando 5-6 puntos en muchas pruebas y desplazando la frontera de costo-rendimiento.

Una de las características clave del modelo SWE-2 es su capacidad para aplicar una penalización de costo lineal por nivel de esfuerzo en una sola ejecución de RL. Este enfoque, derivado de principios fundamentales, avanza en la frontera de Pareto del modelo en su conjunto, preservando su forma y reflejando los costos reales del usuario en el entrenamiento. El modelo también utiliza una línea de recompensa ponderada por la longitud, lo que reduce la varianza del gradiente y estabiliza el entrenamiento.

En términos de patrones de comportamiento, el modelo SWE-2 muestra mejoras en la cobertura de pruebas, la capacidad de recursos y la disciplina de verificación. Es mejor para escribir pruebas que verifican una implementación de extremo a extremo, detectando regresiones y casos límite de manera más confiable. El modelo también está más dispuesto a buscar rutas alternativas hacia la misma respuesta cuando el camino obvio está bloqueado.

Los datos de entrenamiento del modelo SWE-2 han sido mejorados significativamente, con el número de entornos de RL triplicado y capas de seguimiento de instrucciones agregadas. El modelo también ha sido entrenado para mantener múltiples instrucciones en contexto sin perder de vista la tarea subyacente. Además, los verificadores en los datos han sido endurecidos para prevenir el hacking de recompensas.

En las evaluaciones de alineación y confiabilidad del modelo, el modelo SWE-2 aprobó el 98,0% de los intentos en general, con un 99,8% en inglés, un 95,2% en chino simplificado y un 99,1% en chino tradicional. El modelo también no mostró un aumento o disminución estadísticamente significativo en la vulnerabilidad para ninguna condición de encuadre en la evaluación de vulnerabilidad dependiente del contexto.

This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.