HybridAgents es un diseño de agente de IA que razona en un espacio latente oculto, no lingüístico, y solo cambia al texto simple cuando necesita herramientas o interacción con el entorno. Los autores reportan un menor uso de tokens, una inferencia más rápida y un rendimiento 10,4 por ciento mejor, según su propia evaluación no verificada.

Investigadores han propuesto un nuevo tipo de agente de IA que razona en una forma oculta, no lingüística, y solo cambia al texto simple cuando necesita usar herramientas o interactuar con su entorno.

El enfoque, llamado Agentes de Razonamiento Híbrido, o HybridAgents, se describe en un artículo publicado en el servidor de preimpresiones arXiv el 13 de octubre. Los autores, entre ellos Jiaru Zou y James Zou, afirman que la mayoría de los agentes basados en modelos de lenguaje grandes todavía piensan y actúan exclusivamente a través del texto. Eso funciona, pero es lento y costoso. El razonamiento latente, que ocurre dentro de las representaciones internas del modelo, es más eficiente. Sin embargo, ha carecido de acceso nativo a las herramientas y ofrece poca visibilidad sobre cómo el modelo llegó a su respuesta.

¿Cómo cambia HybridAgents entre el razonamiento latente y el texto?

HybridAgents intenta combinar ambos. El sistema se mueve entre el razonamiento latente y la interacción basada en texto dentro de un único proceso de generación. Un componente liviano llamado HybridLink gestiona esas transiciones, y el agente mantiene una memoria de trabajo continua que conserva el contexto a lo largo de múltiples turnos. Según los autores, este diseño preserva las capacidades integradas con herramientas y hace que los pensamientos latentes del modelo sean directamente inspeccionables.

¿Cómo se entrenó HybridAgents?

El entrenamiento se realiza en dos etapas. La primera, HybridSFT, enseña al modelo base a coordinarse con HybridLink para que la generación híbrida integrada con herramientas se mantenga estable. La segunda, HybridRL, enseña al agente cuándo pensar en el espacio latente y cuándo actuar a través del texto.

¿Qué tan bien se desempeñó HybridAgents en las pruebas?

El equipo probó el sistema con tres tamaños de modelo en 11 pruebas de referencia que cubren matemáticas, ciencias, medicina, búsqueda y razonamiento agéntico. Lo compararon con agentes de LLM de vanguardia y con marcos agénticos que usan métodos basados en texto o métodos latentes. Según los autores, HybridAgents mejoró el rendimiento de manera consistente en un 10,4 por ciento. El uso de tokens se redujo entre un 35,5 y un 54,7 por ciento, la inferencia fue entre 1,8 y 2,6 veces más rápida, y los ahorros de costos oscilaron entre 2,7 y 3,7 veces.

Estas cifras provienen de la evaluación propia de los autores y no han sido verificadas de forma independiente. El artículo es una preimpresión, por lo que no ha pasado por la revisión por pares formal que acompaña a muchas publicaciones en revistas. Los autores afirman que el código y los datos están disponibles en línea.

Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.