Anthropic lanzó los hilos de mensajes, una función beta que permite a los desarrolladores que crean agentes de IA con Claude enviar una conversación completa una sola vez y, después, solo los mensajes nuevos más el ID de la última respuesta de Claude. La función reduce la demora antes de que Claude responda en sesiones largas, pero no cambia los precios ni los límites de uso.
Anthropic lanzó los hilos de mensajes, una función beta que permite a los desarrolladores que crean agentes de IA con Claude dejar de reenviar conversaciones completas con cada solicitud, informó la compañía el lunes.
El problema es más agudo en los agentes de programación. Una sola sesión puede incluir cientos de solicitudes, y cada una normalmente lleva todos los mensajes anteriores y los resultados de las herramientas. Cuando ese historial crece a cientos de miles de tokens, reenviarlo todo añade una demora notable antes de que Claude comience a responder.
¿Cómo funcionan los hilos de mensajes con los agentes de Claude?
Los hilos cambian el patrón. El agente envía la conversación completa una vez. Después, envía solo lo nuevo, junto con el ID de la última respuesta de Claude.
Anthropic ya activó los hilos para la mayoría de usuarios de Claude Code, su agente de programación. En solicitudes de 500.000 a 1 millón de tokens, la compañía afirma que la espera típica antes de que Claude empiece a responder se redujo cerca de 35 por ciento.
¿Los hilos de mensajes reducen los costos de la API de Claude?
La función ahorra tiempo, no dinero. Claude sigue leyendo toda la conversación en cada turno, y Anthropic afirma que los precios y los límites de uso no han cambiado. La compañía abordó los costos por separado en septiembre, cuando redujo 75 por ciento los precios de la caché, en momentos en que las sesiones largas de los agentes elevaban las facturas de IA.
¿Cuánto tiempo se almacenan los hilos de mensajes de Claude?
Los desarrolladores deben planificar cómo se almacenan los hilos. Se mantienen en memoria, están cifrados y nunca se escriben en disco. Expiran cinco minutos después de la última solicitud, por lo que los desarrolladores deben conservar su propia copia de cada conversación. Anthropic también indica que los hilos no son elegibles para sus configuraciones de retención cero de datos ni para las de datos de salud HIPAA, lo cual es importante para las empresas de sectores regulados.
La beta funciona con todos los modelos de Claude. Está disponible en la plataforma propia de Anthropic y a través de AWS, Microsoft Foundry y Google Cloud. El lanzamiento sigue al modelo Opus 5.5, más económico, que Anthropic lanzó en septiembre.
Dieser Artikel wurde mit Unterstützung von KI verfasst.
News Factory APP - agentische News für besseres SEO & AEO.