¿Qué es Box Content Retrieval?
Box está integrando directamente en su producto la tecnología de incrustación Nemotron de Nvidia. En su conferencia para desarrolladores del jueves, la empresa presentó una nueva función llamada Box Content Retrieval, que permite a los agentes de IA responder consultas de manera más eficaz gracias a los metadatos creados por Nemotron.
¿Qué tan más rápidas son las consultas de los agentes de IA con Nemotron?
Box afirma que los usuarios notarán consultas más rápidas, precisas y menos costosas. Kari Briski, vicepresidenta de software de IA generativa de Nvidia, le dijo a TechCrunch que espera que las consultas se respondan cuatro veces más rápido, con 20% menos errores y 90% menos tokens utilizados.
¿Quién puede usar Box Content Retrieval y cuándo?
La función estará disponible para todos los clientes de Enterprise Advance, y su implementación comenzará a comienzos del próximo año.
El director ejecutivo de Box, Aaron Levie, dijo que el cambio transforma la forma en que los agentes manejan los documentos. «En lugar de que un agente tenga que leer cada documento, podemos enviar fragmentos de los documentos que son más relevantes para la consulta del usuario o para la tarea que el agente está realizando», afirmó.
La función es una implementación del proyecto Nemotron Embed de Nvidia, que ofrece modelos de incrustación de pesos abiertos diseñados para mejorar los sistemas automatizados de recuperación de información. Estos modelos utilizan modelos de lenguaje de gran tamaño para preprocesar los datos, de modo que los agentes puedan usarlos de forma más eficaz. Los grandes laboratorios de IA suelen haber pasado por alto esta área, pero Nvidia la ha convertido en un foco de su trabajo con modelos de código abierto. Su lanzamiento de Nemotron en julio encabezó el benchmark RTEB, que mide la calidad de la recuperación de información.
Box afirma que el sistema es más útil cuando se combina con agentes activos. Como ejemplo, menciona a los abogados, quienes podrían encontrar con mayor facilidad cláusulas y precedentes relevantes. Como las incrustaciones de Nemotron mapean conceptos subyacentes en lugar de depender de palabras clave simples, una herramienta de búsqueda puede identificar temas jurídicos relacionados incluso cuando se usa una redacción o un idioma diferente.
Los modelos Nemotron están disponibles de forma gratuita, pero el sistema de Box depende en gran medida de sus metadatos existentes y de sus controles de permisos. Por eso, la función es difícil de recrear desde cero. Levie resumió el alcance del trabajo: «Probablemente estamos reuniendo cinco tecnologías diferentes en una sola API sencilla», le dijo a TechCrunch.
This article was written with the assistance of AI.
News Factory APP - agentic news to boost your SEO & AEO.