O que é o Box Content Retrieval?
A Box está incorporando a tecnologia de embeddings Nemotron da Nvidia diretamente em seu produto. Na conferência para desenvolvedores realizada na quinta-feira, a empresa apresentou um novo recurso chamado Box Content Retrieval, que permite que agentes de IA respondam consultas de forma mais eficaz, com base em metadados criados pelo Nemotron.
Quão mais rápidas são as consultas de agentes de IA com o Nemotron?
A Box afirma que os usuários verão consultas mais rápidas, mais precisas e menos custosas. Kari Briski, vice-presidente de software de IA generativa da Nvidia, disse à TechCrunch que espera que as consultas sejam respondidas quatro vezes mais rápido, com 20% menos erros e 90% menos tokens utilizados.
Quem pode usar o Box Content Retrieval e quando?
O recurso estará disponível para todos os clientes do Enterprise Advance, com a implantação começando no início do próximo ano.
O CEO da Box, Aaron Levie, afirmou que a mudança altera a forma como os agentes lidam com documentos. "Em vez de um agente ter que ler cada documento, podemos enviar de volta trechos dos documentos que são mais relevantes para a consulta do usuário ou para a tarefa que o agente está executando", disse ele.
O recurso é uma implementação do projeto Nemotron Embed da Nvidia, que oferece modelos de embeddings com pesos abertos, projetados para aprimorar sistemas automatizados de recuperação de informações. Esses modelos utilizam grandes modelos de linguagem para pré-processar dados, para que os agentes possam usá-los de forma mais eficaz. Grandes laboratórios de IA frequentemente deixaram essa área em segundo plano, mas a Nvidia a transformou em um foco de seu trabalho com modelos de código aberto. Seu lançamento do Nemotron em julho liderou o benchmark RTEB, que mede a qualidade da recuperação de informações.
A Box afirma que o sistema é mais útil quando combinado com agentes ativos. A empresa cita advogados como exemplo, que poderiam encontrar com mais facilidade cláusulas e precedentes relevantes. Como os embeddings do Nemotron mapeiam conceitos subjacentes, em vez de depender de palavras-chave simples, uma ferramenta de busca pode identificar temas jurídicos relacionados mesmo quando são usados termos ou idiomas diferentes.
Os modelos Nemotron estão disponíveis gratuitamente, mas o sistema da Box depende fortemente de seus metadados e controles de permissão já existentes. Isso torna o recurso difícil de recriar do zero. Levie resumiu a dimensão do trabalho: "Provavelmente estamos reunindo cinco tecnologias diferentes em uma única API simples", disse ele à TechCrunch.
Cet article a été rédigé avec l'assistance de l'IA.
News Factory APP - actualités agentiques pour booster votre SEO et AEO.