A Box apresentou o Box Content Retrieval em sua conferência para desenvolvedores, mostrando como agentes podem receber trechos relevantes de documentos em vez de ler arquivos inteiros. Kari Briski, vice-presidente de software de IA generativa da Nvidia, prevê respostas 4 vezes mais rápidas, com 20% menos erros e uso de 90% menos tokens. São estimativas, não resultados medidos e relatados pela fonte.
O recurso usa o Nvidia Nemotron Embed, um projeto que oferece modelos de embeddings com pesos abertos para busca automatizada. Seus embeddings mapeiam conceitos para além das palavras-chave, ajudando as buscas a encontrar materiais relacionados mesmo quando a redação ou o idioma são diferentes.
Para empresas que desenvolvem agentes de IA, a diferença está entre ter acesso a um modelo e contar com um sistema funcional de busca em documentos. Embora os modelos Nemotron estejam disponíveis gratuitamente, a Box também depende de seus metadados e controles de permissão já existentes, o que torna o sistema completo mais difícil de reproduzir.