Box将英伟达Nemotron嵌入接入面向代理的Content Retrieval
Box在开发者大会称Enterprise Advance客户明年初可用；英伟达Kari Briski预计查询约快4倍、错误少20%、token少90%。
为何重要
把检索做进内容层，可避免代理每轮通读全部文件；Box把英伟达开源Nemotron嵌入接到自有元数据与权限，而非裸向量库。若约4倍速度、少20%错误、少90% token在客户流量中成立，将改变大规模语料上的代理搜索成本。明年初仅面向Enterprise Advance，生产延迟与引用质量才是检验。
要点
- Box开发者大会宣布Content Retrieval
- 采用英伟达Nemotron嵌入模型
- 面向代理对Box内容的查询
- 英伟达副总裁Kari Briski称约快4倍
- 并称错误少20%、token少90%
- 明年初向Enterprise Advance客户推出