Sarvam 发布基于其 105B 模型的开放权重决策模型 Prism，44 毫秒内得分 71.8
这家印度实验室称，在其测试的 25 个决策模型中，Prism 是 100 毫秒内响应者中得分最高的；权重以 Apache 2.0 许可发布在 Hugging Face。
为何重要
Prism 是所谓的系统一决策模型：输入状态、问题和选项后，为每个选项给出概率，用于快速的企业判断。Sarvam 在 B200 GPU 上用三项指数测试了 Prism 和 24 个竞品模型，并自行公布结果，因此排名未经独立验证。工程优化使中位延迟从 664 毫秒降至 44 毫秒，部分得益于在单块 GPU 上改用 FP8。该模型也可通过 Sarvam 的 API 使用。
要点
- 基于混合专家模型 Sarvam 105B
- 在 B200 上平均 71.8 分，中位延迟 44 毫秒
- 在 Sarvam 测试的 25 个模型中，100 毫秒内最佳
- Apache 2.0 开放权重；FP8 下可在单块 120GB 以上 GPU 运行