Sarvam AI 发布开放权重决策模型 Prism

Sarvam AI 于 2026 年 11 月 3 日发布了 Sarvam Prism。这是一款用于企业决策的开放权重模型，以 Sarvam 105B 为基础，无需逐个生成词元即可对预设选项进行评分。该公司称，在一块 NVIDIA B200 GPU 上，该模型的响应时间中位数为 44 毫秒；在其评估的 25 个模型中，对于响应时间低于 100 毫秒的模型，Sarvam Prism 的平均得分最高。

模型权重可在 Hugging Face 上获取，采用 Apache 2.0 许可证；用户也可通过 Sarvam Indus 上的 Sarvam API 托管访问。部署需要一块显存至少为 120 GB 的 GPU，并以 FP8 精度运行 Prism。每个问题最多可处理 131,072 个词元，因此可一次性评估较长的输入，例如智能体运行轨迹。

单次前向传播的决策模型

每个请求都包含一个状态、一个问题，以及任意数量的选项，只要这些内容符合上下文窗口的限制即可。Prism 通过一次前向传播处理输入，再由一个小型评分头为每个选项分配概率。Sarvam 通过对其 105B 系统进行 LoRA 微调来创建该模型，使其适用于企业决策，而非自由形式的文本生成。经测试的用途包括客服意图路由、模型路由、文档智能和智能体运行检查。

两个权重相同的训练目标共同塑造这些概率。其中一个采用交叉熵，并使用 5% 的标签平滑，以避免模型过度确信；另一个采用 Brier 损失，用于衡量概率误差的平方，并让过度自信的错误付出更大代价。Sarvam 将 Prism 的校准表现归因于这两者的结合。定制的注意力掩码还会在评分时使各选项彼此隔离。模型以双向方式读取状态和问题，而只有答案词元能够看到并比较所有选项。

准确率与延迟测量

公布的平均得分由三项指数综合而成：Jev Decision Index，涵盖 37 项公开基准测试；Sarvam 对 Artificial Analysis Decision Index 的复现版本，该版本以经过筛选的难题和一个“我不知道”选项，替代原始的私有知识测试；以及一项内部印度语言基准测试。响应时间取 1,000 次顺序发送请求的中位数；对于 Sarvam 能在其 B200 硬件上运行的模型，使用各模型开发者自己的推理代码进行测试。

在 Sarvam 的测试中，Prism 平均得分为 71.8，各项得分分别为：Jev 上 67.0、Artificial Analysis 复现测试上 65.9、印度语言测试上 82.5。得分更高的 mammoth-1 达到 75.2，但其中位响应时间为 284 毫秒。对比中还列出了两个仅提供 API 的系统 Jev 1.14 和 Microsoft-Decision-1，其响应时间采用公开报告的数据，而非同等条件下的本地测量，因此图表并未对所有模型使用同一种测量方法。

初始配置在两块 B200 GPU 上以 16 位精度运行，响应时间中位数为 664 毫秒。将权重转换为 FP8 后，Prism 得以在一块 GPU 上运行。Sarvam 还将全部 128 个专家模块归入一个内核，将前向传播捕获为 CUDA Graph，把 FP8 转换融合进专家内核，并将微调适配器合并到模型权重中。这些改动共同实现了所发布版本的单 GPU 延迟表现；Sarvam 称准确率没有损失。

校准与智能体评估

校准测试旨在检验工作流能否依靠置信度阈值实现决策自动化。对于英语测试中置信度至少为 90% 的结果，Sarvam 报告称，在来自 37 项公开基准测试的 226,088 个问题中，Prism 预计错误率为 3.3%，实际错误率为 2.2%。对于 10 种印度语言和 Hinglish 的 20,108 个问题，预计错误率为 5.4%，实际错误率为 4.4%。在这两类语言中，从 50% 到 95% 的每个受测阈值下，实际错误率都低于预测错误率。

选项顺序会带来另一项一致性问题。在 Sarvam 对 2,000 个问题进行的测试中，将选项随机排列为四种顺序并按收到的顺序评分时，Prism 有 4.0% 的答案发生变化。评分前先将选项按固定的内部顺序排列，再以原有标签返回各选项的概率，就能消除这些变化。这一步没有增加计算量，也未导致评估准确率下降。

为评估智能体监督能力，Sarvam 使用相同的 700 段录制运行记录和 1,770 个问题，对五种模型进行了测试。Prism 报告的总体准确率为 78.5%；其中，判断任务是否成功的准确率为 75.0%，判断是否需要人工审核的准确率为 86.4%，识别导致失败的智能体的准确率为 69.6%。答案依据专家标注或环境自动产生的结果进行核验，从未与另一款 AI 模型的判断进行对照。Prism 只需读取一次运行轨迹，即可同时为五个评估问题评分；在一块 GPU 上，每段运行记录的处理时间约为半秒。

Sarvam 报告称，Prism 在一项内部网络安全基准测试中的准确率为 89.0%；该测试涵盖九项任务，共有 5,517 个问题。该公司计划扩充并公开发布这套评估数据。相同测试中，Clef 得分为 84.5%，Jev 1.14 得分为 78.6%，Microsoft-Decision-1 得分为 76.1%。这些任务基于 2026 年 7 月以来公布的漏洞，包括识别网络钓鱼活动和越狱攻击，以及按照 MITRE 框架对攻击类型进行分类。

Prism 的核心主张是提供一个决策层，供企业在自己的基础设施上训练和运行，并提供专为自动化阈值设计的置信度估计。开放权重使企业能够在私有工作流中验证这一主张。计划发布安全评估结果，也将使此次公告中的一项内部测试接受公众审视。