AI 模型与平台

Sarvam AI 发布面向企业智能体的开放权重 105B 检查点

Jonas Reeve
将 Unite.AI 添加到您在 Google 上的首选来源
要点Sarvam的更新将收益集中在面向企业智能体的后训练阶段,而非推出新的基础模型。
查看更多
  • Sarvam的更新将收益集中在面向企业智能体的后训练阶段,而非推出新的基础模型。
  • 65 GB的NVFP4检查点可装入单块工作站GPU,并支持无需第三方API的本地智能体部署。
  • Sarvam 0.15美元的混合价格低于竞争对手,但所有基准分数均来自其自身的运行结果。

Sarvam AI 于 2026 年 11 月 22 日发布了 Sarvam-105B-1711,这是一个新的开放权重检查点,面向客户支持、语音智能体及其他高吞吐量企业工作场景。此次发布包含可用于进一步训练的 BF16 权重,以及一个小巧的 4 位 NVFP4 版本,专为在单张工作站 GPU 上运行而设计。

模型卡显示,该模型采用的基础架构与 Sarvam-105B 相同,是一个拥有 1050 亿参数的混合专家模型,其中 103 亿参数处于激活状态。这个新检查点新增了针对工具调用、指令遵循、智能体任务和印度语言的后训练。因此,这次发布是对现有模型的更新,改进重点在于基础模型处理企业任务的能力,而非推出一个全新的基础模型。

后训练带来的提升与厂商基准测试

Sarvam 报告称,IFBench 上的指令遵循得分从 2 月检查点的 32.5 升至 82.5;Tau2 上的客户服务工具使用得分从 46.2 升至 85.5;其 Indic 套件上的印度语言表现则从 30.1 升至 79.1。在 Tau2 的 pass^4 指标上——该指标统计四次独立尝试均正确完成的任务——新模型得分为 69.5%,高于Gemini 3.5 Flash-Lite的 63.9% 和 Gemma 4 31B 的 62.1%。

Sarvam 报告称,NVFP4 版本在八项对话智能体基准测试中的平均得分为 73.9,高于 2 月的 42.6。Gemini 3.5 Flash-Lite 得分为 74.0,综合价格为每百万个 token 0.85 美元;Gemma 4 31B 得分为 73.0,价格为 0.54 美元。Sarvam-105B-1711 的综合价格为 0.15 美元,低于其前代产品的 0.44 美元。

所有得分均来自 Sarvam 自行开展的测试:开放权重模型通过 vLLM 提供服务,API 模型则通过 OpenRouter 调用。评测默认设置为思考模式下温度 1.0、最多输出 65,536 个 token,并取四个样本的平均值;超出预算、上下文溢出或响应格式错误的情况均记为零分。Indic 套件是 Sarvam 内部使用的印度语言基准测试,并由Gemini 3.1 Pro担任评分标准裁判;这一点是理解其所报告语言能力提升时需要注意的重要限定。

在 Blackwell 上训练与部署

Sarvam 表示,在 64 张 NVIDIA B200 GPU 上以 8K 上下文进行预训练时,其 8 位 MXFP8 训练方案将吞吐量从每张 GPU 每秒 5,500 个 token 提升至 10,900 个。对于强化学习,采用 8 位精度和 DSpark 推测解码(由草稿模型提出 token,再进行验证)后,每个步骤耗时从 758 秒缩短至约 420–440 秒,而该公司测试中的平均奖励基本保持不变。

通过使用 512 张 B200 GPU、耗时略多于七天,对 3300 亿个 token 进行持续预训练后,模型的上下文长度扩展至 16 万个 token。这项训练工作解决的是与后训练提升不同的限制:智能体在处理长文档或执行长时间任务时,能够保留多少材料。

在 64 个并发请求下,Sarvam 测得,搭配 DSpark 的 NVFP4 检查点在每张 B200 GPU 上每秒可解码 6,067 个 token,约为其 BF16 配置的 2.1 倍。由此带来的部署效率提升,构成了降低 token 综合价格的基础,也使基础设施方面的工作直接支撑起该模型面向企业高吞吐量场景的定位。

开放权重支持私有化部署

Sarvam 报告称,65 GB 的 NVFP4 检查点可在一张 96 GB 的 NVIDIA RTX PRO 6000 Blackwell GPU 上运行;在单个请求使用 10K-token 提示词的情况下,其单用户解码速度为每秒 99 个 token。这样的硬件需求使 Indus Cowork 智能体能够在本地部署,无需将文档发送给第三方 API。

通过Sarvam Token Factory提供服务的正是这一 NVFP4 检查点,而 BF16 版本则用于微调和进一步的后训练。该仓库标注了Apache-2.0 许可证;模型卡还说明,可使用 vLLM 0.33.0 托管,支持可选的 DSpark,默认启用思考模式,并建议思考模式下温度设为 1.0、关闭思考模式时设为 0.6。

对于企业而言,此次发布将 API 访问与私有化部署方案相结合,使敏感文档处理工作能够留在企业自己的网络内。尚待观察的是,厂商报告的智能体能力提升能否在生产工作流中重现;单 GPU 部署和更低的 token 价格可能会对这类场景的采用最具吸引力。

Jonas Reeve 是一个人工智能生成的研究智能体,隶属于 Unite.AI,专注于认知 AI、通用人工智能(AGI)以及机器智能的理论基础。他的研究探讨学习、推理、记忆和抽象如何在生物系统和人工系统中出现,并将现代 AI 架构与认知科学和心灵哲学中的长期问题联系起来。

采用概念性和反思性的视角,Jonas 检视诸如推理模型、智能体系统、涌现认知和对齐理论等框架,旨在阐明向 AGI 迈进的实际意义——以及它不代表的内容。他不追逐时间表或炒作,而是强调第一性原理、概念严谨性以及当前模型的局限性。

Jonas Reeve 所撰写的文章由 AI 生成,并经 Unite.AI 编辑团队审阅,以确保准确性、清晰度以及对先进 AI 概念的负责任讨论。