NVIDIA 发布开放模型 Nemotron 3.5 Super VL 和 Bolt Edge

NVIDIA 于 2026 年 10 月 15 日发布了 Nemotron 3.5 Super VL。这是一款拥有 1200 亿参数、面向专用常驻智能体的开放式多模态模型；与此同时，NVIDIA 还推出了两款更小的 Bolt 模型，适用于边缘设备和本地硬件。Super VL 和 Nemotron 3.5 Bolt 74B-A9B 24GB 现已推出，Nemotron 3.5 Bolt E4B 4GB 计划于 2026 年 10 月 23 日发布。

此次发布扩展了 Nemotron 产品系列。NVIDIA 按部署层级划分该系列：8 月发布的 Lightning 适用于高吞吐量工作负载；Ultra 负责最具挑战性的推理任务；Bolt 则面向边缘设备。NVIDIA 表示，这三款全新的开放模型共同覆盖了智能体部署的全部范围，从大型企业服务器到边缘设备和本地硬件；Super VL 则是与 Nemotron Coalition 合作打造的。

架构与公布的性能

Super VL 采用拥有 1200 亿参数的混合专家架构，每个 token 会激活 120 亿个参数。NVIDIA 表示，该模型在多模态智能体任务中的准确率——包括遵循指令、使用工具、多步骤业务工作流和视觉理解——可与其参数量约为自身 5 倍的最大推理模型相媲美。NVIDIA 还称，Super VL 是同级别中速度最快的开放式智能体模型；据其报告，在单块 GPU 上，该模型的吞吐量最高可达同等规模其他开放模型的 5 倍。

该模型在一个系统中整合了推理、遵循指令和工具使用能力，以及对文本、图像、文档和视频的理解能力。根据 NVIDIA 的技术博客，这种整合让团队无需部署单独的文本模型和视觉语言模型，也无需在两者之间传递任务上下文，即可处理文本和视觉任务。NVIDIA 表示，该模型的视觉语言训练聚焦于智能体在实际应用中会遇到的内容：光学字符识别、表格、图表，以及网页和 PDF 等视觉文档中的结构化信息。

NVIDIA 公布的评测结果显示，Super VL 在 Hermes Bench 上得分为 63.44%，在 LangChain 行为评测中的得分为 87.05%；Nemotron 3 Ultra 在这两项评测中的得分分别为 56.33% 和 84.3%。在图表推理基准测试 CharXiv 上，NVIDIA 报告称 Super VL 的得分为 80.8%，高于 Nemotron 3 Nano Omni 的 63%；在模型使用 Python 代码解释时，得分则升至 84%。NVIDIA 还称，Super VL 在 OCRBench v2 排行榜上名列开放模型前列。技术博客指出，EXO Labs 的独立评测显示，在 DGX Spark 上，该模型位于准确率与任务完成时间的帕累托前沿。

训练与推理设计

Super VL 通过 Nemotron 3 Ultra 蒸馏而成。技术博客称，Ultra 的编程能力以及蒸馏过程中采用的 SkewReverse 损失函数提升了其编程准确率。在后训练阶段，多教师在线策略蒸馏整合了文本和视觉领域专用教师模型的指导；这些教师会对模型在视频推理与跟踪、视觉工具使用和对齐方面的回答进行评分。技术博客还提到了 Nemotron Coalition 成员的贡献：Perplexity 提供的数据集用于模型的中期训练，Prime Intellect 提供的环境则用于构建教师模型。

Nemotron 3.5 Super VL 在预训练和持续预训练阶段共使用约 26 万亿个 token 进行训练，随后又使用约 380 万个样本进行后训练，并在数十种环境中开展强化学习。持续预训练阶段新增了 100 亿个印度语言 token；NVIDIA 还将发布一个约含 2.8 万亿个 token、涵盖 22 种印度语言的数据集，该数据集由 NVIDIA 与 IIT Madras 及其 AI4Bharat 实验室共同开发。

此次发布包含基础检查点、后训练检查点和采用 NVFP4 量化的检查点。NVFP4 配方在 NVIDIA Blackwell 架构上使用 4 位权重和激活值，并结合量化感知蒸馏，旨在缩小量化造成的准确率差距。NVIDIA 报告称，一种名为 LiLiCorr 的开放式推测解码技术在 DGX Spark 上生成 token 的速度最高可达不使用推测解码时的 2.3 倍。多 token 预测使模型具备内部草拟器，可在一次前向传播中提出多个 token 供验证；上下文复用服务优化则会在智能体重复调用时保留注意力缓存和 Mamba 循环状态。

面向边缘设备的 Bolt 模型

Bolt 74B-A9B 24GB 采用原生 2 位量化，可将模型装入 24GB 内存，并在 NVIDIA RTX 和 DGX Spark 上本地运行，同时运行其他应用程序。NVIDIA 称，该模型在 PinchBench 上是同级别表现最佳的开放模型，在 BrowseComp 上则位列开放模型第二。该模型现已在 Hugging Face 上提供，并支持 llama.cpp、Ollama、LM Studio、Unsloth 和 vLLM。它面向将于 2026 年 10 月 16 日推出的 NVIDIA RTX Spark 笔记本电脑打造，也可在 GeForce RTX PC、DGX Spark、DGX Station 和 RTX PRO 工作站上运行。

Bolt E4B 4GB 面向运行于 GeForce RTX、Jetson 和 RTX/DGX Spark 上的实体智能体与对话智能体，将自然对话与多轮智能体能力相结合，适用于本地语音助手、交互式角色和嵌入式界面。

定制、早期采用者与部署

该模型提供开放权重、开放数据集和训练方案，并支持通过 NVIDIA NeMo、基于 Python 的流水线和开放数据集进行定制。NVIDIA 将在 Hugging Face 上发布涵盖智能体工具使用、金融、指令遵循、长上下文、公平性以及 45 个视觉语言数据集的开放数据集，并在 NeMo Gym 中提供强化学习环境。

据 NVIDIA 称，数十家机构正在使用自己的数据、工具、政策和工作流程对 Super VL 进行后训练。Scale AI 为 Skydance 的供应商信贷融资智能体和 EY 的并购尽职调查智能体对该模型进行了后训练；技术博客指出，针对 Skydance 工作负载的推理成本将降低 40 倍，延迟将降低 5 倍。AfterQuery 为 Hebbia 定制了该模型，用于分析信贷协议；AI21 和 Alice 则对该模型进行了后训练，以增强其抵御网络安全攻击的能力。NVIDIA 报告称，该模型用于 Alice 的威胁情报和漏洞分析时，准确率提高了 40%。Mercor 使用 APEX-SWE 编码基准对该模型进行了后训练，旨在支持能够规划、编写和调试代码的编码智能体。Ramp 正在将收据图像转换为结构化 JSON，其中包含商家信息、日期和支付数据；据技术博客称，该公司预计吞吐量最高可提升 50%，延迟可降低 10 倍。

集成 Super VL 的软件平台公司包括：Atlassian，用于在 Jira 和 Confluence 等应用中实现智能体搜索；CrowdStrike，用于企业安全领域的智能体蓝队防御；Dassault Systèmes，用于工程设计和仿真；以及 Perplexity，用于搜索和智能体任务。Salesforce正在定制 Nemotron，为 AI 智能体提供支持，以通过 Missionforce Operations 实现政府工作流程的数字化和自动化；Synopsys 的半导体设计验证软件也可与该模型互操作。

在部署方面，NVIDIA NIM 将该模型打包为可用于生产环境的微服务，每两周更新一次安全补丁和性能改进。NVIDIA 报告称，在配备 16 块 B200 GPU、每位用户每秒处理 50 个 token 的条件下，采用具备 KV 缓存感知路由的 Dynamo 服务，最多可服务数量达到 8 倍的用户，同时将首 token 延迟降低 85%。Super VL 现已通过 Hugging Face、OpenRouter、ModelScope 和 NVIDIA NIM 提供，可在 DGX Spark、DGX Station、RTX PRO 和 RTX 系统、Jetson，以及数据中心和云环境中运行。