NVIDIA 推出开放版 Nemotron 3.5 模型，涵盖嵌入、重排序和解析

2026年10月21日，NVIDIA 扩展了 Nemotron Retriever 系列，推出多款开放且可商用的新模型，涵盖嵌入、重排序和文档提取：Nemotron 3.5 Embed 的 8B BF16、1B BF16 和 1B NVFP4 版本，Nemotron 3.5 Rerank 8B BF16，以及拥有 6.31 亿个参数的 Nemotron 3.5 Parse。

在一则由 NVIDIA 撰写并发布于 Hugging Face 的公告中，该公司表示，此次发布面向企业级智能体工作流，新增了多模态检索、相关性排序和文档处理功能。NVIDIA 指出，检索质量既会影响智能体生成的答案，也会影响任务所需的 LLM 推理成本；如果检索返回的证据不完整或不相关，智能体就会执行更多搜索、审阅更多文档，在完成任务前消耗额外的推理词元。

四种 Embed 和 Rerank 变体分别面向不同的部署场景。Nemotron 3.5 Embed 8B BF16 面向注重质量的搜索，适用于文本和视觉内容丰富的文档。1B BF16 模型以更小的体量实现 8B 模型的多模态检索能力，可用于多模态索引和查询服务。1B NVFP4 模型对文本和图像编码器均采用 NVFP4 量化，面向大规模文档索引和支持硬件上的高吞吐量检索。Nemotron 3.5 Rerank 8B BF16 对查询与文档对进行联合评分，以优化文本和图像候选项的相关性排序，并为检索增强生成和智能体工作流筛选证据。检索内容既包括文档文本，也包括表格、图表、信息图、数据表和示意图等图像。NVIDIA 在 34 种语言中评估了文本检索，并在涵盖 18 种语言的 MIRACL Vision 和 KoViDoRe 上评估了多语言视觉检索；该公司指出，这些模型可能还支持测试范围之外的其他语言。

智能体检索实验

为衡量检索对智能体行为的影响，NVIDIA 在 ViDoRe v3、BRIGHT 和 BrowseComp-Plus 上评估了 Nemotron 3.5 Embed 和 Rerank。ViDoRe v3 使用文本与图像的组合输入，而 BRIGHT 和 BrowseComp-Plus 使用纯文本输入。在测试的流程中，智能体使用搜索工具检索语料库、审阅返回的证据，并据此调整后续查询。测试矩阵在仅使用嵌入和使用嵌入加重排序这两种设置下，分别替换为不同模型实现的搜索工具；与此同时，智能体的 LLM、工具、任务集、语料库和执行策略均保持不变。评估既追踪智能体是否找到每项任务所需的相关信息，也统计每项任务所有轮次中的智能体推理词元总数，包括输入和输出词元。

NVIDIA 表示，在流程中加入 Nemotron 3.5 Rerank 后，与 8B 嵌入模型搭配时，每次查询的智能体词元成本降低约 14%；与 1B 模型搭配时，降低 13%；两种配置的检索准确率也均有所提高。NVIDIA 报告称，与 8B 嵌入模型搭配时，在智能体词元成本相当的情况下，该重排序模型的 nDCG@10 比 Qwen3-VL-Reranker-8B 高约 0.9 分。

排行榜结果

在 ViDoRe v3.1 上，NVIDIA 报告称，Nemotron 3.5 Embed 8B BF16 的 nDCG@10 为 61.17；截至 2026年10月20日，该模型在稠密检索模型中排名第一。该公司称，这比其 Llama Nemotron Embed VL 1B 模型的 52.23 分提高了 8.94 分。NVIDIA 表示，蒸馏得到的 1B BF16 模型取得 58.38 的 nDCG@10，达到 8B 教师模型得分的 95.4%。在 MIRACL Vision 上，NVIDIA 报告称，8B 模型的 nDCG@10 为 72.6，比 Qwen3-VL-Embedding-8B 高 4.3 分；该公司还表示，在 KoViDoRe 的图文组合输入测试中，两个嵌入模型尺寸的表现均优于 Qwen 基线模型。

NVIDIA 与 MTEB 团队正推出 ViDoRe v3.1 重排序排行榜，涵盖纯图像、纯文本以及图文组合输入。NVIDIA 报告称，该重排序模型在组合输入上的 nDCG@10 为 60.49，高于 Qwen3-VL-Reranker-8B 的 59.17；截至 2026年10月20日，该模型位居排行榜榜首。

吞吐量与领域微调

对于生产环境部署，NVIDIA 报告称，在 NVIDIA GB200 上，NVFP4 版本的吞吐量比 1B BF16 模型高 27.1%，达到每秒处理 128.8 份文档，而后者为 101.3 份；在 ViDoRe v3 的图文组合输入测试中，其检索准确率保持在 BF16 模型的 99.85%。在该公司的 RTX PRO 6000 Blackwell Server Edition 测试中，NVIDIA NIM 每秒处理了 6,031 个查询请求，约为可比 vLLM 配置每秒 2,099 个请求的 2.9 倍；该公司称，两者的段落处理吞吐量相当。

NVIDIA 还发布了多模态嵌入微调方案，完整介绍如何通过一个工作流生成合成数据、挖掘难负例、使用 NVIDIA NeMo AutoModel 进行微调并开展评估，让团队能够基于自己的文档集合构建查询和相关性标签。NVIDIA 使用该方案进行的测试采用了 8,202 张图表和信息图图像，以及由 Qwen3.8-Flash-Next 生成的 8,591 条合成查询；这些查询侧重于列举式和开放式问题，且每条查询对应多张相关图像。在 6,872 条查询上完成一个轮次的微调后，1B BF16 模型在 1,719 条留出的合成查询上的 nDCG@10 从 37.34 升至 44.12；NVIDIA 称，相对提升幅度为 18%。8B BF16 模型的得分则从 41.44 升至 42.75，相对提升幅度为 3%。

模型架构与训练

对于 8B 嵌入模型，NVIDIA 基于 Ministral-3-8B-Instruct 构建，并使用 Nemotron-3-Embed-8B-BF16 初始化语言组件，随后在图像和文本语料上进行对比学习，以生成多模态检索表示。1B 模型则通过蒸馏 8B 模型得到，采用余弦损失和均方误差损失，使学生模型的嵌入与教师模型的嵌入对齐；其语言组件使用 Nemotron-3-Embed-1B-BF16 初始化。由于嵌入训练期间语言组件保持冻结，NVIDIA 表示，纯文本嵌入应与相应 Nemotron 3 Embed 模型的嵌入一致，因此现有的文本嵌入和向量索引可以沿用。

Nemotron 3.5 Rerank 与 8B 嵌入模型采用相同的骨干架构，但以交叉编码器的方式运行：它会对每个查询—文档对进行联合编码，而不是分别嵌入查询和文档来计算相似度；随后，多层感知机评分头会输出一个标量相关性 logit。所有模型均使用公开数据和合成数据组成的多语言、多模态数据集进行训练，最终发布的权重则通过检查点集成生成。NVIDIA 表示，更多训练数据详情可在各模型的 Hugging Face 模型卡中查看。

Nemotron 3.5 文档解析

Nemotron 3.5 Parse 可将文档图像转换为机器可读文本，同时保留赋予内容意义的结构。该模型能够检测文档元素、元素位置和阅读顺序，然后将表格和图表输出为 Markdown、HTML 表格及结构化内容块，供开发者建立索引、搜索并进行后续处理。NVIDIA 报告称，Parse 在单张 NVIDIA H100 上以每秒 10.5 页的速度运行，ParseBench 得分为 75.20；截至 2026 年 10 月 20 日，在参数量低于 10 亿的模型中排名第一。ParseBench 测试表格和图表提取、内容忠实度、语义格式处理以及视觉定位能力。

三种推理模式让开发者能够使用同一模型，在吞吐量和准确度之间进行权衡。单次处理模式每页读取一次，得分为 72.74，速度为每秒 16.1 页。双次处理模式会重新处理初次页面解析中标记的表格和图表，得分达到 74.92，速度为每秒 11.2 页。三次处理模式则增加一个检测步骤，以发现更多需要细化处理的区域，得分达到 75.20，速度为每秒 10.5 页。NVIDIA 称，在其对比中，这三种运行配置均处于帕累托最优状态，因为其他受比较的配置都无法同时提升准确度和吞吐量。

Parse 的训练数据涵盖企业文档、科学论文、表单、表格、图表和多语言文本，并通过合成数据引擎扩充；NVIDIA 报告称，该模型在涵盖 163 种语言和文字组合的评测中表现出色。在后训练阶段，NVIDIA 采用群体相对策略优化（Group Relative Policy Optimization），并针对结构正确性设置定制奖励、针对失败设置惩罚。据 NVIDIA 称，这一方法减少了重复生成循环和未闭合内容块，使表格更加一致，并提升了对图表模式的遵循程度。NVIDIA 还感谢了 LightOn，并表示双方共享的开源技术对于改进该模型至关重要。

合作伙伴评测与可用性

此次公告还收录了企业合作伙伴的早期评测。对于 Elastic，公告称，Elasticsearch 中的 Inference API 可通过 NVIDIA 推理端点提供 Nemotron Retriever 嵌入和重排模型；Nemotron 3 即将通过 Elastic Inference Service 提供，本地部署支持则已列入路线图。Vectorize 在其 Hindsight Agent Memory 中测试了 Nemotron 3.5 Embed。据公告称，该模型在两项长对话记忆基准测试中均排名第一：在 LoCoMo 上的 recall@10 为 93.8%，在 BEAM 100K 上为 65.9%，与七种竞争嵌入模型相比，其 MRR 和 recall@5 也都是最高的。Perplexity 的评测显示，Nemotron 3.5 Rerank 8B 在 Perplexity 的私有 72 项重排基准测试中平均得分最高，并且在全部六个领域都取得了出色成绩。Turbopuffer 在企业 PDF 搜索基准测试中测试了 8B 嵌入模型，报告称，与次优模型相比，该模型在 Recall@20 下找到的相关结果约多 5%；Turbopuffer 目前还已将这些模型作为原生嵌入选项提供。

开放权重、数据和训练方案可在 Hugging Face 获取；生产部署则可通过 NVIDIA NIM，以及 AI 云和推理合作伙伴 Baseten、DeepInfra 和 FriendliAI 实现。嵌入和重排微调方案已发布在 NVIDIA NeMo Nemotron GitHub 仓库中。