NVIDIA、埋め込み・再ランキング・解析向けのオープンモデル「Nemotron 3.5」を発表

NVIDIAは2026年10月21日、Nemotron Retrieverシリーズを拡充し、埋め込み、再ランキング、文書抽出に対応する新たなオープンモデルを商用利用可能な形で公開した。モデルは、8B BF16、1B BF16、1B NVFP4の各バリアントを含むNemotron 3.5 Embed、Nemotron 3.5 Rerank 8B BF16、そしてパラメーター数6億3,100万のNemotron 3.5 Parseで構成される。

Hugging Faceで公開された、NVIDIAが執筆した発表で、同社は今回のリリースが企業のエージェントワークフローを対象としており、マルチモーダル検索、関連性の順位付け、文書処理の機能を追加すると述べた。NVIDIAは、検索品質がエージェントの回答とタスクにかかるLLM推論コストの双方を左右する要因だと位置づけた。証拠となる情報が不完全、または無関係な状態で返されると、エージェントは検索回数を増やし、より多くの文書を確認するため、処理を終えるまでに追加の推論トークンを消費するとしている。

4種類のEmbedおよびRerankバリアントは、それぞれ異なる導入用途を想定している。Nemotron 3.5 Embed 8B BF16は、テキストや視覚情報が豊富な文書を対象とした、品質重視の検索向けに位置づけられている。1B BF16モデルは、8Bモデルのマルチモーダル検索機能をより小さなフットプリントに凝縮し、マルチモーダルなインデックス作成とクエリ処理に対応する。1B NVFP4モデルは、テキストエンコーダーと画像エンコーダーの両方にNVFP4量子化を適用し、対応ハードウェア上での大規模な文書インデックス作成と高スループット検索を対象としている。Nemotron 3.5 Rerank 8B BF16は、クエリと文書のペアをまとめてスコア付けし、テキストと画像の候補間の関連性の順位をより適切に整えることで、検索拡張生成やエージェント型ワークフローに用いる証拠を選び出す。検索対象には文書のテキストに加え、表、グラフ、インフォグラフィック、データシート、回路図などの画像も含まれる。NVIDIAは、テキスト検索を34言語で評価したほか、18言語を対象とするMIRACL VisionとKoViDoReで多言語の視覚検索を評価し、テスト対象以外の言語にもモデルが対応できる可能性があると述べている。

エージェント型検索の実験

検索がエージェントの挙動に与える影響を測定するため、NVIDIAはViDoRe v3、BRIGHT、BrowseComp-PlusでNemotron 3.5 EmbedとRerankを評価した。ViDoRe v3ではテキストと画像を組み合わせた入力を使用する一方、BRIGHTとBrowseComp-Plusではテキストのみの入力を使用する。テストしたパイプラインでは、エージェントが検索ツールを使ってコーパスを検索し、返された証拠を確認したうえで、後続のクエリを調整する。テストでは、異なるモデルを用いた埋め込みのみの構成と、埋め込みに再ランキングを加えた構成の間で検索ツールの実装を入れ替えた一方、エージェントのLLM、ツール、タスクセット、コーパス、実行ポリシーは同一に保った。評価では、エージェントが各タスクに必要な情報を見つけられたかどうかに加え、入力トークンと出力トークンの両方を含め、すべてのターンを通じたタスクごとのエージェント推論トークン総数を追跡した。

NVIDIAによると、パイプラインにNemotron 3.5 Rerankを加えたところ、エージェント型処理のクエリ当たりトークンコストは、8Bの埋め込みモデルとの組み合わせで約14%、1Bモデルとの組み合わせで13%減少し、どちらの構成でも検索精度が向上した。NVIDIAの報告では、8Bの埋め込みモデルと組み合わせた場合、再ランキングモデルは、エージェント型処理のトークンコストが同程度のQwen3-VL-Reranker-8Bを、nDCG@10で約0.9ポイント上回った。

リーダーボードの結果

ViDoRe v3.1では、Nemotron 3.5 Embed 8B BF16のnDCG@10は61.17で、2026年10月20日時点で高密度検索モデルの首位に立ったとNVIDIAは報告している。同社は、このスコアが自社のLlama Nemotron Embed VL 1Bモデルの52.23を8.94ポイント上回るとしている。蒸留版の1B BF16モデルはnDCG@10で58.38を記録し、NVIDIAによれば、教師モデルである8Bのスコアの95.4%を維持した。MIRACL Visionでは、8BモデルがnDCG@10で72.6を記録し、Qwen3-VL-Embedding-8Bを4.3ポイント上回った。また、画像とテキストを組み合わせた入力を用いるKoViDoReでは、どちらのサイズの埋め込みモデルもQwenのベースラインを上回ったとNVIDIAは述べている。

NVIDIAはMTEBチームと共同で、画像のみ、テキストのみ、画像とテキストの組み合わせという入力形式を対象とするViDoRe v3.1再ランキング・リーダーボードを開始する。NVIDIAによると、再ランキングモデルは複合入力でnDCG@10が60.49となり、59.17のQwen3-VL-Reranker-8Bを上回り、2026年10月20日時点で同リーダーボードの首位に立った。

スループットとドメイン別ファインチューニング

本番環境への導入について、NVIDIAは、NVFP4バリアントがNVIDIA GB200上で1B BF16モデルよりスループットを27.1%向上させ、毎秒101.3件に対して128.8件の文書を処理すると報告している。また、画像とテキストを組み合わせた入力を用いるViDoRe v3で、BF16モデルの検索精度の99.85%を維持した。同社のテストでは、RTX PRO 6000 Blackwell Server Edition上でNVIDIA NIMが毎秒6,031件のクエリ要求を処理した。これは、同等のvLLM構成の毎秒2,099件に対して約2.9倍にあたる一方、パッセージ処理のスループットは同程度と説明されている。

NVIDIAはまた、合成データの生成、ハードネガティブマイニング、NVIDIA NeMo AutoModelによるファインチューニング、評価までを一連のワークフローとして解説する、マルチモーダル埋め込みのファインチューニング手順も公開した。これにより、各チームは自社の文書コレクションからクエリと関連性ラベルを作成できる。NVIDIAがこの手順を独自にテストした際には、Qwen3.8-Flash-Nextで生成した8,591件の合成クエリと、8,202点のグラフおよびインフォグラフィック画像を使用した。複数の関連画像を持つ列挙型および自由回答形式のクエリに焦点を当てた。6,872件のクエリで1エポックのファインチューニングを行った後、1B BF16モデルのnDCG@10は、テスト用に留保した1,719件の合成クエリで37.34から44.12に上昇した。NVIDIAはこれを相対値で18%の向上と説明している。8B BF16モデルは41.44から42.75に上昇し、相対値で3%向上した。

モデルのアーキテクチャとトレーニング

8B埋め込みモデルでは、NVIDIAはMinistral-3-8B-Instructをベースとし、言語コンポーネントをNemotron-3-Embed-8B-BF16から初期化したうえで、画像とテキストのコーパスを用いた対照学習を適用し、マルチモーダル検索表現を生成しました。1Bモデルは、コサイン損失と平均二乗誤差損失を用いて生徒モデルの埋め込みを教師モデルに合わせる形で、8Bモデルから蒸留されました。また、言語コンポーネントはNemotron-3-Embed-1B-BF16から初期化されました。埋め込みの学習中、言語コンポーネントは凍結されたままのため、テキストのみの埋め込みは対応するNemotron 3 Embedモデルのものと一致するはずだとNVIDIAは説明しています。そのため、既存のテキスト埋め込みとベクトルインデックスを引き継ぐことができます。

Nemotron 3.5 Rerankは8B埋め込みモデルと同じバックボーンアーキテクチャを採用していますが、クロスエンコーダーとして動作します。クエリと文書を別々に埋め込んで類似度を算出するのではなく、各クエリと文書のペアをまとめてエンコードし、その後、多層パーセプトロンのスコアリングヘッドが関連度を示すスカラー値のロジットを出力します。すべてのモデルは、公開データと合成データからなる多言語・マルチモーダルデータの混合を用いて学習され、最終的に公開された重みはチェックポイントのアンサンブルによって生成されました。学習データの詳細は、各モデルのHugging Faceモデルカードで確認できるとNVIDIAは述べています。

Nemotron 3.5 Parse

Nemotron 3.5 Parseは、文書画像を機械可読なテキストに変換しながら、内容の意味を成り立たせる構造を維持します。このモデルは文書内の要素とその位置、読み取り順序を検出し、表やグラフをMarkdown、HTMLテーブル、構造化ブロックとして出力します。開発者はこれらをインデックス化、検索し、後続の処理に利用できます。NVIDIAによると、Parseは単一のNVIDIA H100上で毎秒10.5ページを処理し、ParseBenchで75.20のスコアを記録しました。2026年10月20日時点で、パラメーター数が10億未満のモデルの中で1位となっています。ParseBenchでは、表やグラフの抽出、内容の忠実性、意味に沿ったフォーマット、視覚的グラウンディングを評価します。

同じモデルで3種類の推論モードを使い分けることで、開発者はスループットと精度のトレードオフを調整できます。シングルパスでは各ページを1回読み取り、毎秒16.1ページの処理速度で72.74を記録します。ダブルパスでは、最初のページ解析で検出された表やグラフを再確認し、毎秒11.2ページで74.92に達します。トリプルパスでは、追加の領域を検出して精緻化するステップが加わり、毎秒10.5ページで75.20に達します。NVIDIAは、比較対象のいずれの構成も精度とスループットを同時に向上させることはできないとして、この3つの動作点はいずれも比較対象の中でパレート最適だと説明しています。

Parseの学習データには、企業文書、科学論文、フォーム、表、グラフ、多言語テキストが含まれ、合成データ生成エンジンによってその範囲が拡張されました。NVIDIAによると、163種類の言語と文字体系の組み合わせにまたがる評価で高い性能を示しています。事後学習では、NVIDIAはGroup Relative Policy Optimizationを適用し、構造が正しく生成された場合に報酬を与え、失敗にはペナルティを課す独自の報酬設計を採用しました。同社によると、これにより、生成が同じ内容を繰り返すループや閉じられていないブロックが減少し、表の一貫性が高まり、グラフのスキーマへの準拠も改善されました。またNVIDIAは、共有されたオープンソースの手法がモデルの改善に極めて重要だったとして、LightOnに謝意を示しました。

パートナーによる評価と提供状況

今回の発表には、企業パートナーによる初期評価が含まれています。Elasticの投稿によると、ElasticsearchのInference APIでは、NVIDIAの推論エンドポイントを通じてNemotron Retrieverの埋め込みモデルと再ランキングモデルを利用できます。Nemotron 3は近日中にElastic Inference Serviceを通じて追加される予定で、オンプレミスでの導入対応もロードマップに含まれています。VectorizeはHindsight Agent Memory内でNemotron 3.5 Embedをテストし、投稿によると、長時間の会話メモリを評価する2つのベンチマークで1位を獲得しました。7つの競合する埋め込みモデルと比較して、LoCoMoでrecall@10が93.8%、BEAM 100Kで65.9%を記録したほか、MRRとrecall@5でも最高値を示しました。Perplexityによる評価では、Perplexity独自の72タスクの再ランキングベンチマークで、Nemotron 3.5 Rerank 8Bが平均スコアの最高値を記録し、6つすべての領域で高い結果を示しました。企業向けPDF検索ベンチマークで8B埋め込みモデルをテストしたTurbopufferによると、Recall@20で次点のモデルよりも関連性の高い結果が約5%多く得られました。同社は現在、これらのモデルをネイティブな埋め込みオプションとして提供しています。

オープンウェイト、データ、学習レシピはHugging Faceで公開されており、NVIDIA NIMや、AIクラウドおよび推論のパートナーであるBaseten、DeepInfra、FriendliAIを通じて本番環境に導入できます。埋め込みと再ランキングのファインチューニング用レシピは、NVIDIA NeMo NemotronのGitHubリポジトリで公開されています。