NVIDIA Vera Rubin NVL72、初のMLPerf Inference プレビュー結果を公表

NVIDIAは2026年9月16日に、MLPerf Inference v6.1 提出結果を公表し、同社のVera Rubin NVL72システムによる初のMLPerf Inference プレビュー提出が見出しとなりました。同社は、このシステムがQwen3-VLベンチマークにおいて、GB300 NVL72システムに比べて最大3.7倍のスループット向上を実現したと述べています。

MLPerf Inference: Datacenterは、MLCommons Associationが提供するベンチマークスイートで、訓練済みモデルを用いてシステムが入力を処理し結果を生成する速度を測定します。MLCommons が公表した定義の下では、NVIDIAが見出し数値で引用したClosed部門は、ハードウェアプラットフォームとソフトウェアフレームワークを「リンゴとリンゴ」で比較できるよう、リファレンス実装と同一のモデルを使用することが求められます。一方、Preview利用可能性カテゴリのシステムは、次回の提出ラウンドで利用可能として提出できなければなりません。

DeepSeek-R1 と Qwen3-VL のプレビュー結果

NVIDIAはDeepSeek-R1およびQwen3-VLに対するVera Rubin NVL72のプレビュー結果を提出し、これらをv6.1スイートで最も要求の高いベンチマークの2つと位置付けました。Qwen3-VLでは、NVIDIAはオフライン、サーバー、インタラクティブシナリオすべてで、vLLMとNVIDIA Dynamoオープンソース推論フレームワークを使用し、GB300 NVL72に比べて最大3.7倍のスループット向上を報告しました。DeepSeek-R1においては、NVIDIA TensorRT-LLMライブラリを使用し、GB300 NVL72に対して最大2.5倍のスループット向上を報告しています。

引用されたClosed部門の数値は2026年9月16日にmlcommons.orgから取得され、提出エントリー6.1-0106および6.1-0074に基づくものです（結果と共に公表された引用によります）。NVIDIAは、この性能により各Vera Rubin NVL72ラックがGB300 NVL72ラックに比べてはるかに多くのトークンを処理し、より多くのユーザーにサービスを提供し、収益も増加させると同時に、トークンあたりのコストを削減できると述べました。

Nebiusも同ラウンドでVera Rubin NVL72のプレビュー結果を提出しました。NVIDIAはこれらの結果が優れた性能を示すと評価しました。

ハードウェア・ソフトウェア共同設計とエージェントテスト

NVIDIAは、ハードウェアとソフトウェアのフルスタック共同設計が今回の結果に寄与したと評価しています。同社は、Vera Rubinの強化されたTensor CoresとTransformer Engineが推論のprefill段階とdecode段階の両方を高速化し、NVFP4精度がモデル重み、アテンション、KVキャッシュのメモリフットプリントを削減することで、出力品質の損失を最小限に抑えつつスループットを向上させたと述べています。

提出された結果は、prefillとdecodeを分離するディスアグリゲート型サービングと、DeepSeek-R1やQwen3-VLなどのモデルで使用されるMixture-of-Experts層における大規模エキスパート並列処理を組み合わせています。NVIDIAは、第6世代NVLinkおよびNVLink Switch上に構築されたNVL72スケールアップドメインが、市販のEthernetに比べてパケットレートを10倍、レイテンシを3倍低減し、ラック規模でのこれら技術のインターコネクト基盤を提供すると述べています。

同社はまた、エージェントワークロードを測定するために設計されたSemiAnalysis AgentXベンチマークにおけるプレビュー試験で、Vera Rubin NVL72がGB300 NVL72に比べて30倍の性能向上を示したと報告しました。NVIDIAは、今後のMLPerf Endpointsベンチマークが、従来のスループットベンチマークが捉えきれないエージェント推論ワークロードに対して標準化された測定を提供すると述べています。

GB300 NVL72 のスケーリング、ソフトウェア向上、パートナー結果

同ラウンドで、NVIDIAのDeepSeek-R1提出は、72 GPU搭載の単一GB300 NVL72ラックから、合計288 GPUの4ラックへとスケールし、オフラインシナリオで99％のスケーリング効率を達成しました（スループットは追加されたハードウェアにほぼ比例して増加）。同社はエントリー6.1-0073および6.1-0074を引用しています。WAN 2.2テキスト・ツー・ビデオベンチマークでは、GB300 NVL72は1秒あたり0.65本の720pビデオ（1本あたり5.7秒）を達成し、単一ノードに比べて9倍のスループットと7.5倍のレイテンシ低減を示すとNVIDIAは述べました。

NVIDIAは、Qwen3-VLにおけるGB300 NVL72の性能がv6.0の結果に比べてv6.1で最大1.6倍向上したと報告しました。これはKVキャッシュ精度の低減、追加のカーネル融合、より優れたカーネル、そしてvLLMとNVIDIA Dynamoを用いたディスアグリゲート型サービングによるものです。同社は、最適化がv6.1提出期限を過ぎても継続され、GPT-OSS-120BおよびDLRMv3に対する提出後の結果でさらなる向上が見られると述べましたが、これらの数値はまだMLCommonsによって検証されていません。

ラック規模のプラットフォームに加えて、NVIDIAは新たに導入されたEdge-AgenticベンチマークでQwen3.6-27Bモデルを使用し、TensorRT Edge-LLMライブラリを用いたJetson AGX Thorの結果を提出しました。同社は、今回のラウンドに19社のパートナーが参加し、そのうち8社がマルチノードBlackwell NVL72システムで提出したと述べました：ASUS、Azure、Cisco、CoreWeave、Crusoe、Dell Technologies、Fujitsu、Giga Computing、HPE、Inventec、Lambda、MiTAC Computing、Nebius、Oracle Cloud Infrastructure、Quanta Cloud Technology、Red Hat、ScitiX、Supermicro、Wiwynn。

MLCommonsはベンチマークページで、公開された結果は初回公開後に変更または無効になることがあり、すべての変更は変更履歴に記録されると記しています。