Modelos e plataformas de IA
NVIDIA Vera Rubin NVL72 publica os primeiros resultados de pré-visualização do MLPerf Inference
Adicione Unite.AI às suas fontes preferidas no Google
A NVIDIA, em 16 de setembro de 2026, publicou seus resultados da submissão MLPerf Inference v6.1, com destaque para a primeira submissão de pré-visualização do MLPerf Inference de seu sistema Vera Rubin NVL72, que a empresa afirmou ter entregado até 3,7x maior taxa de transferência que seu sistema GB300 NVL72 no benchmark Qwen3-VL.
MLPerf Inference: Datacenter é um conjunto de benchmarks da Associação MLCommons que mede a rapidez com que os sistemas processam entradas e produzem resultados usando um modelo treinado. De acordo com as definições publicadas pela MLCommons, a divisão Closed — a categoria que a NVIDIA citou para seus números principais — exige o uso do mesmo modelo da implementação de referência, de modo que plataformas de hardware e estruturas de software possam ser comparadas “casa a casa”, enquanto os sistemas na categoria de disponibilidade Preview devem ser submetidos como Available na próxima rodada de submissão.
Resultados de pré-visualização do DeepSeek-R1 e Qwen3-VL
A NVIDIA enviou os resultados de pré-visualização do Vera Rubin NVL72 nos benchmarks DeepSeek-R1 e Qwen3-VL, que descreveu como dois dos mais exigentes da suíte v6.1. No Qwen3-VL, a empresa relatou até 3,7x maior taxa de transferência que o GB300 NVL72 nos cenários offline, server e interativo, usando vLLM com a estrutura de inferência de código aberto NVIDIA Dynamo. No DeepSeek-R1, utilizando a biblioteca NVIDIA TensorRT-LLM, a NVIDIA informou taxa de transferência até 2,5x maior que o GB300 NVL72.
Os números da divisão Closed citados foram obtidos em mlcommons.org em 16 de setembro de 2026 e provêm das entradas de submissão 6.1-0106 e 6.1-0074, conforme a citação publicada com os resultados. A NVIDIA afirmou que o desempenho significa que cada rack Vera Rubin NVL72 entrega significativamente mais tokens, atende a mais usuários e gera mais receita que um rack GB300 NVL72, ao mesmo tempo que reduz o custo por token.
A Nebius também enviou resultados de pré-visualização do Vera Rubin NVL72 na mesma rodada; a NVIDIA descreveu esses resultados como demonstração de desempenho excelente.
Co-design de hardware e software e testes agêncicos
A NVIDIA atribuiu os resultados ao co-design full-stack entre hardware e software. A empresa disse que os Tensor Cores aprimorados e o Transformer Engine do Vera Rubin aceleram tanto as etapas de prefill quanto de decode da inferência, enquanto a precisão NVFP4 reduz a pegada de memória dos pesos do modelo, da atenção e do cache KV, aumentando a taxa de transferência com o que a NVIDIA descreveu como perda mínima de qualidade de saída.
As submissões usaram serviço desagregado, que separa prefill e decode, juntamente com paralelismo de especialistas em larga escala nas camadas mixture-of-experts usadas por modelos como DeepSeek-R1 e Qwen3-VL. A NVIDIA afirmou que o domínio de escala NVL72, construído sobre a sexta geração de NVLink e NVLink Switch, oferece taxas de pacotes 10x maiores e latência 3x menor que Ethernet comercial, fornecendo a base de interconexão para essas técnicas em escala de rack.
A empresa também relatou que o Vera Rubin NVL72 entregou desempenho 30x superior ao GB300 NVL72 nos testes de pré-visualização do benchmark SemiAnalysis AgentX, projetado para medir cargas de trabalho agêncicas. A NVIDIA disse que o próximo benchmark MLPerf Endpoints trará medição padronizada para cargas de trabalho de inferência agêncica além do que os benchmarks tradicionais de taxa de transferência capturam.
Escala do GB300 NVL72, ganhos de software e resultados de parceiros
Na mesma rodada, a submissão DeepSeek-R1 da NVIDIA escalou de um único rack GB300 NVL72 com 72 GPUs para quatro racks totalizando 288 GPUs, atingindo 99 % de eficiência de escala no cenário offline, com a taxa de transferência crescendo quase proporcionalmente ao hardware adicionado; a empresa citou as entradas 6.1-0073 e 6.1-0074. No benchmark WAN 2.2 de texto‑para‑vídeo, o GB300 NVL72 alcançou 0,65 vídeos 720p por segundo em 5,7 segundos por vídeo, o que a NVIDIA afirmou representar 9x maior taxa de transferência e 7,5x menor latência que um nó único.
A NVIDIA informou que o desempenho do GB300 NVL72 no Qwen3-VL melhorou até 1,6x no v6.1 em relação aos resultados do v6.0, atribuindo isso à menor precisão do cache KV, fusão adicional de kernels, kernels aprimorados e serviço desagregado com vLLM e NVIDIA Dynamo. A empresa disse que a otimização continuou após o prazo de submissão do v6.1, e que os resultados pós‑submissão no GPT‑OSS‑120B e DLRMv3 mostram ganhos adicionais, embora esses números ainda não tenham sido verificados pela MLCommons.
Além de suas plataformas em escala de rack, a NVIDIA enviou resultados do Jetson AGX Thor usando a biblioteca TensorRT Edge‑LLM no benchmark recém‑introduzido Edge‑Agentic com o modelo Qwen3.6-27B. A empresa informou que 19 parceiros participaram da rodada, oito deles enviando em sistemas Blackwell NVL72 multinó: ASUS, Azure, Cisco, CoreWeave, Crusoe, Dell Technologies, Fujitsu, Giga Computing, HPE, Inventec, Lambda, MiTAC Computing, Nebius, Oracle Cloud Infrastructure, Quanta Cloud Technology, Red Hat, ScitiX, Supermicro e Wiwynn.
A MLCommons observa em sua página de benchmark que os resultados publicados às vezes são modificados ou invalidados após a publicação inicial, com quaisquer alterações registradas em seu registro de mudanças.
