NVIDIA apresenta modelos abertos Nemotron 3.5 para embeddings, reranqueamento e análise

Em 21 de outubro de 2026, a NVIDIA ampliou sua linha Nemotron Retriever com novos modelos abertos e disponíveis comercialmente para geração de embeddings, reranqueamento e extração de documentos: Nemotron 3.5 Embed nas variantes 8B BF16, 1B BF16 e 1B NVFP4; Nemotron 3.5 Rerank 8B BF16; e Nemotron 3.5 Parse, com 631 milhões de parâmetros.

Em um anúncio de autoria da NVIDIA publicado no Hugging Face, a empresa afirmou que o lançamento se destina a fluxos de trabalho empresariais com agentes e acrescenta recursos de recuperação multimodal, classificação de relevância e processamento de documentos. A NVIDIA apresentou a qualidade da recuperação como um fator que influencia tanto as respostas geradas por um agente quanto o custo de inferência do LLM em uma tarefa. Segundo a empresa, quando as evidências retornadas são incompletas ou irrelevantes, os agentes realizam mais buscas e analisam mais documentos, consumindo tokens de inferência adicionais antes de concluir a tarefa.

As quatro variantes Embed e Rerank atendem a diferentes necessidades de implantação. O Nemotron 3.5 Embed 8B BF16 é voltado a buscas de alta qualidade em textos e documentos com grande riqueza visual. O modelo 1B BF16 condensa os recursos de recuperação multimodal do modelo 8B em um formato menor, para indexação multimodal e atendimento de consultas. O modelo 1B NVFP4 aplica quantização NVFP4 aos codificadores de texto e imagem, visando à indexação de documentos em grande escala e à recuperação de alto rendimento em hardware compatível. O Nemotron 3.5 Rerank 8B BF16 pontua conjuntamente pares de consultas e documentos para aprimorar a ordenação por relevância entre candidatos de texto e imagem, selecionando evidências para geração aumentada por recuperação e fluxos de trabalho agênticos. A recuperação abrange tanto o texto dos documentos quanto imagens, como tabelas, gráficos, infográficos, fichas técnicas e esquemas. A NVIDIA avaliou a recuperação de texto em 34 idiomas e a recuperação visual multilíngue no MIRACL Vision, que abrange 18 idiomas, e no KoViDoRe. A empresa observa que os modelos podem lidar com outros idiomas além dos testados.

Experimentos com recuperação agêntica

Para medir como a recuperação afeta o comportamento dos agentes, a NVIDIA avaliou o Nemotron 3.5 Embed e o Rerank nos conjuntos de dados ViDoRe v3, BRIGHT e BrowseComp-Plus. O ViDoRe v3 combina entradas de texto e imagem, enquanto o BRIGHT e o BrowseComp-Plus usam apenas entradas de texto. No fluxo de trabalho testado, um agente pesquisa um corpus com uma ferramenta de busca, analisa as evidências retornadas e ajusta as consultas seguintes. A matriz de testes alternou a implementação da ferramenta de busca em configurações somente com embeddings e em configurações com embeddings e reranqueamento, usando diferentes modelos, enquanto o LLM, as ferramentas, o conjunto de tarefas, o corpus e a política de execução do agente permaneceram iguais. A avaliação acompanhou se o agente encontrava as informações relevantes para cada tarefa e também o total de tokens de inferência do agente por tarefa em todos os turnos, contabilizando os tokens de entrada e de saída.

Segundo a NVIDIA, a inclusão do Nemotron 3.5 Rerank no fluxo de trabalho reduziu em cerca de 14% o custo em tokens por consulta dos agentes quando combinado com o modelo Embed 8B e em 13% quando combinado com o modelo 1B, além de melhorar a precisão da recuperação nas duas configurações. Combinado com o modelo Embed 8B, o reranqueador obteve cerca de 0,9 ponto a mais em nDCG@10 que o Qwen3-VL-Reranker-8B, com custo em tokens agênticos comparável, informa a NVIDIA.

Resultados nos rankings

No ViDoRe v3.1, a NVIDIA informa que o Nemotron 3.5 Embed 8B BF16 obteve 61,17 em nDCG@10, ficando em primeiro lugar entre os modelos de recuperação densa em 20 de outubro de 2026. A empresa descreve esse resultado como uma melhora de 8,94 pontos em relação aos 52,23 obtidos por seu modelo Llama Nemotron Embed VL 1B. Segundo a NVIDIA, o modelo 1B BF16 destilado alcançou 58,38 em nDCG@10, mantendo 95,4% da pontuação do modelo 8B usado como professor. No MIRACL Vision, a NVIDIA informa que o modelo 8B obteve 72,6 em nDCG@10, 4,3 pontos acima do Qwen3-VL-Embedding-8B, e afirma que os dois tamanhos de modelo Embed superaram as referências Qwen no KoViDoRe em entradas que combinam imagem e texto.

A NVIDIA, em conjunto com a equipe do MTEB, está lançando um ranking de reranqueamento do ViDoRe v3.1 que abrange entradas somente de imagem, somente de texto e combinações de imagem e texto. A NVIDIA informa que o reranqueador obteve 60,49 em nDCG@10 com entradas combinadas, contra 59,17 do Qwen3-VL-Reranker-8B, liderando esse ranking em 20 de outubro de 2026.

Desempenho e ajuste fino por domínio

Para implantação em produção, a NVIDIA informa que a variante NVFP4 oferece rendimento 27,1% maior que o modelo 1B BF16 no NVIDIA GB200, atingindo 128,8 documentos por segundo, contra 101,3, e mantendo 99,85% da precisão de recuperação do modelo BF16 no ViDoRe v3 para entradas que combinam imagem e texto. Nos testes da empresa com uma RTX PRO 6000 Blackwell Server Edition, o NVIDIA NIM processou 6.031 solicitações de consulta por segundo, cerca de 2,9 vezes as 2.099 solicitações por segundo de uma configuração comparável do vLLM, enquanto o rendimento do processamento de passagens foi descrito como comparável.

A NVIDIA também publicou uma receita de ajuste fino de embeddings multimodais que apresenta, em um único fluxo de trabalho, a geração de dados sintéticos, a mineração de negativos difíceis, o ajuste fino com o NVIDIA NeMo AutoModel e a avaliação, permitindo que as equipes criem consultas e rótulos de relevância a partir de suas próprias coleções de documentos. No teste realizado pela própria NVIDIA com essa receita, foram usadas 8.202 imagens de gráficos e infográficos e 8.591 consultas sintéticas geradas pelo Qwen3.8-Flash-Next, com foco em consultas enumerativas e abertas que tinham várias imagens relevantes. Após uma época de ajuste fino com 6.872 consultas, a pontuação nDCG@10 do modelo 1B BF16 subiu de 37,34 para 44,12 em 1.719 consultas sintéticas reservadas para teste. A NVIDIA descreve esse resultado como um ganho relativo de 18%; o modelo 8B BF16 passou de 41,44 para 42,75, um ganho relativo de 3%.

Arquitetura e treinamento dos modelos

Para o modelo de embeddings 8B, a NVIDIA partiu do Ministral-3-8B-Instruct e inicializou o componente de linguagem com base no Nemotron-3-Embed-8B-BF16. Em seguida, aplicou aprendizado contrastivo a conjuntos de dados de imagens e textos para produzir representações multimodais para recuperação. Os modelos 1B foram destilados do modelo 8B usando funções de perda de cosseno e erro quadrático médio, que alinham os embeddings do modelo aluno aos do modelo professor; o componente de linguagem deles foi inicializado com base no Nemotron-3-Embed-1B-BF16. Como o componente de linguagem permanece congelado durante o treinamento dos embeddings, a NVIDIA afirma que os embeddings apenas de texto devem corresponder aos dos modelos Nemotron 3 Embed correspondentes, permitindo que os embeddings de texto e os índices vetoriais existentes continuem sendo usados.

O Nemotron 3.5 Rerank compartilha a arquitetura de base do modelo de embeddings 8B, mas funciona como um codificador cruzado: codifica conjuntamente cada par de consulta e documento, em vez de gerar embeddings para consultas e documentos separadamente para calcular a similaridade. Em seguida, uma camada de pontuação baseada em perceptron multicamadas gera um logit escalar de relevância. Todos os modelos foram treinados com uma combinação de dados multilíngues e multimodais disponíveis publicamente e dados sintéticos, e os pesos finais lançados foram produzidos por meio da combinação de checkpoints. A NVIDIA afirma que mais detalhes sobre os dados de treinamento estão disponíveis no cartão de modelo de cada modelo no Hugging Face.

Nemotron 3.5 Parse

O Nemotron 3.5 Parse converte imagens de documentos em texto legível por máquina, preservando a estrutura que dá sentido ao conteúdo. O modelo detecta os elementos do documento, suas posições e a ordem de leitura e, em seguida, gera tabelas e gráficos em Markdown, tabelas HTML e blocos estruturados que os desenvolvedores podem indexar, pesquisar e processar posteriormente. A NVIDIA informa que o Parse obteve uma pontuação de 75,20 no ParseBench, a uma velocidade de 10,5 páginas por segundo em uma única NVIDIA H100, ficando em primeiro lugar entre os modelos com menos de 1 bilhão de parâmetros em 20 de outubro de 2026. O ParseBench avalia a extração de tabelas e gráficos, a fidelidade do conteúdo, a formatação semântica e a fundamentação visual.

Três modos de inferência permitem que os desenvolvedores troquem velocidade de processamento por precisão usando o mesmo modelo. Em uma única passagem, o modelo lê cada página uma vez e obtém 72,74, a uma velocidade de 16,1 páginas por segundo. Em duas passagens, ele volta a analisar as tabelas e os gráficos sinalizados durante a análise inicial da página, alcançando 74,92, a 11,2 páginas por segundo. Em três passagens, acrescenta uma etapa de detecção que identifica regiões adicionais para refinamento, alcançando 75,20, a 10,5 páginas por segundo. A NVIDIA descreve os três pontos de operação como ótimos de Pareto em sua comparação, pois nenhuma das outras configurações comparadas melhora simultaneamente a precisão e a velocidade de processamento.

Os dados de treinamento do Parse abrangeram documentos empresariais, artigos científicos, formulários, tabelas, gráficos e textos em vários idiomas; o conjunto foi ampliado por um mecanismo de geração de dados sintéticos. A NVIDIA informa que o modelo teve bom desempenho em avaliações que abrangeram 163 combinações de idiomas e sistemas de escrita. No pós-treinamento, a NVIDIA aplicou a Otimização de Política Relativa em Grupo, com recompensas personalizadas para estruturas corretas e penalidades para falhas. Segundo a empresa, isso reduziu os ciclos de geração repetitiva e os blocos não fechados, tornou as tabelas mais consistentes e melhorou a adesão aos esquemas de gráficos. A NVIDIA também agradeceu à LightOn, afirmando que as técnicas de código aberto compartilhadas foram fundamentais para aprimorar o modelo.

Avaliações de parceiros e disponibilidade

O anúncio inclui avaliações iniciais de parceiros empresariais. No caso da Elastic, a publicação afirma que a Inference API no Elasticsearch disponibiliza os modelos de embeddings e reordenação Nemotron Retriever por meio dos endpoints de inferência da NVIDIA; a integração do Nemotron 3 está prevista em breve pelo Elastic Inference Service, enquanto o suporte à implantação local está no roteiro. A Vectorize testou o Nemotron 3.5 Embed em seu Hindsight Agent Memory e, segundo a publicação, o modelo ficou em primeiro lugar em dois benchmarks de memória de conversas longas, com recall@10 de 93,8% no LoCoMo e de 65,9% no BEAM 100K, superando sete modelos de embeddings concorrentes; também obteve os maiores resultados de MRR e recall@5. Na avaliação da Perplexity, o Nemotron 3.5 Rerank 8B alcançou a maior pontuação média no benchmark privado de reordenação da Perplexity, composto por 72 tarefas, e apresentou resultados sólidos nos seis domínios. A Turbopuffer, que testou o modelo de embeddings 8B em um benchmark empresarial de pesquisa em PDFs, informa que ele recupera cerca de 5% mais resultados relevantes em Recall@20 do que o segundo melhor modelo e que agora oferece os modelos como opção nativa de embeddings.

Pesos abertos, dados e receitas de treinamento estão disponíveis no Hugging Face. A implantação em produção pode ser feita por meio do NVIDIA NIM e de parceiros de nuvem de IA e inferência, como Baseten, DeepInfra e FriendliAI. As receitas para ajuste fino de embeddings e reordenação foram publicadas no repositório NVIDIA NeMo Nemotron no GitHub.