NVIDIA presenta i nuovi modelli aperti Nemotron 3.5 per generazione di embedding, riordinamento e parsing

Il 21 ottobre 2026, NVIDIA ha ampliato la propria raccolta Nemotron Retriever con nuovi modelli aperti e disponibili a fini commerciali per la generazione di embedding, il riordinamento e l’estrazione di documenti: Nemotron 3.5 Embed nelle varianti 8B BF16, 1B BF16 e 1B NVFP4, Nemotron 3.5 Rerank 8B BF16 e Nemotron 3.5 Parse con 631 milioni di parametri.

In un annuncio pubblicato su Hugging Face e redatto da NVIDIA, l’azienda ha dichiarato che il rilascio è destinato ai flussi di lavoro aziendali basati su agenti e aggiunge capacità di recupero multimodale, classificazione per rilevanza ed elaborazione dei documenti. NVIDIA ha presentato la qualità del recupero come un fattore che incide sia sulle risposte prodotte da un agente sia sul costo dell’inferenza LLM per un’attività, affermando che, quando le prove recuperate sono incomplete o irrilevanti, gli agenti effettuano più ricerche ed esaminano più documenti, consumando token di inferenza aggiuntivi prima di terminare.

Le quattro varianti Embed e Rerank coprono ruoli di implementazione distinti. Nemotron 3.5 Embed 8B BF16 è pensato per ricerche in cui la qualità è prioritaria, su testi e documenti con contenuti visivi complessi. Il modello 1B BF16 racchiude le capacità di recupero multimodale del modello 8B in un formato più compatto, per l’indicizzazione multimodale e la gestione delle query. Il modello 1B NVFP4 applica la quantizzazione NVFP4 sia agli encoder testuali sia a quelli delle immagini, ed è destinato all’indicizzazione di documenti su larga scala e al recupero ad alto throughput su hardware supportato. Nemotron 3.5 Rerank 8B BF16 assegna punteggi congiunti alle coppie query-documento per affinare l’ordine di rilevanza tra i candidati testuali e visivi, selezionando le prove per la generazione aumentata dal recupero e i flussi di lavoro basati su agenti. Il recupero comprende il testo dei documenti e immagini quali tabelle, grafici, infografiche, schede tecniche e schemi. NVIDIA ha valutato il recupero testuale in 34 lingue e quello visivo multilingue su MIRACL Vision, che comprende 18 lingue, e KoViDoRe, osservando che i modelli potrebbero gestire anche altre lingue oltre a quelle testate.

Esperimenti sul recupero basato su agenti

Per misurare l’effetto del recupero sul comportamento degli agenti, NVIDIA ha valutato Nemotron 3.5 Embed e Rerank su ViDoRe v3, BRIGHT e BrowseComp-Plus. ViDoRe v3 utilizza input che combinano testo e immagini, mentre BRIGHT e BrowseComp-Plus utilizzano solo input testuali. Nella pipeline testata, un agente cerca in un corpus tramite uno strumento di ricerca, esamina le prove restituite e modifica le query successive. Nella matrice di test è stata sostituita l’implementazione dello strumento di ricerca, usando modelli diversi nelle configurazioni con solo embedding e con embedding più riordinamento, mentre l’LLM dell’agente, gli strumenti, l’insieme di attività, il corpus e le regole di esecuzione sono rimasti invariati. La valutazione ha misurato se l’agente trovava le informazioni pertinenti per ciascuna attività e il totale dei token di inferenza dell’agente per attività su tutti i turni, contando sia i token di input sia quelli di output.

Secondo NVIDIA, l’inserimento di Nemotron 3.5 Rerank nella pipeline ha ridotto di circa il 14% il costo in token per query del flusso di lavoro basato su agenti in combinazione con il modello Embed 8B e del 13% in combinazione con il modello 1B; inoltre, la precisione del recupero è migliorata in entrambe le configurazioni. Insieme al modello Embed 8B, il riordinatore ha ottenuto circa 0,9 punti nDCG@10 in più rispetto a Qwen3-VL-Reranker-8B, a un costo in token comparabile per il flusso di lavoro basato su agenti, riferisce NVIDIA.

Risultati nelle classifiche

Su ViDoRe v3.1, NVIDIA riferisce che Nemotron 3.5 Embed 8B BF16 ha ottenuto un nDCG@10 di 61,17, classificandosi al primo posto tra i modelli di recupero denso al 20 ottobre 2026: secondo l’azienda, si tratta di un miglioramento di 8,94 punti rispetto al punteggio di 52,23 ottenuto dal suo modello Llama Nemotron Embed VL 1B. Il modello 1B BF16 distillato ha raggiunto un nDCG@10 di 58,38, mantenendo, secondo NVIDIA, il 95,4% del punteggio del modello 8B usato come insegnante. Su MIRACL Vision, NVIDIA riferisce che il modello 8B ha ottenuto un nDCG@10 di 72,6, 4,3 punti in più rispetto a Qwen3-VL-Embedding-8B, e afferma che entrambe le dimensioni del modello Embed hanno superato i modelli Qwen di riferimento su KoViDoRe con input che combinano immagini e testo.

NVIDIA, insieme al team MTEB, sta lanciando una classifica di riordinamento ViDoRe v3.1 che comprende input composti solo da immagini, solo da testo e da una combinazione di immagini e testo. NVIDIA riferisce che il riordinatore ha ottenuto un nDCG@10 di 60,49 con input combinati, contro il 59,17 di Qwen3-VL-Reranker-8B, conquistando il primo posto in quella classifica al 20 ottobre 2026.

Throughput e messa a punto per dominio

Per le implementazioni in produzione, NVIDIA riferisce che la variante NVFP4 offre una velocità di elaborazione superiore del 27,1% rispetto al modello 1B BF16 su NVIDIA GB200, raggiungendo 128,8 documenti al secondo contro 101,3, e mantenendo il 99,85% della precisione di recupero del modello BF16 su ViDoRe v3 con input che combinano immagini e testo. Nei test dell’azienda su un RTX PRO 6000 Blackwell Server Edition, NVIDIA NIM ha gestito 6.031 richieste di query al secondo, circa 2,9 volte le 2.099 richieste al secondo di una configurazione vLLM comparabile; la velocità di elaborazione dei passaggi è stata descritta come comparabile.

NVIDIA ha inoltre pubblicato una ricetta per la messa a punto degli embedding multimodali che illustra, in un unico flusso di lavoro, la generazione di dati sintetici, la selezione di esempi negativi difficili, la messa a punto con NVIDIA NeMo AutoModel e la valutazione, così che i team possano creare query ed etichette di rilevanza a partire dalle proprie raccolte di documenti. Nel proprio test della ricetta, NVIDIA ha utilizzato 8.202 immagini di grafici e infografiche e 8.591 query sintetiche generate da Qwen3.8-Flash-Next, concentrandosi su query enumerative e a risposta aperta con più immagini pertinenti. Dopo un’epoca di messa a punto su 6.872 query, l’nDCG@10 del modello 1B BF16 è salito da 37,34 a 44,12 su 1.719 query sintetiche tenute da parte per il test; NVIDIA descrive il risultato come un incremento relativo del 18%. Il modello 8B BF16 è passato da 41,44 a 42,75, con un incremento relativo del 3%.

Architettura e addestramento dei modelli

Per il modello di embedding 8B, NVIDIA ha sviluppato il proprio lavoro a partire da Ministral-3-8B-Instruct e ha inizializzato il componente linguistico usando Nemotron-3-Embed-8B-BF16, quindi ha applicato l’apprendimento contrastivo a raccolte di immagini e testi per ottenere rappresentazioni multimodali per il recupero. I modelli 1B sono stati distillati dal modello 8B usando le funzioni di perdita del coseno e dell’errore quadratico medio, che allineano gli embedding dello studente a quelli dell’insegnante; il loro componente linguistico è stato inizializzato usando Nemotron-3-Embed-1B-BF16. Poiché il componente linguistico rimane congelato durante l’addestramento degli embedding, NVIDIA afferma che gli embedding di soli testi dovrebbero corrispondere a quelli dei modelli Nemotron 3 Embed corrispondenti, consentendo di riutilizzare gli embedding testuali esistenti e gli indici vettoriali.

Nemotron 3.5 Rerank condivide l’architettura di base del modello di embedding 8B, ma opera come cross-encoder: codifica congiuntamente ogni coppia query-documento, invece di incorporare separatamente query e documenti per calcolare la similarità. Una testa di classificazione basata su un perceptrone multistrato produce quindi un logit scalare di rilevanza. Tutti i modelli sono stati addestrati su una combinazione di dati multilingue e multimodali disponibili pubblicamente e sintetici; i pesi distribuiti nella versione finale sono stati ottenuti tramite l’ensembling dei checkpoint. NVIDIA afferma che ulteriori dettagli sui dati di addestramento sono disponibili nella scheda del modello corrispondente su Hugging Face.

Nemotron 3.5 Parse

Nemotron 3.5 Parse converte le immagini dei documenti in testo leggibile dalle macchine, preservando al contempo la struttura che dà significato al contenuto. Il modello rileva gli elementi del documento, la loro posizione e l’ordine di lettura, quindi restituisce tabelle e grafici in formato Markdown, come tabelle HTML e come blocchi strutturati che gli sviluppatori possono indicizzare, cercare ed elaborare nelle fasi successive. NVIDIA riporta per Parse un punteggio ParseBench di 75,20 a una velocità di 10,5 pagine al secondo su una singola NVIDIA H100, collocandolo al primo posto tra i modelli con meno di 1 miliardo di parametri al 20 ottobre 2026. ParseBench valuta l’estrazione di tabelle e grafici, la fedeltà dei contenuti, la formattazione semantica e l’ancoraggio visivo.

Tre modalità di inferenza consentono agli sviluppatori di bilanciare la velocità di elaborazione e la precisione usando lo stesso modello. Con un singolo passaggio, il modello legge ogni pagina una volta e ottiene 72,74 a 16,1 pagine al secondo. Con un doppio passaggio, rielabora le tabelle e i grafici segnalati durante l’analisi iniziale della pagina, raggiungendo 74,92 a 11,2 pagine al secondo. Un triplo passaggio aggiunge una fase di rilevamento che individua altre aree da perfezionare, raggiungendo 75,20 a 10,5 pagine al secondo. NVIDIA descrive tutti e tre i punti operativi come ottimali secondo Pareto nel proprio confronto, poiché nessuna delle altre configurazioni confrontate migliora contemporaneamente la precisione e la velocità di elaborazione.

I dati di addestramento di Parse comprendevano documenti aziendali, articoli scientifici, moduli, tabelle, grafici e testi multilingue; una componente di generazione di dati sintetici ha ampliato il corpus. NVIDIA riferisce inoltre prestazioni elevate nelle valutazioni che coprono 163 combinazioni di lingue e sistemi di scrittura. Per la fase successiva all’addestramento, NVIDIA ha applicato l’ottimizzazione delle politiche relative al gruppo (Group Relative Policy Optimization), usando ricompense personalizzate per le strutture corrette e penalità per gli errori. Secondo l’azienda, questo approccio ha ridotto i cicli di generazione ripetitivi e i blocchi non chiusi, reso più coerenti le tabelle e migliorato il rispetto degli schemi dei grafici. NVIDIA ha inoltre ringraziato LightOn, affermando che le tecniche open source condivise sono state fondamentali per migliorare il modello.

Valutazioni dei partner e disponibilità

L’annuncio include le prime valutazioni dei partner aziendali. Per Elastic, il post afferma che l’API Inference di Elasticsearch rende disponibili i modelli di embedding e reranking Nemotron Retriever tramite gli endpoint di inferenza NVIDIA; l’aggiunta di Nemotron 3 tramite Elastic Inference Service è prevista a breve, mentre il supporto per la distribuzione on-premises è in programma. Vectorize ha testato Nemotron 3.5 Embed all’interno di Hindsight Agent Memory e, secondo il post, il modello si è classificato al primo posto in due benchmark sulla memoria delle conversazioni lunghe, ottenendo un richiamo@10 del 93,8% su LoCoMo e del 65,9% su BEAM 100K rispetto a sette modelli di embedding concorrenti, oltre ai valori più alti di MRR e richiamo@5. Nella valutazione di Perplexity, Nemotron 3.5 Rerank 8B ha ottenuto il punteggio medio più alto nel benchmark privato di Perplexity per il reranking, composto da 72 attività, con risultati elevati in tutti e sei i domini. Turbopuffer, che ha testato il modello di embedding 8B su un benchmark di ricerca aziendale nei PDF, riferisce che il modello restituisce circa il 5% di risultati pertinenti in più con Recall@20 rispetto al modello successivo in classifica e ora offre i modelli come opzione nativa per gli embedding.

Pesi, dati e ricette di addestramento aperti sono disponibili su Hugging Face; la distribuzione in produzione è possibile tramite NVIDIA NIM e i partner di cloud AI e inferenza Baseten, DeepInfra e FriendliAI. Le ricette per l’affinamento degli embedding e del reranking sono pubblicate nel repository GitHub di NVIDIA NeMo Nemotron.