NVIDIA ने एम्बेडिंग, री-रैंकिंग और पार्सिंग के लिए खुले Nemotron 3.5 मॉडल पेश किए

21 अक्टूबर, 2026 को NVIDIA ने अपने Nemotron Retriever संग्रह का विस्तार करते हुए एम्बेडिंग, री-रैंकिंग और दस्तावेज़ निष्कर्षण के लिए नए खुले और व्यावसायिक रूप से उपलब्ध मॉडल पेश किए: Nemotron 3.5 Embed के 8B BF16, 1B BF16 और 1B NVFP4 संस्करण, Nemotron 3.5 Rerank 8B BF16 और 631 मिलियन पैरामीटर वाला Nemotron 3.5 Parse।

Hugging Face पर प्रकाशित NVIDIA द्वारा लिखी गई घोषणा में कंपनी ने कहा कि यह रिलीज़ उद्यमों के एजेंट कार्यप्रवाहों को ध्यान में रखकर तैयार की गई है और इसमें बहुमाध्यमी पुनर्प्राप्ति, प्रासंगिकता क्रम निर्धारण और दस्तावेज़ प्रसंस्करण की क्षमताएँ जोड़ी गई हैं। NVIDIA ने पुनर्प्राप्ति की गुणवत्ता को एजेंट के तैयार किए गए जवाबों और किसी कार्य की LLM अनुमान-लागत—दोनों को प्रभावित करने वाला कारक बताया। कंपनी के अनुसार, जब लौटाए गए साक्ष्य अधूरे या अप्रासंगिक होते हैं, तो एजेंट काम पूरा करने से पहले अधिक खोज करते हैं और अधिक दस्तावेज़ों की समीक्षा करते हैं, जिससे अतिरिक्त अनुमान टोकन खर्च होते हैं।

Embed और Rerank के चारों संस्करण अलग-अलग परिनियोजन भूमिकाओं को पूरा करते हैं। Nemotron 3.5 Embed 8B BF16 को पाठ और दृश्य रूप से समृद्ध दस्तावेज़ों में गुणवत्ता-केंद्रित खोज के लिए तैयार किया गया है। 1B BF16 मॉडल, 8B मॉडल की बहुमाध्यमी पुनर्प्राप्ति क्षमता को छोटे आकार में समेटता है, ताकि बहुमाध्यमी अनुक्रमण और क्वेरी सेवा दी जा सके। 1B NVFP4 मॉडल पाठ और छवि—दोनों एनकोडरों पर NVFP4 क्वांटीकरण लागू करता है। इसका लक्ष्य समर्थित हार्डवेयर पर बड़े पैमाने पर दस्तावेज़ों का अनुक्रमण और उच्च-थ्रूपुट पुनर्प्राप्ति है। Nemotron 3.5 Rerank 8B BF16 क्वेरी और दस्तावेज़ के युग्मों को संयुक्त रूप से स्कोर करता है, ताकि पाठ और छवि के संभावित परिणामों में प्रासंगिकता का क्रम अधिक सटीक हो सके और पुनर्प्राप्ति-संवर्धित जनरेशन तथा एजेंट-आधारित कार्यप्रवाहों के लिए साक्ष्य चुने जा सकें। पुनर्प्राप्ति में दस्तावेज़ों का पाठ और साथ ही तालिकाओं, चार्ट, इन्फ़ोग्राफ़िक्स, डेटा शीट तथा योजनाबद्ध आरेखों जैसी छवियाँ शामिल हैं। NVIDIA ने 34 भाषाओं में पाठ पुनर्प्राप्ति और MIRACL Vision पर बहुभाषी दृश्य पुनर्प्राप्ति का मूल्यांकन किया। MIRACL Vision में 18 भाषाएँ शामिल हैं। कंपनी ने KoViDoRe पर भी मूल्यांकन किया और कहा कि मॉडल परीक्षण की गई भाषाओं के अलावा अन्य भाषाओं को भी संभाल सकते हैं।

एजेंट-आधारित पुनर्प्राप्ति के प्रयोग

यह मापने के लिए कि पुनर्प्राप्ति एजेंट के व्यवहार को कैसे प्रभावित करती है, NVIDIA ने ViDoRe v3, BRIGHT और BrowseComp-Plus पर Nemotron 3.5 Embed और Rerank का मूल्यांकन किया। ViDoRe v3 में पाठ और छवि—दोनों तरह के इनपुट एक साथ इस्तेमाल होते हैं, जबकि BRIGHT और BrowseComp-Plus में केवल पाठ-आधारित इनपुट होते हैं। परीक्षण किए गए कार्यप्रवाह में एजेंट एक खोज उपकरण की मदद से कॉर्पस में खोज करता है, लौटाए गए साक्ष्यों की समीक्षा करता है और फिर अपनी अगली क्वेरी में बदलाव करता है। परीक्षण मैट्रिक्स में अलग-अलग मॉडलों का इस्तेमाल करते हुए, केवल एम्बेडिंग और एम्बेडिंग के साथ री-रैंकिंग वाले सेटअप में खोज उपकरण के कार्यान्वयन को बदला गया। इस दौरान एजेंट का LLM, उपकरण, कार्य-समूह, कॉर्पस और निष्पादन नीति समान रखे गए। मूल्यांकन में यह देखा गया कि एजेंट ने प्रत्येक कार्य के लिए प्रासंगिक जानकारी खोजी या नहीं। साथ ही, हर कार्य में सभी चरणों के दौरान एजेंट द्वारा इस्तेमाल किए गए कुल अनुमान टोकन भी गिने गए, जिनमें इनपुट और आउटपुट—दोनों टोकन शामिल थे।

NVIDIA के अनुसार, कार्यप्रवाह में Nemotron 3.5 Rerank जोड़ने से प्रति क्वेरी एजेंट-आधारित टोकन लागत 8B एम्बेड मॉडल के साथ लगभग 14% और 1B मॉडल के साथ 13% कम हुई, जबकि दोनों ही कॉन्फ़िगरेशन में पुनर्प्राप्ति की सटीकता बेहतर हुई। NVIDIA की रिपोर्ट के मुताबिक, 8B एम्बेड मॉडल के साथ इस्तेमाल किए जाने पर री-रैंकर ने Qwen3-VL-Reranker-8B से लगभग 0.9 nDCG@10 अंक अधिक हासिल किए, जबकि एजेंट-आधारित टोकन लागत तुलनीय रही।

लीडरबोर्ड के नतीजे

ViDoRe v3.1 पर Nemotron 3.5 Embed 8B BF16 ने 61.17 nDCG@10 हासिल किए। NVIDIA की रिपोर्ट के अनुसार, इससे 20 अक्टूबर, 2026 तक वह सघन पुनर्प्राप्ति मॉडलों में पहले स्थान पर रहा। कंपनी ने इसे अपने Llama Nemotron Embed VL 1B मॉडल के 52.23 स्कोर से 8.94 अंक का सुधार बताया। डिस्टिल किए गए 1B BF16 मॉडल ने 58.38 nDCG@10 हासिल किए और NVIDIA के मुताबिक, 8B शिक्षक मॉडल के स्कोर का 95.4% बनाए रखा। MIRACL Vision पर NVIDIA ने 8B मॉडल के लिए 72.6 nDCG@10 की रिपोर्ट दी—जो Qwen3-VL-Embedding-8B से 4.3 अंक अधिक है। कंपनी का कहना है कि संयुक्त छवि और पाठ इनपुट के लिए, दोनों एम्बेड आकारों ने KoViDoRe पर Qwen के आधारभूत मॉडलों से बेहतर प्रदर्शन किया।

NVIDIA, MTEB टीम के साथ मिलकर, ViDoRe v3.1 री-रैंकिंग लीडरबोर्ड शुरू कर रहा है। इसमें केवल छवि, केवल पाठ और संयुक्त छवि-पाठ इनपुट शामिल होंगे। NVIDIA के अनुसार, संयुक्त इनपुट पर री-रैंकर ने 60.49 nDCG@10 हासिल किए, जबकि Qwen3-VL-Reranker-8B का स्कोर 59.17 था। इस तरह 20 अक्टूबर, 2026 तक वह उस लीडरबोर्ड में शीर्ष पर रहा।

थ्रूपुट और डोमेन के अनुसार फ़ाइन-ट्यूनिंग

उत्पादन में परिनियोजन के लिए, NVIDIA की रिपोर्ट है कि NVFP4 संस्करण NVIDIA GB200 पर 1B BF16 मॉडल की तुलना में 27.1% अधिक थ्रूपुट देता है। यह प्रति सेकंड 101.3 दस्तावेज़ों के बजाय 128.8 दस्तावेज़ संसाधित करता है, जबकि ViDoRe v3 पर संयुक्त छवि-पाठ इनपुट के लिए BF16 मॉडल की पुनर्प्राप्ति सटीकता का 99.85% बनाए रखता है। RTX PRO 6000 Blackwell Server Edition पर कंपनी के परीक्षण में NVIDIA NIM ने प्रति सेकंड 6,031 क्वेरी अनुरोध पूरे किए—तुलनीय vLLM कॉन्फ़िगरेशन के 2,099 अनुरोध प्रति सेकंड से लगभग 2.9 गुना अधिक। हालांकि, पैसेज प्रसंस्करण का थ्रूपुट तुलनीय बताया गया।

NVIDIA ने बहुमाध्यमी एम्बेडिंग को फ़ाइन-ट्यून करने की एक विधि भी प्रकाशित की। इसमें सिंथेटिक डेटा तैयार करना, कठिन नकारात्मक उदाहरणों का चयन करना, NVIDIA NeMo AutoModel के साथ फ़ाइन-ट्यूनिंग और मूल्यांकन—इन सभी चरणों को एक ही कार्यप्रवाह में समझाया गया है, ताकि टीमें अपने दस्तावेज़-संग्रहों से क्वेरी और प्रासंगिकता लेबल तैयार कर सकें। इस विधि के NVIDIA के अपने परीक्षण में 8,202 चार्ट और इन्फ़ोग्राफ़िक छवियों का इस्तेमाल किया गया, जिनके लिए Qwen3.8-Flash-Next ने 8,591 सिंथेटिक क्वेरी तैयार कीं। इनका ध्यान ऐसी गणनात्मक और मुक्त-उत्तर वाली क्वेरी पर था, जिनके लिए कई छवियाँ प्रासंगिक थीं। 6,872 क्वेरी पर फ़ाइन-ट्यूनिंग के एक युग के बाद, 1B BF16 मॉडल का nDCG@10 स्कोर 1,719 अलग रखी गई सिंथेटिक क्वेरी पर 37.34 से बढ़कर 44.12 हो गया। NVIDIA ने इसे 18% का सापेक्ष सुधार बताया। 8B BF16 मॉडल का स्कोर 41.44 से बढ़कर 42.75 हुआ, जो 3% का सापेक्ष सुधार है।

मॉडल की संरचना और प्रशिक्षण

8B एम्बेड मॉडल के लिए, NVIDIA ने Ministral-3-8B-Instruct को आधार बनाया और भाषा घटक को Nemotron-3-Embed-8B-BF16 से आरंभ किया। इसके बाद बहुमाध्यमी पुनर्प्राप्ति निरूपण तैयार करने के लिए छवि और पाठ कॉर्पस पर कॉन्ट्रास्टिव लर्निंग लागू की। 1B मॉडल, 8B मॉडल से डिस्टिल किए गए; इसमें कोसाइन और माध्य वर्ग त्रुटि लॉस के ज़रिए छात्र मॉडल की एम्बेडिंग को शिक्षक मॉडल की एम्बेडिंग के अनुरूप बनाया गया, और उनके भाषा घटक को Nemotron-3-Embed-1B-BF16 से आरंभ किया गया। चूँकि एम्बेडिंग प्रशिक्षण के दौरान भाषा घटक अपरिवर्तित रहता है, NVIDIA का कहना है कि केवल-पाठ वाली एम्बेडिंग संबंधित Nemotron 3 Embed मॉडलों की एम्बेडिंग से मेल खानी चाहिए। इससे मौजूदा पाठ एम्बेडिंग और वेक्टर इंडेक्स का इस्तेमाल आगे भी किया जा सकता है।

Nemotron 3.5 Rerank की आधारभूत संरचना 8B एम्बेड मॉडल जैसी है, लेकिन यह क्रॉस-एनकोडर के रूप में काम करता है। समानता का स्कोर निकालने के लिए क्वेरी और दस्तावेज़ को अलग-अलग एम्बेड करने के बजाय, यह हर क्वेरी–दस्तावेज़ जोड़ी को एक साथ एनकोड करता है। इसके बाद, बहुस्तरीय परसेप्ट्रॉन स्कोरिंग हेड प्रासंगिकता का एक अदिश लॉगिट आउटपुट करता है। सभी मॉडलों को सार्वजनिक रूप से उपलब्ध और सिंथेटिक बहुभाषी, बहुमाध्यमी डेटा के मिश्रण पर प्रशिक्षित किया गया। जारी किए गए अंतिम वज़न चेकपॉइंट एन्सेम्बलिंग के ज़रिए तैयार किए गए। NVIDIA का कहना है कि प्रशिक्षण डेटा की अतिरिक्त जानकारी हर मॉडल के Hugging Face मॉडल कार्ड में उपलब्ध है।

Nemotron 3.5 Parse

Nemotron 3.5 Parse दस्तावेज़ों की छवियों को मशीन-पठनीय पाठ में बदलता है और साथ ही उस संरचना को बनाए रखता है जो सामग्री को अर्थ देती है। यह मॉडल दस्तावेज़ के तत्वों, उनकी स्थिति और पढ़ने के क्रम का पता लगाता है। इसके बाद, यह तालिकाओं और चार्ट को Markdown, HTML तालिकाओं और संरचित ब्लॉकों के रूप में आउटपुट करता है, जिन्हें डेवलपर आगे इंडेक्स करने, खोजने और संसाधित करने के लिए इस्तेमाल कर सकते हैं। NVIDIA के अनुसार, एक NVIDIA H100 पर प्रति सेकंड 10.5 पृष्ठों की गति से काम करते हुए Parse ने ParseBench पर 75.20 का स्कोर हासिल किया। 20 अक्टूबर, 2026 तक, 1 अरब से कम पैरामीटर वाले मॉडलों में यह शीर्ष स्थान पर था। ParseBench में तालिका और चार्ट निकालने, सामग्री के प्रति निष्ठा, अर्थ-संगत फ़ॉर्मैटिंग और दृश्य आधार-निर्धारण की जाँच होती है।

एक ही मॉडल के तीन अनुमान मोड डेवलपरों को थ्रूपुट और सटीकता के बीच संतुलन चुनने देते हैं। एकल पास में हर पृष्ठ को एक बार पढ़ा जाता है और 16.1 पृष्ठ प्रति सेकंड की गति से 72.74 का स्कोर मिलता है। दोहरे पास में शुरुआती पृष्ठ-पार्सिंग के दौरान चिह्नित तालिकाओं और चार्ट की दोबारा जाँच होती है; इसमें 11.2 पृष्ठ प्रति सेकंड की गति से 74.92 का स्कोर मिलता है। तिहरे पास में एक पहचान चरण जोड़ा जाता है, जो सुधार के लिए अतिरिक्त क्षेत्रों का पता लगाता है; इसमें 10.5 पृष्ठ प्रति सेकंड की गति से 75.20 का स्कोर मिलता है। NVIDIA के अनुसार, उसकी तुलना में ये तीनों कार्य-बिंदु पारेतो-इष्टतम हैं, क्योंकि तुलना में शामिल कोई भी अन्य कॉन्फ़िगरेशन एक ही समय में सटीकता और थ्रूपुट, दोनों में सुधार नहीं करता।

Parse के प्रशिक्षण डेटा में उद्यम दस्तावेज़, वैज्ञानिक शोधपत्र, फ़ॉर्म, तालिकाएँ, चार्ट और बहुभाषी पाठ शामिल थे। सिंथेटिक डेटा इंजन ने इस दायरे को और व्यापक बनाया। NVIDIA के अनुसार, 163 भाषा और लिपि संयोजनों को कवर करने वाले मूल्यांकनों में मॉडल ने मज़बूत प्रदर्शन किया। प्रशिक्षण के बाद के चरण में NVIDIA ने Group Relative Policy Optimization लागू किया। इसमें सही संरचना के लिए विशेष पुरस्कार और विफलताओं के लिए दंड तय किए गए थे। NVIDIA का कहना है कि इससे बार-बार दोहराए जाने वाले जनरेशन चक्र और बंद न किए गए ब्लॉक कम हुए, तालिकाएँ अधिक सुसंगत बनीं और चार्ट स्कीमा का पालन बेहतर हुआ। NVIDIA ने LightOn को भी धन्यवाद दिया और कहा कि साझा की गई ओपन-सोर्स तकनीकें मॉडल को बेहतर बनाने में निर्णायक रहीं।

साझेदारों के मूल्यांकन और उपलब्धता

घोषणा में उद्यम साझेदारों के शुरुआती मूल्यांकन भी शामिल हैं। Elastic के लिए पोस्ट में कहा गया है कि Elasticsearch में Inference API, NVIDIA के अनुमान एंडपॉइंट के ज़रिए Nemotron Retriever के एम्बेडिंग और री-रैंकिंग मॉडल उपलब्ध कराता है। इसमें यह भी कहा गया है कि Nemotron 3 को जल्द ही Elastic Inference Service के ज़रिए जोड़ा जाएगा और ऑन-प्रिमाइसेस परिनियोजन का समर्थन आगे की योजना में है। Vectorize ने अपने Hindsight Agent Memory में Nemotron 3.5 Embed का परीक्षण किया। पोस्ट के अनुसार, इसने लंबी बातचीत की स्मृति से जुड़े दो बेंचमार्क में पहला स्थान हासिल किया: LoCoMo पर 93.8% recall@10 और BEAM 100K पर 65.9%। इन दोनों बेंचमार्क में इसकी तुलना सात प्रतिस्पर्धी एम्बेडिंग मॉडलों से की गई थी। इसके अलावा, इसने सबसे ऊँचा MRR और recall@5 भी हासिल किया। Perplexity के मूल्यांकन में Nemotron 3.5 Rerank 8B ने Perplexity के 72-कार्य वाले निजी री-रैंकिंग बेंचमार्क पर सबसे ऊँचा औसत स्कोर हासिल किया; सभी छह क्षेत्रों में इसके मज़बूत नतीजे दर्ज किए गए। उद्यम PDF खोज बेंचमार्क पर 8B एम्बेड मॉडल का परीक्षण करने वाली Turbopuffer के अनुसार, अगले सर्वश्रेष्ठ मॉडल की तुलना में Recall@20 पर लगभग 5% अधिक प्रासंगिक नतीजे मिले। अब यह इन मॉडलों को नेटिव एम्बेडिंग विकल्प के रूप में भी उपलब्ध कराती है।

ओपन वज़न, डेटा और प्रशिक्षण विधियाँ Hugging Face पर उपलब्ध हैं। उत्पादन परिनियोजन NVIDIA NIM के ज़रिए और AI क्लाउड तथा अनुमान सेवाएँ देने वाले साझेदार Baseten, DeepInfra और FriendliAI के ज़रिए किया जा सकता है। एम्बेडिंग और री-रैंकिंग को फ़ाइन-ट्यून करने की विधियाँ NVIDIA NeMo Nemotron GitHub रिपॉज़िटरी में प्रकाशित की गई हैं।