Baseten, NVIDIA के Nemotron Coalition में इन्फरेंस विशेषज्ञता लेकर आया

Baseten ने 5 नवंबर 2026 को NVIDIA Nemotron Coalition में शामिल होने की घोषणा की। वह ओपन-मॉडल विकास में एंटरप्राइज़ कार्यभारों से मिली जानकारियाँ और पश्च-प्रशिक्षण तथा इन्फरेंस की विशेषज्ञता देगी। इस सदस्यता से मॉडल लॉन्च, रीइन्फोर्समेंट लर्निंग, अनुकूलन और समर्पित इन्फरेंस के क्षेत्र में NVIDIA के साथ उसका सहयोग बढ़ेगा।

NVIDIA ने 16 मार्च 2026 को ओपन फ्रंटियर मॉडल पर शोध, विशेषज्ञता, डेटा और कंप्यूटिंग संसाधनों को साझा करने के लिए इस गठबंधन की शुरुआत की। NVIDIA की लॉन्च घोषणा के अनुसार, पहली परियोजना एक बेस मॉडल होगी, जिसे Mistral AI और NVIDIA मिलकर विकसित करेंगे। इसे NVIDIA DGX Cloud पर प्रशिक्षित किया जाएगा, डेवलपरों और संगठनों द्वारा विशिष्ट आवश्यकताओं के अनुरूप ढालने के लिए ओपन सोर्स के रूप में जारी किया जाएगा और आगामी Nemotron 4 परिवार की नींव के तौर पर इस्तेमाल किया जाएगा।

Baseten, Nemotron 3.5 Super VL और Nemotron 3 Ultra के लॉन्च के पहले दिन से ही साझेदार थी। गठबंधन में उसकी भूमिका केवल तैयार मॉडलों को सेवा देने तक सीमित नहीं है; इसमें प्रशिक्षण परिवेश और एंटरप्राइज़ उपयोग से अर्जित परिचालन ज्ञान भी शामिल है। इसका व्यावहारिक लक्ष्य कारोबार की विशिष्ट आवश्यकताओं के अनुरूप अनुकूलन करना है, जिसमें परिनियोजन की गुणवत्ता, लागत और लचीलेपन को परस्पर जुड़े पहलुओं के रूप में देखा जाता है।

उत्पादन कार्यभार के लिए प्रशिक्षण

कंपनी ने जटिल निर्देश-क्रमों के लिए रीइन्फोर्समेंट लर्निंग के परिवेश विकसित किए, जिनमें अप्रासंगिक जानकारी को नज़रअंदाज़ करना और शैली से जुड़ी विस्तृत प्राथमिकताओं का पालन करना शामिल है। अन्य परिवेशों में जटिल जैविक डेटासेट का सांख्यिकीय विश्लेषण, गणितीय प्रमेयों को सिद्ध करना और प्रतिस्पर्धी खेल खेलना शामिल है, जिनके ज़रिए लंबी अवधि तक तर्क करने और योजना बनाने की क्षमताओं पर काम किया जाता है। ये कार्य इस बात को ध्यान में रखते हैं कि उत्पादन परिवेश में निर्देश सिस्टम प्रॉम्प्ट, टूल की परिभाषाओं, उपयोगकर्ता के अनुवर्ती संदेशों, टूल की प्रतिक्रियाओं और त्रुटि संदेशों के रूप में आते हैं।

इसके बहु-माध्यमी कार्य में दृश्य और स्थानिक तर्क के कार्य तथा ऐसे कई चरणों वाले टूल-कॉल शामिल हैं जिनमें दृश्य समझ की आवश्यकता होती है। Baseten के अनुसार, प्रशिक्षण के बाद किए गए अनुकूलन से विशेषज्ञ-स्तर के बहु-माध्यमी तर्क बेंचमार्क MMMU-Pro पर नतीजे बेहतर हुए। 5 अक्टूबर 2026 को प्रस्तुत एक संबंधित शोधपत्र में 50 मिलियन पैरामीटर वाले एक प्रोजेक्टर का वर्णन है, जो Kimi K2.6 के विज़न एनकोडर को GLM 5.2 और GLM 5.3 से जोड़ता है और साथ ही पहले से प्रशिक्षित वेट को स्थिर रखता है। इसमें MMMU-Pro और BLINK पर मूल्यांकन भी किया गया।

कस्टमाइज़ेशन के मापे गए परिणाम

CodeRabbit की 11 अगस्त 2026 की शोध रिपोर्ट में NVIDIA और Baseten के साथ ऐसी परियोजना का वर्णन है, जिसमें कोड-समीक्षा के अनुरोधों को सही मार्ग पर भेजने के लिए Nemotron 3.5 Lightning को पहले पर्यवेक्षित फ़ाइन-ट्यूनिंग और फिर सत्यापन योग्य पुरस्कारों के साथ रीइन्फोर्समेंट लर्निंग के ज़रिए अनुकूलित किया गया। 1,000 कार्यों वाले स्थिर मूल्यांकन में, सही मार्ग से सटीक मेल खाने की दर आधार मॉडल के 75.8% से बढ़कर पर्यवेक्षित फ़ाइन-ट्यूनिंग के बाद 80.4% और पुरस्कार-आधारित प्रशिक्षण के बाद 80.7% हो गई। संयोग से परे सहमति मापने वाला Cohen’s kappa पहले 0.429 से बढ़कर 0.461 और फिर 0.544 हो गया।

CodeRabbit ने रूट से सहमति में आए अंतिम 0.3 प्रतिशत-अंक के बदलाव को गैर-अवनति माना, न कि सांख्यिकीय रूप से निर्णायक सुधार, क्योंकि युग्मित विश्वास अंतराल में शून्य शामिल था। उसके इन्फरेंस-सेवा संबंधी तुलनात्मक आकलन में, संतृप्त थ्रूपुट पर लागत 50.4% कम होने का अनुमान लगाया गया: यही मूल्यांकन बेसलाइन मॉडल पर $2.34 और Baseten के एक A100 पर $1.16 का पड़ा। लगातार लोड और उत्पादन ट्रैफ़िक की जाँच बाद के चरण के लिए रखी गई।

Harvey अनुकूलन का एक अलग उदाहरण पेश करता है। Baseten के अनुसार, यह कानूनी AI प्लेटफ़ॉर्म विशेष कार्यप्रवाहों के लिए Baseten पर Nemotron का प्रशिक्षण के बाद अनुकूलन करता है; ये कार्यप्रवाह रोज़ाना हज़ारों वकीलों की सेवा करते हैं। Harvey और Baseten द्वारा 8 सितंबर 2026 को प्रकाशित अलग शोध में M&A डेटा रूम को Python परिवेश में लोड किया गया और एक मुख्य एजेंट को सीमित दायरे में समीक्षा का काम उप-एजेंटों को सौंपने दिया गया। Harvey ने बताया कि 50 ऐसे डेटा रूम पर, जिन्हें सातों मॉडलों ने पहले नहीं देखा था, इस व्यवस्था से रूब्रिक के मानदंडों पर औसत उत्तीर्णता दर 23.3% से बढ़कर 62.4% हो गई।

Harvey के विवरण में यह भी बताया गया है कि Qwen3.5-122B-A10B रूट मॉडल पर रीइन्फोर्समेंट लर्निंग से उन 50 डेटा रूम पर उसकी सफलता दर 29.9% से बढ़कर 63.0% हो गई। साथ ही, इन प्रयोगों को शुरुआती पड़ताल बताया गया है और लगभग पूर्ण सफलता दर तक पहुँचने के लिए बाकी अंतर को बड़ा माना गया है।

परिनियोजन और वॉइस AI

Baseten Loops, प्रबंधित रीइन्फोर्समेंट-लर्निंग कार्यप्रवाहों को समर्पित इन्फरेंस से जोड़ता है, जबकि ग्राहक अपने प्रशिक्षित मॉडल वेट का स्वामित्व अपने पास रखते हैं। Loops में Nemotron 3.5 Super VL और Nemotron 3 Ultra का समर्थन है; Super VL के लिए BF16 और NVFP4 प्रशिक्षण उपलब्ध है।

कंपनियाँ मॉडल की गुणवत्ता और प्रतिक्रियाशीलता सहित, संपूर्ण एप्लिकेशन में Nemotron-संचालित वॉइस एजेंटों का मूल्यांकन भी कर रही हैं। Baseten के 4 अगस्त 2026 के वाक्-पहचान बेंचमार्क के अनुसार, एक NVIDIA H100 ने एक साथ अधिकतम 100 रीयल-टाइम WebSocket ऑडियो स्ट्रीम संभालीं। अंतिम रूप देने की विलंबता—यानी वक्ता के बोलना समाप्त करने से लेकर अंतिम प्रतिलेख तैयार होने तक का समय—आठ स्ट्रीम पर 98 मिलीसेकंड से बढ़कर 100 स्ट्रीम पर 138 मिलीसेकंड हो गई।

गठबंधन में Baseten की सदस्यता, मॉडल अनुकूलन को उन मॉडलों को उपलब्ध कराने के लिए इस्तेमाल होने वाले बुनियादी ढाँचे से जोड़ती है। ग्राहकों के नतीजे इस तरीके के ठोस प्रमाण देते हैं, जबकि CodeRabbit का संतृप्त-थ्रूपुट आकलन और अधूरी उत्पादन-जाँचें, साथ ही Harvey के शुरुआती प्रयोग, इसकी सीमाएँ तय करते हैं। मुख्य सवाल यह है कि लगातार उत्पादन उपयोग के दौरान मापे गए लाभ कितनी अच्छी तरह कायम रहते हैं।