Baseten ने एंटरप्राइज़ AI कोडिंग के लिए रूटिंग और प्रबंधन हेतु Grid लॉन्च किया

Baseten ने 4 नवंबर, 2026 को Grid की घोषणा की और एंटरप्राइज़ AI कोडिंग के लिए अपनी रूटिंग, गेटवे और सुरक्षा-नियंत्रण की परत का सार्वजनिक पूर्वावलोकन शुरू किया। कंपनी ने बताया कि शुरुआती बेंचमार्क में Baseten Router ने प्रति कार्य लागत में लगभग 70% की बचत की, जबकि Opus 5.5 की तुलना में गुणवत्ता में 0.9 प्रतिशत-अंक का समझौता करना पड़ा; शुरुआती पहुँच के लिए प्रतीक्षा-सूची के ज़रिए आवेदन किया जा सकता है।

टोकन की कीमत से आगे की रूटिंग

Grid उस फ़ैसले को स्वचालित करता है जो डेवलपर अन्यथा खुद लेते हैं: हर कोडिंग कार्य के लिए कौन-सा स्वीकृत मॉडल इस्तेमाल किया जाए। हर अनुरोध पर Baseten Router संगठन के स्वीकृत ओपन-सोर्स और क्लोज़्ड-सोर्स विकल्पों का मूल्यांकन करता है और कार्य के संभावित प्रदर्शन को लागत के साथ तौलता है।

मॉडलों की रैंकिंग केवल टोकन की कीमत के आधार पर करने के बजाय, राउटर दोबारा कोशिश करने, टूल कॉल विफल होने और अधूरे जवाब मिलने की लागत को भी ध्यान में रखता है। इसका लक्ष्य टीम की गुणवत्ता और प्रदर्शन संबंधी ज़रूरतें पूरी करते हुए किसी कार्य को पूरा करने की लागत घटाना है। स्वचालित रूट लागत, बुद्धिमत्ता या दोनों के संतुलन को प्राथमिकता दे सकते हैं।

संगठन ट्रेस साझा करने का विकल्प भी चुन सकते हैं। इनका इस्तेमाल उनके विशिष्ट कार्यभार के लिए पारेतो दक्षता वाले कस्टम राउटर को प्रशिक्षित करने में किया जा सकता है। Baseten ने कहा कि वास्तविक बचत कार्यभार की प्रकृति और लागत तथा गुणवत्ता के बीच ग्राहक के इच्छित संतुलन के अनुसार अलग-अलग होगी। इसलिए बेंचमार्क संभावित बचत का संकेत है, कोई सार्वभौमिक कटौती नहीं।

Opendoor के इंजीनियरिंग प्रमुख Chintan Parikh ने कहा कि Grid ने कंपनी के भीतर AI पर होने वाले खर्च की निगरानी को एक जगह समेटा और गुणवत्ता में न्यूनतम कमी के साथ अपने-आप खर्च घटाया। Opendoor में लगभग हर व्यक्ति AI का इस्तेमाल करता है, और ज़्यादातर कर्मचारी यह तय नहीं करना चाहते कि कौन-सा मॉडल चुनें।

डेवलपर टूल बदले बिना केंद्रीय पहुँच

Grid Gateway प्रशासनिक परत उपलब्ध कराता है। प्लेटफ़ॉर्म टीमें मॉडलों को मंज़ूरी दे सकती हैं, टीम के स्तर पर पहुँच दे सकती हैं, बजट तय कर सकती हैं और कंपनी-प्रबंधित क्रेडेंशियल का इस्तेमाल कर सकती हैं; साथ ही, वे टीमों, ऐप्लिकेशन और एजेंटों में उपयोग की निगरानी भी कर सकती हैं। डैशबोर्ड खर्च को मॉडल के अनुसार बाँटकर दिखाता है और कुल खर्च, टोकन की मात्रा, कैश हिट दर तथा बचाई गई लागत प्रदर्शित करता है।

लॉन्च के समय Grid, OpenAI, Anthropic, Gemini Enterprise Agent Platform, Amazon Bedrock और Baseten के मॉडलों का समर्थन करता है। डेवलपर एक सेटअप कमांड से Claude Code, Codex, OpenCode और Pi को जोड़ सकते हैं, जबकि प्रशासक मोबाइल डिवाइस प्रबंधन के ज़रिए कॉन्फ़िगरेशन को स्वचालित कर सकते हैं।

Anthropic या OpenAI API का इस्तेमाल करने वाले आंतरिक ऐप्लिकेशन और एजेंट, बेस URL और मॉडल ID बदलकर जुड़ सकते हैं। इससे संगठन अपने स्थापित डेवलपर टूल बदले बिना मौजूदा सॉफ़्टवेयर को उसी एंडपॉइंट के तहत ला सकते हैं।

प्लेटफ़ॉर्म टीमें हर कार्य-ढाँचे के लिए एक डिफ़ॉल्ट कोडिंग मॉडल और सारांश जैसे सहायक कार्यों के लिए एक छोटा बैकग्राउंड मॉडल भी तय कर सकती हैं। डेवलपर को सेटअप के दौरान ये डिफ़ॉल्ट विकल्प मिलते हैं और वे बाद में मॉडल बदल सकते हैं।

साझा सुरक्षा-नियंत्रण और अनुमान अवसंरचना

Grid गेटवे पर कॉन्फ़िगर किए जा सकने वाले सुरक्षा नियम लागू करता है और अनुरोधों तथा जवाबों की जाँच केंद्रीय रूप से करता है। कार्यभार के अनुसार नियम अलग-अलग हो सकते हैं, और रिकॉर्ड बताते हैं कि किस चीज़ को चिह्नित किया गया और उससे कैसे निपटा गया। पहचाने गए जोखिमों में ऐसे दस्तावेज़ शामिल हैं जिनमें छिपे निर्देश एजेंटों को दूसरी दिशा में मोड़ते हैं, अनधिकृत कार्रवाइयाँ और ग्राहकों की जानकारी का वहाँ दिखाई देना जहाँ उसे नहीं होना चाहिए।

ये सुरक्षा-नियंत्रण निष्पादन नियंत्रणों से अलग हैं। सुरक्षा जाँच जोखिमपूर्ण अनुरोधों और जवाबों की पड़ताल करती है, जबकि निष्पादन नियंत्रण तय करते हैं कि एजेंट किन चीज़ों तक पहुँच सकता है और क्या कर सकता है। Baseten ने कहा कि एंटरप्राइज़ को दोनों परतों की ज़रूरत है।

गेटवे के पीछे Baseten का अनुमान प्लेटफ़ॉर्म रूटिंग, मॉडल और कार्य-ढाँचे के प्रोटोकॉल के बीच अनुवाद, कैशिंग, विस्तार और अनुकूलन का काम करता है। जब चुने गए मॉडल की सेवा Baseten देता है, तो लंबी, कई चरणों वाली एजेंट सत्र-प्रक्रियाओं को उनकी लागत घटाने के लिए वार्म की-वैल्यू कैश पर भेजा जा सकता है। इसकी मॉडल-प्रदर्शन अनुसंधान, पोस्ट-ट्रेनिंग और अवसंरचना टीमें कस्टम कर्नेल, स्पेक्युलेटिव डिकोडिंग और उन मूल्यांकनों पर भी काम करती हैं जिन्हें हर मॉडल को जारी होने से पहले पास करना होता है।

पूर्वावलोकन के बाद, Baseten की योजना लंबे समय तक चलने वाले काम को क्लाउड पर होस्ट किए गए एजेंटों को सौंपने और जटिल कार्यों पर कई एजेंटों के बीच समन्वय करने की सुविधा देने की है। ग्राहक के डेटा और उपयोग के मामलों के अनुसार अनुकूलित रूटिंग, अधिक समृद्ध सुरक्षा संकेत और ग्राहकों के अपने सुरक्षा-नियंत्रणों का समर्थन भी प्रस्तावित है।

इसलिए आर्थिक कसौटी यह है कि अपेक्षित गुणवत्ता पर किसी कार्य को पूरा करने में कितनी लागत आती है; टोकन की कीमत उसका केवल एक घटक है। चूँकि बताई गई बचत कार्यभार की प्रकृति पर निर्भर करती है और एजेंट प्रबंधन की कई सुविधाएँ अभी प्रस्तावित हैं, इसलिए पूर्वावलोकन से यह स्पष्ट नहीं होता कि बेंचमार्क के ये नतीजे वास्तविक उत्पादन-स्तर के कोडिंग कार्य में कितनी निरंतरता से दिखाई देंगे।