एआई मॉडल और प्लेटफ़ॉर्म
ओपन-वेट मॉडल के लिए Sarvam ने भारत में होस्टेड टोकन फ़ैक्टरी शुरू की

मुख्य बिंदुसर्वम विदेशी डेवलपर एपीआई को अनुरोध अग्रेषित करने के बजाय भारतीय जीपीयू से ओपन-वेट मॉडल…
और देखें
- सर्वम विदेशी डेवलपर एपीआई को अनुरोध अग्रेषित करने के बजाय भारतीय जीपीयू से ओपन-वेट मॉडल प्रदान करता है।
- अलग जीपीयू पूल पर प्रीफिल को डिकोड से अलग करने से लंबे कोडिंग प्रॉम्प्ट सक्रिय डिकोडिंग सत्रों को रोकते नहीं हैं।
- सर्वम की अपनी डीपसीक तुलना दिखाती है कि टुगेदर पहले टोकन तेजी से लौटाता है और 278 आउटपुट टोकन प्रति सेकंड की दर से स्ट्रीम करता है।
Sarvam AI ने 16 नवंबर, 2026 को डेवलपरों और उद्यमों के लिए Sarvam Token Factory शुरू की। इसके ज़रिए भारत में स्थित GPU क्लस्टरों से अपने और तीसरे पक्ष के ओपन-वेट मॉडल एक ही OpenAI-संगत API के माध्यम से उपलब्ध कराए जाते हैं। Sarvam के अनुसार, यह सेवा पहले से ही प्रतिदिन 450 अरब से अधिक DeepSeek V4.1 Flash टोकन संभालती है।
शुरुआती मॉडल सूची में Sarvam 105B, GLM 5.3, GLM 5.3 Flash, DeepSeek V4.1 Flash 1017, DeepSeek V4 Pro, Kimi K3.1 Pro और Gemma 4 31B शामिल हैं। इसके API दस्तावेज़ के मुताबिक, Token Factory में Sarvam की अन्य APIs वाली ही API key, SDK और क्रेडिट इस्तेमाल होते हैं। मॉडल बदलने के लिए उपयोगकर्ता model फ़ील्ड बदलते हैं, जबकि OpenAI-संगत क्लाइंट को https://api.sarvam.ai/v2.
कीमत, परिनियोजन और डेटा प्रबंधन
Sarvam 105B के लिए शुरुआती कीमत इनपुट टोकन के प्रति दस लाख पर ₹10 और आउटपुट टोकन के प्रति दस लाख पर ₹25 है। DeepSeek V4.1 Flash 1017 के Standard एंडपॉइंट की कीमत क्रमशः ₹14 और ₹55 है। कीमत सूची में, दोनों के कैश किए गए इनपुट की दर प्रति दस लाख टोकन ₹0.25 है। API दस्तावेज़ के अनुसार, शुरुआती कीमतें 2026 के अंत तक लागू रहेंगी; रुपये में दी गई सभी दरों में GST शामिल नहीं है।
उपलब्धता केवल उपयोग-आधारित सर्वरलेस एंडपॉइंट तक सीमित नहीं है। Provisioned Throughput के तहत हर संगठन के लिए DeepSeek V4 Pro और Kimi K3.1 Pro सक्षम किए जाते हैं, जबकि शुरुआती सूची के अन्य मॉडल सर्वरलेस के रूप में दर्ज हैं। ग्राहक साझा या समर्पित क्षमता चुन सकते हैं। Sarvam ऑन-प्रिमाइज़ परिनियोजन के लिए इन्फ़रेंस ऑप्टिमाइज़ेशन स्टैक भी उपलब्ध कराता है और कहता है कि वह पहले से ही महत्वपूर्ण संस्थानों के लिए इसी तरह काम कर रहा है।
Sarvam के उत्पाद पृष्ठ के अनुसार, इन्फ़रेंस भारत में Sarvam द्वारा संचालित GPU पर चलता है; इसे मूल मॉडल डेवलपरों के विदेश स्थित API तक अग्रेषित नहीं किया जाता। डेटा को शून्य अवधि तक बनाए रखने की सहमति वाली व्यवस्था के तहत, प्रॉम्प्ट और जवाब सहेजे नहीं जाते; परिचालन लॉग का दायरा अलग से तय किया जाता है। ग्राहक डेटा का इस्तेमाल अन्य ग्राहकों के लिए मॉडल प्रशिक्षित करने में नहीं किया जाता, और उद्यम परिनियोजनों में अनुबंध के तहत सेवा-स्तर समझौता शामिल होता है, जो 99.95% अपटाइम की गारंटी देता है।
एजेंट के लंबे सत्रों के लिए साझा कैश
सर्विंग स्टैक प्रीफ़िल को—जो पूरा प्रॉम्प्ट पढ़ता है—डिकोड से अलग रखता है, जो एक बार में एक टोकन तैयार करता है; दोनों चरण अलग-अलग GPU पूलों पर चलते हैं। इस अलगाव का उद्देश्य यह है कि कोडिंग का नया, लंबा प्रॉम्प्ट सक्रिय डिकोडिंग सत्रों को न रोके। ऐसा तब हो सकता है, जब दोनों चरण एक ही GPU साझा करते हों। कैश की जानकारी रखने वाला कंट्रोल प्लेन हर चरण को उसके मौजूदा संदर्भ की ओर भेजता है, जबकि अनुरोध स्वीकार करते समय केवल बिना कैश वाले टोकनों की गिनती होती है।
कैश की दूसरी परत, Moonshot के Mooncake पर आधारित G3 स्टोर, हर प्रीफ़िल सर्वर के लिए उपलब्ध है और ट्रैफ़िक के आधार पर प्रॉम्प्ट को घंटों या दिनों तक बनाए रखता है। केवल GPU मेमोरी में कोई प्रॉम्प्ट लगभग चार सेकंड तक रहता है; लोड बढ़ने पर यह अवधि घटकर लगभग दो सेकंड रह जाती है। यह अंतर उन एजेंटों के लिए मायने रखता है, जो किसी टूल कॉल के बाद लगभग उसी प्रॉम्प्ट के साथ लौटते हैं। Sarvam के अनुसार, DeepSeek V4.1 Flash के 95.7% प्रॉम्प्ट टोकन कैश से मिलते हैं, और G3 ने GLM 5.3 के लिए पीक प्रीफ़िल नोड की ज़रूरत 58 से घटाकर 34 कर दी।
Sarvam 105B के लिए कंपनी का कहना है कि BF16 वेट से MXFP8—8-बिट फ़ॉर्मेट—पर जाने और speculative decoding जोड़ने से आउटपुट थ्रूपुट लगभग 2.2 गुना बढ़ा, जबकि हर रेप्लिका के लिए B200 GPU की संख्या दो से घटकर एक हो गई और सटीकता कम नहीं हुई। अलग से, एक ऑर्केस्ट्रेटर एजेंट ऑप्टिमाइज़ेशन प्रयोग उप-एजेंटों को सौंपता है, लेकिन परिनियोजन से पहले हर बदलाव को इंजीनियर की मंज़ूरी लेनी होती है।
मॉडल और एंडपॉइंट के अनुसार प्रदर्शन
Sarvam के अनुसार, AWS Mumbai क्लाइंट से 10,000 टोकन वाले प्रॉम्प्ट के साथ किए गए 72 घंटे के माध्यिका परीक्षण में Gemma 4 31B ने पहला टोकन 0.40 सेकंड में लौटाया और 308 टोकन प्रति सेकंड की गति से स्ट्रीम किया। इसे उपलब्ध कराने वाले एकमात्र अन्य प्रदाता के लिए ये आँकड़े क्रमशः 2.00 सेकंड और 193 टोकन प्रति सेकंड थे। तुलना में हर मापदंड के लिए उस प्रदाता की सबसे बेहतर श्रेणी वाली सेवा का उपयोग किया गया। Kimi K3.1 Pro पर coding-agent ट्रेस और 16 B200 GPU के साथ Sarvam के एक अलग परीक्षण में प्रति GPU 6,177 टोकन प्रति सेकंड और प्रति उपयोगकर्ता लगभग 70 टोकन प्रति सेकंड की गति मिली। InferenceX की प्रकाशित प्रदर्शन-वक्र पर यह आँकड़ा 3,213 था।
DeepSeek V4.1 Flash की Sarvam की अपनी तुलना कम अनुकूल है: 10,000 टोकन वाले प्रॉम्प्ट के विलंबता परीक्षण में Together ने पहला टोकन 0.71 सेकंड में लौटाया, जबकि Sarvam Standard को 0.90 सेकंड लगे। कीमत और गति की एक अलग Sarvam तालिका में Together की आउटपुट गति 278 टोकन प्रति सेकंड और Sarvam Standard की 130 टोकन प्रति सेकंड दी गई है। विलंबता के आँकड़े 3–5 नवंबर, 2026 को मापे गए थे; एक बार में एक अनुरोध भेजा गया था और हर प्रदाता की सबसे तेज़ श्रेणी वाली सेवा इस्तेमाल की गई थी।
Token Factory में सर्विंग स्टैक ही मुख्य उत्पाद है। इसका व्यावसायिक आधार भारत में प्रोसेसिंग और OpenAI-संगत माइग्रेशन को कैशिंग तथा हर मॉडल के लिए अलग ट्यूनिंग से होने वाली GPU बचत के साथ जोड़ता है। प्रकाशित नतीजे चुनिंदा वर्कलोड में उल्लेखनीय सुधार दिखाते हैं, लेकिन यह भी बताते हैं कि थ्रूपुट और विलंबता के लाभ मॉडल और एंडपॉइंट के अनुसार अलग-अलग होते हैं।












