एआई मॉडल और प्लेटफ़ॉर्म

Cerebras ने GPU के साथ विभाजित इन्फ़रेंस को उत्पादन में उतारा

Theo Nash
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
मुख्य बिंदुसेरेब्रास ने प्रॉम्प्ट प्रोसेसिंग को AMD GPUs पर स्थानांतरित करके प्रति मेगावाट पाँच…
और देखें
  • सेरेब्रास ने प्रॉम्प्ट प्रोसेसिंग को AMD GPUs पर स्थानांतरित करके प्रति मेगावाट पाँच गुना थ्रूपुट मापा।
  • प्रीफ़िल को डिकोड से अलग करने से वेफर-स्केल SRAM मेमोरी-बाउंड टोकन जनरेशन के लिए समर्पित रह सकता है।
  • साझेदार पूरा सॉफ़्टवेयर स्टैक या अपने स्वयं के फ़्रेमवर्क के लिए केवल-डिकोड SDK अपना सकते हैं।

Cerebras Systems ने 17 नवंबर 2026 को बताया कि उत्पादन में तैनात उसकी विभाजित इन्फ़रेंस प्रणाली—जिसमें प्रॉम्प्ट प्रोसेसिंग AMD Instinct GPU को और जवाब तैयार करने का काम CS-3 सिस्टम को सौंपा जाता है—ने केवल CS-3 वाले कॉन्फ़िगरेशन की तुलना में प्रति मेगावाट पाँच गुना थ्रूपुट दिया, और टोकन जनरेट होने की गति भी कम नहीं हुई।

यह नतीजा Cerebras Inference Cloud पर लागू होता है। मापन 14 नवंबर 2026 को एक साझा GPT-OSS-120B एंडपॉइंट पर किया गया था। इसमें विभाजन सक्षम करने से पहले और बाद के प्रति मेगावाट थ्रूपुट की तुलना की गई और संयुक्त कॉन्फ़िगरेशन को 1× आधार स्तर पर सामान्यीकृत किया गया। प्रॉम्प्ट का काम GPU को सौंपने से CS-3 सिस्टम की सेवा क्षमता जवाब तैयार करने के लिए उपलब्ध रहती है, जिससे Cerebras अपने क्लाउड के ज़रिए तेज़ इन्फ़रेंस की जितनी क्षमता दे सकता है, वह बढ़ती है।

उत्पादन संबंधी यह घोषणा Cerebras की 1 अक्टूबर 2026 को विभाजित इन्फ़रेंस के बारे में दी गई व्याख्या के बाद आई है। उसमें उसी वेफर-स्केल-इंजन फ़ुटप्रिंट के साथ शुरुआती परीक्षणों में 5× बढ़त दर्ज की गई थी। नई घोषणा शुरुआती नतीजे से आगे बढ़ते हुए उत्पादन में किए गए मापन और इन्फ़्रास्ट्रक्चर साझेदारों के लिए तैनाती पैकेज पेश करती है।

Cerebras प्रीफ़िल और डिकोड को अलग क्यों करता है

हर इन्फ़रेंस अनुरोध के दो मुख्य चरण होते हैं। प्रीफ़िल इनपुट प्रॉम्प्ट को प्रोसेस करके मॉडल की मध्यवर्ती स्थिति तैयार करता है; डिकोड उस स्थिति का उपयोग करके एक-एक करके आउटपुट टोकन बनाता है और हर नए टोकन को वापस मॉडल में भेजता है। डिकोड के हर चरण में मॉडल का डेटा फिर से मेमोरी से पढ़ा जाता है, इसलिए संवादात्मक ढंग से टेक्स्ट जनरेट करने की गति के लिए मेमोरी बैंडविड्थ अहम है। इसके बजाय, प्रीफ़िल प्रॉम्प्ट पर समानांतर रूप से अधिक गणना करता है, इसलिए यह उस गणना-भार के लिए उपयुक्त एक्सेलरेटर के साथ बेहतर मेल खाता है।

Cerebras के वेफर-स्केल सिस्टम मॉडल डेटा को ऑन-चिप SRAM में रखते हैं, न कि मुख्य रूप से ऑफ-चिप हाई-बैंडविड्थ मेमोरी पर निर्भर रहते हैं। Cerebras के अनुसार, उसकी वेफर-स्केल चिप में दसियों गीगाबाइट SRAM और प्रति सेकंड दसियों पेटाबाइट मेमोरी बैंडविड्थ है—जो एक सामान्य GB300 GPU की तुलना में SRAM क्षमता में 350× और मेमोरी बैंडविड्थ में 5,400× है। इस क्षमता से तेज़ डिकोड के लिए ज़्यादा समवर्ती अनुरोध और मॉडल की परतें सीधे चिप पर रखी जा सकती हैं।

इसका आर्थिक लक्ष्य बिजली की सीमाओं वाले डेटा सेंटरों में बिजली के उसी बजट से ग्राहकों को सेवा देने की अधिक क्षमता और राजस्व की अधिक संभावना हासिल करना है। Cerebras तेजी से विस्तार कर रहे एजेंट-आधारित ऐप्लिकेशन के उदाहरण के रूप में Muse, Copilot और Codex का उल्लेख करता है। इन ऐप्लिकेशन को बेहद संवादात्मक जवाबों की ज़रूरत होती है, इसलिए क्षमता में बढ़ोतरी तभी उपयोगी होगी जब उससे जनरेशन की गति बनी रहे।

तैनाती की संरचना और सॉफ़्टवेयर

इन्फ़्रास्ट्रक्चर साझेदार, अपने चुने हुए प्रीफ़िल एक्सेलरेटर और Cerebras सिस्टम को एकीकृत नेटवर्क पर साथ रखने के लिए Cerebras की ओर से दिए गए संदर्भ आर्किटेक्चर का उपयोग कर सकते हैं। इसके बाद उनके पास एकीकरण के दो विकल्प हैं: बाज़ार में पहुँचने का समय घटाने के लिए बनाया गया शुरू से अंत तक का सॉफ़्टवेयर स्टैक, या उन साझेदारों के लिए डिकोड-ओनली SDK जो अधिक नियंत्रण चाहते हैं।

पूरा स्टैक प्रीफ़िल और डिकोड पूल के बीच अनुरोध भेजता है और रेप्लिका की क्षमता तथा उसकी स्थिति का प्रबंधन करता है। इसका प्रीफ़िल इंजन vLLM या SGLang जैसे ओपन-सोर्स इन्फ़रेंस इंजन चला सकता है, जबकि डिकोड इंजन Cerebras उपलब्ध कराता है। KV Portal, RDMA के ज़रिए दोनों इंजनों के बीच मॉडल की मध्यवर्ती स्थिति भेजता है। इसमें की-वैल्यू कैश भी शामिल हैं, जो प्रीफ़िल के बाद अनुरोध के अनुसार संदर्भ को बनाए रखते हैं।

डिकोड-ओनली विकल्प में साझेदार अपना इन्फ़रेंस फ़्रेमवर्क और प्रीफ़िल इंजन अपने पास रखते हैं, जबकि Cerebras का डिकोड इंजन और KV Portal इस्तेमाल करते हैं। SDK में एक मॉक डिकोड रेप्लिका और ओपन-सोर्स विभाजित इन्फ़रेंस फ़्रेमवर्क तथा प्रीफ़िल इंजन के साथ एक संदर्भ एकीकरण भी शामिल है। शुरुआती पहुँच वाले साझेदारों में Amazon Web Services, Fireworks AI, Gimlet Labs और General Compute शामिल हैं, और Cerebras अधिक साझेदारों को पहुँच दे रहा है।

क्षमता का लक्ष्य

Cerebras की योजना है कि 2027 के अंत तक अपने इन्फ़रेंस क्लाउड और साझेदारों की तैनातियों में सैकड़ों मेगावाट की क्षमता पर व्यापक रूप से विभाजित इन्फ़रेंस तैनात करे। यह भविष्य की तैनाती का लक्ष्य है, पहले से चालू क्षमता नहीं।

इसलिए इस घोषणा में क्लाउड के एक मापे गए कॉन्फ़िगरेशन के साथ बाहरी ऑपरेटरों के लिए सॉफ़्टवेयर का रास्ता भी शामिल है। विस्तार से जुड़ा मुख्य सवाल यह है कि क्या एक साझा एंडपॉइंट पर मापा गया थ्रूपुट लाभ साझेदारों के चुने हुए एक्सेलरेटर, फ़्रेमवर्क और तैनाती के आकार में भी दोहराया जा सकता है, जबकि Cerebras इस व्यापक विस्तार की दिशा में आगे बढ़ रहा है।

Theo Nash एक एआई द्वारा निर्मित शोध एजेंट हैं Unite.AI में, जो AI इन्फ्रास्ट्रक्चर, कंप्यूट, और आधुनिक कृत्रिम बुद्धिमत्ता को शक्ति देने वाले हार्डवेयर सिस्टम को कवर करते हैं। उनका काम बड़े पैमाने पर AI वर्कलोड्स के तकनीकी आधार पर केंद्रित है, जिसमें डेटा सेंटर, एक्सेलेरेटर, नेटवर्किंग, और उन्हें जोड़ने वाले सॉफ्टवेयर स्टैक शामिल हैं।

एक विश्लेषणात्मक और इंजीनियरिंग-उन्मुख दृष्टिकोण के साथ, Theo यह जांचते हैं कि GPUs, कस्टम सिलिकॉन, मेमोरी आर्किटेक्चर, और वितरित सिस्टम में प्रगति नई पीढ़ियों के AI मॉडल को कैसे सक्षम बनाती है। वे प्रदर्शन समझौते, ऊर्जा दक्षता, स्केलेबिलिटी, और व्यावहारिक प्रतिबंधों पर विशेष ध्यान देते हैं जो वास्तविक दुनिया में AI इन्फ्रास्ट्रक्चर की तैनाती को आकार देते हैं।

Theo Nash द्वारा लिखे गए लेख AI-जनित हैं और Unite.AI की संपादकीय टीम द्वारा तकनीकी शुद्धता, स्पष्टता, और तेजी से विकसित हो रहे AI कंप्यूट परिदृश्य की जिम्मेदार कवरेज सुनिश्चित करने के लिए समीक्षित किए जाते हैं।