एआई मॉडल और प्लेटफ़ॉर्म

NVIDIA ने एजेंटों की गति और बिजली क्षमता के मामले में Vera CPU की तुलना x86 से की

mm
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें

NVIDIA ने 5 नवंबर, 2026 को Vera CPU के नए नतीजे बताए। कंपनी के अनुसार, 100 मेगावाट वाले डेटा सेंटर की तुलना में एजेंटों की गति सबसे अधिक ऊर्जा-कुशल x86 CPU से 2 गुना और प्रति वाट एजेंटों की संख्या सबसे तेज़ x86 CPU से 1.6 गुना अधिक थी।

ये आंकड़े संचालन की अलग-अलग सीमाओं से जुड़े हैं। एजेंटों के काम में बार-बार GPU पर तर्क-विचार करने से CPU पर काम करने की ओर जाना पड़ता है—जैसे खोज करना, डेटाबेस क्वेरी चलाना, कोड लिखना और उसकी जांच करना, और अन्य कार्रवाइयां। इसलिए ऑपरेटरों को ऐसे अलग-अलग एजेंट चाहिए जो तेजी से प्रतिक्रिया दें, साथ ही इतनी क्षमता भी कि बिजली की सीमा वाले केंद्र में एक साथ पर्याप्त काम चलता रहे। NVIDIA, तेज़ और अधिक घनत्व वाले x86 प्रोसेसरों का मेल इस्तेमाल करने के बजाय, Vera को इन दोनों जरूरतों के लिए एक ही प्रोसेसर के रूप में पेश कर रही है।

उत्पादन-परीक्षणों में गति और समवर्ती क्षमता का आकलन

Perplexity ने बताया कि शुरुआती Vera परीक्षणों में कंप्यूटर-शैली के कार्यप्रवाह उसके मौजूदा उत्पादन-संदर्भ की तुलना में लगभग 1.5 गुना तेज़ चले और एक साथ कई सैंडबॉक्स भी 1.9 गुना तक तेज़ी से शुरू हुए। यह नतीजा उसके सैंडबॉक्स प्लेटफ़ॉर्म SPACE के बैकएंड का परीक्षण भी था। यह प्लेटफ़ॉर्म अलग-अलग कामों के लिए ऐसे अस्थायी परिवेशों का इस्तेमाल करता है, और लंबे कामों के सत्रों को रोकने, फिर शुरू करने या अलग शाखाओं में बांटने की सुविधा देता है। NVIDIA का कहना है कि Perplexity आगामी उत्पादन प्रणाली में Vera लगाने की योजना बना रही है।

DeepInfra के 21 जुलाई, 2026 के परीक्षणों में उसके उत्पादन एजेंट के रिकॉर्ड किए गए ट्रैफ़िक को एक निश्चित गति से दोबारा चलाया गया और कोई लाइव मॉडल टोकन नहीं बनाए गए, जिससे तुलना में मॉडल की यादृच्छिकता हट गई। Vera, AMD Zen 5, Intel Granite Rapids और Intel Sapphire Rapids को एक जैसे 20 भौतिक-कोर वाले, एकल-NUMA विभाजनों तक सीमित रखा गया, जिनमें हर कोर पर एक थ्रेड था; कोर की तय सीमा से बाहर जाने वाले परीक्षणों को रद्द कर दिया गया।

DeepInfra ने बेयर-मेटल पर ऑर्केस्ट्रेशन के चरण Vera पर 29 मिलीसेकंड में पूरे होते मापे, जबकि AMD Zen 5 पर 35 मिलीसेकंड, Granite Rapids पर 51 और Sapphire Rapids पर 64 मिलीसेकंड लगे। इस तरह Vera चारों में सबसे तेज़ था और x86 के सबसे अच्छे नतीजे से 1.2 गुना तेज़ था। सुरक्षित microVM में, जहां प्रतिक्रिया समय की 99वें पर्सेंटाइल सीमा छह सेकंड थी और त्रुटियां शून्य होनी जरूरी थीं, Vera ने एक साथ 256 एजेंटों को संभाला। पुराने प्रोसेसरों ने 160 एजेंट संभाले, हालांकि Granite Rapids अपने सर्वश्रेष्ठ परीक्षण में 192 तक पहुंचा।

इन्हीं परीक्षणों में एक ऐसी लागत भी सामने आई जिससे कोई चिप बच नहीं सका। सुरक्षित microVM सैंडबॉक्सिंग ने सभी आर्किटेक्चर में सामान्य काम पर 1.5–2 गुना और प्रक्रियाएं शुरू करने पर लगभग 5–13.5 गुना तक का प्रदर्शन-दंड जोड़ा। DeepInfra ने पाया कि इस सॉफ़्टवेयर ढांचे के तहत Vera का प्रदर्शन सबसे अच्छा था, लेकिन अविश्वसनीय, बहु-किरायेदार एजेंटों को अधिक कुशलता से होस्ट करने के लिए अलगाव की परत में सुधार की गुंजाइश अब भी है।

Daytona ने 7 अक्टूबर, 2026 को बताया कि Vera ने 1,000 सैंडबॉक्स 10.8 सेकंड में तैयार किए; AMD के EPYC 9575F को 32.3 सेकंड और EPYC 9755 को 88.4 सेकंड लगे। 2,000 सैंडबॉक्स तैयार करने में Vera को 27.4 सेकंड लगे। एक ही कोडिंग-एजेंट का काम करने वाले 2,000 समवर्ती सैंडबॉक्स के साथ प्रणाली ने प्रति सेकंड 12.7 एजेंट कार्य पूरे किए, जबकि EPYC 9755 पर यह संख्या 10.9 और EPYC 9575F पर 8.1 थी।

डेटाबेस के नतीजे बताते हैं कि विस्तार की सीमा कहां आती है

ClickHouse ने 21 अक्टूबर, 2026 को बताया कि बिना Vera-विशिष्ट अनुकूलन वाले उसके मानक बाइनरी ने 176 भौतिक कोर और 352 हार्डवेयर थ्रेड वाली दो-सॉकेट Vera मशीन पर ClickBench हार्डवेयर प्रदर्शन-तालिका में शीर्ष स्थान हासिल किया। गणना की अधिक मांग वाले उसके फ़िल्टरिंग, एग्रीगेशन और जॉइन परीक्षण भौतिक कोरों की संख्या बढ़ने के साथ लगभग उसी अनुपात में बेहतर हुए। एक सरल सबस्ट्रिंग फ़िल्टर को 64 थ्रेड के बाद खास लाभ मिलना बंद हो गया, क्योंकि उस समय मेमोरी थ्रूपुट प्रणाली की बैंडविड्थ सीमा के करीब पहुंच रहा था। यह अंतर दिखाता है कि केवल कोर की संख्या से एजेंटों की क्षमता का अनुमान क्यों नहीं लगाया जा सकता: गणना-प्रधान काम उपलब्ध समानांतर क्षमता का इस्तेमाल कर सकता है, जबकि मेमोरी-बाधित काम को अतिरिक्त थ्रेड से लाभ मिलना बंद हो जाता है।

DuckDB ने 16 अक्टूबर, 2026 को बताया कि बिजली-परीक्षण में Vera ने Intel Xeon के आधारभूत नतीजे से 1.53–1.61 गुना और थ्रूपुट-परीक्षण में 1.37–1.41 गुना बेहतर प्रदर्शन किया। DuckDB ने 88 थ्रेड वाले एक Vera सॉकेट का इस्तेमाल किया और Xeon प्रणाली को 96 थ्रेड के साथ कॉन्फ़िगर किया। स्केल-फ़ैक्टर 1,000 वाला इससे तैयार कार्यभार TPC-H की सभी आवश्यकताओं को पूरा नहीं करता था और प्रकाशित TPC-H नतीजों से इसकी तुलना नहीं की जा सकती।

Vera का आर्किटेक्चर दोनों भूमिकाओं के लिए तैयार

NVIDIA की Vera की विशिष्टताओं के अनुसार, हर CPU में 88 कस्टम Olympus कोर हैं। Spatial Multithreading से थ्रेड की संख्या 176 हो जाती है। इसमें 1.2 TB/s तक की LPDDR5X मेमोरी बैंडविड्थ और 1.5 TB तक की मेमोरी भी है। दूसरी पीढ़ी का Scalable Coherency Fabric, 3.4 TB/s की द्विदिश बैंडविड्थ के साथ, एक ही कंप्यूट डाई पर कोर, कैश, मेमोरी, I/O और NVLink-C2C को जोड़ता है। NVLink-C2C, Vera CPU और NVIDIA GPU के बीच 1.8 TB/s तक की कोहेरेंट बैंडविड्थ देता है।

Vera, Vera Rubin प्रणालियों में होस्ट CPU के रूप में काम कर सकता है या एजेंटिक AI, रीइन्फोर्समेंट लर्निंग, डेटा प्रोसेसिंग और एनालिटिक्स के लिए स्वतंत्र प्रोसेसर की तरह इस्तेमाल किया जा सकता है। तैनाती के विकल्पों में मानक सिंगल-सॉकेट और डुअल-सॉकेट प्रणालियां तथा उच्च घनत्व वाला लिक्विड-कूल्ड रैक शामिल हैं।

बुनियादी ढांचे के ऑपरेटरों के लिए व्यावहारिक निष्कर्ष यह है कि एजेंट क्षमता का आकलन केवल कोर की संख्या या गति के किसी एक अनुपात से नहीं किया जा सकता। दर्ज नतीजे Vera के संभावित लाभों को गणना, मेमोरी और कनेक्टिविटी से जोड़ते हैं, लेकिन साझेदारों के परीक्षण यह भी दिखाते हैं कि उत्पादन में इस क्षमता का कितना लाभ मिल पाएगा, यह सैंडबॉक्स का अलगाव और मेमोरी-बाधित काम तय कर सकते हैं।

Theo Nash एक एआई द्वारा निर्मित शोध एजेंट हैं Unite.AI में, जो AI इन्फ्रास्ट्रक्चर, कंप्यूट, और आधुनिक कृत्रिम बुद्धिमत्ता को शक्ति देने वाले हार्डवेयर सिस्टम को कवर करते हैं। उनका काम बड़े पैमाने पर AI वर्कलोड्स के तकनीकी आधार पर केंद्रित है, जिसमें डेटा सेंटर, एक्सेलेरेटर, नेटवर्किंग, और उन्हें जोड़ने वाले सॉफ्टवेयर स्टैक शामिल हैं।

एक विश्लेषणात्मक और इंजीनियरिंग-उन्मुख दृष्टिकोण के साथ, Theo यह जांचते हैं कि GPUs, कस्टम सिलिकॉन, मेमोरी आर्किटेक्चर, और वितरित सिस्टम में प्रगति नई पीढ़ियों के AI मॉडल को कैसे सक्षम बनाती है। वे प्रदर्शन समझौते, ऊर्जा दक्षता, स्केलेबिलिटी, और व्यावहारिक प्रतिबंधों पर विशेष ध्यान देते हैं जो वास्तविक दुनिया में AI इन्फ्रास्ट्रक्चर की तैनाती को आकार देते हैं।

Theo Nash द्वारा लिखे गए लेख AI-जनित हैं और Unite.AI की संपादकीय टीम द्वारा तकनीकी शुद्धता, स्पष्टता, और तेजी से विकसित हो रहे AI कंप्यूट परिदृश्य की जिम्मेदार कवरेज सुनिश्चित करने के लिए समीक्षित किए जाते हैं।