AMD ने सघन AI एजेंट परिनियोजन के लिए Zen 6 EPYC चिपें जारी कीं

AMD ने घोषणा की कि उसकी छठी पीढ़ी के EPYC SP7 सर्वर प्रोसेसर 10 नवंबर, 2026 से आम तौर पर उपलब्ध होंगे। सर्वर विक्रेताओं से सिस्टम की आपूर्ति शुरू हो रही है और Microsoft Azure तथा Oracle Cloud Infrastructure के इंस्टेंस जल्द उपलब्ध होने की उम्मीद है। Zen 6 के 10 मॉडल वाला यह लाइनअप AI एजेंटों के निष्पादन, GPU होस्ट नोड और एंटरप्राइज़ अनुप्रयोगों के लिए तैयार किया गया है।

इस घोषणा का केंद्र AI मॉडल के आसपास CPU से किए जाने वाले काम हैं। एक एजेंट-आधारित कार्यप्रवाह एजेंटों के बीच समन्वय कर सकता है, मॉडल चला सकता है, जानकारी प्राप्त कर सकता है, कोड निष्पादित कर सकता है और मौजूदा एंटरप्राइज़ डेटाबेस व अनुप्रयोगों से जुड़ सकता है। AMD इस काम के लिए बनी अवसंरचना को सामान्य प्रयोजन की सेवाओं, GPU होस्ट नोड और एजेंट सैंडबॉक्स में बाँटता है। हर काम के अनुसार प्रोसेसर की आवृत्ति, सघनता, बैंडविड्थ और दक्षता बदलती है, जबकि x86 सॉफ़्टवेयर, सुरक्षा और संचालन का साझा आधार बना रहता है।

SP7 श्रृंखला में आवृत्ति और सघनता

EPYC 9006 SP7 श्रृंखला में 64 से 256 कोर और 128 से 512 थ्रेड हैं। एक साथ बहु-थ्रेडिंग से हर कोर दो थ्रेड चला सकता है। Zen 6 और Zen 6c कोर, AI होस्ट नोड के लिए उच्च आवृत्ति वाले प्रदर्शन और एजेंटों को समानांतर में अधिक सघनता से चलाने के बीच संतुलन बनाते हैं। यह प्लेटफ़ॉर्म PCIe Gen 6 को भी सपोर्ट करता है।

इस श्रृंखला के सबसे ऊँचे स्तर पर EPYC 9996 और 9956, दोनों में 1,024 MB L3 कैश है। 9996 की बेस क्लॉक स्पीड 2.55 GHz है, जो बूस्ट होकर 4.1 GHz तक पहुँचती है। इसकी डिफ़ॉल्ट CPU पावर रेटिंग 600W है, जिसे 400W से 600W के बीच कॉन्फ़िगर किया जा सकता है। डिफ़ॉल्ट CPU पावर, निर्धारित प्रदर्शन लक्ष्य के लिए प्रोसेसर के कंप्यूट और I/O डाइज़ की कुल बिजली खपत मापती है। इसके बजाय EPYC 9686F और 9586F में उच्च आवृत्ति को प्राथमिकता दी गई है: उनकी बेस क्लॉक स्पीड 4.05 GHz है और बूस्ट स्पीड 5.3 GHz तक पहुँचती है।

अलग-अलग सर्वर से आगे बढ़कर, ये प्रोसेसर AMD के Helion रैक डिज़ाइनों में भी शामिल हैं, जिन्हें अक्टूबर 2026 में पेश किया गया था। Helion Liquid बड़े पैमाने पर परिनियोजन के लिए है, Helion Air मौजूदा एयर-कूल्ड डेटा केंद्रों को लक्ष्य करता है, और Helion Air Inference CPU निष्पादन को स्थानीय GPU इन्फ़रेंस के साथ जोड़ता है। AMD के अनुसार, कुछ Helion कॉन्फ़िगरेशन एक रैक में 73,728 थ्रेड तक पहुँचा सकते हैं।

प्रदर्शन के अनुमान और बिजली की सीमाएँ

GPU होस्ट नोड के लिए AMD का कहना है कि मॉडल वेट को CPU पर ऑफलोड करने वाली तुलना में, इसकी पिछली पीढ़ी के EPYC प्रोसेसरों के मुकाबले बड़े भाषा मॉडल के आउटपुट थ्रूपुट में 1.8x तक बढ़ोतरी होती है। यह आँकड़ा PCIe Gen 5 होस्ट लिंक पर किए गए मापों पर आधारित है, जिन्हें Gen 6 बैंडविड्थ के अनुरूप आँका गया। परीक्षण में इस कार्यभार के लिए थ्रूपुट की सीमा होस्ट मेमोरी नहीं, बल्कि PCIe लिंक पाई गई।

एजेंट सैंडबॉक्स के मामले में AMD का अनुमान है कि हर CPU वॉट पर Nvidia Vera की तुलना में लगभग 3.3x और Intel Xeon 6980P की तुलना में 2.5x एजेंट चलाए जा सकते हैं। किसी चालू परिनियोजन में एजेंटों की गिनती करने के बजाय, इस तुलना में उपलब्ध CPU थ्रेड को एक समान सैद्धांतिक कार्यभार के तहत अनुमानित क्षमता में बदला जाता है। वास्तविक क्षमता और थ्रूपुट कार्यभार, मॉडल, मेमोरी, सॉफ़्टवेयर, ऑर्केस्ट्रेशन और सिस्टम कॉन्फ़िगरेशन पर निर्भर करते हैं।

AMD के रैक मॉडल के अनुमान के अनुसार, प्रति सॉकेट प्रोसेसर और मेमोरी की संयुक्त बिजली सीमा 15% घटाने पर, डिफ़ॉल्ट पावर सेटिंग की तुलना में EPYC 9996 कॉन्फ़िगरेशन 35-किलोवाट के एक रैक में लगभग 1.18x एजेंट चला सकता है। अतिरिक्त क्षमता उसी बिजली सीमा के भीतर अधिक सर्वर लगाने से मिलती है। प्रति सर्वर प्रदर्शन में औसत कमी का अनुमान 1% है, जो पाँचवीं पीढ़ी के EPYC प्रोसेसर के अलग परीक्षण पर आधारित है।

Microsoft ने Azure HDv2 का पूर्वावलोकन शुरू किया

Microsoft ने 10 नवंबर को Azure HDv2 वर्चुअल मशीन के पूर्वावलोकन के लिए पंजीकरण शुरू किया। यह छठी पीढ़ी के EPYC प्रोसेसरों से बनी है, जिनका कूटनाम Venice है। हर VM में 500 से अधिक भौतिक Zen 6 कोर, 3.8 टेराबाइट DDR5-8800 मेमोरी, 30 TB PCIe Gen 5 NVMe स्टोरेज और 400 Gb Azure Boost Networking मिलता है।

Microsoft के अनुसार, एक HDv2 VM बाज़ार में उपलब्ध अगली सर्वश्रेष्ठ विकल्प की तुलना में लगभग दोगुने एजेंट सैंडबॉक्स समानांतर रूप से चला सकता है और एजेंट-आधारित कार्यों का थ्रूपुट 1.7x तक बढ़ा सकता है। Microsoft के चार्ट में मापों को प्रारंभिक और परिवर्तन के अधीन बताया गया है। एजेंट-आधारित तथा रीइन्फ़ोर्समेंट लर्निंग कार्यों के थ्रूपुट के प्रतिनिधि माप के रूप में SPEC CPU 2026 Integer Rate का उपयोग किया गया है। जब भी कोई एजेंट कोड चलाता है या किसी टूल का उपयोग करता है, तो वह एक अलग CPU सैंडबॉक्स में ऐसा करता है; इसलिए कोर की क्षमता अपर्याप्त होने पर उन एजेंटों को निर्देश देने वाले GPU निष्क्रिय रह सकते हैं।

OpenAI ने HDv2 पर Microsoft के साथ काम किया है और कोर तथा मेमोरी के बीच संतुलन को शोध और कोडिंग—दोनों तरह के कार्यभार से जोड़ा है। OpenAI में CPU और स्टोरेज क्षमता नियोजन के प्रमुख Rafael Dietrich ने कहा, “जब हम AI शोध के लिए बड़े डेटासेट तैयार करते हैं, तो अधिक CPU कोर हमें काम को ज़्यादा जॉब में बाँटने देते हैं, बशर्ते हर जॉब के लिए पर्याप्त मेमोरी हो। यही संतुलन तब भी मायने रखता है, जब कई कोडिंग एजेंट एक साथ सॉफ़्टवेयर बनाते और परीक्षण चलाते हैं।”

आम उपलब्धता के समय Microsoft की योजना HDv2 को Azure Kubernetes Service, Azure Databricks और Azure CycleCloud के ज़रिए उपलब्ध कराने की है। यह Rescale और Synopsys समेत साझेदार प्लेटफ़ॉर्म पर भी उपलब्ध होगा। इन सेवाओं और प्लेटफ़ॉर्म पर उपलब्धता अलग-अलग हो सकती है।

इस लॉन्च के साथ, एजेंट क्षमता के लिए एक्सेलरेटर का उपयोग जितना ही अहम CPU कोर की सघनता, मेमोरी का आवंटन और रैक की बिजली सीमा भी हो गए हैं। इन कॉन्फ़िगरेशन की व्यावहारिक कसौटी यह है कि वे तय बिजली बजट के भीतर एक साथ कितना एजेंट कार्य चला सकते हैं, बिना GPU को कम उपयोग में छोड़े।