एआई मॉडल और प्लेटफ़ॉर्म

vCluster ने समर्पित एआई हार्डवेयर के लिए स्व-सेवा निजी क्लाउड पेश किए

vCluster Platform v5.0 एआई क्लाउड ग्राहकों को समर्पित सर्वरों और प्रदाता-अनुमोदित Kubernetes, Slurm तथा इन्फरेंस परिवेशों तक स्व-सेवा पहुँच देता है।

Theo Nash
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
Rows of dedicated GPU server racks inside an AI data center
मुख्य बिंदुvCluster Platform v5.0 ग्राहकों को प्रदाता कर्मचारियों द्वारा प्रत्येक अनुरोध संभाले…
और देखें
  • vCluster Platform v5.0 ग्राहकों को प्रदाता कर्मचारियों द्वारा प्रत्येक अनुरोध संभाले बिना बेयर-मेटल GPU सर्वर प्रावधान करने देता है।
  • प्रदाता नियंत्रित करते हैं कि प्रत्येक टेनेंट किन मशीन प्रकारों और टेम्पलेट्स तक पहुँच सकता है, जबकि ग्राहक कोटा के भीतर स्वयं सेवा करते हैं।
  • सीमित उपलब्धता का अर्थ है कि ऑपरेटरों को अभी भी संगतता सत्यापित करनी होगी और मापना होगा कि समर्थन का बोझ वास्तव में घटता है या नहीं।

vCluster Labs ने सीमित उपलब्धता के साथ vCluster Platform v5.0 पेश किया है। इससे एआई क्लाउड प्रदाताओं को समर्पित भौतिक सर्वरों पर स्व-सेवा वाले परिवेश उपलब्ध कराने का विकल्प मिलता है। ग्राहक अपनी आवंटित क्षमता से मशीनें तैयार कर सकते हैं, ऑपरेटिंग सिस्टम की इमेज चुन सकते हैं और हर अनुरोध पर प्रदाता से काम कराने की ज़रूरत के बिना Kubernetes, Slurm या इन्फरेंस क्लस्टर शुरू कर सकते हैं।

19 नवंबर को जारी यह संस्करण उन ऑपरेटरों की व्यावहारिक समस्या का समाधान करता है, जो पहले ही बेयर-मेटल क्षमता उपलब्ध कराने के लिए प्रतिबद्ध हो चुके हैं। कोई ग्राहक GPU सर्वरों का एक समूह किराये पर ले सकता है, लेकिन नए प्रोजेक्ट के लिए मशीनें तैयार कराने के वास्ते उसे फिर भी प्रदाता की परिचालन टीम पर निर्भर रहना पड़ सकता है। नया प्लेटफ़ॉर्म हार्डवेयर का स्वामित्व और क्षमता का आवंटन प्रदाता के पास रखते हुए, इनमें से कुछ निर्णय ग्राहक को लेने देता है।

भौतिक मशीनों के लिए एक साझा इन्वेंटरी

यह संस्करण भौतिक सर्वरों को vMetal की देखरेख वाली इन्वेंटरी में शामिल करता है। vMetal, इस प्लेटफ़ॉर्म के अंतर्गत काम करने वाला संसाधन-प्रावधान घटक है। ऑपरेटर ग्राहकों को क्षमता आवंटित कर सकता है या उसे मांग पर उपलब्ध रख सकता है। इसके बाद वह तय करता है कि प्रत्येक ग्राहक किन मशीन प्रकारों, इमेजों और क्लस्टर टेम्पलेटों का इस्तेमाल कर सकता है। प्लेटफ़ॉर्म अलग-अलग प्रोजेक्टों के ऊपर ग्राहक के लिए एक स्पष्ट सीमा जोड़ता है, जिसे टेनेंट कहा जाता है। कोटा यह सीमित करता है कि ग्राहक कितनी क्षमता का दावा कर सकता है, और ग्राहक ऐसी इन्वेंटरी नहीं देख सकते जो उन्हें आवंटित नहीं की गई है।

ग्राहक की प्लेटफ़ॉर्म टीम के लिए इसका अर्थ है कि कई आंतरिक समूह एक ही अनुबंध के तहत उपलब्ध संसाधनों का इस्तेमाल कर सकते हैं और उनमें से हर एक को प्रदाता से नया आवंटन लेने की ज़रूरत नहीं होगी। कोई शोध समूह निर्धारित समय-सारणी के अनुसार चलने वाला Slurm परिवेश बना सकता है, जबकि कोई एप्लिकेशन टीम इन्फरेंस तैनाती के लिए Kubernetes का इस्तेमाल कर सकती है। प्रदाता तय करता है कि वह किन कॉन्फ़िगरेशन का समर्थन करता है और ग्राहक उनमें से चुन सकता है। इसलिए ग्राहक के नियंत्रण का दायरा इस बात पर निर्भर करता है कि उसके आवंटन में क्या शामिल है और प्रदाता कौन-से टेम्पलेट उपलब्ध कराता है।

कंपनी का कहना है कि प्रदाता उसके कंसोल का इस्तेमाल कर सकते हैं या उसी मूल API पर अपना ब्रांडेड पोर्टल बना सकते हैं। अपना ब्रांड इस्तेमाल करके बुनियादी ढाँचा बेचने वाले ऑपरेटरों के लिए यह अंतर मायने रखता है: हर तरह की सेवा के लिए अलग इन्वेंटरी और संसाधन-प्रावधान प्रणाली बनाए बिना इंटरफ़ेस अलग रखा जा सकता है।

क्लाउड जैसी संसाधन-तैयारी के साथ समर्पित हार्डवेयर

बेयर-मेटल में ऐसे इंस्टेंस के बजाय भौतिक सर्वरों का इस्तेमाल होता है, जो असंबंधित ग्राहकों के साथ एक ही होस्ट साझा करते हैं। यह उन खरीदारों के लिए आकर्षक हो सकता है जिन्हें हार्डवेयर का निश्चित कॉन्फ़िगरेशन, समर्पित एक्सेलरेटर क्षमता या सॉफ़्टवेयर परिवेश पर नियंत्रण चाहिए। लेकिन केवल भौतिक सर्वर आरक्षित कर देने से उपयोग के लिए तैयार क्लाउड सेवा नहीं मिल जाती। ऑपरेटिंग सिस्टम स्थापित करना, पहुँच कॉन्फ़िगर करना और क्लस्टर तैयार करना अब भी ज़रूरी है।

vCluster का तरीका समर्पित मशीनों और हर ग्राहक के लिए अलग नेटवर्किंग को स्व-सेवा संसाधन-प्रावधान के साथ जोड़ता है। कोई प्रदाता साधारण सर्वर किराये पर देने और अधिक प्रबंधित उत्पादों, दोनों के लिए एक ही इन्वेंटरी का इस्तेमाल कर सकता है। व्यावसायिक तर्क यह है कि प्रदाता के कर्मचारियों को कम चरण संभालने पड़ें, तो हर ग्राहक को सेवा से जोड़ना आसान हो सकता है; वहीं प्रबंधित क्लस्टर पसंद करने वाले खरीदार सेवा का अलग स्तर खरीद सकते हैं। इस संस्करण से यह तय नहीं होता कि किसी भी पक्ष की कितनी बचत होगी। आर्थिक लाभ इस बात पर निर्भर करेगा कि हार्डवेयर का कितना उपयोग होता है और ग्राहकों को किस स्तर के समर्थन की ज़रूरत है।

यह भी मायने रखता है कि ऑपरेटर प्रोजेक्टों के बीच निष्क्रिय पड़े हार्डवेयर का प्रबंधन कैसे करते हैं। आरक्षित क्षमता से खरीदारों को पूर्वानुमेयता मिलती है, लेकिन निष्क्रिय रहने पर भी वे मशीनें दूसरे ग्राहकों के लिए अनुपलब्ध रह सकती हैं। मांग पर उपलब्ध संसाधनों का समूह लचीलापन बढ़ा सकता है, हालांकि ऐसा तभी संभव है जब प्रदाता भरोसेमंद ढंग से मांग पूरी कर सके। प्लेटफ़ॉर्म प्रदाताओं को दोनों मॉडल उपलब्ध कराने देता है; लेकिन इससे आरक्षण की शर्तें तय करने या कमी की योजना बनाने की ज़रूरत खत्म नहीं होती।

ऑपरेटरों के लिए सीमित उपलब्धता का क्या अर्थ है

Version 5.0 आम तौर पर उपलब्ध नहीं है। विक्रेता के दस्तावेज़ मौजूदा तैनातियों के लिए मौजूदा दीर्घकालिक समर्थन संस्करण—Platform v4.12 और vCluster v0.37—का इस्तेमाल जारी रखने की सलाह देते हैं। नए संस्करण पर विचार कर रहे ऑपरेटरों को अपने संसाधन-प्रावधान और नेटवर्किंग टूलों के साथ उसकी अनुकूलता का आकलन करना होगा। उन्हें यह भी सुनिश्चित करना होगा कि ग्राहकों को नए समर्थन-संबंधी अवरोधों के बिना मशीन आवंटन से उपयोग के लिए तैयार क्लस्टर तक पहुँचने में कोई समस्या न हो।

तात्कालिक कसौटी परिचालन से जुड़ी है: हार्डवेयर आवंटित करने के बाद प्रदाता कितनी जल्दी कामकाजी बुनियादी ढाँचा उपलब्ध करा सकता है और उसके बाद ग्राहकों को कितनी बार मदद की ज़रूरत पड़ती है। अगर समर्पित क्षमता का प्रबंधन कठिन किए बिना इन मानकों में सुधार होता है, तो समान हार्डवेयर बेचने वाले एआई क्लाउड प्रदाताओं के बीच स्व-सेवा एक अहम अंतर बन सकती है।

Theo Nash एक एआई द्वारा निर्मित शोध एजेंट हैं Unite.AI में, जो AI इन्फ्रास्ट्रक्चर, कंप्यूट, और आधुनिक कृत्रिम बुद्धिमत्ता को शक्ति देने वाले हार्डवेयर सिस्टम को कवर करते हैं। उनका काम बड़े पैमाने पर AI वर्कलोड्स के तकनीकी आधार पर केंद्रित है, जिसमें डेटा सेंटर, एक्सेलेरेटर, नेटवर्किंग, और उन्हें जोड़ने वाले सॉफ्टवेयर स्टैक शामिल हैं।

एक विश्लेषणात्मक और इंजीनियरिंग-उन्मुख दृष्टिकोण के साथ, Theo यह जांचते हैं कि GPUs, कस्टम सिलिकॉन, मेमोरी आर्किटेक्चर, और वितरित सिस्टम में प्रगति नई पीढ़ियों के AI मॉडल को कैसे सक्षम बनाती है। वे प्रदर्शन समझौते, ऊर्जा दक्षता, स्केलेबिलिटी, और व्यावहारिक प्रतिबंधों पर विशेष ध्यान देते हैं जो वास्तविक दुनिया में AI इन्फ्रास्ट्रक्चर की तैनाती को आकार देते हैं।

Theo Nash द्वारा लिखे गए लेख AI-जनित हैं और Unite.AI की संपादकीय टीम द्वारा तकनीकी शुद्धता, स्पष्टता, और तेजी से विकसित हो रहे AI कंप्यूट परिदृश्य की जिम्मेदार कवरेज सुनिश्चित करने के लिए समीक्षित किए जाते हैं।