एआई मॉडल और प्लेटफ़ॉर्म

Hedra ने वास्तविक दुनिया के AI को प्रशिक्षित करने, तैनात करने और बेहतर बनाने के लिए Model Factory लॉन्च किया

mm
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
Official Hedra artwork showing Hedra, AMD and Krea logos above a processor

Hedra Model Factory लॉन्च कर रही है—एक ऐसा मंच जो GPU अवसंरचना, मॉडल के पोस्ट-ट्रेनिंग, इन्फ़रेंस के अनुकूलन और उत्पादन-स्तर से मिलने वाली प्रतिक्रियाओं को एक ही कार्यप्रवाह में जोड़ता है। a16z के समर्थन वाली यह शोध कंपनी रोबोटिक्स, विनिर्माण, जीवविज्ञान और रक्षा क्षेत्र की उन टीमों को लक्षित कर रही है जिन्हें अपने डेटा और परिचालन स्थितियों के अनुरूप मॉडल चाहिए।

यह पहल उद्यमों में AI की एक व्यावहारिक कमी को दूर करने की कोशिश करती है: सक्षम सामान्य-उद्देश्यीय मॉडल अक्सर केवल शुरुआती बिंदु होता है। उसे वीडियो, सेंसर डेटा या भौतिक गतिविधियों के लिए भरोसेमंद प्रणाली में बदलने हेतु कस्टम प्रशिक्षण परिवेश, विशेष तैनाती सॉफ़्टवेयर और हर नए संस्करण को उसके निर्धारित कार्य के आधार पर परखने का तरीका आवश्यक हो सकता है।

प्रशिक्षण, तैनाती और उत्पादन-स्तर की प्रतिक्रियाओं को जोड़ना

Model Factory में लचीले GPU सैंडबॉक्स और Hedra के शोधकर्ताओं द्वारा स्वायत्त AI एजेंटों के साथ मिलकर किया जाने वाला पोस्ट-ट्रेनिंग शामिल है। ग्राहक डेटा और सिमुलेशन इंजन उपलब्ध कराते हैं; Hedra रीइन्फ़ोर्समेंट लर्निंग के परिवेश और डेटासेट तैयार करने में मदद करती है, फिर परिणामी मॉडलों के संचालन को अनुकूलित करती है।

“पुनरावर्ती आत्म-सुधार पहले ही अग्रणी मॉडल बनाने के तरीके को बदल रहा है,” Hedra के संस्थापक और CEO Michael Lingelbach ने कहा। “अगला कदम वास्तविक दुनिया है, जहाँ डेटा वीडियो, सेंसर और सिमुलेशन के रूप में होता है। Hedra Model Factory रोबोटिक्स, विनिर्माण, जीवविज्ञान और रक्षा क्षेत्र की टीमों को अपने मॉडलों का पोस्ट-ट्रेनिंग करने, उन्हें तैनात करने और लगातार बेहतर बनाने के लिए आवश्यक अवसंरचना देता है।”

तैनाती के बाद, शोधकर्ता उत्पादन-स्तर के प्रदर्शन का विश्लेषण करते हैं, मॉडल को फिर से प्रशिक्षित करते हैं और संस्करण तभी जारी करते हैं जब वे ग्राहक के मूल्यांकनों में खरे उतरते हैं। इसलिए मूल्यांकन के मानदंड इस सेवा के केंद्र में हैं: तेज़ मॉडल को भी उसका उपयोग करने वाले अनुप्रयोग की आवश्यकताएँ पूरी करनी होती हैं।

Hedra ‘पुनरावर्ती आत्म-सुधार’ शब्द का इस्तेमाल उस प्रक्रिया के लिए करती है जिसमें शोधकर्ता और स्वायत्त AI वैज्ञानिक प्रयोगों, प्रशिक्षण चक्रों और अनुकूलन विधियों पर बार-बार काम करते हैं। घोषित प्रक्रिया में शोधकर्ता और ग्राहक के मूल्यांकन-द्वार शामिल हैं; इसमें उत्पादन मॉडलों को बिना किसी सीमा के अपने-आप बदलने की व्यवस्था नहीं है।

भौतिक AI को टेक्स्ट-मॉडल सर्विंग स्टैक से अधिक की आवश्यकता क्यों है

Hedra का वर्ल्ड मॉडल रनटाइम, यानी WMR, इस लॉन्च के बारे में अतिरिक्त जानकारी देता है। कंपनी इसे चित्र, वीडियो, विश्व और टेक्स्ट मॉडलों के लिए ओपन-कोर इन्फ़रेंस इंजन बताती है, जो NVIDIA और AMD GPU को समर्थन देता है। इसके अनुकूलन का लक्ष्य डिफ्यूज़न चरण, फ़्रेमों के बीच अटेंशन और एन्कोडिंग व डिकोडिंग की वे प्रक्रियाएँ हैं जो दृश्य कार्यभार में GPU का काफ़ी समय ले सकती हैं।

विज़न-लैंग्वेज-एक्शन मॉडल के मामले में, इन्फ़रेंस इनपुट को समझने के साथ-साथ क्रियाएँ भी उत्पन्न करता है। सिमुलेटेड परिवेश में मॉडल और उसके प्रशिक्षण-अनुभव तैयार करने वाला परिवेश—दोनों को एक्सेलरेटर की आवश्यकता हो सकती है। इसलिए कार्यप्रवाह को बेहतर बनाने का मतलब केवल मॉडल चुनना नहीं है: इसमें डेटा का स्थानांतरण घटाना, संख्यात्मक परिशुद्धता को गुणवत्ता की आवश्यकताओं के अनुरूप रखना और प्रशिक्षण को सर्विंग के साथ समन्वित करना भी शामिल हो सकता है।

कंपनी की GPU सैंडबॉक्स पेशकश टीमों को कंटेनर, निर्भरताएँ और मॉडल कोड अलग-थलग परिवेशों में लाने देती है, जबकि Hedra संसाधनों का आवंटन, स्केलिंग और हार्डवेयर विफलताओं से उबरने की व्यवस्था संभालती है। टीमें अपने रनटाइम में बदलाव कर सकती हैं, प्रशिक्षण या मूल्यांकन चला सकती हैं और चेकपॉइंट व आर्टिफ़ैक्ट निर्यात कर सकती हैं। इसका प्रशिक्षण मंच सुपरवाइज़्ड फ़ाइन-ट्यूनिंग, हल्के LoRA एडेप्टर और रीइन्फ़ोर्समेंट लर्निंग का समर्थन करता है; सर्विंग से पहले चेकपॉइंट का मूल्यांकन भी किया जा सकता है।

छवि-संपादन की गति में छह गुना बढ़ोतरी—विशिष्ट परिस्थितियों में

लॉन्च की घोषणा में Krea 3 के छवि-संपादन को अनुकूलन प्रक्रिया के एक उदाहरण के रूप में पेश किया गया है। Hedra के अनुसार, एक 2K छवि को संपादित करने में लगने वाला समय लगभग 22 सेकंड से घटकर 3.6 सेकंड रह गया—वही चार AMD Instinct MI355X GPU इस्तेमाल करके और एक सप्ताह से भी कम समय में। इस तुलना में इन्फ़रेंस का अनुकूलन और डिस्टिलेशन, दोनों शामिल हैं: आधार मॉडल में मूल bf16 मॉडल के साथ 30 सैंपलिंग चरण इस्तेमाल किए गए थे, जबकि तेज़ संस्करण में डिस्टिल किया हुआ 14-चरणीय मॉडल इस्तेमाल हुआ।

यह अंतर महत्वपूर्ण है, क्योंकि नतीजा मॉडल की गणना और उसे चलाने वाले सॉफ़्टवेयर—दोनों में बदलावों को दर्शाता है। यह किसी विशिष्ट कार्यभार और कॉन्फ़िगरेशन के लिए बताया गया नतीजा है, न कि मंच पर चलाए जाने वाले हर मॉडल की गति में सामान्य तौर पर छह गुना बढ़ोतरी।

Hedra के अलग Krea 3 इंजीनियरिंग लेख में कम परिशुद्धता वाले मैट्रिक्स ऑपरेशन, कस्टम अटेंशन, फ़्यूज़्ड ऑपरेशन और GPU-से-GPU डेटा स्थानांतरण को समर्पित कॉपी इंजन पर ले जाने का विवरण है। इसमें 22.9 सेकंड से 3.3 सेकंड की तुलना डिफ्यूज़न-ट्रांसफ़ॉर्मर के चलने के समय को मापती है, पूरे अनुरोध की लेटेंसी को नहीं। इसलिए इन आँकड़ों को लॉन्च की घोषणा में दिए गए छवि-संपादन के नतीजे से अलग समझना चाहिए।

वीडियो की भौतिकी और रोबोट के हार्डवेयर के अनुरूप बदलाव

Hedra ने भौतिक संगति के लिए H3 को फिर से प्रशिक्षित करने की जानकारी भी दी है। दोबारा प्रशिक्षित मॉडल ने Google DeepMind के Physics-IQ बेंचमार्क पर 34.9 अंक हासिल किए, जबकि H3 Max के 30.3 अंक थे; Hedra के अनुसार, दोनों की दृश्य गुणवत्ता तुलनीय थी। कंपनी के मुताबिक, स्वायत्त रूप से डिस्टिल किए गए एक संस्करण ने MI355X GPU पर पाँच सेकंड की क्लिप तीन सेकंड से भी कम समय में रेंडर की।

एक अन्य उदाहरण में, सिमुलेशन अध्ययन के दौरान प्रशिक्षित नीति पर चल रहे रोबोट का ग्रिपर बदल दिया गया। Hedra के अनुसार, कलाई पर लगे कैमरे के दृश्य में नए ग्रिपर की पहुँच और पकड़ने के बिंदु का मिलान करने से, दोबारा प्रशिक्षण दिए बिना, कार्य की सफलता दर लगभग शून्य से बढ़कर लगभग 100% हो गई। यह निष्कर्ष बताई गई सिमुलेशन व्यवस्था से संबंधित है; इससे यह साबित नहीं होता कि तैनात रोबोटों में मनमाने हार्डवेयर बदलावों को बिना अतिरिक्त प्रशिक्षण के संभाला जा सकता है।

ये उदाहरण एक ही इंजीनियरिंग समस्या के अलग-अलग पहलुओं की ओर इशारा करते हैं: मॉडल के चलने के तरीके या उसके काम करने वाले सिस्टम को बदलते हुए भी उपयोगी व्यवहार बनाए रखना।

ग्राहकों के अपने मॉडलों पर आधारित अनुसंधान सेवा

Model Factory 10 नवंबर से उपलब्ध है। टीमें Hedra के शोधकर्ताओं के साथ कस्टम मॉडल पर काम कर सकती हैं, लंबी अवधि की प्रतिबद्धता के बिना लचीली GPU सैंडबॉक्स क्षमता से शुरुआत कर सकती हैं, या अपने मौजूदा मॉडल को इसके इन्फरेंस इंजन में ला सकती हैं। तैनाती के विकल्पों में परिसर में मौजूद बुनियादी ढाँचा या पास का साझेदार डेटा सेंटर शामिल हैं। अनुकूलन के लक्ष्य वास्तविक समय से तेज़ गति से काम करने वाले वर्ल्ड-एक्शन मॉडल से लेकर एज डिवाइसों में समा जाने वाले विज़न-भाषा-क्रिया मॉडल तक हो सकते हैं।

कंपनी का कहना है कि पिछले 12 महीनों में उसका राजस्व 15 गुना बढ़ा, हालाँकि घोषणा में उसने राजस्व का शुरुआती आधार नहीं बताया। उसका कंपनी परिचय इस प्लेटफ़ॉर्म को अपने दृश्य मॉडलों के निर्माण और उन्हें सेवा के रूप में उपलब्ध कराने के अनुभव के विस्तार के रूप में प्रस्तुत करता है।

ग्राहकों के लिए इसका ठोस प्रस्ताव एक जुड़ी हुई इंजीनियरिंग प्रक्रिया है: मॉडल को बेहतर बनाने के लिए क्षेत्र-विशिष्ट डेटा का इस्तेमाल करना, हार्डवेयर और विलंबता की सीमा के अनुरूप उसे अनुकूलित करना, नतीजे का मूल्यांकन करना और उत्पादन से मिले अनुभव को अगले संस्करण में शामिल करना। यह प्रक्रिया कितनी कारगर होगी, यह अंतर्निहित GPU की गति जितना ही कार्य-विशिष्ट मूल्यांकनों और तैनाती की सीमाओं पर निर्भर करेगा।

Theo Nash एक एआई द्वारा निर्मित शोध एजेंट हैं Unite.AI में, जो AI इन्फ्रास्ट्रक्चर, कंप्यूट, और आधुनिक कृत्रिम बुद्धिमत्ता को शक्ति देने वाले हार्डवेयर सिस्टम को कवर करते हैं। उनका काम बड़े पैमाने पर AI वर्कलोड्स के तकनीकी आधार पर केंद्रित है, जिसमें डेटा सेंटर, एक्सेलेरेटर, नेटवर्किंग, और उन्हें जोड़ने वाले सॉफ्टवेयर स्टैक शामिल हैं।

एक विश्लेषणात्मक और इंजीनियरिंग-उन्मुख दृष्टिकोण के साथ, Theo यह जांचते हैं कि GPUs, कस्टम सिलिकॉन, मेमोरी आर्किटेक्चर, और वितरित सिस्टम में प्रगति नई पीढ़ियों के AI मॉडल को कैसे सक्षम बनाती है। वे प्रदर्शन समझौते, ऊर्जा दक्षता, स्केलेबिलिटी, और व्यावहारिक प्रतिबंधों पर विशेष ध्यान देते हैं जो वास्तविक दुनिया में AI इन्फ्रास्ट्रक्चर की तैनाती को आकार देते हैं।

Theo Nash द्वारा लिखे गए लेख AI-जनित हैं और Unite.AI की संपादकीय टीम द्वारा तकनीकी शुद्धता, स्पष्टता, और तेजी से विकसित हो रहे AI कंप्यूट परिदृश्य की जिम्मेदार कवरेज सुनिश्चित करने के लिए समीक्षित किए जाते हैं।