साक्षात्कार
कोरी सैंडर्स, कोरवेव में सीनियर वाइस प्रेसिडेंट प्रोडक्ट – इंटरव्यू सीरीज
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
कोरी सैंडर्स, कोरवेव में सीनियर वाइस प्रेसिडेंट प्रोडक्ट, तेजी से बढ़ते एआई-फोकस्ड क्लाउड प्लेटफ़ॉर्म में उत्पाद रणनीति और कार्यान्वयन का नेतृत्व करते हैं। वह नवाचार को स्केल करने, ग्राहकों के साथ उद्देश्य-निर्मित समाधानों को आकार देने और एआई इंफ्रास्ट्रक्चर बाजार में कोरवेव की स्थिति को मजबूत करने के लिए जिम्मेदार है। कोरवेव से पहले, सैंडर्स ने माइक्रोसॉफ्ट में दो दशक बिताए, जिसमें क्लाउड इंजीनियरिंग, उद्योग-विशिष्ट प्लेटफ़ॉर्म, व्यावसायिक समाधान रणनीति और बड़े पैमाने पर उद्यम साझेदारी सहित वरिष्ठ नेतृत्व भूमिकाओं में काम किया, जिसमें तकनीकी निष्पादन और जाने के लिए बाजार रणनीति के बीच की खाई को पाटने का गहरा अनुभव है।
कोरवेव एक एआई-मूल क्लाउड प्रदाता है जो विशेष रूप से उच्च-प्रदर्शन कंप्यूटिंग और बड़े पैमाने पर कृत्रिम बुद्धिमत्ता कार्यभार के लिए बनाया गया है। कंपनी यूएस और यूरोप में तेजी से बढ़ते डेटा सेंटर के पैरों का संचालन करती है, जो एआई प्रशिक्षण, अनुमान, और उन्नत कंप्यूटे उपयोग के मामलों के लिए डिज़ाइन किए गए जीपीयू-त्वरित बुनियादी ढांचे और सॉफ्टवेयर प्रदान करती है। सामान्य-उद्देश्य वाले क्लाउड के बजाय उद्देश्य-निर्मित वास्तुकला पर ध्यान केंद्रित करके, कोरवेव एआई प्रयोगशालाओं और प्रदर्शन, स्केलेबिलिटी, और पैमाने पर कुशलता की मांग करने वाले उद्यमों के लिए एक महत्वपूर्ण बुनियादी ढांचा भागीदार बन गया है।
आप माइक्रोसॉफ्ट में 20 से अधिक वर्षों तक विंडोज़ इंजीनियरिंग, क्लाउड बिक्री रणनीति, और माइक्रोसॉफ्ट क्लाउड फॉर इंडस्ट्री में काम करते हुए बिताए। यह प्रगति आपको क्या सिखाती है कि वास्तव में क्या उद्यम अपनाया को बढ़ावा देता है, और आप उन सबकों को आज कोरवेव में कैसे लागू कर रहे हैं?
उद्यम अपनाया एक विशिष्ट ग्राहक समस्या को हल करने से शुरू होता है। नवाचार के लिए नवाचार वास्तव में उद्यम के लिए इतना महत्वपूर्ण नहीं है। यह उनके जूतों में खुद को रखने और समझने के बारे में है कि वास्तव में उन्हें क्या परेशान करता है – चाहे वह समर्थन की लागत हो, संचालन जटिलताएं, ग्राहकों के साथ जुड़ना, या वैश्विक टीमों और नए उत्पाद लाइनों का प्रबंधन करना – और फिर सेवाएं प्रदान करना जो उनकी मदद करती हैं। वे अक्सर अपने दृष्टिकोण में नवाचार करने के लिए तैयार होते हैं, लेकिन सबसे महत्वपूर्ण विचार उन्हें अपनी समस्या का समाधान करने में मदद करना है। मैंने जो सबसे आम गलती देखी है वह उत्पाद डिज़ाइन में है, जो उत्पाद की शीतलता में बहुत अधिक उलझ जाता है। जबकि यह उपभोक्ता स्थान में महत्वपूर्ण है, उद्यम ग्राहक अंत में उपयोगिता की तुलना में शीतलता की परवाह कम करते हैं।
कोरवेव को अक्सर उद्देश्य-निर्मित एआई बुनियादी ढांचे की पेशकश करने वाले के रूप में वर्णित किया जाता है। व्यावहारिक रूप से, उत्पाद के दृष्टिकोण से उद्देश्य-निर्मित का क्या अर्थ है, और सामान्य-उद्देश्य वाले क्लाउड प्लेटफ़ॉर्म एआई कार्यभार के साथ कैसे संघर्ष करते हैं?
उद्देश्य-निर्मित होने का सबसे बड़ा लाभ यह है कि सेवाएं प्रदान करने के लिए हर सामान्य उपयोग के मामले को हल करने की आवश्यकता नहीं है। मैं दो उदाहरण दूंगा: एक सॉफ्टवेयर में और एक हार्डवेयर में।
सॉफ्टवेयर की ओर, हमारी ऑब्जेक्ट स्टोरेज ऑफरिंग एलओटीए कैश के साथ विशेष रूप से एआई कार्यभार के लिए कैशिंग पर केंद्रित है। यह जीपीयू नोड्स पर सीधे तैनात किया जाता है, एक एस3 एंडपॉइंट प्रदान करता है, और जीपीयू अनुरोधों का जवाब देने के लिए कई नोड्स पर अपने कैश को फैलाता है। यह जीपीयू तक के प्रवाह को 7 जीबी/सेकंड तक बढ़ाता है, जो सामान्य-उद्देश्य वाले क्लाउड द्वारा पेश किए जाने वाले से कहीं अधिक है। हम ऐसा कर सकते हैं क्योंकि हम एआई-विशिष्ट कार्यभार, पढ़ने/लिखने के विभाजन, और क्लस्टर लेआउट के आसपास डिज़ाइन धारणाएं बनाते हैं। यदि एक ग्राहक इसे डेटाबेस या ई-कॉमर्स साइट होस्ट करने के लिए उपयोग करता है, तो यह同 जैसा प्रभाव नहीं डालेगा। यही उद्देश्य-निर्मित सॉफ्टवेयर की परिभाषा है। (NVDA )
हार्डवेयर का उदाहरण समान है। हमारे नवीनतम-पीढ़ी के एनवीडिया एसक्यू के व्यापक तैनाती के साथ – जिनमें से कई तरल शीतलन की आवश्यकता होती है – कोरवेव ने उन आवश्यकताओं के लिए विशिष्ट विशेषज्ञता और डेटा सेंटर डिज़ाइन बनाए हैं। बड़े बादलों के विपरीत जो फंगिबिलिटी के लिए बनते हैं और फिर तरल शीतलन जोड़ते हैं, कोरवेव एआई के लिए जमीन से डेटा सेंटर बनाता है। इससे नवीनतम एसक्यू प्रकार के लिए कम लागत और उच्च उपलब्धता मिलती है।
नीचे एलओटीए कैश का एक चित्र है।
जब ग्राहक पहली बार एआई को स्केल करने के बारे में सोचते हैं, तो कई लोग सोचते हैं कि उन्हें केवल जीपीयू तक पहुंच की आवश्यकता है। वे आमतौर पर क्या महसूस करते हैं कि वे प्रशिक्षण या मॉडल को बड़े पैमाने पर परोसना शुरू करने के बाद क्या कमी है?
विशाल जीपीयू क्लस्टर पर कार्यभार चलाने की जटिलता को देखते हुए, आसपास की सेवाएं वास्तविक चालक बन जाती हैं। इसमें स्पष्ट लोगों के अलावा, जैसे स्टोरेज और नेटवर्किंग, महत्वपूर्ण संचालन सेवाएं भी शामिल हैं जैसे कि अवलोकन, ऑर्केस्ट्रेशन, और सुरक्षा। यहीं पर कोरवेव वास्तव में अपनी मिशन कंट्रोल पेशकश के साथ चमकता है। यह ग्राहकों को अपने बेड़े भर में नोड स्वास्थ्य और रनटाइम की गहरी जागरूकता प्रदान करता है, जो सीधे ऑर्केस्ट्रेशन इंजन में एकीकृत होता है। यह ग्राहक को अपने बुनियादी ढांचे को 1,000 व्यक्तिगत जीपीयू के रूप में नहीं, बल्कि एक एकल, सुसंगत नौकरी इकाई के रूप में व्यवहार करने की अनुमति देता है।
आप अभी किन शीर्ष उत्पाद प्राथमिकताओं पर ध्यान केंद्रित कर रहे हैं ताकि ग्राहक परिणामों में सुधार हो सके, चाहे वह प्रदर्शन, विश्वसनीयता, लागत की भविष्यवाणी या डेवलपर अनुभव हो?
मुख्य प्लेटफ़ॉर्म में, हम लगातार प्रदर्शन, विश्वसनीयता, और अवलोकन पर ध्यान केंद्रित कर रहे हैं। हमें यह सुनिश्चित करना होगा कि ग्राहक अपनी नौकरियों को दोहराए जाने वाले और भविष्यवाणी योग्य तरीके से चला सकते हैं, जबकि प्रत्येक जीपीयू में हर टीएफएलओपी का पूरा लाभ उठा रहे हैं। इसके अलावा, हम उन ग्राहकों के लिए ऑनबोर्डिंग को सरल बनाने के लिए काम कर रहे हैं जो हर बेल और सीटी के साथ परिचित नहीं हो सकते हैं जैसे कि एसएलयूआरएम (जो हर कोई उपयोग करता है, लेकिन लगभग हर कोई नफरत करता है)। अंत में, हम अतिरिक्त सेवाओं और बिलिंग मॉडल विकसित कर रहे हैं ताकि यह नवाचार करना और छोटा शुरू करना आसान हो। अभी भी, प्रयोग करना आश्चर्यजनक रूप से कठिन है क्योंकि उच्च प्रवेश बाधाएं हैं, जैसे कि क्षमता प्रतिबंध, तीन साल की प्रतिबद्धताएं, और शुरू करने के लिए विशेषज्ञों की आवश्यकता है। हम एआई प्लेटफ़ॉर्म में नवाचार की आसानी को वापस लाना चाहते हैं।
जैसे ही अधिक एआई कार्यभार प्रशिक्षण-भारी से अनुमान-भारी में स्थानांतरित हो जाते हैं, यह संक्रमण बुनियादी ढांचे के डिज़ाइन और उत्पाद रोडमैप निर्णयों को कैसे प्रभावित करता है?
यह कोरवेव के मौजूदा अंतर को अनुमान आवश्यकताओं में लागू करने के लिए महत्वपूर्ण अवसर पैदा करता है। उदाहरण के लिए, मैंने जिस एलओटीए कैश का उल्लेख किया है, वह प्रशिक्षण के दौरान जीपीयू को खिलाने पर केंद्रित है; हालांकि, हम उसी प्रौद्योगिकी को ले सकते हैं, इसे चीजों जैसे केवीकैश में एकीकृत कर सकते हैं, और इसे एक शक्तिशाली अनुमान विभेदक में बदल सकते हैं। इसी तरह, मिशन कंट्रोल जैसे टूल अनुमान के लिए भी अधिक महत्वपूर्ण हो जाते हैं, क्योंकि जीपीयू स्वास्थ्य का अवलोकन उच्च उपलब्धता वाले एजेंटिक अनुप्रयोगों को चलाने के लिए महत्वपूर्ण है।
अगले एक से दो वर्षों में, एआई क्लाउड बाजार में नेतृत्व को क्या परिभाषित करेगा, और कौन सी क्षमताएं ग्राहकों के लिए सबसे अधिक मायने रखेंगी?
मुझे लगता है कि नेतृत्व दो चीजों से परिभाषित किया जाएगा। पहला प्रशिक्षण के लिए बढ़ती स्केल आवश्यकताओं को वितरित करना है। इसके लिए अवलोकन, स्वास्थ्य निगरानी, और स्वचालित पुनर्प्राप्ति में प्रगति की आवश्यकता होगी। जब आप सैकड़ों से लेकर दस हज़ार जीपीयू तक वितरित करते हैं, तो विफलताओं का मैनुअल प्रतिक्रिया एक गैर-शुरुआत है।
दूसरा अनुमान और एजेंटिक कार्यभार के लिए सही सेवाएं वितरित करना है। इसके लिए वैश्विक तैनाती क्षमताएं और प्रयोग को प्रोत्साहित करने वाले व्यवसाय मॉडल की आवश्यकता होती है। यह उपयोग पैटर्न मूल रूप से क्लाउड को बढ़ावा देने में मदद करता था और एआई के युग में कुछ हद तक खो गया है। हमें इसे बेहतर प्लेटफ़ॉर्म समर्थन, मल्टी-क्लाउड क्षमताओं, और मल्टी-क्षेत्र उपयोग में आसानी के माध्यम से वापस लाने की आवश्यकता है।
आप पहले स्वास्थ्य सेवा, खुदरा, वित्तीय सेवाओं, विनिर्माण, और संप्रभु क्लाउड सहित उद्योग-विशिष्ट क्लाउड पहलों का नेतृत्व किया था। उन लंबवतों से कौन से सबक सीधे एआई बुनियादी ढांचे में अनुवाद करते हैं, और कौन से नहीं?
जीपीयू में पीढ़ीगत परिवर्तन जटिलताओं को पेश करते रहते हैं। प्रत्येक नई रिलीज़ में बढ़ी हुई इंटरकनेक्टिविटी, उच्च मेमोरी, और अधिक शक्ति की आवश्यकता होती है, जो हमें नोड्स को कैसे जोड़ा जाए और सॉफ्टवेयर कैसे वितरित किया जाए, इस पर अपनी धारणाओं को फिर से देखने की आवश्यकता है। हमें यहां निरंतर रहने की आवश्यकता है ताकि हम अपनी नेतृत्व स्थिति बनाए रख सकें। दूसरी ओर, जो क्षेत्र तेजी से सुधार कर रहा है वह ग्राहकों द्वारा हासिल की जा सकने वाली स्केल की गति है; वे बड़े कंप्यूटे फुटप्रिंट के लिए अनुकूलन की गति में प्रभावशाली हैं।
जैसे ही एआई डेटा सेंटर और क्लस्टर स्केल करते हैं, आज कौन से संचालन चुनौतियां सबसे कठिन साबित हो रही हैं, और कौन से सबसे तेजी से सुधार कर रहे हैं?
जीपीयू की पीढ़ीगत परिवर्तन डिज़ाइन और सॉफ्टवेयर में नई जटिलताएं पेश करते रहते हैं। प्रत्येक नई जीपीयू रिलीज़ में बढ़ी हुई इंटरकनेक्टिविटी क्षमताएं, उच्च मेमोरी, अधिक शक्ति की आवश्यकता होती है, जो नोड्स को कैसे जोड़ा जाए, रैक कैसे प्रबंधित किए जाएं, और सॉफ्टवेयर कैसे वितरित किया जाए, इस पर अपनी धारणाओं को फिर से देखने की आवश्यकता है। हमें इस काम पर ध्यान केंद्रित करने की आवश्यकता होगी ताकि हम अपनी नेतृत्व स्थिति बनाए रख सकें। जो सबसे तेजी से सुधार कर रहे हैं वे हैं ग्राहकों द्वारा हासिल की जा सकने वाली स्केल की गति।
एआई बुनियादी ढांचे में, विश्वसनीयता का अर्थ केवल अपटाइम से परे है। कोरवेव विश्वसनीयता को कैसे परिभाषित करता है, और ग्राहक के दृष्टिकोण से सफलता को प्रतिबिंबित करने वाले संकेतक क्या हैं?
पैमाने पर, ग्राहक के लिए सबसे बड़ी विचार यह है कि नौकरी पूरी हो जाए। बड़े संचालन में, व्यक्तिगत विफलताएं या धीमी गति की उम्मीद की जाती है। मुख्य बात यह है कि हम उन मुद्दों का पता लगाने और स्वचालित रूप से प्रतिक्रिया करने के लिए कैसे काम करते हैं ताकि नौकरी चुनौतियों के बावजूद पूरी हो जाए। यही कारण है कि हम मिशन कंट्रोल को उच्च स्तर की सेवाओं जैसे संक (स्लरम ऑन क्यूबेरनेट्स) में एकीकृत करते हैं। यह ग्राहकों को स्वचालित रूप से विफलताओं का जवाब देने की अनुमति देता है without घंटों या हफ्तों के काम को खोने। हमारे लिए, सफलता केवल नोड अपटाइम के बारे में नहीं है; यह नौकरी की सफलता के बारे में है।
आगे देखते हुए, एआई बुनियादी ढांचे में कौन सा बड़ा परिवर्तन अभी भी कम अनुमानित है, चाहे वह हार्डवेयर विकास, स्टैक विशेषज्ञता, संप्रभुता आवश्यकताओं, या नए तैनाती मॉडल से संबंधित हो?
मुझे लगता है कि एआई स्टैक के हिस्से के रूप में पुनरुत्थान के रूप में पुनः प्रशिक्षण सीखने का आगमन अभी भी कम अनुमानित है। जबकि यह एक नया क्षेत्र नहीं है, यह शुरुआती एलएलएम विकास की लहर के दौरान बहुत बड़ा हो गया था। पुनः प्रशिक्षण सीखने का पुनः प्रशिक्षण एआई सेवाओं को उनके उपयोगकर्ताओं के बदलते परिदृश्यों के प्रति अधिक प्रतिक्रियाशील बनाने में एक महत्वपूर्ण भूमिका निभाएगा। इसीलिए, हम आज जिस सर्वरलेस पुनः प्रशिक्षण पेशकश के बारे में उत्साहित हैं।
महान साक्षात्कार के लिए धन्यवाद, पाठक जो अधिक जानना चाहते हैं उन्हें कोरवेव पर जाना चाहिए।
