साक्षात्कार
क्रिश्चियन स्टैनो, फील्ड सीटीओ एट अनीस्केल – इंटरव्यू सीरीज
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
क्रिश्चियन स्टैनो, अनीस्केल के फील्ड सीटीओ, ने अपना करियर बड़े पैमाने पर एआई इंफ्रास्ट्रक्चर, मशीन लर्निंग प्लेटफ़ॉर्म और वितरित कंप्यूटिंग के बीच के चौराहे पर बनाया है। अनीस्केल में शामिल होने से पहले, उन्होंने एटेंटिव में एआई/एमएल प्लेटफ़ॉर्म संगठन का नेतृत्व किया, जहाँ उन्होंने आधे अरब से अधिक ग्राहकों के लिए व्यक्तिगतीकरण का समर्थन करने वाले बुनियादी ढांचे को स्केल किया और रे आधारित एकीकृत कंप्यूट सिस्टम को अपनाने में मदद की, जिससे विकास गति में सुधार हुआ और संचालन लागत कम हुई। अपने करियर की शुरुआत में, उन्होंने साइबर सुरक्षा, क्लाउड आर्किटेक्चर और सार्वजनिक क्षेत्र की एआई पहलों पर काम किया, जिनमें कोआलफायर और डेलॉइट जैसे संगठन शामिल थे, जहाँ उन्होंने अमेरिकी रक्षा विभाग के पहले मशीन लर्निंग प्लेटफ़ॉर्म में योगदान दिया। उनकी पृष्ठभूमि एआई प्लेटफ़ॉर्म इंजीनियरिंग, एमएलओपीएस, क्लाउड-नेटिव इंफ्रास्ट्रक्चर, डेवलपर सक्षमीकरण और संगठनात्मक स्केलिंग में है, जो उन्हें एंटरप्राइज़ में एआई को उत्पादन स्तर पर संचालित करने में गहरा अनुभव प्रदान करता है।
अनीस्केल रे के पीछे की कंपनी है, जो एआई और पाइथन वर्कलोड्स को सीपीयू और जीपीयू क्लस्टर में स्केल करने के लिए व्यापक रूप से उपयोग किया जाने वाला एक ओपन-सोर्स वितरित कंप्यूट फ्रेमवर्क है। यूसी बर्कले के आरआईएसईलैब से रे के मूल रचनाकारों द्वारा स्थापित, कंपनी प्रशिक्षण, अनुमान, डेटा प्रसंस्करण और एजेंटिक एआई वर्कलोड्स के लिए बड़े पैमाने पर एआई इंफ्रास्ट्रक्चर की तैनाती, ऑर्केस्ट्रेशन और प्रबंधन को सरल बनाने पर केंद्रित है। इसका प्लेटफ़ॉर्म संगठनों को क्लाउड और ऑन-प्रिमाइसेस वातावरण में वितरित एआई सिस्टम चलाने की अनुमति देता है, साथ ही साथ आधुनिक एआई अनुप्रयोगों के लिए डिज़ाइन किए गए निरीक्षण, शासन और प्रदर्शन अनुकूलन प्रदान करता है। रे एआई इंफ्रास्ट्रक्चर स्टैक में एक मूलभूत परत के रूप में उभरा है, जो डेवलपर्स को मौजूदा पाइथोन कोड में न्यूनतम परिवर्तनों के साथ एक मशीन से हजारों नोड्स तक वर्कलोड्स को स्केल करने में मदद करता है।
साइबर सुरक्षा, सार्वजनिक क्षेत्र एमएल प्लेटफ़ॉर्म और हाइपर-स्केल व्यक्तिगतीकरण प्रणालियों में काम करने के बाद, जब संगठन एआई पायलटों को उत्पादन में ले जाने की कोशिश करते हैं, तो आप कौन से पैटर्न लगातार देखते हैं?
उद्योगों में तीन पैटर्न नियमित रूप से दिखाई देते हैं। पहला, टीमों के पास विकास से उत्पादन तक एक विश्वसनीय पेव्ड पथ नहीं है। वे एक नोटबुक में एक मॉडल बना सकते हैं, लेकिन इसे उत्पादन में चलाने के लिए कोई मानक तरीका नहीं है। प्रत्येक तैनाती एक ऑफ-द-शेल्फ़ है, और प्रत्येक विफलता एक आश्चर्य है। दूसरा, बुनियादी ढांचा जरूरतों के साथ नहीं बढ़ सकता। पायलट में जो सिस्टम काम करता था, वह वास्तविक डेटा वॉल्यूम या वास्तविक ट्रैफिक को खिलाने पर ध्वस्त हो जाता है। तीसरा, टीमें अंधेरे में उड़ रही हैं। उन्हें यह जानने के लिए पर्यवेक्षण की कमी है कि उनके सिस्टम वास्तव में कैसा प्रदर्शन कर रहे हैं, वे कहाँ टूटने वाले हैं, और कब हस्तक्षेप करना है।
जो तीनों को जोड़ता है वही मूल चुनौती है – टीमों के पास स्केल आउट करने के लिए एक साउंड मानसिक मॉडल नहीं है। वे एक ही समय में सब कुछ हल करने की कोशिश करते हैं इसके बजाय क्रमबद्ध होने के बारे में जानबूझकर हैं। मैं इसे तीन चरणों के रूप में सोचता हूं: इसे काम करें, इसे सही करें, इसे तेज़ करें। ये एक बार के मील के पत्थर नहीं हैं – ये चरण पुनरावृत्ति हैं। आप लगातार उस क्या टूटा हुआ है और क्या अगले टूटने वाला है के बीच प्राथमिकता दे रहे हैं। जो टीमें सफल होती हैं वे जानती हैं कि वे किस चरण में हैं और नींव ठोस होने से पहले आगे बढ़ने से पहले अनुशासित रहती हैं।
अनीस्केल में, हम टीमों को हर चरण में देखते हैं। कुछ अभी भी इसे काम करने की कोशिश कर रहे हैं – उन्हें विकास से उत्पादन तक एक विश्वसनीय पथ की आवश्यकता है। अन्य लोगों के पास यह है लेकिन संचालन जटिलता में डूब रहे हैं और इसे सही बनाने की आवश्यकता है। और कई हमारे पास आते हैं क्योंकि उन्होंने कुछ बनाया है जो काम करता है, लेकिन व्यवसाय की मांग के पैमाने तक इसे धक्का देने में असमर्थ हैं। एक एकीकृत कंप्यूट लेयर प्रत्येक चरण में मदद करती है, लेकिन प्रवेश बिंदु दर्द की तीव्रता पर निर्भर करता है।
एटेंटिव में, आपने सैकड़ों मिलियन उपयोगकर्ताओं के लिए एआई प्रणालियों को स्केल करने में मदद की। उस स्तर के पैमाने तक पहुंचने के लिए आपको कौन से सबसे बड़े वास्तुकला या संगठनात्मक बोतलनेक को पार करना पड़ा?
सबसे बड़ा बोतलनेक बुनियादी ढांचे की जटिलता का एस-क्रीव था। जैसे ही हम अपने मॉडल को अधिक डेटा शामिल करने और अधिक ग्राहकों की सेवा करने के लिए धक्का दिया, हम एक कंप्यूट इंफ्लेक्शन पॉइंट पर पहुंच गए जहां यहां तक कि सबसे बड़े वर्टिकल स्केल नोड्स भी आउट-ऑफ-मेमोरी त्रुटियां फेंक रहे थे, और नादान क्षैतिज स्केलिंग भी काम नहीं कर रही थी। हमारा कंप्यूट हमारे डेटा के पैमाने के साथ तालमेल नहीं रख पा रहा था।
प्राकृतिक प्रतिक्रिया अधिक उपकरणों को जोड़ना था जो सीमाओं के आसपास काम करते थे। यह मेरा आंतरिक प्लेबुक था पिछले अनुभव से। प्रत्येक उपकरण ने एक संकीर्ण समस्या का समाधान किया लेकिन संचालन जटिलता जोड़ी। हमारा एमएल पाइपलाइन एक पैचवर्क ऑफ इंटीग्रेशन का सामना कर रहा था, और हर नए उपयोग के मामले में अधिक सिलाई, अधिक विफलता मोड, उच्च लागत और मंच टीम के लिए अधिक ओवरहेड था।
जो अंततः हमारे लिए पैमाने को अनलॉक किया वह रे, अनीस्केल पर डेटा प्रसंस्करण, प्रशिक्षण, अनुमान और सेवा को एकजुट करना था। प्रभाव तात्कालिक था: बुनियादी ढांचे की लागत में नाटकीय रूप से कमी, प्रशिक्षण चक्र में तेजी लाने के साथ-साथ डेटा वॉल्यूम में वृद्धि हुई, और ग्राहकों की संख्या में कई गुना वृद्धि के लिए मॉडल को स्केल करने की क्षमता।
आपको अनीस्केल में शामिल होने का निर्णय क्या प्रेरित किया और आप एआई अपनाने में फील्ड सीटीओ की भूमिका को कैसे देखते हैं?
अटेंटिव में अनीस्केल को लाने का मेरा अनुभव मेरे एमएल प्लेटफ़ॉर्म बनाने के लिए मेरे प्लेबुक को मौलिक रूप से बदल दिया। इससे पहले, एक महत्वपूर्ण हिस्सा प्लेटफ़ॉर्म इंजीनियरिंग टुकड़े-टुकड़े प्रणालियों को एक साथ जोड़ने की लागत थी। अनीस्केल के साथ, हम उस अधिकांश ओवरहेड को समाप्त करने में सक्षम थे और इसके बजाय डेवलपर अनुभव, विश्वसनीयता और प्रदर्शन पर ध्यान केंद्रित कर सकते थे। उस बदलाव का टीम की उत्पादकता और प्रणाली के परिणामों पर एक बड़ा प्रभाव पड़ा। अनीस्केल में शामिल होना उस समस्या पर पूर्णकालिक काम करने और दूसरे संगठनों को उसी संक्रमण से गुजरने में मदद करने का अवसर था। फील्ड सीटीओ के रूप में, मेरी भूमिका वास्तविक दुनिया के सबक लेना और उन्हें दोहराने योग्य पैटर्न में बदलना है जिन्हें हमारे ग्राहक अपने एआई को स्केल करते समय लागू कर सकते हैं।
बहुत से उद्यम अभी भी एआई के “पायलट” चरण में फंसे हुए हैं। आपके दृष्टिकोण से, जब कंपनियां एआई प्रयोगों को उत्पादन प्रणालियों में ले जाने की कोशिश करती हैं, तो विशेष रूप से क्या टूट जाता है?
जब कंपनियां एआई प्रयोगों को उत्पादन में ले जाने की कोशिश करती हैं, तो जो टूटता है वह शायद ही कभी केवल मॉडल होता है – यह आसपास की प्रणाली और संचालन है। कुछ मामलों में, टीमें जल्दी से बुनियादी ढांचे की सीमा मार करती हैं और वे पैमाने पर प्रशिक्षित या परोस नहीं सकती जिसे वे चाहते हैं। उन्हें परिणामस्वरूप अपने मॉडल द्वारा परोसे जाने वाले ग्राहकों की संख्या को सीमित करना होगा। अधिक बार, उत्पादन में अप्रत्याशित एज केस या डेटा में परिवर्तन के माध्यम से मुद्दे उत्पन्न होते हैं। सबसे आम विफलता बिंदु मेमोरी है: जैसे ही डेटा का आकार, वितरण या मोडलिटी बदलता है, नौकरियां मेमोरी से बाहर हो जाती हैं और विफल हो जाती हैं। इन मुद्दों को आने में मुश्किल है और उनसे निपटना और भी मुश्किल है। उत्पादन एआई में विफलता अपरिहार्य है। लक्ष्य इसे पूरी तरह से避ारना नहीं है, बल्कि इसे जल्दी से पता लगाना, समझना और स्व-चिकित्सा प्रणाली बनाना है जो इसे व्यवसाय को प्रभावित करने से पहले हल कर दे।
रे, अनीस्केल की टीम द्वारा बनाया गया वितरित कंप्यूटिंग फ्रेमवर्क, एआई वर्कलोड्स के लिए एक आधार के रूप में गति प्राप्त कर रहा है। वितरित निष्पादन क्यों आधुनिक एआई इंफ्रास्ट्रक्चर में एक महत्वपूर्ण परत बन रहा है?
वितरित निष्पादन और वर्कलोड प्रबंधन एआई पाइपलाइनों के लिए एक आवश्यक हो गया है। आधुनिक एआई वर्कलोड्स स्वाभाविक रूप से समांतर और संसाधन-गहन होते हैं। प्रशिक्षण, अनुमान और डेटा प्रसंस्करण सभी में सीपीयू और जीपीयू पर बड़ी संख्या में कार्यों को समन्वय करना शामिल है, अक्सर गतिशील रूप से। आज के कंप्यूट लैंडस्केप में, इन वर्कलोड्स को दुर्लभ संसाधनों के साथ प्रबंधित करने की जटिलता एक बड़ा संचालन बोझ है। पारंपरिक प्रणालियां इस स्तर की जटिलता या पैमाने के लिए डिज़ाइन नहीं की गई थीं। रे जैसे फ्रेमवर्क महत्वपूर्ण हैं क्योंकि वे टीमों को एक मशीन से हजारों नोड्स तक वर्कलोड्स को स्केल करने की अनुमति देते हैं, अंतर्निहित समन्वय को स्वचालित करके। यह बदलाव एआई-मूल कंप्यूटिंग की ओर एक व्यापक बदलाव को दर्शाता है, जहां बुनियादी ढांचा एआई वर्कलोड्स के पैटर्न के लिए विशेष रूप से डिज़ाइन किया गया है, पुराने सिद्धांतों से अनुकूलित नहीं है।
जैसे ही अधिक कंपनियां अनीस्केल के माध्यम से रे को अपनाती हैं, आप एकीकृत दृष्टिकोण पर标准ीकृत करने वाले संगठनों और टुकड़े-टुकड़े टूलिंग को एक साथ जोड़ने वाले लोगों के बीच क्या अंतर देखते हैं?
एकीकृत प्लेटफ़ॉर्म और टुकड़े-टुकड़े टूलिंग के बीच अंतर अंततः फोकस और दक्षता पर नीचे आता है। जब टीमें कई असंबंधित प्रणालियों पर निर्भर करती हैं, तो वे उन प्रणालियों को एक साथ जोड़ने, असंगतताओं को प्रबंधित करने और विभिन्न वातावरण में विफलताओं का जवाब देने में महत्वपूर्ण समय बिताती हैं। इससे संचालन ओवरहेड और प्रयोग को धीमा करता है। इसके विपरीत, एक एकीकृत दृष्टिकोण टीमों को एक प्रणाली में सुधार पर ध्यान केंद्रित करने की अनुमति देता है, जिससे विश्वसनीयता, प्रदर्शन और डेवलपर अनुभव में सुधार होता है। यह ऑन-कॉल और डिबगिंग प्रक्रियाओं को भी सरल बनाता है क्योंकि पैटर्न सुसंगत और समझने में आसान होते हैं। परिणाम तकनीकी दक्षता नहीं है, बल्कि संगठनात्मक स्पष्टता है।
एंड-टू-एंड एमएल प्लेटफ़ॉर्म बनाने के अपने अनुभव के आधार पर, टीमों में एआई अपनाने को तेज़ करने में डेवलपर अनुभव (DevEx) कितना महत्वपूर्ण है?
डेवलपर अनुभव एआई अपनाने को तेज़ करने के लिए सबसे अधिक लाभकारी क्षेत्रों में से एक है। जब प्लेटफ़ॉर्म टीमें मानकीकृत कार्य प्रवाह, टेम्पलेट और बुनियादी ढांचे के घर्षण को कम करके प्रणालियों को उपयोग करने में आसान बनाने में निवेश करती हैं, तो वे संगठन में हर इंजीनियर की उत्पादकता को बढ़ाती हैं। यह एआई में विशेष रूप से महत्वपूर्ण है जहां परिवर्तन की गति बहुत तेज है और टीमों को प्रतिस्पर्धी बने रहने के लिए जल्दी से प्रयोग करने की आवश्यकता है। डेवलपर अनुभव में सुधार सीधे तेजी से प्रयोग, तेजी से उत्पादन और अंततः अधिक व्यवसायिक प्रभाव में अनुवाद करता है। एआई कोडिंग टूल इस डेवेक्स मूलभूत को बढ़ाते हैं। कई तरह से, यह एक संगठन भर में वेलोसिटी को बढ़ाने का सबसे स्केलेबल तरीका है।
एआई वर्कलोड्स के पैमाने पर लागत प्रभावी बनने के साथ, उद्यमों के लिए लागत दक्षता एक प्रमुख चिंता बन रही है। बिना प्रदर्शन को समझौता किए एआई बुनियादी ढांचे की लागत को कम करने के लिए कुछ सबसे अधिक अनदेखी तरीके क्या हैं?
जैसे ही एआई वर्कलोड्स का पैमाना बढ़ता है, लागत प्रबंधन और भी महत्वपूर्ण और जटिल हो जाता है। सबसे बड़ी अनदेखी चुनौतियों में से एक यह है कि कैसे जल्दी से लागतें बढ़ सकती हैं, विशेष रूप से जीपीयू-आधारित बुनियादी ढांचे के साथ। बड़े क्लस्टर हजारों नोड्स को स्पिन कर सकते हैं, और यदि संसाधनों का ठीक से प्रबंधन या बंद नहीं किया जाता है, तो लागत तेजी से जमा हो जाती है। इससे एक प्रकार का एआई-विशिष्ट फैलाव होता है, जहां कंप्यूट उपयोग टीमों की तुलना में तेजी से बढ़ता है जो इसे ट्रैक या नियंत्रित कर सकती हैं। इसे संबोधित करने के लिए मजबूत शासन, दृश्यता और स्वचालन के संयोजन की आवश्यकता होती है, जैसे कि ऑटो-स्केलिंग, ऑटो-समाप्ति और केंद्रीकृत संसाधन प्रबंधन। पैमाने पर, लागत दक्षता न केवल एक संचालन चिंता है, बल्कि प्रणाली डिज़ाइन का एक मूलभूत हिस्सा है।
आप फीचर स्टोर से लेकर रियल-टाइम अनुमान प्रणालियों तक सब कुछ पर काम कर चुके हैं। एआई वर्कलोड्स में बैच और रियल-टाइम के बीच संतुलन कैसे विकसित हो रहा है?
बैच और रियल-टाइम एआई वर्कलोड्स के बीच संतुलन मौलिक रूप से नहीं बदला है – यह व्यवसायिक आवश्यकताओं का एक प्रश्न बना हुआ है। बैच प्रसंस्करण आमतौर पर अधिक लागत प्रभावी होता है और संचालित करने में आसान होता है, जिससे यह कई उपयोग के मामलों के लिए उपयुक्त हो जाता है। दूसरी ओर, रियल-टाइम सिस्टम तब आवश्यक होते हैं जब विलंबता सीधे उपयोगकर्ता अनुभव या व्यवसायिक परिणाम को प्रभावित करती है, जैसे कि चैट अनुप्रयोगों या धोखाधड़ी का पता लगाने में। दोनों दृष्टिकोण सह-अस्तित्व में रहेंगे, और संगठनों के लिए कुंजी यह सुनिश्चित करना है कि वे प्रत्येक का समर्थन करने में सक्षम प्लेटफ़ॉर्म बना सकते हैं। यह निर्णय अंततः लागत, विलंबता और विश्वसनीयता के बीच व्यापार-बंद पर निर्भर करता है।
आगे देखते हुए, 2-3 साल में एक “परिपक्व” एंटरप्राइज़ एआई प्लेटफ़ॉर्म कैसा दिखेगा – और रे और अनीस्केल जैसे टूल्स इस भविष्य में कैसे फिट होंगे?
अगले कुछ वर्षों में, परिपक्व एंटरप्राइज़ एआई प्लेटफ़ॉर्म को कुछ प्रमुख विशेषताओं द्वारा परिभाषित किया जाएगा। वे पूरे एआई जीवन चक्र का समर्थन करने वाले एकीकृत बुनियादी ढांचे पर निर्भर करेंगे, प्रशिक्षण से लेकर अनुमान तक डेटा प्रसंस्करण, टुकड़े-टुकड़े उपकरणों के संग्रह के बजाय। उनमें दिन 2 के संचालन होंगे, जिसमें एजेंट-ऑटोमेटेड निरीक्षण, विश्वसनीयता और तेज़ डिबगिंग क्षमताएं होंगी। लागत प्रबंधन पूर्वानुमान योग्य और शासित होगा, जिससे संगठनों को स्थायी रूप से बढ़ने में सक्षम बनाया जा सकेगा। और शायद सबसे महत्वपूर्ण बात, वे उच्च डेवलपर वेलोसिटी को सक्षम करेंगे, जिससे टीमों को जल्दी से विचार से उत्पादन तक जाने में मदद मिलेगी। रे और अनीस्केल जैसे प्लेटफ़ॉर्म इस भविष्य में एक केंद्रीय भूमिका निभाते हैं, जो इस स्तर के पैमाने और दक्षता को संभव बनाने वाले एआई-मूल बुनियादी ढांचे प्रदान करते हैं।
महान साक्षात्कार के लिए धन्यवाद, पाठक जो अधिक जानना चाहते हैं उन्हें अनीस्केल पर जाना चाहिए।
