साक्षात्कार
जेसन नाइट ऑक्टोएआई के सह-संस्थापक और एमएल के वीपी हैं – साक्षात्कार श्रृंखला
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
जेसन नाइट ऑक्टोएआई के सह-संस्थापक और मशीन लर्निंग के वाइस प्रेसिडेंट हैं, जो एक ऐसा प्लेटफ़ॉर्म है जो ऐप बिल्डरों को क्लाउड या ऑन-प्रिमाइसेस पर अपने एआई एप्लिकेशन चलाने, ट्यून करने और स्केल करने के लिए एक पूर्ण स्टैक प्रदान करता है।
ऑक्टोएआई को वाशिंगटन विश्वविद्यालय से निकाला गया था, जो एपाचे टीवीएम के मूल निर्माताओं द्वारा किया गया था, जो एमएल पोर्टेबिलिटी और प्रदर्शन के लिए एक ओपन-सोर्स स्टैक है। टीवीएम एमएल मॉडल को किसी भी हार्डवेयर बैकएंड पर कुशलता से चलाने में सक्षम बनाता है, और यह जल्दी ही लोकप्रिय उपभोक्ता उपकरणों जैसे अमेज़ॅन एलेक्सा के आर्किटेक्चर का एक महत्वपूर्ण हिस्सा बन गया है।
क्या आप ऑक्टोएआई की स्थापना के पीछे के प्रेरणा को साझा कर सकते हैं और कोर समस्या को हल करने का लक्ष्य रखा गया था?
एआई традиitionally एक जटिल क्षेत्र रहा है जो केवल उन लोगों के लिए सुलभ है जो इसके साथ काम करने के लिए आवश्यक गणित और उच्च-प्रदर्शन कंप्यूटिंग से परिचित हैं। लेकिन एआई अंतिम कंप्यूटिंग इंटरफ़ेस को अनलॉक करता है, जो पाठ, वॉइस और इमेजरी द्वारा प्रोग्राम किया जाता है और प्रतिक्रिया द्वारा प्रोग्राम किया जाता है, और पूरी दुनिया में कंप्यूटिंग की पूरी शक्ति को लाता है। एआई से पहले, केवल प्रोग्रामर ही कंप्यूटर को अपनी इच्छा के अनुसार काम करने के लिए अर्कन प्रोग्रामिंग भाषा के टेक्स्ट लिखकर प्राप्त कर सकते थे।
ऑक्टोएआई का निर्माण इस वास्तविकता की ओर हमारे मार्ग को तेज करने के लिए किया गया था ताकि अधिक लोग एआई का उपयोग कर सकें और इसका लाभ उठा सकें। और लोग, बदले में, एआई का उपयोग करके और अधिक लाभ पैदा कर सकते हैं जो विज्ञान, चिकित्सा, कला और अधिक को तेज करने में मदद करता है।
इंटेल में अपने अनुभव को देखते हुए, आपके पिछले भूमिकाओं ने आपको ऑक्टोएआई की स्थापना और विकास के लिए कैसे तैयार किया?
(INTC )इंटेल और एआई हार्डवेयर और बायोटेक स्टार्टअप्स ने मुझे यह देखने का अवसर दिया कि एआई कितना कठिन है даже सबसे जटिल प्रौद्योगिकी कंपनियों के लिए, और फिर भी यह कितना मूल्यवान हो सकता है उन लोगों के लिए जिन्होंने इसका उपयोग करना सीखा है। और यह देखा कि एआई का लाभ उठाने वालों की तुलना में जो नहीं हैं वह मुख्य रूप से बुनियादी ढांचे, कंप्यूट, और सर्वोत्तम प्रथाओं का अंतर है – जादू नहीं।
ऑक्टोस्टैक को बाजार में उपलब्ध अन्य एआई डिप्लॉयमेंट समाधानों से क्या अलग करता है?
ऑक्टोस्टैक उद्योग का पहला पूर्ण प्रौद्योगिकी स्टैक है जो विशेष रूप से जनरेटिव एआई मॉडल को कहीं भी परोसने के लिए डिज़ाइन किया गया है। यह एक टर्नकी उत्पादन प्लेटफ़ॉर्म प्रदान करता है जो उच्चतम अनुकूलित अनुमान, मॉडल अनुकूलन, और संपत्ति प्रबंधन प्रदान करता है उद्यम स्तर पर।
ऑक्टोस्टैक संगठनों को एआई स्वायत्तता प्राप्त करने में सक्षम बनाता है जो अपने पसंदीदा वातावरण में किसी भी मॉडल को चला सकते हैं और डेटा, मॉडल, और हार्डवेयर पर पूर्ण नियंत्रण प्रदान करता है। यह अपूर्व प्रदर्शन और लागत प्रभावशीलता भी प्रदान करता है, जो अन्य समाधानों जैसे जीपीटी-4 की तुलना में 12 गुना तक की बचत प्रदान करता है।
ऑक्टोस्टैक का उपयोग करके एक निजी वातावरण में एआई मॉडल को तैनात करने के फायदे क्या हैं?
मॉडल आजकल सर्वव्यापी हैं, लेकिन उन मॉडलों को चलाने और अपने डेटा के साथ उपयोग करने के लिए आवश्यक बुनियादी ढांचे को इकट्ठा करना वह जगह है जहां व्यवसाय-मूल्य फ्लाईव्हील वास्तव में घूमना शुरू कर देता है। इन मॉडलों का उपयोग अपने सबसे संवेदनशील डेटा पर करना और फिर उसे अंतर्दृष्टि में बदलना, बेहतर प्रॉम्प्ट इंजीनियरिंग, आरएजी पाइपलाइन, और फ़ाइन-ट्यूनिंग में मदद करता है जो आपको जनरेटिव एआई से सबसे अधिक मूल्य प्राप्त करने में मदद करता है। लेकिन यह अभी भी अधिकांश कंपनियों के लिए अकेले ऐसा करना मुश्किल है, जो एक टर्नकी समाधान जैसे ऑक्टोस्टैक को तेज करने और अपने प्रैक्टिशनरों के लिए एक ही स्थान पर सर्वोत्तम प्रथाओं को एक साथ लाने में मदद करता है।
ऑक्टोस्टैक का उपयोग करके एक निजी वातावरण में एआई मॉडल को तैनात करने से कई फायदे मिलते हैं, जिनमें डेटा और मॉडल पर सुरक्षा और नियंत्रण में वृद्धि शामिल है। ग्राहक अपने वीपीसी या ऑन-प्रिमाइसेस पर जनरेटिव एआई एप्लिकेशन चला सकते हैं, यह सुनिश्चित करते हुए कि उनका डेटा सुरक्षित रहता है और उनके चुने हुए वातावरण में रहता है। यह दृष्टिकोण व्यवसायों को किसी भी मॉडल को चलाने की लचीलापन प्रदान करता है, चाहे वह ओपन-सोर्स, कस्टम या प्रोप्राइटरी हो, और लागत में कमी और प्रदर्शन में सुधार का लाभ उठाता है।
ऑक्टोस्टैक को विभिन्न हार्डवेयर के लिए समर्थन प्रदान करने में आपको किन चुनौतियों का सामना करना पड़ा और उन्हें कैसे पार किया गया?
ऑक्टोस्टैक को विभिन्न हार्डवेयर के लिए समर्थन प्रदान करने में यह सुनिश्चित करना शामिल था कि यह विभिन्न डिवाइसों पर संगत और प्रदर्शन प्रदान करे, जैसे कि एनवीडिया और एएमडी जीपीयू और एएमडी इन्फेरेंटिया। ऑक्टोएआई ने अपने गहरे एआई सिस्टम विशेषज्ञता का लाभ उठाकर, जो वर्षों के शोध और विकास के माध्यम से विकसित किया गया था, एक प्लेटफ़ॉर्म बनाने के लिए जो निरंतर अद्यतन और अतिरिक्त हार्डवेयर प्रकार, जेनएआई उपयोग के मामलों, और सर्वोत्तम प्रथाओं को समर्थन प्रदान करता है। यह ऑक्टोएआई को बाजार के अग्रणी प्रदर्शन और लागत प्रभावशीलता प्रदान करने में सक्षम बनाता है।
(NVDA )इसके अलावा, जनरेटिव एआई की नवीनतम क्षमताओं को अपने आंतरिक विकासकर्ताओं के हाथों में लाना, जैसे कि मल्टी-मॉडलिटी, फ़ंक्शन कॉलिंग, सख्त जेएसओएन स्कीमा का पालन, कुशल फ़ाइन-ट्यून होस्टिंग, और अधिक, आपके एआई टेकऑफ़ बिंदु को तेज करने में मदद करेगा।
ऑक्टोएआई ने एपाचे टीवीएम का उपयोग करने का एक समृद्ध इतिहास है। इस फ्रेमवर्क ने आपके प्लेटफ़ॉर्म की क्षमताओं पर कैसे प्रभाव डाला है?
हमने एपाचे टीवीएम बनाया ताकि जटिल डेवलपर्स को जीपीयू और एक्सेलरेटर के लिए कुशल एआई लाइब्रेरी लिखने में मदद मिल सके। हमने ऐसा किया क्योंकि एआई अनुमान के लिए जीपीयू और एक्सेलरेटर हार्डवेयर से सर्वोत्तम प्रदर्शन प्राप्त करना तब भी महत्वपूर्ण था जब यह अब है।
हमने उसी मानसिकता और विशेषज्ञता का उपयोग पूरे जेन एआई सर्विंग स्टैक के लिए किया है ताकि व्यापक डेवलपर समुदाय के लिए स्वचालन प्रदान किया जा सके।
क्या आप ऑक्टोस्टैक द्वारा प्रदान किए जाने वाले किसी भी महत्वपूर्ण प्रदर्शन सुधार पर चर्चा कर सकते हैं, जैसे कि बड़े पैमाने पर तैनाती में 10 गुना प्रदर्शन बूस्ट?
ऑक्टोस्टैक में महत्वपूर्ण प्रदर्शन सुधार शामिल हैं, जिनमें जीपीटी-4 जैसे अन्य मॉडलों की तुलना में 12 गुना तक की बचत शामिल है, जो गति या गुणवत्ता को त्यागने के बिना। यह 4 गुना बेहतर जीपीयू उपयोग और 50 प्रतिशत की परिचालन लागत में कमी भी प्रदान करता है, जो संगठनों को बड़े पैमाने पर तैनाती को कुशलता से और लागत प्रभावी ढंग से चलाने में सक्षम बनाता है।
क्या आप कुछ उल्लेखनीय उपयोग के मामलों को साझा कर सकते हैं जहां ऑक्टोस्टैक ने आपके ग्राहकों के लिए एआई तैनाती में काफी सुधार किया है?
एक उल्लेखनीय उपयोग का मामला अपाटे.एआई है, जो एक वैश्विक सेवा है जो जनरेटिव कॉन्वर्सेशनल एआई का उपयोग करके टेलीफोन घोटालों से निपटती है। अपाटे.एआई ने अपने भाषा मॉडलों के सूट को विभिन्न भौगोलिक क्षेत्रों में कुशलता से चलाने के लिए ऑक्टोस्टैक का लाभ उठाया, जो ऑक्टोस्टैक की लचीलापन, स्केलेबिलिटी और सुरक्षा से लाभान्वित हुआ। इस तैनाती ने अपाटे.एआई को विभिन्न भाषाओं और क्षेत्रीय बोलियों के समर्थन के साथ कस्टम मॉडल प्रदान करने में सक्षम बनाया, जो उनकी प्रदर्शन और सुरक्षा-संवेदनशील आवश्यकताओं को पूरा करता है।
इसके अलावा, हम अपने ग्राहक ओपनपाइप के लिए सैकड़ों फ़ाइन-ट्यून्स की सेवा करते हैं। यदि वे प्रत्येक के लिए समर्पित उदाहरणों को स्पिन अप करते हैं, तो उनके ग्राहकों के उपयोग के मामले असंभव होंगे क्योंकि वे अपने उपयोग के मामलों को बढ़ाते हैं और विकसित करते हैं और निरंतर रूप से अपने पैरामीटर-कुशल फ़ाइन-ट्यून्स को अधिकतम आउटपुट गुणवत्ता के लिए लागत-प्रभावी मूल्य पर पुनः प्रशिक्षित करते हैं।
साक्षात्कार के लिए धन्यवाद, पाठक जो अधिक जानना चाहते हैं उन्हें ऑक्टोएआई पर जाना चाहिए।
