फ्रैंक लियू, ज़िलिज़ के ऑपरेशन्स डायरेक्टर – साक्षात्कार श्रृंखला

फ्रैंक लियू ज़िलिज़ के ऑपरेशन्स डायरेक्टर हैं, जो वेक्टर डेटाबेस और एआई तकनीकों के अग्रणी प्रदाता हैं। वे एलएफ एआई मिलवस®, दुनिया के सबसे लोकप्रिय ओपन-सोर्स वेक्टर डेटाबेस के निर्माता भी हैं।

आपको मशीन लर्निंग में क्या आकर्षित किया?

मेरा पहला मशीन लर्निंग की शक्ति के प्रति आकर्षण स्टैनफोर्ड में एक अंडरग्रेजुएट छात्र के रूप में था,尽管 यह मेरे मेजर (इलेक्ट्रिकल इंजीनियरिंग) से थोड़ा अलग था। मैं शुरू में ईई को एक क्षेत्र के रूप में आकर्षित किया था क्योंकि जटिल इलेक्ट्रिकल और भौतिक प्रणालियों को गणितीय अनुमानों में बदलने की क्षमता मुझे बहुत शक्तिशाली लगी। सांख्यिकी और मशीन लर्निंग भी ऐसा ही महसूस कराते थे। मैंने ग्रेजुएट स्कूल में कंप्यूटर विजन और मशीन लर्निंग कक्षाएं लीं और मैंने अपना मास्टर्स थीसिस एमएल का उपयोग करके छवियों की सौंदर्य सुंदरता को स्कोर करने पर लिखा। यह सब मुझे याहू में कंप्यूटर विजन और मशीन लर्निंग टीम में मेरी पहली नौकरी में ले गया, जहां मैं एक हाइब्रिड अनुसंधान और सॉफ्टवेयर विकास भूमिका में था। हम अभी भी अलेक्सनेट और वीजीजी के दिनों में थे, और देखा कि एक पूरे क्षेत्र और उद्योग इतनी तेजी से आगे बढ़ रहे हैं, डेटा तैयारी से लेकर बड़े पैमाने पर मॉडल प्रशिक्षण और मॉडल उत्पादनीकरण तक, यह अद्भुत है। कई मायनों में, यह थोड़ा हास्यास्पद लगता है कि मैं इसे “पहले” के रूप में संदर्भित करता हूं, जो कम से कम 10 साल पहले हुआ था, लेकिन ऐसा ही प्रगति हुई है इस क्षेत्र में।

याहू के बाद, मैंने एक स्टार्टअप के सीटीओ के रूप में काम किया, जिसे मैंने सह-स्थापित किया था, जहां हमने इंडोर स्थानीयकरण के लिए एमएल का लाभ उठाया। वहां, हमें बहुत छोटे माइक्रोकंट्रोलर के लिए अनुक्रमिक मॉडल को अनुकूलित करना पड़ा, जो आज के बड़े एलएलएम और डिफ्यूजन मॉडल की तुलना में एक बहुत ही अलग लेकिन संबंधित इंजीनियरिंग चुनौती थी। हमने हार्डवेयर, विज़ुअलाइजेशन के लिए डैशबोर्ड और सरल क्लाउड-नेटिव एप्लिकेशन भी बनाए, लेकिन एआई/एमएल हमारे द्वारा किए जा रहे काम का एक मूल घटक बना रहा।

मैं एमएल में लगभग 7 या 8 साल से हूं, लेकिन मैं अभी भी सर्किट डिज़ाइन और डिजिटल लॉजिक डिज़ाइन के लिए बहुत प्यार करता हूं। इलेक्ट्रिकल इंजीनियरिंग में पृष्ठभूमि होना मुझे बहुत मददगार है, खासकर जब मैं आजकल ज़िलिज़ में जो काम कर रहा हूं। डिजिटल डिज़ाइन में कई महत्वपूर्ण अवधारणाएं, जैसे कि वर्चुअल मेमोरी, ब्रांच प्रेडिक्शन और एचडीएल में समांतर निष्पादन, एमएल और वितरित प्रणालियों को पूर्ण-स्टैक दृष्टिकोण प्रदान करती हैं। मैं समझता हूं कि सीएस का आकर्षण है, लेकिन मुझे उम्मीद है कि अगले कुछ वर्षों में ईई, मेकेई, केमई, आदि जैसे अधिक पारंपरिक इंजीनियरिंग क्षेत्रों में एक पुनरुत्थान देखने को मिलेगा।

जिन पाठकों को इस शब्द से परिचित नहीं हैं, उनके लिए असंरचित डेटा क्या है?

असंरचित डेटा “जटिल” डेटा को संदर्भित करता है, जो मूल रूप से डेटा है जिसे एक पूर्व-निर्धारित प्रारूप में संग्रहीत नहीं किया जा सकता है या मौजूदा डेटा मॉडल में फिट नहीं हो सकता है। तुलना के लिए, संरचित डेटा किसी भी प्रकार के डेटा को संदर्भित करता है जिसमें एक पूर्व-निर्धारित संरचना होती है – संख्यात्मक डेटा, स्ट्रिंग, टेबल, वस्तुएं और कुंजी/मूल्य स्टोर सभी संरचित डेटा के उदाहरण हैं।

असंरचित डेटा को वास्तव में समझने में मदद करने के लिए, यह संरचित डेटा की तुलना में मददगार है। साधारण शब्दों में, पारंपरिक संरचित डेटा को एक संबंधपरक मॉडल के माध्यम से संग्रहीत किया जा सकता है। एक पुस्तक जानकारी को संग्रहीत करने के लिए एक संबंधपरक डेटाबेस के साथ एक तालिका लें, जहां प्रत्येक पंक्ति एक विशिष्ट पुस्तक का प्रतिनिधित्व कर सकती है जो आईएसबीएन नंबर द्वारा सूचीबद्ध है, जबकि कॉलम संबंधित जानकारी की श्रेणी को दर्शाते हैं, जैसे कि शीर्षक, लेखक, प्रकाशन तिथि, आदि। आजकल, बहुत अधिक लचीले डेटा मॉडल हैं – वाइड-कॉलम स्टोर, ऑब्जेक्ट डेटाबेस, ग्राफ डेटाबेस, आदि। लेकिन समग्र विचार वही रहता है: ये डेटाबेस विशिष्ट डेटा मोल्ड या डेटा मॉडल को संग्रहीत करने के लिए बनाए गए हैं।

असंरचित डेटा, दूसरी ओर, एक प्सेव्डो-रैंडम बाइनरी डेटा के रूप में सोचा जा सकता है। यह कुछ भी हो सकता है, मनमाने ढंग से बड़ा या छोटा हो सकता है, और इसे कई अलग-अलग तरीकों से परिवर्तित और पढ़ा जा सकता है। यह इसे किसी भी डेटा मॉडल में फिट करने में असंभव बनाता है, एक संबंधपरक डेटाबेस में एक तालिका में भी नहीं।

इस प्रकार के डेटा के कुछ उदाहरण क्या हैं?

मानव-उत्पन्न डेटा – छवियां, वीडियो, ऑडियो, प्राकृतिक भाषा, आदि – असंरचित डेटा के उत्कृष्ट उदाहरण हैं। लेकिन असंरचित डेटा के कई कम सामान्य उदाहरण भी हैं। उपयोगकर्ता प्रोफाइल, प्रोटीन संरचनाएं, जीनोम अनुक्रम, और यहां तक कि मानव-वाचनीय कोड भी असंरचित डेटा के उत्कृष्ट उदाहरण हैं। असंरचित डेटा को पारंपरिक रूप से इतना कठिन प्रबंधन करने का मुख्य कारण यह है कि असंरचित डेटा किसी भी रूप में हो सकता है और इसे संसाधित करने के लिए व्यापक रूप से अलग-अलग रनटाइम की आवश्यकता हो सकती है।

छवियों का उपयोग उदाहरण के रूप में, एक ही दृश्य की दो तस्वीरें बहुत अलग पिक्सेल मान हो सकती हैं, लेकिन दोनों में समान समग्र सामग्री होती है। प्राकृतिक भाषा असंरचित डेटा का एक और उदाहरण है जिसे मैं संदर्भित करना पसंद करता हूं। “इलेक्ट्रिकल इंजीनियरिंग” और “कंप्यूटर साइंस” वाक्य बहुत करीबी से संबंधित हैं – इतना कि स्टैनफोर्ड में ईई और सीएस भवन एक दूसरे के बगल में हैं – लेकिन बिना इन वाक्यों के पीछे के अर्थ को एन्कोड करने के तरीके के, एक कंप्यूटर निष्ठा से सोच सकता है कि “कंप्यूटर साइंस” और “सोशल साइंस” अधिक संबंधित हैं।

वेक्टर डेटाबेस क्या है?

वेक्टर डेटाबेस को समझने के लिए, यह पहले एम्बेडिंग को समझने में मदद करता है। मैं इस पर थोड़ा बाद में आएंगे, लेकिन संक्षेप में, एम्बेडिंग एक उच्च-आयामी वेक्टर है जो असंरचित डेटा की सेमांटिक्स का प्रतिनिधित्व कर सकता है। सामान्य तौर पर, दो एम्बेडिंग जो दूरी के संदर्भ में एक दूसरे के करीब होती हैं, वे सेमांटिक रूप से समान इनपुट डेटा के अनुरूप होने की संभावना होती है। आधुनिक एमएल के साथ, हमारे पास विभिन्न प्रकार के असंरचित डेटा – छवियों और पाठ को उदाहरण के लिए – सेमांटिक रूप से शक्तिशाली एम्बेडिंग वेक्टर में एन्कोड और परिवर्तित करने की शक्ति है।

एक संगठन के दृष्टिकोण से, असंरचित डेटा एक निश्चित सीमा से आगे बढ़ने पर प्रबंधन करना बहुत मुश्किल हो जाता है। यहीं एक वेक्टर डेटाबेस जैसे ज़िलिज़ क्लाउड आता है। एक वेक्टर डेटाबेस एम्बेडिंग को अंतर्निहित प्रतिनिधित्व के रूप में उपयोग करके असंरचित डेटा की बड़ी मात्रा में संग्रहीत, अनुक्रमित और खोज करने के लिए डिज़ाइन किया गया है। वेक्टर डेटाबेस में खोज आमतौर पर क्वेरी वेक्टर के साथ की जाती है, और क्वेरी का परिणाम दूरी के आधार पर शीर्ष एन सबसे समान परिणाम होता है।

सबसे अच्छे वेक्टर डेटाबेस में पारंपरिक संबंधपरक डेटाबेस की कई उपयोगिता सुविधाएं होती हैं: क्षैतिज स्केलिंग, कैशिंग, प्रतिलिपि बनाना, विफल होना, और क्वेरी निष्पादन जैसी कई सुविधाएं हैं जो एक सच्चे वेक्टर डेटाबेस को लागू करना चाहिए। एक श्रेणी परिभाषक के रूप में, हम अकादमिक सर्कल में भी सक्रिय रहे हैं, सिगमॉड 2021 और वीएलडीबी 2022 में पत्र प्रकाशित किए हैं, जो आज के दो शीर्ष डेटाबेस सम्मेलन हैं।

आप एम्बेडिंग के बारे में चर्चा कर सकते हैं?

आम तौर पर, एम्बेडिंग एक उच्च-आयामी वेक्टर है जो एक मल्टीलेयर न्यूरल नेटवर्क की मध्यवर्ती परत के सक्रियण से आता है। कई न्यूरल नेटवर्क एम्बेडिंग को स्वयं आउटपुट करने के लिए प्रशिक्षित होते हैं और कुछ अनुप्रयोगों में कई मध्यवर्ती परतों से संकलित वेक्टर का उपयोग एम्बेडिंग के रूप में किया जाता है, लेकिन मैं इस पर अब और गहराई से नहीं जाऊंगा। एम्बेडिंग को उत्पन्न करने का एक कम सामान्य लेकिन समान रूप से महत्वपूर्ण तरीका हाथ से तैयार किए गए सुविधाओं के माध्यम से है। एमएल मॉडल को स्वचालित रूप से सही प्रतिनिधित्व सीखने के बजाय, अच्छा पुराना फीचर इंजीनियरिंग भी कई अनुप्रयोगों के लिए काम कर सकता है। एम्बेडिंग के पीछे की विधि की परवाह किए बिना, सेमांटिक रूप से समान वस्तुओं के लिए एम्बेडिंग दूरी के संदर्भ में एक दूसरे के करीब होती हैं, और यह संपत्ति वेक्टर डेटाबेस को शक्ति प्रदान करती है।

इस प्रौद्योगिकी के साथ कुछ सबसे लोकप्रिय उपयोग मामले क्या हैं?

वेक्टर डेटाबेस सेमांटिक खोज के किसी भी अनुप्रयोग के लिए उपयुक्त हैं – उत्पाद सिफारिश, वीडियो विश्लेषण, दस्तावेज़ खोज, खतरा और धोखाधड़ी का पता लगाना, और एआई-संचालित चैटबॉट वेक्टर डेटाबेस के लिए कुछ सबसे लोकप्रिय उपयोग मामले हैं। इसके लिए, मिलवस, ज़िलिज़ द्वारा बनाया गया ओपन-सोर्स वेक्टर डेटाबेस और ज़िलिज़ क्लाउड का मूल, का उपयोग विभिन्न उपयोग मामलों में 1000 से अधिक उद्यम उपयोगकर्ताओं द्वारा किया गया है।

मैं हमेशा इन अनुप्रयोगों के बारे में चर्चा करने और लोगों को समझने में मदद करने के लिए तैयार रहता हूं कि वे कैसे काम करते हैं, लेकिन मुझे वेक्टर डेटाबेस के कुछ कम ज्ञात उपयोग मामलों पर भी जाना बहुत पसंद है। नए दवा की खोज एक मेरे पसंदीदा “निचे” वेक्टर डेटाबेस उपयोग मामलों में से एक है। इस विशिष्ट अनुप्रयोग के लिए चुनौती एक निश्चित बीमारी या लक्षण के लिए संभावित उम्मीदवार दवाओं की खोज करना है एक 800 मिलियन यौगिकों के डेटाबेस में। हमारे साथ संवाद करने वाली एक फार्मास्यूटिकल कंपनी मिलवस को एक रासायनिक सूचना विज्ञान पुस्तकालय रीडकिट के साथ मिलाकर दवा की खोज प्रक्रिया में काफी सुधार करने में सक्षम थी और साथ ही हार्डवेयर संसाधनों को कम करने में भी।

क्लीवलैंड म्यूजियम ऑफ आर्ट का एआई आर्टलेंस एक और उदाहरण है जिसे मैं संदर्भित करना पसंद करता हूं। एआई आर्टलेंस एक इंटरैक्टिव टूल है जो एक क्वेरी छवि को इनपुट के रूप में लेता है और संग्रहालय के डेटाबेस से दृश्य रूप से समान छवियों को खींचता है। यह आमतौर पर रिवर्स इमेज खोज के रूप में जाना जाता है और वेक्टर डेटाबेस के लिए एक相当 सामान्य उपयोग मामला है, लेकिन मिलवस ने सीएमए को जो अनोखा मूल्य प्रदान किया वह एक बहुत छोटी टीम के साथ एक सप्ताह के भीतर एप्लिकेशन को चलाने में सक्षम बनाने की क्षमता थी।

आप ओपन-सोर्स प्लेटफ़ॉर्म टोही के बारे में चर्चा कर सकते हैं?

मिलवस समुदाय के लोगों के साथ संवाद करते समय, हमने पाया कि उनमें से कई लोग मिलवस के लिए एक एकीकृत तरीके से एम्बेडिंग उत्पन्न करना चाहते थे। यह लगभग सभी संगठनों के लिए सच था, जिनसे हमने बात की, विशेष रूप से उन कंपनियों के लिए जिनके पास कई मशीन लर्निंग इंजीनियर नहीं थे। टोही के साथ, हम “वेक्टर डेटा ईटीएल” के माध्यम से इस अंतर को भरने का लक्ष्य रखते हैं। जबकि पारंपरिक ईटीएल पाइपलाइन संरचित डेटा को एक उपयोगी प्रारूप में मिलाने और परिवर्तित करने पर केंद्रित होती हैं, टोही असंरचित डेटा के साथ काम करने और विशेष रूप से एमएल को परिणामी ईटीएल पाइपलाइन में शामिल करने के लिए डिज़ाइन किया गया है। टोही यह मॉडल, अल्गोरिदम और परिवर्तनों के सैकड़ों निर्माण खंड प्रदान करके प्राप्त करता है जिन्हें एक वेक्टर डेटा ईटीएल पाइपलाइन में निर्माण खंड के रूप में उपयोग किया जा सकता है। इसके अलावा, टोही एक आसान-से-उपयोग पायथन एपीआई प्रदान करता है जो डेवलपर्स को एक ही पंक्ति में इन ईटीएल पाइपलाइनों का निर्माण और परीक्षण करने की अनुमति देता है।

जबकि टोही अपनी एक स्वतंत्र परियोजना है, यह ज़िलिज़ द्वारा बनाई जा रही मिलवस के इर्द-गिर्द वेक्टर डेटाबेस पारिस्थितिकी तंत्र का भी एक हिस्सा है। हम मिलवस और टोही को दो अत्यधिक पूरक परियोजनाओं के रूप में देखते हैं जो एक साथ उपयोग किए जाने पर वास्तव में असंरचित डेटा प्रसंस्करण को लोकतांत्रिक बना सकते हैं।

ज़िलिज़ ने हाल ही में 60 मिलियन डॉलर की श्रृंखला बी फंडिंग जुटाई है। यह ज़िलिज़ मिशन को कैसे तेज करेगा?

मैं पहले प्रोस्पेरिटी7 वेंचर्स, पेविलियन कैपिटल, हिलहाउस कैपिटल, 5वाई कैपिटल, यूनकी कैपिटल और अन्य को ज़िलिज़ के मिशन में विश्वास करने और इस श्रृंखला बी विस्तार के साथ हमारा समर्थन करने के लिए धन्यवाद देना चाहता हूं। हमने अब कुल 113 मिलियन डॉलर जुटाए हैं, और यह नवीनतम फंडिंग हमारे इंजीनियरिंग और गो-टू-मार्केट टीमों को स्केल आउट करने का समर्थन करेगी। विशेष रूप से, हम अपनी प्रबंधित क्लाउड पेशकश में सुधार करेंगे, जो वर्तमान में शुरुआती पहुंच में है लेकिन इस साल बाद में सभी के लिए खुल जाएगी। हम डेटाबेस और एआई अनुसंधान में निवेश जारी रखेंगे, जैसा कि हम पिछले 4 वर्षों से कर रहे हैं।

क्या ज़िलिज़ के बारे में आप कुछ और साझा करना चाहेंगे?

एक कंपनी के रूप में, हम तेजी से बढ़ रहे हैं, लेकिन जो हमारी वर्तमान टीम को डेटाबेस और एमएल स्थान में दूसरों से अलग करता है वह हमारे द्वारा जो बनाया जा रहा है उसके लिए एकल उत्साह है। हम असंरचित डेटा प्रसंस्करण को लोकतांत्रिक बनाने के मिशन पर हैं, और यह देखना अविश्वसनीय है कि ज़िलिज़ में इतने प्रतिभाशाली लोग एक ही लक्ष्य की ओर काम कर रहे हैं। यदि आपको यह दिलचस्प लगता है, तो हमें संपर्क में रहने में खुशी होगी।

यदि आप थोड़ा और जानना चाहते हैं, तो मैं व्यक्तिगत रूप से ज़िलिज़, वेक्टर डेटाबेस, या एमएल/एआई में एम्बेडिंग से संबंधित प्रगति के बारे में बात करने के लिए खुला हूं। मेरा (काल्पनिक) दरवाजा हमेशा खुला रहता है, इसलिए मुझसे सीधे ट्विटर/लिंक्डइन पर संपर्क करने में संकोच न करें।

अंत में, धन्यवाद!

धन्यवाद इस शानदार साक्षात्कार के लिए, पाठक जो अधिक जानना चाहते हैं उन्हें ज़िलिज़ पर जाना चाहिए。