साक्षात्कार
लिन किआओ, फायरवर्क्स एआई के सीईओ और सह-संस्थापक - साक्षात्कार श्रृंखला
लिन किआओ, पूर्व में मेटा के पायटॉर्च के प्रमुख थे और फायरवर्क्स एआई के सह-संस्थापक और सीईओ हैं। आतिशबाजी ए.आई एक प्रोडक्शन एआई प्लेटफॉर्म है जो डेवलपर्स के लिए बनाया गया है, फायरवर्क्स ने सबसे तेज गति से सर्वोत्तम मॉडलों की सेवा के लिए दुनिया के अग्रणी जेनेरिक एआई शोधकर्ताओं के साथ साझेदारी की है। फायरवर्क्स एआई ने हाल ही में एक उठाया $ 25M श्रृंखला ए.
सबसे पहले आपको कंप्यूटर विज्ञान की ओर किस चीज़ ने आकर्षित किया?
मेरे पिताजी एक शिपयार्ड में बहुत वरिष्ठ मैकेनिकल इंजीनियर थे, जहाँ उन्होंने नए सिरे से मालवाहक जहाज़ बनाए। छोटी उम्र से ही, मैंने जहाज के ब्लूप्रिंट के सटीक कोण और माप पढ़ना सीख लिया और मुझे यह पसंद आया।
मैं मिडिल स्कूल से ही एसटीईएम में बहुत रुचि रखता था - गणित, भौतिकी और रसायन विज्ञान सब कुछ जो मैंने सीखा। मेरे हाई स्कूल असाइनमेंट में से एक बेसिक प्रोग्रामिंग सीखना था, और मैंने एक सांप द्वारा अपनी पूंछ खाने के बारे में एक गेम कोड किया था। उसके बाद, मुझे पता चला कि कंप्यूटर विज्ञान मेरा भविष्य है।
मेटा में रहते हुए आपने AI फ्रेमवर्क और प्लेटफ़ॉर्म में 300+ विश्व स्तरीय इंजीनियरों का नेतृत्व किया, जहाँ आपने Caffe2 और बाद में PyTorch का निर्माण और तैनाती की। इस अनुभव से आपके कुछ मुख्य निष्कर्ष क्या थे?
मेटा जैसी बड़ी टेक कंपनियाँ हमेशा पाँच या अधिक वर्ष आगे रहती हैं। जब मैं 2015 में मेटा में शामिल हुआ, तो हम अपनी एआई यात्रा की शुरुआत में थे - सीपीयू से जीपीयू में बदलाव कर रहे थे। हमें जमीनी स्तर से एआई बुनियादी ढांचे को डिजाइन करना था। Caffe2 जैसे मॉडल जब बनाए गए थे तो वे अभूतपूर्व थे, लेकिन AI इतनी तेजी से विकसित हुआ कि वे जल्दी ही पुराने हो गए। हमने समाधान के रूप में PyTorch और उसके आसपास की संपूर्ण प्रणाली विकसित की।
PyTorch वह जगह है जहां मैंने AI के निर्माण की दौड़ में डेवलपर्स के सामने आने वाली सबसे बड़ी बाधाओं के बारे में सीखा। पहली चुनौती स्थिर और विश्वसनीय मॉडल आर्किटेक्चर ढूंढना है जो कम विलंबता और लचीला हो ताकि मॉडल स्केल कर सकें। दूसरी चुनौती स्वामित्व की कुल लागत है, ताकि कंपनियां अपने मॉडल को विकसित करने की कोशिश में दिवालिया न हो जाएं।
मेटा में मेरे समय ने मुझे दिखाया कि PyTorch जैसे मॉडल और फ्रेमवर्क को ओपन-सोर्स रखना कितना महत्वपूर्ण है। यह नवप्रवर्तन को प्रोत्साहित करता है। पुनरावृत्ति के लिए खुले स्रोत के अवसरों के बिना हम PyTorch में उतने विकसित नहीं हो पाते जितना हमने किया है। साथ ही, सहयोग के बिना सभी नवीनतम शोधों पर अपडेट रहना असंभव है।
क्या आप इस बात पर चर्चा कर सकते हैं कि किस कारण से आपने फायरवर्क्स एआई लॉन्च किया?
मैं 20 वर्षों से अधिक समय से तकनीकी उद्योग में हूँ, और मैंने उद्योग-स्तर पर बदलावों की एक के बाद एक लहर देखी है - क्लाउड से लेकर मोबाइल ऐप्स तक। लेकिन यह एआई बदलाव एक पूर्ण विवर्तनिक पुनर्संरेखण है। मैंने बहुत सी कंपनियों को इस बदलाव से जूझते देखा है। हर कोई तेजी से आगे बढ़ना चाहता था और एआई को पहले स्थान पर रखना चाहता था, लेकिन ऐसा करने के लिए उनके पास बुनियादी ढांचे, संसाधनों और प्रतिभा की कमी थी। जितना अधिक मैंने इन कंपनियों से बात की, उतना ही मुझे एहसास हुआ कि मैं बाज़ार में इस अंतर को हल कर सकता हूँ।
मैंने इस समस्या को हल करने और PyTorch में हासिल किए गए अविश्वसनीय काम के विस्तार के रूप में फायरवर्क्स AI लॉन्च किया। इसने हमारे नाम को भी प्रेरित किया! PyTorch आग को थामने वाली मशाल है- लेकिन हम चाहते हैं कि आग हर जगह फैले। अत: आतिशबाजी।
मुझे प्रौद्योगिकी का लोकतंत्रीकरण करने और डेवलपर्स के लिए अपने संसाधनों की परवाह किए बिना नवाचार करने के लिए इसे किफायती और सरल बनाने का हमेशा से शौक रहा है। यही कारण है कि हमारे पास बिल्डरों को उनके दृष्टिकोण को जीवन में लाने के लिए सशक्त बनाने के लिए ऐसा उपयोगकर्ता-अनुकूल इंटरफ़ेस और मजबूत समर्थन प्रणालियाँ हैं।
क्या आप चर्चा कर सकते हैं कि डेवलपर केंद्रित AI क्या है और यह इतना महत्वपूर्ण क्यों है?
यह सरल है: "डेवलपर-केंद्रित" का अर्थ है एआई डेवलपर्स की जरूरतों को प्राथमिकता देना। उदाहरण के लिए: उपकरण, समुदाय और प्रक्रियाएं बनाना जो डेवलपर्स को अधिक कुशल और स्वायत्त बनाते हैं।
फायरवर्क्स जैसे डेवलपर-केंद्रित एआई प्लेटफॉर्म को मौजूदा वर्कफ़्लो और तकनीकी स्टैक में एकीकृत किया जाना चाहिए। उन्हें डेवलपर्स के लिए प्रयोग करना, गलतियाँ करना और अपने काम में सुधार करना आसान बनाना चाहिए। उन्हें फीडबैक को प्रोत्साहित करना चाहिए, क्योंकि इसके डेवलपर स्वयं समझते हैं कि सफल होने के लिए उन्हें क्या चाहिए। अंत में, यह सिर्फ एक मंच होने से कहीं अधिक है। यह एक समुदाय होने के बारे में है - एक ऐसा समुदाय जहां सहयोग करने वाले डेवलपर्स एआई के साथ जो संभव है उसकी सीमाओं को आगे बढ़ा सकते हैं।
आपके द्वारा विकसित GenAI प्लेटफ़ॉर्म बड़े भाषा मॉडल (एलएलएम) के साथ काम करने वाले डेवलपर्स के लिए एक महत्वपूर्ण प्रगति है। क्या आप अपने प्लेटफ़ॉर्म की अनूठी विशेषताओं और लाभों के बारे में विस्तार से बता सकते हैं, खासकर मौजूदा समाधानों की तुलना में?
एआई उत्पादन मंच के रूप में हमारा संपूर्ण दृष्टिकोण अद्वितीय है, लेकिन हमारी कुछ सर्वोत्तम विशेषताएं हैं:
कुशल अनुमान - हमने दक्षता और गति के लिए फायरवर्क्स एआई को इंजीनियर किया। हमारे प्लेटफ़ॉर्म का उपयोग करने वाले डेवलपर्स अपने एलएलएम एप्लिकेशन को न्यूनतम संभव विलंबता और लागत पर चला सकते हैं। हम इसे नवीनतम मॉडल और सेवा अनुकूलन तकनीकों के साथ हासिल करते हैं, जिसमें त्वरित कैशिंग, अनुकूलनीय शार्डिंग, परिमाणीकरण, निरंतर बैचिंग, फायरअटेंशन और बहुत कुछ शामिल हैं।
लोरा-ट्यून मॉडल के लिए किफायती समर्थन - हम बेस मॉडल पर मल्टी-टेनेंसी के माध्यम से निम्न-रैंक अनुकूलन (एलओआरए) फाइन-ट्यून मॉडल की किफायती सेवा प्रदान करते हैं। इसका मतलब यह है कि डेवलपर्स बैंक को तोड़े बिना एक ही मॉडल पर कई अलग-अलग उपयोग के मामलों या विविधताओं के साथ प्रयोग कर सकते हैं।
सरल इंटरफेस और एपीआई - हमारे इंटरफेस और एपीआई डेवलपर्स के लिए उनके अनुप्रयोगों में एकीकृत करने के लिए सीधे और आसान हैं। माइग्रेशन में आसानी के लिए हमारे एपीआई ओपनएआई के अनुकूल भी हैं।
ऑफ-द-शेल्फ मॉडल और फाइन-ट्यून मॉडल - हम 100 से अधिक पूर्व-प्रशिक्षित मॉडल प्रदान करते हैं जिन्हें डेवलपर्स आउट-ऑफ-द-बॉक्स उपयोग कर सकते हैं। हम सर्वोत्तम एलएलएम, छवि निर्माण मॉडल, एम्बेडिंग मॉडल आदि को कवर करते हैं, लेकिन डेवलपर्स अपने स्वयं के कस्टम मॉडल की मेजबानी और सेवा करना भी चुन सकते हैं। हम डेवलपर्स को उनके मालिकाना डेटा के साथ इन कस्टम मॉडलों को तैयार करने में मदद करने के लिए स्व-सेवा फाइन-ट्यूनिंग सेवाएं भी प्रदान करते हैं।
सामुदायिक सहयोग: हम सामुदायिक सहयोग के ओपन-सोर्स लोकाचार में विश्वास करते हैं। हमारा प्लेटफ़ॉर्म डेवलपर्स को अपने बेहतरीन मॉडल साझा करने और एआई परिसंपत्तियों और ज्ञान के बढ़ते बैंक में योगदान करने के लिए प्रोत्साहित करता है (लेकिन इसकी आवश्यकता नहीं है)। हमारी सामूहिक विशेषज्ञता बढ़ने से सभी को लाभ होता है।
क्या आप मॉडल समानता और डेटा समानता के बीच पेश किए गए हाइब्रिड दृष्टिकोण पर चर्चा कर सकते हैं?
मशीन लर्निंग मॉडल को समानांतर करने से मॉडल प्रशिक्षण की दक्षता और गति में सुधार होता है और डेवलपर्स को बड़े मॉडल को संभालने में मदद मिलती है जिन्हें एक एकल जीपीयू संसाधित नहीं कर सकता है।
मॉडल समानता में एक मॉडल को कई भागों में विभाजित करना और प्रत्येक भाग को अलग-अलग प्रोसेसर पर प्रशिक्षित करना शामिल है। दूसरी ओर, डेटा समानता डेटासेट को सबसेट में विभाजित करती है और अलग-अलग प्रोसेसर में एक ही समय में प्रत्येक सबसेट पर एक मॉडल को प्रशिक्षित करती है। एक संकर दृष्टिकोण इन दो तरीकों को जोड़ता है। मॉडलों को अलग-अलग भागों में विभाजित किया गया है, जिनमें से प्रत्येक को डेटा के विभिन्न उपसमूहों पर प्रशिक्षित किया जाता है, जिससे दक्षता, स्केलेबिलिटी और लचीलेपन में सुधार होता है।
फायरवर्क्स एआई का उपयोग 20,000 से अधिक डेवलपर्स द्वारा किया जाता है और वर्तमान में यह प्रतिदिन 60 बिलियन से अधिक टोकन प्रदान कर रहा है। अपने परिचालन को इस स्तर तक बढ़ाने में आपको किन चुनौतियों का सामना करना पड़ा और आपने उनसे कैसे पार पाया?
मैं ईमानदार रहूँगा, 2022 में फायरवर्क्स एआई की स्थापना के बाद से कई ऊंचे पहाड़ों को पार करना पड़ा है।
हमारे ग्राहक सबसे पहले बहुत कम विलंबता समर्थन की तलाश में हमारे पास आए क्योंकि वे उपभोक्ताओं, उपभोक्ताओं या अन्य डेवलपर्स के लिए एप्लिकेशन बना रहे हैं - सभी दर्शकों के लिए जिन्हें त्वरित समाधान की आवश्यकता है। फिर, जब हमारे ग्राहकों के आवेदन तेजी से बढ़ने लगे, तो उन्हें एहसास हुआ कि वे उस पैमाने से जुड़ी सामान्य लागतों को वहन नहीं कर सकते। फिर उन्होंने हमसे स्वामित्व की कुल लागत (टीसीओ) कम करने में मदद करने के लिए कहा, जो हमने किया। फिर, हमारे ग्राहक ओपनएआई से ओएसएस मॉडल में स्थानांतरित होना चाहते थे, और उन्होंने हमसे ओपनएआई के बराबर या उससे भी बेहतर गुणवत्ता प्रदान करने के लिए कहा। हमने वो भी कर दिखाया.
हमारे उत्पाद के विकास में प्रत्येक चरण से निपटना एक चुनौतीपूर्ण समस्या थी, लेकिन इसका मतलब था कि हमारे ग्राहकों की जरूरतों ने वास्तव में फायरवर्क्स को आज के आकार में आकार दिया: कम टीसीओ के साथ एक बिजली की तेजी से अनुमान लगाने वाला इंजन। साथ ही, हम चुनने के लिए उच्च-गुणवत्ता वाले, आउट-ऑफ़-द-बॉक्स मॉडल का वर्गीकरण या डेवलपर्स को अपना स्वयं का मॉडल बनाने के लिए फाइन-ट्यूनिंग सेवाएं प्रदान करते हैं।
एआई और मशीन लर्निंग में तेजी से प्रगति के साथ, नैतिक विचार पहले से कहीं अधिक महत्वपूर्ण हैं। फायरवर्क्स AI पूर्वाग्रह, गोपनीयता और AI के नैतिक उपयोग से संबंधित चिंताओं को कैसे संबोधित करता है?
मेरी दो किशोर बेटियाँ हैं जो अक्सर ChatGPT जैसे genAI ऐप्स का उपयोग करती हैं। एक माँ के रूप में, मुझे उनके द्वारा भ्रामक या अनुपयुक्त सामग्री मिलने की चिंता है, क्योंकि उद्योग अभी सामग्री सुरक्षा की गंभीर समस्या से निपटने की शुरुआत कर रहा है। मेटा पर्पल लामा प्रोजेक्ट के साथ बहुत कुछ कर रहा है, और स्टेबिलिटी एआई के नए एसडी3 मोड बहुत अच्छे हैं। दोनों कंपनियां फिल्टर की कई परतों के साथ अपने नए Llama3 और SD3 मॉडल में सुरक्षा लाने के लिए कड़ी मेहनत कर रही हैं। इनपुट-आउटपुट सेफगार्ड मॉडल, लामा गार्ड, का हमारे प्लेटफॉर्म पर अच्छी मात्रा में उपयोग होता है, लेकिन इसे अपनाना अभी तक अन्य एलएलएम के बराबर नहीं है। समग्र रूप से उद्योग को सामग्री सुरक्षा और एआई नैतिकता को सबसे आगे लाने के लिए अभी भी एक लंबा रास्ता तय करना है।
फायरवर्क्स में हम गोपनीयता और सुरक्षा का बहुत ध्यान रखते हैं। हम HIPAA और SOC2 के अनुरूप हैं, और सुरक्षित VPC और VPN कनेक्टिविटी प्रदान करते हैं। कंपनियाँ अपने व्यवसाय को आगे बढ़ाने के लिए अपने मालिकाना डेटा और मॉडलों के साथ फायरवर्क्स पर भरोसा करती हैं।
एआई कैसे विकसित होगा इसके बारे में आपका दृष्टिकोण क्या है?
जिस तरह अल्फ़ागो ने स्वयं शतरंज खेलना सीखते समय स्वायत्तता का प्रदर्शन किया, मुझे लगता है कि हम जेनएआई अनुप्रयोगों को अधिक से अधिक स्वायत्त होते देखेंगे। ऐप्स स्वचालित रूप से अनुरोधों को संसाधित करने के लिए सही एजेंट या एपीआई तक रूट और निर्देशित करेंगे, और जब तक वे सही आउटपुट प्राप्त नहीं कर लेते, तब तक पाठ्यक्रम-सही करेंगे। और नियंत्रक के रूप में दूसरों से एक फ़ंक्शन-कॉलिंग मॉडल पोलिंग के बजाय, हम समस्याओं को हल करने के लिए अधिक स्व-संगठित, स्व-समन्वित एजेंटों को एकजुट होकर काम करते हुए देखेंगे।
आतिशबाजी के बिजली की तेजी से अनुमान, फ़ंक्शन-कॉलिंग मॉडल और फाइन-ट्यूनिंग सेवा ने इस वास्तविकता का मार्ग प्रशस्त किया है। अब इसे संभव बनाना नवोन्वेषी डेवलपर्स पर निर्भर है।
बेहतरीन साक्षात्कार के लिए धन्यवाद, जो पाठक अधिक जानना चाहते हैं, उन्हें अवश्य आना चाहिए आतिशबाजी ए.आई.
