ट्रे डोइग, पाथलाइट के सीटीओ और सह-संस्थापक – साक्षात्कार श्रृंखला

ट्रे डोइग पाथलाइट के सह-संस्थापक और सीटीओ हैं। ट्रे के पास तकनीकी उद्योग में दस साल से अधिक का अनुभव है, जिसमें उन्होंने आईबीएम, क्रिएटिव कॉमन्स और येल्प के लिए एक इंजीनियर के रूप में काम किया है। ट्रे येल्प रिजर्वेशन के लिए लीड इंजीनियर थे और येल्प.कॉम पर सीटमी कार्यक्षमता के एकीकरण के लिए जिम्मेदार थे। ट्रे ने सीटमी वेब एप्लिकेशन के विकास का भी नेतृत्व किया जब कंपनी 10x ग्राहक विकास का समर्थन करने के लिए स्केल की।

पाथलाइट ग्राहक-सामने वाली टीमों को वास्तविक समय के अंतर्दृष्टि के साथ प्रदर्शन में सुधार करने और दक्षता को बढ़ाने में मदद करता है ग्राहक बातचीत और टीम प्रदर्शन के। पाथलाइट प्लेटफ़ॉर्म स्वचालित रूप से लाखों डेटा बिंदुओं का विश्लेषण करता है ताकि संगठन के हर स्तर को यह समझने में सक्षम बनाया जा सके कि उनके व्यवसाय के फ्रंटलाइन पर क्या हो रहा है, और दोहराने योग्य सफलता बनाने के लिए सबसे अच्छे कार्यों का निर्धारण करें।

आपको कंप्यूटर विज्ञान में शुरू से ही आकर्षित क्या था?

मैंने बचपन से ही कंप्यूटर के साथ खिलवाड़ किया है। जब मैं 12 साल का था, तो मैंने प्रोग्रामिंग सीखना शुरू किया और स्कीम और लिस्प सिखाया, और जल्द ही इसके बाद मैंने अपने लिए और अपने दोस्तों के लिए विभिन्न चीजें बनाना शुरू कर दिया, मुख्य रूप से वेब विकास में।

बाद में, जब मैं कॉलेज में आवेदन कर रहा था, तो मैं वास्तव में कंप्यूटर से ऊब गया था और डिज़ाइन स्कूल में जाने का लक्ष्य रखा था। कुछ स्कूलों द्वारा अस्वीकार और प्रतीक्षा सूची में रखे जाने के बाद, मैंने एक सीएस प्रोग्राम में दाखिला लेने का फैसला किया और कभी पीछे मुड़कर नहीं देखा। डिज़ाइन स्कूल में स्वीकृति से इनकार करना मेरे जीवन के सबसे पुरस्कृत इनकारों में से एक साबित हुआ!

आप आईबीएम, येल्प और अन्य कंपनियों में पदों पर रहे हैं। येल्प में विशेष रूप से, आपने कुछ सबसे दिलचस्प परियोजनाओं पर काम किया और आपके अनुभव से क्या मुख्य बातें थीं?

मैं येल्प में सीटमी के अधिग्रहण के माध्यम से शामिल हुआ, और पहले दिन से, मुझे येल्प.कॉम के फ्रंट पेज पर हमारे रिजर्वेशन खोज इंजन को एकीकृत करने की जिम्मेदारी सौंपी गई थी।

कुछ महीनों के बाद, हम येल्प के पैमाने पर उस खोज इंजन को सफलतापूर्वक शक्ति प्रदान करने में सक्षम थे, जो बड़े पैमाने पर येल्प द्वारा आंतरिक रूप से एलास्टिकसर्च के लिए बनाई गई मजबूत बुनियादी ढांचे के कारण था। यह येल्प में इंजीनियरिंग नेतृत्व के कारण भी था जिसने हमें स्वतंत्र रूप से आगे बढ़ने और हमारा काम करने की अनुमति दी।

पाथलाइट के सीटीओ और सह-संस्थापक के रूप में, आप एक कॉन्वर्सेशनल इंटेलिजेंस कंपनी के लिए एलएलएम ओप्स इन्फ्रास्ट्रक्चर से शुरू से ही निर्माण कर रहे हैं। एलएलएमओप्स इन्फ्रास्ट्रक्चर को तैनात करने के लिए एकत्रित होने वाले विभिन्न तत्वों पर चर्चा करें, जैसे कि प्रॉम्प्ट प्रबंधन परत, मेमोरी स्ट्रीम परत, मॉडल प्रबंधन परत, आदि।

2022 के अंत में, हमने बड़े पैमाने पर भाषा मॉडल (एलएलएम) के विकास और प्रयोग के लिए खुद को समर्पित किया, जो जल्द ही हमारे जेनएआई मूल के संवाद बुद्धिमत्ता उत्पाद के सफल लॉन्च में बदल गया। यह नवाचारी उत्पाद विभिन्न चैनलों से ग्राहक इंटरैक्शन को एक ही व्यापक मंच में एकत्र करता है – चाहे वह पाठ, ऑडियो या वीडियो हो – जो ग्राहक भावनाओं के विश्लेषण और समझ की एक अभूतपूर्व गहराई की अनुमति देता है।

इस जटिल प्रक्रिया में, हम डेटा को एलएलएम प्रोसेसिंग के लिए आदर्श रूप से अनुकूल होने के लिए सावधानीपूर्वक प्रतिलिपि बनाते हैं, शुद्ध करते हैं और अनुकूलित करते हैं। इस कार्य प्रवाह का एक महत्वपूर्ण पहलू ट्रांसक्रिप्ट से एम्बेडिंग का निर्माण है, जो हमारे आरएजी आधारित टैगिंग, वर्गीकरण मॉडल और जटिल सारांश की प्रभावशीलता के लिए एक मूलभूत चरण है।

जो इस उद्यम को वास्तव में अलग बनाता है वह है क्षेत्र की नई और अनचाही प्रकृति। हम एक अनोखी स्थिति में हैं, जिसमें हम एक ही समय में सर्वोत्तम प्रथाओं का अन्वेषण और अनुसंधान कर रहे हैं। प्रॉम्प्ट इंजीनियरिंग में इसका एक प्रमुख उदाहरण है – हमारे अनुप्रयोग द्वारा उत्पन्न प्रॉम्प्ट की निगरानी, डीबगिंग और गुणवत्ता नियंत्रण सुनिश्चित करना। उल्लेखनीय रूप से, हम उन स्टार्टअप्स की एक लहर को देख रहे हैं जो अब इन उच्च स्तर की जरूरतों के लिए व्यावसायिक उपकरण प्रदान कर रहे हैं, जिनमें सहयोगी सुविधाएं, उन्नत लॉगिंग और इंडेक्सिंग क्षमताएं शामिल हैं।

हालांकि, हमारे लिए ध्यान हमारे एलएलएमओप्स इन्फ्रास्ट्रक्चर के आधारभूत स्तरों को मजबूत करने पर है। फाइन-ट्यूनिंग ऑर्केस्ट्रेशन, मॉडल होस्टिंग, और मजबूत अनुमान एपीआई स्थापित करने से, ये निम्न-स्तरीय घटक हमारे मिशन के लिए महत्वपूर्ण हैं। हमारे संसाधनों और इंजीनियरिंग कौशल को यहां निर्देशित करके, हम सुनिश्चित करते हैं कि हमारा उत्पाद न केवल तेजी से बाजार में आता है, बल्कि एक ठोस और विश्वसनीय आधार पर भी खड़ा होता है।

जैसे ही परिदृश्य विकसित होता है और अधिक व्यावसायिक उपकरण उच्च स्तर की जटिलताओं को संबोधित करने के लिए उपलब्ध हो जाते हैं, हमारी रणनीति हमें इन समाधानों को निर्बाध रूप से एकीकृत करने की स्थिति में रखती है, जिससे हमारे उत्पाद को और भी बेहतर बनाया जा सकता है और संवाद बुद्धिमत्ता को फिर से परिभाषित करने की हमारी यात्रा में तेजी लाई जा सकती है।

पाथलाइट सीआई का आधार एक मल्टी-एलएलएम बैकएंड द्वारा संचालित है, एक से अधिक एलएलएम का उपयोग करने और उनकी विभिन्न दर सीमाओं से निपटने में कुछ चुनौतियां क्या हैं?

एलएलएम और जेनएआई तेजी से आगे बढ़ रहे हैं, जो यह सुनिश्चित करने के लिए महत्वपूर्ण है कि किसी भी व्यवसायिक अनुप्रयोग जो इन प्रौद्योगिकियों पर भारी रूप से निर्भर करता है, वह नवीनतम और सबसे अच्छे प्रशिक्षित मॉडल के साथ तालमेल बिठा सके, चाहे वे प्रोप्राइटरी प्रबंधित सेवाएं हों या अपने बुनियादी ढांचे में फॉस मॉडल तैनात किए गए हों। विशेष रूप से जब आपकी सेवा की मांग बढ़ जाती है और दर सीमाएं आवश्यक थ्रूपुट को रोकती हैं।

हॉलुसिनेशन एलएलएम के साथ काम करने वाली किसी भी कंपनी के लिए एक सामान्य समस्या है, पाथलाइट इस मुद्दे से कैसे निपटता है?

हॉलुसिनेशन, जैसा कि मुझे लगता है कि लोग आमतौर पर इसका उल्लेख करते हैं, एलएलएम के साथ गंभीरता से काम करने में एक बड़ी चुनौती है। एलएलएम के साथ काम करते समय एक निश्चित स्तर की अनिश्चितता/अनुमानितता होती है जो एक ही प्रॉम्प्ट से क्या उम्मीद की जा सकती है। इस समस्या को हल करने के कई तरीके हैं, जिनमें फाइन-ट्यूनिंग (जहां उच्च गुणवत्ता वाले मॉडल का उपयोग करना जो आपके पास फाइन-ट्यूनिंग डेटा के उत्पादन के लिए उपलब्ध है) शामिल है।

पाथलाइट विभिन्न बाजार खंडों जैसे यात्रा और हॉस्पिटैलिटी, वित्त, गेमिंग, खुदरा और ई-कॉमर्स, कонтैक्ट सेंटर आदि के लिए विभिन्न समाधान प्रदान करता है। आप बता सकते हैं कि प्रत्येक बाजार के लिए जेनरेटिव एआई का उपयोग कैसे भिन्न होता है?

विभिन्न खंडों को संबोधित करने की तुरंत क्षमता जेनरेटिव एआई के सबसे अनोखे मूल्यों में से एक है। पूरे इंटरनेट पर प्रशिक्षित मॉडल तक पहुंच प्राप्त करने, जिसमें विभिन्न डोमेन में इतना व्यापक ज्ञान है, एक अद्वितीय गुण है जो हम वर्तमान में जिस ब्रेकथ्रू से गुजर रहे हैं। यह समय के साथ एआई को साबित करने का तरीका होगा, इसकी व्यापकता में, और यह जल्द ही दिया जा रहा है कि इसका वर्तमान पथ है।

क्या आप बता सकते हैं कि पाथलाइट डेटा विश्लेषण को स्वचालित करने और छिपी हुई अंतर्दृष्टि का पता लगाने के लिए मशीन लर्निंग का उपयोग कैसे करता है?

हाँ, बिल्कुल! हमने कई वर्षों से कई मशीन लर्निंग परियोजनाओं का निर्माण और शिपिंग किया है। हमारे नवीनतम फीचर इनसाइट स्ट्रीम्स के पीछे का जेनरेटिव मॉडल एक उदाहरण है कि हमने मशीन लर्निंग का उपयोग करके एक उत्पाद कैसे बनाया है जो सीधे तौर पर आपके ग्राहकों के बारे में जो आप नहीं जानते हैं उसे उजागर करने के लिए तैयार किया गया है। यह प्रौद्योगिकी एआई एजेंट की अवधारणा का उपयोग करती है जो निरंतर रूप से विकसित होने वाली अंतर्दृष्टि का एक सेट उत्पन्न करने में सक्षम है जो मैनुअल विश्लेषण की ताजगी और गहराई को असंभव बना देता है।

डेटा विश्लेषण या डेटा वैज्ञानिक, व्यवसाय विश्लेषक, बिक्री या ग्राहक ऑपरेशन या जो भी कंपनी ग्राहक सहायता डेटा का विश्लेषण करने के लिए जिम्मेदार है, वे हमेशा महत्वपूर्ण अनुरोधों से भरे रहते हैं। जो गहरा विश्लेषण, जो आमतौर पर जटिल प्रणालियों और डेटा की परतों की आवश्यकता होती है।

एलएलएम और एआई के क्षेत्र में आपका व्यक्तिगत दृष्टिकोण क्या है जो हमें आगे बढ़ने वाले तरंग में अपेक्षा करनी चाहिए?

मेरा व्यक्तिगत दृष्टिकोण एलएलएम प्रशिक्षण और ट्यूनिंग पद्धतियों के क्षेत्र में बहुत तेजी से आगे बढ़ने और व्यापक डोमेन में लाभ प्राप्त करने के साथ-साथ बहु-मोडल को एक मानक बनाने के लिए बहुत आशावादी है। मुझे लगता है कि फॉस已经 कई मायनों में जीपीटी4 जितना अच्छा है, लेकिन इन मॉडलों को होस्ट करने की लागत अधिकांश कंपनियों के लिए एक चिंता बनी रहेगी।