आनंद कन्नप्पन, पैट्रोनस एआई के सीईओ और सह-संस्थापक – साक्षात्कार श्रृंखला

आनंद कन्नप्पन पैट्रोनस एआई के सह-संस्थापक और सीईओ हैं, जो उद्योग का पहला स्वचालित एआई मूल्यांकन और सुरक्षा प्लेटफ़ॉर्म है जो उद्यमों को बड़े पैमाने पर एलएलएम त्रुटियों को पकड़ने में मदद करता है। इससे पहले, आनंद ने मेटा रियलिटी लैब्स में एमएल व्याख्या और उन्नत प्रयोग के प्रयासों का नेतृत्व किया।

आपको कंप्यूटर विज्ञान में शुरू से ही क्या आकर्षित किया?

बढ़ते हुए, मैं हमेशा प्रौद्योगिकी और इसके द्वारा वास्तविक दुनिया की समस्याओं को हल करने के तरीकों से आकर्षित था। केवल कोड का उपयोग करके कुछ बनाने का विचार मुझे आकर्षित करता था। जैसे ही मैं कंप्यूटर विज्ञान में गहराई से गया, मुझे एहसास हुआ कि इसके पास विभिन्न उद्योगों में नवाचार और परिवर्तन की भारी संभावना है। यह नवाचार करने और अंतर लाने की ड्राइव है जो मुझे शुरू से ही कंप्यूटर विज्ञान में आकर्षित करती है।

क्या आप पैट्रोनस एआई की उत्पत्ति की कहानी साझा कर सकते हैं?

पैट्रोनस एआई की उत्पत्ति की कहानी काफी दिलचस्प है। जब ओपनएआई ने चैटजीपीटी लॉन्च किया, तो यह उपभोक्ता उत्पाद के रूप में सबसे तेजी से बढ़ने वाला उत्पाद बन गया, जिसने केवल दो महीनों में 100 मिलियन से अधिक उपयोगकर्ता हासिल किए। इस बड़े पैमाने पर अपनाने ने जनरेटिव एआई की संभावना को उजागर किया, लेकिन यह भी उद्यमों को इतनी तेजी से एआई को तैनात करने में हिचकिचाहट को रेखांकित किया। कई व्यवसाय बड़े भाषा मॉडल (एलएलएम) की संभावित त्रुटियों और अप्रत्याशित व्यवहार के बारे में चिंतित थे।

रेबेका और मैंने वर्षों से एक दूसरे को जाना, चिकागो विश्वविद्यालय में कंप्यूटर विज्ञान का अध्ययन किया। मेटा में, हम दोनों ने मशीन लर्निंग आउटपुट का मूल्यांकन और व्याख्या करने में चुनौतियों का सामना किया – रेबेका शोध दृष्टिकोण से और मैंने लागू दृष्टिकोण से। जब चैटजीपीटी की घोषणा की गई, तो हम दोनों ने एलएलएम की परिवर्तनकारी संभावना को देखा, लेकिन उद्यमों द्वारा अभ्यास की गई सावधानी को भी समझा।

मोड़ बिंदु तब आया जब मेरे भाई के निवेश बैंक, पाइपर सैंडर, ने आंतरिक रूप से ओपनएआई एक्सेस पर प्रतिबंध लगाने का फैसला किया। इससे हमें एहसास हुआ कि जबकि एआई ने महत्वपूर्ण प्रगति की है, विश्वसनीयता और सुरक्षा के बारे में चिंताओं के कारण उद्यमों के अपनाने में अभी भी एक अंतर है। हमने पैट्रोनस एआई की स्थापना इस अंतर को संबोधित करने और एलएलएम के लिए मूल्यांकन और सुरक्षा परत प्रदान करके उद्यमों में जनरेटिव एआई में विश्वास बढ़ाने के लिए की।

पैट्रोनस एआई के प्लेटफ़ॉर्म के मूल कार्य का वर्णन करें जो एलएलएम का मूल्यांकन और सुरक्षा करता है?

हमारा मिशन उद्यमों में जनरेटिव एआई में विश्वास बढ़ाना है। हमने एलएलएम के लिए उद्योग का पहला स्वचालित मूल्यांकन और सुरक्षा प्लेटफ़ॉर्म विकसित किया है। हमारा प्लेटफ़ॉर्म व्यवसायों को बड़े पैमाने पर एलएलएम आउटपुट में त्रुटियों का पता लगाने में मदद करता है, जिससे वे एआई उत्पादों को सुरक्षित रूप से और आत्मविश्वास से तैनात कर सकते हैं।

हमारा प्लेटफ़ॉर्म कई प्रमुख प्रक्रियाओं को स्वचालित करता है:

• स्कोरिंग: हम वास्तविक दुनिया के परिदृश्यों में मॉडल प्रदर्शन का मूल्यांकन करते हैं, महत्वपूर्ण मानदंडों जैसे कि हॉलुसिनेशन और सुरक्षा पर ध्यान केंद्रित करते हैं।
• परीक्षण पीढ़ी: हम मॉडल क्षमताओं का सख्ती से मूल्यांकन करने के लिए बड़े पैमाने पर विरोधी परीक्षण सूट स्वचालित रूप से उत्पन्न करते हैं।
• बेंचमार्किंग: हम विभिन्न मॉडलों की तुलना करते हैं ताकि ग्राहकों को उनके विशिष्ट उपयोग के मामलों के लिए सबसे अच्छा फिट पहचानने में मदद मिल सके।

उद्यमों को मॉडल, डेटा और उपयोगकर्ता आवश्यकताओं के विकास के अनुकूल होने के लिए बार-बार मूल्यांकन पसंद है। हमारा प्लेटफ़ॉर्म एक विश्वसनीय तीसरे पक्ष के मूल्यांकनकर्ता के रूप में कार्य करता है, एक निष्पक्ष दृष्टिकोण प्रदान करता है जो एआई स्थान में मूडी के समान है। हमारे शुरुआती भागीदारों में मोंगोडीबी, डाटाब्रिक्स, कोहेरे और नोमिक एआई जैसी अग्रणी एआई कंपनियां शामिल हैं, और हम पारंपरिक उद्योगों में कई उच्च-प्रोफ़ाइल कंपनियों के साथ हमारे प्लेटफ़ॉर्म को पायलट करने के लिए चर्चा कर रहे हैं।

पैट्रोनस एआई के लिंक्स मॉडल एलएलएम आउटपुट में किस प्रकार की त्रुटियों या “हॉलुसिनेशन” का पता लगाता है, और यह व्यवसायों के लिए इन मुद्दों को कैसे संबोधित करता है?

एलएलएम वास्तव में शक्तिशाली उपकरण हैं, लेकिन उनकी संभावित प्रकृति उन्हें “हॉलुसिनेशन” के लिए प्रवण बनाती है, या त्रुटियों के लिए जहां मॉडल असटीक या अप्रासंगिक जानकारी उत्पन्न करता है। ये हॉलुसिनेशन विशेष रूप से उच्च जोखिम वाले व्यावसायिक वातावरण में समस्याग्रस्त हैं जहां सटीकता महत्वपूर्ण है।

पारंपरिक रूप से, व्यवसायों ने एलएलएम आउटपुट का मूल्यांकन करने के लिए मैनुअल निरीक्षण पर भरोसा किया है, एक प्रक्रिया जो न केवल समय लेने वाली है बल्कि अकल्पनीय भी है। इसे सुव्यवस्थित करने के लिए, पैट्रोनस एआई ने लिंक्स विकसित किया, एक विशेष मॉडल जो हमारे प्लेटफ़ॉर्म की क्षमता को बढ़ाता है और हॉलुसिनेशन का पता लगाने को स्वचालित करता है। लिंक्स, हमारे प्लेटफ़ॉर्म में एकीकृत, व्यापक परीक्षण कवरेज और मजबूत प्रदर्शन गारंटी प्रदान करता है, जो व्यवसायिक संचालन पर महत्वपूर्ण प्रभाव डालने वाली महत्वपूर्ण त्रुटियों की पहचान पर ध्यान केंद्रित करता है, जैसे कि वित्तीय गणनाओं में त्रुटियां या कानूनी दस्तावेज़ समीक्षा में त्रुटियां।

लिंक्स के साथ हम मैनुअल मूल्यांकन की सीमाओं को स्वचालित विरोधी परीक्षण के माध्यम से दूर करते हैं, संभावित विफलता परिदृश्यों के व्यापक स्पेक्ट्रम का अन्वेषण करते हैं। यह मानव मूल्यांकनकर्ताओं द्वारा बचने वाले मुद्दों का पता लगाने में सक्षम बनाता है, व्यवसायों को महत्वपूर्ण अनुप्रयोगों में एलएलएम को तैनात करने के लिए बढ़ी हुई विश्वसनीयता और आत्मविश्वास प्रदान करता है।

वित्तबेंच को वित्तीय प्रश्नों पर एलएलएम प्रदर्शन का मूल्यांकन करने के लिए उद्योग का पहला बेंचमार्क बताया जाता है। वित्तीय क्षेत्र में एलएलएम को अपनाने में किन चुनौतियों ने वित्तबेंच के विकास को प्रेरित किया?

वित्तबेंच वित्तीय क्षेत्र द्वारा एलएलएम को अपनाने में आने वाली अनूठी चुनौतियों के जवाब में विकसित किया गया था। वित्तीय अनुप्रयोगों को उच्च स्तर की सटीकता और विश्वसनीयता की आवश्यकता होती है, क्योंकि त्रुटियां महत्वपूर्ण वित्तीय नुकसान या नियामक मुद्दों का कारण बन सकती हैं। जनरेटिव एआई के वादे के बावजूद बड़ी मात्रा में वित्तीय डेटा को संभालने में, हमारे शोध से पता चला कि राज्य-ऑफ-द-आर्ट मॉडल जैसे जीपीटी -4 और लामा 2 वित्तीय प्रश्नों के साथ संघर्ष करते हैं, अक्सर सटीक जानकारी प्राप्त करने में विफल रहते हैं।

वित्तबेंच को वित्तीय संदर्भों में एलएलएम प्रदर्शन का मूल्यांकन करने के लिए एक व्यापक बेंचमार्क के रूप में बनाया गया था। इसमें सार्वजनिक रूप से उपलब्ध वित्तीय दस्तावेजों पर आधारित 10,000 प्रश्न और उत्तर जोड़े शामिल हैं, जो संख्यात्मक तर्क, जानकारी पुनर्प्राप्ति, तर्कसंगत तर्क और विश्व ज्ञान जैसे क्षेत्रों को कवर करते हैं। इस बेंचमार्क को प्रदान करके, हम उद्यमों को वर्तमान मॉडलों की सीमाओं को बेहतर ढंग से समझने और सुधार के क्षेत्रों की पहचान करने में मदद करना चाहते हैं।

हमारे प्रारंभिक विश्लेषण से पता चला कि कई एलएलएम वित्तीय अनुप्रयोगों के लिए आवश्यक उच्च मानकों को पूरा नहीं करते हैं, जो आगे के सुधार और लक्षित मूल्यांकन की आवश्यकता को रेखांकित करते हैं। वित्तबेंच के साथ, हम वित्तीय क्षेत्र में एलएलएम के प्रदर्शन का मूल्यांकन और सुधार करने के लिए उद्यमों के लिए एक मूल्यवान उपकरण प्रदान कर रहे हैं।

आपके शोध ने दिखाया कि लीडिंग एआई मॉडल, विशेष रूप से ओपनएआई के जीपीटी -4, लोकप्रिय पुस्तकों के अंशों के साथ प्रेरित होने पर महत्वपूर्ण दरों पर कॉपीराइट सामग्री उत्पन्न करते हैं। एआई विकास और व्यापक प्रौद्योगिकी उद्योग, विशेष रूप से एआई और कॉपीराइट कानून के आसपास जारी बहसों के संदर्भ में इन निष्कर्षों के दीर्घकालिक परिणाम क्या हैं?

एआई मॉडल द्वारा कॉपीराइट सामग्री का उत्पादन एक जटिल और दबाने वाला मुद्दा है जो एआई उद्योग को प्रभावित करता है। हमारे शोध से पता चला कि जीपीटी -4 जैसे मॉडल, जब लोकप्रिय पुस्तकों के अंशों के साथ प्रेरित किया जाता है, तो अक्सर कॉपीराइट सामग्री का पुन: उत्पादन करते हैं। यह बौद्धिक संपदा अधिकारों और एआई-उत्पन्न सामग्री के कानूनी परिणामों के बारे में महत्वपूर्ण प्रश्न उठाता है।

दीर्घकालिक परिणाम एआई और कॉपीराइट के बारे में स्पष्ट दिशानिर्देशों और नियमों की आवश्यकता को रेखांकित करते हैं। उद्योग को बौद्धिक संपदा अधिकारों का सम्मान करते हुए एआई मॉडल विकसित करने की आवश्यकता है और साथ ही साथ उनकी रचनात्मक क्षमताओं को बनाए रखने की आवश्यकता है। यह प्रशिक्षण डेटासेट को सावधानी से क्यूरेट करने और कॉपीराइट सामग्री को शामिल करने से बचने के लिए, जब तक कि उपयुक्त लाइसेंस प्राप्त नहीं किए जाते, तकनीकों को लागू करने और कॉपीराइट सामग्री का पता लगाने और हटाने के लिए तंत्र विकसित करने की आवश्यकता को शामिल कर सकता है।

दी गई जानकारी के आलोक में, एआई विकासकर्ताओं और उद्योग को कॉपीराइट सामग्री के पुन: उत्पादन के मुद्दे से निपटने के लिए क्या कदम उठाने चाहिए? इसके अलावा, पैट्रोनस एआई इन निष्कर्षों के प्रकाश में अधिक जिम्मेदार और कानूनी रूप से अनुपालन एआई मॉडल बनाने में कैसे योगदान कर सकता है?

कॉपीराइट सामग्री के पुन: उत्पादन के मुद्दे को संबोधित करने के लिए एक बहुस्तरीय दृष्टिकोण की आवश्यकता है। एआई विकासकर्ताओं और उद्योग को पारदर्शिता और जिम्मेदारी को प्राथमिकता देनी चाहिए, सुनिश्चित करनी चाहिए कि प्रशिक्षण डेटासेट सावधानी से क्यूरेट किए गए हैं और कॉपीराइट सामग्री शामिल नहीं है, जब तक कि उपयुक्त लाइसेंस प्राप्त नहीं किए जाते। इसके अलावा, विकासकर्ताओं को कॉपीराइट सामग्री का पता लगाने और हटाने के लिए तंत्र विकसित करने चाहिए और एआई मॉडल को इस तरह से डिज़ाइन करना चाहिए कि वे कॉपीराइट सामग्री के पुन: उत्पादन को रोकने में मदद करें।

• डेटा चयन में सुधार: सुनिश्चित करना कि प्रशिक्षण डेटासेट सावधानी से क्यूरेट किए गए हैं और कॉपीराइट सामग्री शामिल नहीं है, जब तक कि उपयुक्त लाइसेंस प्राप्त नहीं किए जाते।
• पता लगाने के तंत्र विकसित करना: कॉपीराइट सामग्री का पता लगाने और हटाने के लिए तंत्र विकसित करना ताकि एआई मॉडल कॉपीराइट सामग्री का पुन: उत्पादन न करें।
• उद्योग मानक स्थापित करना: कानूनी विशेषज्ञों और उद्योग हितधारकों के साथ मिलकर एआई विकास के लिए दिशानिर्देश और मानक स्थापित करना जो बौद्धिक संपदा अधिकारों का सम्मान करते हैं।

पैट्रोनस एआई मूल्यांकन और अनुपालन पर ध्यान केंद्रित करके जिम्मेदार एआई विकास में योगदान कर रहा है। हमारे प्लेटफ़ॉर्म में उत्पाद जैसे एंटरप्राइज़पीआईआई शामिल हैं, जो व्यवसायों को एआई आउटपुट में संभावित गोपनीयता मुद्दों का पता लगाने और प्रबंधित करने में मदद करते हैं। इन समाधानों को प्रदान करके, हम व्यवसायों को एआई का जिम्मेदारी से और नैतिक रूप से उपयोग करने में सक्षम बनाना चाहते हैं, साथ ही साथ कानूनी जोखिमों को कम करते हैं।

एंटरप्राइज़पीआईआई और फ़ाइनेंसबेंच जैसे उपकरणों के साथ, आप वित्त और व्यक्तिगत डेटा जैसे संवेदनशील क्षेत्रों में एआई की तैनाती में क्या बदलाव की उम्मीद करते हैं?

इन उपकरणों के साथ, व्यवसाय एलएलएम आउटपुट का मूल्यांकन और प्रबंधन अधिक प्रभावी ढंग से कर सकते हैं, विशेष रूप से वित्त और व्यक्तिगत डेटा जैसे संवेदनशील क्षेत्रों में।

वित्त क्षेत्र में, फ़ाइनेंसबेंच उद्यमों को एलएलएम प्रदर्शन का मूल्यांकन करने में मदद करता है, सुनिश्चित करता है कि मॉडल वित्तीय अनुप्रयोगों की सख्त आवश्यकताओं को पूरा करते हैं। यह व्यवसायों को वित्तीय डेटा विश्लेषण और निर्णय लेने जैसे कार्यों के लिए एआई का उपयोग करने में अधिक आत्मविश्वास और विश्वसनीयता प्रदान करता है।

इसी तरह, एंटरप्राइज़पीआईआई जैसे उपकरण व्यवसायों को डेटा गोपनीयता की जटिलताओं को नेविगेट करने में मदद करते हैं। इन उपकरणों के साथ, व्यवसाय संभावित जोखिमों की पहचान कर सकते हैं और उन्हें कम कर सकते हैं, जिससे उन्हें एआई को अधिक सुरक्षित और जिम्मेदारी से तैनात करने में सक्षम बनाता है।

पैट्रोनस एआई अपने उपकरणों को मौजूदा एलएलएम तैनाती और कार्यप्रवाह में एकीकृत करने के लिए कंपनियों के साथ कैसे काम करता है?

पैट्रोनस एआई में, हम एआई अपनाने में सहज एकीकरण के महत्व को समझते हैं। हम अपने ग्राहकों के साथ密त से काम करते हैं ताकि यह सुनिश्चित किया जा सके कि हमारे उपकरण उनके मौजूदा एलएलएम तैनाती और कार्यप्रवाह में आसानी से एकीकृत हो जाएं। इसमें ग्राहकों को शामिल है:

• कस्टम एकीकरण योजना: हम प्रत्येक ग्राहक के साथ मिलकर विशिष्ट एकीकरण योजना विकसित करते हैं जो उनकी विशिष्ट आवश्यकताओं और उद्देश्यों के अनुरूप हो।
• व्यापक समर्थन: हमारी टीम एकीकरण प्रक्रिया के दौरान निरंतर समर्थन प्रदान करती है, मार्गदर्शन और सहायता प्रदान करती है ताकि यह सुनिश्चित किया जा सके कि परिवर्तन सुचारू रूप से हो।
• प्रशिक्षण और शिक्षा: हम प्रशिक्षण सत्र और शैक्षिक संसाधन प्रदान करते हैं ताकि ग्राहक हमारे उपकरणों का पूर्ण उपयोग कर सकें और अपने एआई निवेश से अधिकतम लाभ प्राप्त कर सकें।

एआई आउटपुट को सुरक्षित, सटीक और विभिन्न कानूनों के अनुपालन सुनिश्चित करने की जटिलताओं को देखते हुए, एलएलएम विकासकर्ताओं और उन्हें उपयोग करने वाली कंपनियों के लिए आपकी क्या सलाह होगी?

सहयोग और समर्थन को प्राथमिकता देकर, हम एकीकरण प्रक्रिया को यथासंभव सरल और कुशल बनाने का लक्ष्य रखते हैं, जिससे व्यवसाय हमारे एआई समाधानों की पूरी क्षमता को अनलॉक कर सकें।

एआई आउटपुट को सुरक्षित, सटीक और विभिन्न कानूनों के अनुपालन सुनिश्चित करने की जटिलताएं महत्वपूर्ण चुनौतियां पेश करती हैं। एलएलएम विकासकर्ताओं के लिए, पारदर्शिता और जिम्मेदारी पूरे विकास प्रक्रिया में प्राथमिकता होनी चाहिए।

गुणवत्तापूर्ण डेटा एक मूलभूत पहलू है। विकासकर्ताओं को यह सुनिश्चित करना चाहिए कि प्रशिक्षण डेटासेट अच्छी तरह से क्यूरेट किए गए हैं और कॉपीराइट सामग्री से मुक्त हैं, जब तक कि उपयुक्त लाइसेंस प्राप्त नहीं किए जाते। यह न केवल संभावित कानूनी मुद्दों को रोकने में मदद करता है, बल्कि यह भी सुनिश्चित करता है कि एआई सटीक आउटपुट उत्पन्न करता है। इसके अलावा, पूर्वाग्रह और न्याय को संबोधित करना महत्वपूर्ण है। पूर्वाग्रह की पहचान करने और उन्हें कम करने के लिए सक्रिय रूप से काम करने से और विविध और प्रतिनिधित्व वाले प्रशिक्षण डेटा विकसित करने से विकासकर्ता पूर्वाग्रह को कम कर सकते हैं और सभी उपयोगकर्ताओं के लिए न्यायसंगत परिणाम सुनिश्चित कर सकते हैं।

मजबूत मूल्यांकन प्रक्रियाएं आवश्यक हैं। बेंचमार्क जैसे फ़ाइनेंसबेंच को लागू करने से एआई मॉडल के प्रदर्शन और विश्वसनीयता का मूल्यांकन करने में मदद मिल सकती है, सुनिश्चित करते हुए कि वे विशिष्ट उपयोग के मामलों की आवश्यकताओं को पूरा करते हैं। इसके अलावा, नैतिक विचारों को प्राथमिकता दी जानी चाहिए। नैतिक दिशानिर्देशों और ढांचों के साथ जुड़ने से यह सुनिश्चित होता है कि एआई प्रणाली जिम्मेदारी से और समाज के मूल्यों के अनुरूप विकसित की जाती हैं।

कंपनियों के लिए जो एलएलएम का लाभ उठाना चाहती हैं, एआई की क्षमताओं को समझना महत्वपूर्ण है। यह सुनिश्चित करना आवश्यक है कि एआई का उपयोग संगठन के भीतर प्रभावी ढंग से और सुरक्षित रूप से किया जाता है। सहज एकीकरण और समर्थन भी महत्वपूर्ण हैं। विश्वसनीय भागीदारों के साथ काम करके, कंपनियां अपने मौजूदा कार्यप्रवाह में एआई समाधानों को एकीकृत कर सकती हैं और सुनिश्चित कर सकती हैं कि उनकी टीमें एआई का प्रभावी ढंग से उपयोग करने के लिए प्रशिक्षित और समर्थित हैं।

अनुपालन और सुरक्षा को प्राथमिकता दी जानी चाहिए, प्रासंगिक नियमों और डेटा सुरक्षा कानूनों का पालन सुनिश्चित करना। उपकरण जैसे एंटरप्राइज़पीआईआई संभावित जोखिमों की निगरानी और प्रबंधन में मदद कर सकते हैं। एआई प्रदर्शन की नियमित निगरानी और मूल्यांकन भी सटीकता और विश्वसनीयता बनाए रखने के लिए आवश्यक है, जिससे आवश्यकतानुसार समायोजन किया जा सके।

साक्षात्कार के लिए धन्यवाद, पाठक जो और जानना चाहते हैं उन्हें पैट्रोनस एआई पर जाना चाहिए।