पैट्रोनस एआई की सह-संस्थापक और सीटीओ रेबेका कियान - साक्षात्कार श्रृंखला

रेबेका कियान पैट्रोनस एआई की सह-संस्थापक और सीटीओ हैं, जिनके पास एनएलपी, एम्बोडेड एआई और इंफ्रास्ट्रक्चर के संगम पर प्रोडक्शन मशीन लर्निंग सिस्टम बनाने का लगभग एक दशक का अनुभव है। फेसबुक एआई में, उन्होंने अनुसंधान और तैनाती के विभिन्न क्षेत्रों में काम किया, जिसमें निष्पक्षता के उद्देश्यों के साथ डिज़ाइन किए गए एक बड़े भाषा मॉडल, फेयरबर्टा को प्रशिक्षित करना, विकिपीडिया सामग्री को फिर से लिखने के लिए एक जनसांख्यिकीय-विक्षोभ मॉडल विकसित करना और रोबोटिक सहायकों के लिए सिमेंटिक पार्सिंग का नेतृत्व करना शामिल है। उन्होंने एम्बोडेड एजेंटों के लिए ह्यूमन-इन-द-लूप पाइपलाइन भी बनाईं और कंटीन्यूअस कॉन्ट्रास्ट सेट माइनिंग जैसे इंफ्रास्ट्रक्चर टूलिंग का निर्माण किया, जिसे फेसबुक की इंफ्रास्ट्रक्चर टीमों द्वारा अपनाया गया और आईसीएसई में प्रस्तुत किया गया। उन्होंने फेसबुक रिसर्च/फेयरो और ड्रॉइडलेट सिमेंटिक पार्सिंग नोटबुक सहित ओपन-सोर्स परियोजनाओं में योगदान दिया है। एक संस्थापक के रूप में, अब वह स्केलेबल ओवरसाइट, रीइन्फोर्समेंट लर्निंग और सुरक्षित, पर्यावरण-जागरूक एआई एजेंटों की तैनाती पर ध्यान केंद्रित कर रही हैं।

पैट्रोनस एआई सैन फ्रांसिस्को स्थित कंपनी पेट्रोनस एक शोध-आधारित प्लेटफॉर्म प्रदान करती है जो बड़े भाषा मॉडल (एलएलएम) और एआई एजेंटों के मूल्यांकन, निगरानी और अनुकूलन के लिए उपयोगी है। यह प्लेटफॉर्म डेवलपर्स को भरोसेमंद जनरेटिव एआई उत्पाद आत्मविश्वास के साथ विकसित करने में मदद करता है। यह प्लेटफॉर्म स्वचालित मूल्यांकन उपकरण, बेंचमार्किंग, एनालिटिक्स, कस्टम डेटासेट और एजेंट-विशिष्ट वातावरण प्रदान करता है जो मतिभ्रम, सुरक्षा जोखिम या तर्क विफलताओं जैसी प्रदर्शन संबंधी समस्याओं की पहचान करते हैं। इससे टीमें वास्तविक उपयोग के मामलों में एआई सिस्टम को लगातार बेहतर बनाने और समस्याओं का निवारण करने में सक्षम होती हैं। पेट्रोनस उद्यम ग्राहकों और प्रौद्योगिकी भागीदारों को मॉडल व्यवहार का मूल्यांकन करने, बड़े पैमाने पर त्रुटियों का पता लगाने और उत्पादन एआई अनुप्रयोगों में विश्वसनीयता और प्रदर्शन को बढ़ाने में सक्षम बनाकर उनकी सेवा करता है।

फेसबुक एआई में एमएल सिस्टम बनाने का आपका गहरा अनुभव है, जिसमें फेयरबर्टा और ह्यूमन-इन-द-लूप पाइपलाइन पर काम शामिल है। इस अनुभव ने वास्तविक दुनिया में एआई की तैनाती और सुरक्षा के बारे में आपके दृष्टिकोण को कैसे प्रभावित किया?

मेटा एआई में काम करने से मुझे व्यवहार में मॉडलों को विश्वसनीय बनाने के लिए आवश्यक बातों पर ध्यान केंद्रित करने का अवसर मिला—विशेष रूप से जिम्मेदार एनएलपी के संदर्भ में। मैंने निष्पक्षता-केंद्रित भाषा मॉडलिंग पर काम किया, जैसे निष्पक्षता उद्देश्यों के साथ एलएलएम को प्रशिक्षित करना, और मैंने प्रत्यक्ष रूप से देखा कि मॉडल आउटपुट का मूल्यांकन और व्याख्या करना कितना कठिन है। इसने सुरक्षा के बारे में मेरी सोच को आकार दिया है। यदि आप मॉडल के व्यवहार को माप और समझ नहीं सकते, तो वास्तविक दुनिया में एआई को आत्मविश्वास से तैनात करना मुश्किल है।

आपको रिसर्च इंजीनियरिंग से उद्यमिता की ओर बढ़ने और पैट्रोनस एआई की सह-स्थापना करने के लिए क्या प्रेरित किया, और उस समय आपको कौन सी समस्या का समाधान करना सबसे अधिक जरूरी लगा?

उस समय एआई के विकास में मूल्यांकन एक बड़ी बाधा बन गया था। मैंने अप्रैल में मेटा एआई छोड़ दिया और आनंद के साथ पैट्रोनस की शुरुआत की, क्योंकि मैंने खुद देखा था कि एआई आउटपुट का मूल्यांकन और व्याख्या करना कितना मुश्किल है। और जब जनरेटिव एआई ने उद्यमों के कार्यप्रवाह में प्रवेश करना शुरू किया, तो यह स्पष्ट हो गया कि यह अब केवल प्रयोगशाला की समस्या नहीं रह गई थी। 

हमें कंपनियों से लगातार एक ही बात सुनने को मिल रही थी। वे एलएलएम को अपनाना चाहते थे, लेकिन वे उनका विश्वसनीय परीक्षण, निगरानी या विफलता के तरीकों को मतिभ्रम की तरह समझ नहीं पा रहे थे, खासकर विनियमित उद्योगों में जहां त्रुटियों के लिए बहुत कम सहनशीलता होती है। 

इसलिए, शुरुआत में सबसे अहम समस्या मॉडल मूल्यांकन को स्वचालित और व्यापक बनाने का तरीका विकसित करना था—वास्तविक दुनिया के परिदृश्यों में मॉडलों को स्कोर करना, प्रतिकूल परीक्षण मामलों को तैयार करना और बेंचमार्किंग करना—ताकि टीमें अनुमान के बजाय आत्मविश्वास के साथ तैनाती कर सकें।

पैट्रोनस ने हाल ही में एआई एजेंटों के लिए अनुकूली वातावरण के रूप में जनरेटिव सिमुलेटर पेश किए हैं। मौजूदा मूल्यांकन या प्रशिक्षण पद्धतियों में किन सीमाओं के कारण आपने यह दिशा अपनाई?

हमने देखा कि एआई एजेंटों के मूल्यांकन और वास्तविक दुनिया में उनके अपेक्षित प्रदर्शन के बीच लगातार अंतर बढ़ता जा रहा है। पारंपरिक मापदंड एक निश्चित समय पर अलग-अलग क्षमताओं को मापते हैं, लेकिन वास्तविक कार्य गतिशील होता है। कार्य बाधित हो जाते हैं, निष्पादन के दौरान आवश्यकताएँ बदल जाती हैं, और निर्णय लंबी अवधि में जटिल हो जाते हैं। एजेंट स्थिर परीक्षणों में तो मजबूत दिख सकते हैं, लेकिन तैनाती के बाद बुरी तरह विफल हो सकते हैं। जैसे-जैसे एजेंट बेहतर होते जाते हैं, वे निश्चित मापदंडों को भी पार कर जाते हैं, जिससे सीखने की प्रक्रिया रुक जाती है। जनरेटिव सिमुलेटर स्थिर परीक्षणों को ऐसे जीवंत वातावरण से बदलने का एक तरीका बनकर उभरे हैं जो एजेंट के सीखने के साथ-साथ अनुकूलित होते रहते हैं।

आप जनरेटिव सिमुलेटर को स्टैटिक बेंचमार्क या निश्चित डेटासेट की तुलना में एआई एजेंटों के प्रशिक्षण और मूल्यांकन के तरीके में क्या बदलाव लाते हुए देखते हैं?

बदलाव यह है कि बेंचमार्क अब परीक्षण नहीं रह जाते, बल्कि वातावरण बन जाते हैं। प्रश्नों का एक निश्चित सेट प्रस्तुत करने के बजाय, सिम्युलेटर असाइनमेंट, आसपास की स्थितियों और मूल्यांकन तर्क को तुरंत उत्पन्न करता है। जैसे-जैसे एजेंट का व्यवहार और प्रदर्शन बेहतर होता जाता है, वातावरण भी अनुकूलित होता जाता है। इससे प्रशिक्षण और मूल्यांकन के बीच की पारंपरिक सीमा समाप्त हो जाती है। अब आप यह नहीं पूछ रहे हैं कि कोई एजेंट बेंचमार्क पास करता है या नहीं, बल्कि यह पूछ रहे हैं कि क्या वह एक गतिशील प्रणाली में समय के साथ विश्वसनीय रूप से कार्य कर सकता है।

तकनीकी दृष्टिकोण से, जनरेटिव सिमुलेटर के पीछे मुख्य वास्तुशिल्पीय विचार क्या हैं, विशेष रूप से कार्य निर्माण, पर्यावरण गतिशीलता और पुरस्कार संरचनाओं के संबंध में?

उच्च स्तर पर, जनरेटिव सिमुलेटर रीइन्फोर्समेंट लर्निंग को एडैप्टिव एनवायरनमेंट जेनरेशन के साथ जोड़ते हैं। सिमुलेटर नए कार्य बना सकता है, दुनिया के नियमों को गतिशील रूप से अपडेट कर सकता है और एजेंट की गतिविधियों का वास्तविक समय में मूल्यांकन कर सकता है। इसका एक प्रमुख घटक करिकुलम एडजस्टर है, जो एजेंट के व्यवहार का विश्लेषण करता है और सीखने को उत्पादक बनाए रखने के लिए परिदृश्यों की कठिनाई और संरचना को संशोधित करता है। पुरस्कार संरचनाओं को सत्यापन योग्य और डोमेन-विशिष्ट बनाया जाता है, ताकि एजेंटों को सतही शॉर्टकट के बजाय सही व्यवहार की ओर निर्देशित किया जा सके।

जैसे-जैसे एआई मूल्यांकन और एजेंट टूलिंग का क्षेत्र अधिक प्रतिस्पर्धी होता जा रहा है, पैट्रोनस का दृष्टिकोण सबसे स्पष्ट रूप से किस चीज से अलग है?

हमारा मुख्य ध्यान पारिस्थितिक वैधता पर है। हम ऐसे वातावरण तैयार करते हैं जो वास्तविक मानवीय कार्यप्रवाहों को प्रतिबिंबित करते हैं, जिनमें व्यवधान, संदर्भ परिवर्तन, उपकरणों का उपयोग और बहु-चरणीय तर्क शामिल हैं। पूर्वनिर्धारित परीक्षणों में अच्छा प्रदर्शन करने के लिए एजेंटों को अनुकूलित करने के बजाय, हमारा ध्यान उन विफलताओं को उजागर करने पर है जो उत्पादन में मायने रखती हैं। सिम्युलेटर समय के साथ व्यवहार का मूल्यांकन करता है, न कि केवल अलग-अलग आउटपुट का।

परंपरागत परीक्षण की तुलना में सिम्युलेटर-आधारित मूल्यांकन से किस प्रकार के कार्यों या विफलता मोड को सबसे अधिक लाभ होता है?

लंबी अवधि और कई चरणों वाले कार्यों को सबसे अधिक लाभ मिलता है। जटिल कार्यों में, प्रति चरण छोटी-छोटी त्रुटियाँ भी बड़ी विफलताओं का कारण बन सकती हैं, जिन्हें स्थिर बेंचमार्क नहीं पकड़ पाते। सिम्युलेटर-आधारित मूल्यांकन से समय के साथ कार्य को सुचारू रूप से चलाने, व्यवधानों से निपटने, उपकरणों के समन्वय और कार्य के दौरान परिस्थितियों में बदलाव आने पर अनुकूलन से संबंधित विफलताओं को उजागर करना संभव हो जाता है।

पर्यावरण-आधारित शिक्षण एआई सुरक्षा के बारे में आपके सोचने के तरीके को कैसे बदलता है, और क्या जनरेटिव सिमुलेटर रिवार्ड हैकिंग या उभरते विफलता मोड जैसे नए जोखिम पैदा करते हैं?

पर्यावरण आधारित शिक्षण से सुरक्षा संबंधी कई समस्याओं का पता लगाना वास्तव में आसान हो जाता है। रिवॉर्ड हैकिंग स्थिर वातावरण में पनपती है, जहाँ एजेंट निश्चित खामियों का फायदा उठा सकते हैं। जनरेटिव सिमुलेटर में, वातावरण स्वयं एक गतिशील लक्ष्य होता है, जिससे उन शॉर्टकट को बनाए रखना कठिन हो जाता है। फिर भी, रिवॉर्ड और निगरानी के संबंध में सावधानीपूर्वक डिज़ाइन की आवश्यकता होती है। वातावरण का लाभ यह है कि वे आपको स्थिर बेंचमार्क की तुलना में एजेंट के व्यवहार पर कहीं अधिक नियंत्रण और स्पष्टता प्रदान करते हैं।

अगले पांच वर्षों को ध्यान में रखते हुए, तकनीकी महत्वाकांक्षा और उद्योग पर प्रभाव दोनों के संदर्भ में आप पैट्रोनस एआई को कहाँ देखते हैं?

हमारा मानना ​​है कि वातावरण कृत्रिम बुद्धिमत्ता (एआई) के लिए मूलभूत ढांचा बनता जा रहा है। जैसे-जैसे एजेंट प्रश्नों के उत्तर देने से आगे बढ़कर वास्तविक कार्य करने लगते हैं, वे वातावरण जहां वे सीखते हैं, उनकी क्षमता और विश्वसनीयता को निर्धारित करेंगे। हमारा दीर्घकालिक लक्ष्य वास्तविक दुनिया के कार्यप्रवाहों को संरचित वातावरण में बदलना है, जहां से एजेंट निरंतर सीख सकें। मूल्यांकन और प्रशिक्षण के बीच पारंपरिक अलगाव समाप्त हो रहा है, और हमारा मानना ​​है कि यह बदलाव एआई प्रणालियों की अगली पीढ़ी को परिभाषित करेगा।

बेहतरीन साक्षात्कार के लिए धन्यवाद, जो पाठक अधिक जानना चाहते हैं, उन्हें अवश्य आना चाहिए पैट्रोनस एआई.