जेनरेटिव एआई में एलएलएम एजेंट्स के अवसरों और चुनौतियों का डिकोडिंग

हम जेनरेटिव एआई एप्लिकेशन की प्रगति देख रहे हैं जो बड़े भाषा मॉडल (एलएलएम) द्वारा संचालित होते हैं, प्रॉम्प्ट से रिट्रीवल ऑगमेंटेड जेनरेशन (आरएजी) से एजेंटों तक। एजेंटों के बारे में उद्योग और अनुसंधान सर्कल में बहुत चर्चा हो रही है, मुख्य रूप से इस प्रौद्योगिकी की शक्ति के लिए जो एंटरप्राइज़ एप्लिकेशन को बदलने और श्रेष्ठ ग्राहक अनुभव प्रदान करने में सक्षम है। एजेंटों के निर्माण के लिए सामान्य पैटर्न हैं जो कृत्रिम सामान्य बुद्धिमत्ता (एजीआई) की ओर पहले कदम की अनुमति देते हैं।

मेरे पिछले लेख में, हमने एलएलएम संचालित एप्लिकेशन बनाने के लिए बुद्धिमत्ता की एक सीढ़ी देखी। प्रॉम्प्ट से शुरू जो समस्या डोमेन को पकड़ता है और एलएलएम की आंतरिक मेमोरी का उपयोग करके आउटपुट उत्पन्न करता है। आरएजी के साथ, हम प्रॉम्प्ट को बाहरी ज्ञान से बढ़ाते हैं जो एक वेक्टर डेटाबेस से खोजा जाता है ताकि आउटपुट को नियंत्रित किया जा सके। अगले एलएलएम कॉल को चेनिंग करके हम जटिल एप्लिकेशन को महसूस करने के लिए कार्य प्रवाह बना सकते हैं। एजेंट इसे अगले स्तर पर ले जाते हैं bằng tự động निर्धारित करने के लिए कि इन एलएलएम श्रृंखलाओं को कैसे बनाया जाना है। आइए विस्तार से देखें।

एजेंट – अंतर्गत

एजेंटों के साथ एक प्रमुख पैटर्न यह है कि वे एलएलएम की भाषा समझने की शक्ति का उपयोग करके एक योजना बनाते हैं कि कैसे एक दिए गए समस्या का समाधान किया जाए। एलएलएम समस्या को समझता है और हमें समस्या का समाधान करने के लिए कदमों की एक श्रृंखला देता है। हालांकि, यह वहीं नहीं रुकता है। एजेंट एक शुद्ध समर्थन प्रणाली नहीं है जो आपको समस्या का समाधान करने के लिए सिफारिशें प्रदान करेगी और फिर आपको सिफारिशों का पालन करने के लिए बटन देगी। एजेंटों को टूलिंग से सशक्त बनाया गया है ताकि वे आगे बढ़कर कार्रवाई कर सकें। डरावना है, है ना!?

यदि हम एक एजेंट से एक बुनियादी प्रश्न पूछते हैं जैसे:

मानव: टेलीफोन के आविष्कारक ने किस कंपनी की स्थापना की?

निम्नलिखित एक एजेंट द्वारा लिए जाने वाले विचार के चरणों का एक नमूना है।

एजेंट (विचार):

• विचार: मुझे टेलीफोन के आविष्कारक की खोज करने की आवश्यकता है।
• कार्रवाई: खोज [टेलीफोन के आविष्कारक]
• अवलोकन: अलेक्जेंडर ग्राहम बेल
• विचार: मुझे अलेक्जेंडर ग्राहम बेल द्वारा स्थापित कंपनी की खोज करने की आवश्यकता है।
• कार्रवाई: खोज [अलेक्जेंडर ग्राहम बेल द्वारा स्थापित कंपनी]
• अवलोकन: अलेक्जेंडर ग्राहम बेल ने 1885 में अमेरिकन टेलीफोन और टेलीग्राफ कंपनी (एटी एंड टी)
• विचार: मैंने उत्तर पाया है। मैं वापस लौटूंगा।

एजेंट (प्रतिक्रिया): अलेक्जेंडर ग्राहम बेल ने 1885 में एटी एंड टी की स्थापना की

आप देख सकते हैं कि एजेंट एक व्यवस्थित तरीके से समस्या को उप-समस्याओं में तोड़ता है जो विशिष्ट कार्रवाइयों के द्वारा हल की जा सकती हैं। यहां कार्रवाइयां एलएलएम द्वारा सिफारिश की जाती हैं और हम इन्हें विशिष्ट टूल्स से मैप कर सकते हैं जो इन कार्रवाइयों को लागू कर सकते हैं। हम एक खोज टूल को एजेंट के लिए सक्षम कर सकते हैं ताकि जब यह महसूस करता है कि एलएलएम ने खोज को एक कार्रवाई के रूप में सिफारिश की है, तो यह टूल को एलएलएम द्वारा प्रदान किए गए पैरामीटर के साथ कॉल करेगा। यहां खोज इंटरनेट पर हो सकती है लेकिन एक आंतरिक ज्ञान आधार जैसे वेक्टर डेटाबेस में भी निर्देशित की जा सकती है। प्रणाली अब स्वयं-सufficient हो जाती है और जटिल समस्याओं का समाधान करने के लिए कदमों की एक श्रृंखला का पता लगा सकती है। लैंगचेन और एलएलएमएआईंडेक्स जैसे फ्रेमवर्क आपको इन एजेंटों को बनाने और टूलिंग और एपीआई से कनेक्ट करने का एक आसान तरीका प्रदान करते हैं। अमेज़न ने हाल ही में अपने बेडरॉक एजेंट्स फ्रेमवर्क लॉन्च किया है जो एजेंटों को डिज़ाइन करने के लिए एक दृश्य इंटरफ़ेस प्रदान करता है।

अंतर्गत, एजेंट एलएलएम को प्रॉम्प्ट भेजने का एक विशेष तरीका अपनाते हैं जो उन्हें एक कार्रवाई योजना उत्पन्न करने के लिए प्रेरित करता है। उपरोक्त विचार-कार्रवाई-अवलोकन पैटर्न रिएक्ट (रीज़निंग एंड एक्टिंग) नामक एक प्रकार के एजेंट में लोकप्रिय है। अन्य प्रकार के एजेंटों में एमआरकेएल और प्लान एंड एक्जिक्यूट शामिल हैं, जो मुख्य रूप से अपने प्रॉम्प्टिंग शैली में भिन्न होते हैं।

जटिल एजेंटों के लिए, कार्रवाइयां स्रोत प्रणालियों में परिवर्तन करने वाले टूल्स से जुड़ी हो सकती हैं। उदाहरण के लिए, हम एजेंट को एक टूल से कनेक्ट कर सकते हैं जो छुट्टी के शेष की जांच करता है और एक कर्मचारी के लिए एक एर्प प्रणाली में छुट्टी के लिए आवेदन करता है। अब हम एक सुंदर चैटबॉट बना सकते हैं जो उपयोगकर्ताओं के साथ बातचीत करेगा और एक चैट कमांड के माध्यम से प्रणाली में छुट्टी के लिए आवेदन करेगा। अधिक जटिल स्क्रीन की आवश्यकता नहीं होगी, एक सरल एकीकृत चैट इंटरफ़ेस। रोमांचक लगता है, है ना!?

सावधानियां और जिम्मेदार एआई की आवश्यकता

अब यदि हमारे पास एक टूल है जो स्टॉक ट्रेडिंग पर लेन-देन को एक पूर्व-अधिकृत एपीआई के माध्यम से आमंत्रित करता है। आप एक एप्लिकेशन बनाते हैं जहां एजेंट स्टॉक परिवर्तनों (टूल्स का उपयोग करके) का अध्ययन करता है और आपके लिए स्टॉक की खरीद और बिक्री के निर्णय लेता है। लेकिन यदि एजेंट गलत स्टॉक बेच देता है क्योंकि यह भ्रमित हो गया और एक गलत निर्णय लिया? चूंकि एलएलएम विशाल मॉडल हैं, इसलिए यह समझना मुश्किल है कि वे कुछ निर्णय क्यों लेते हैं, इसलिए भ्रम सामान्य हैं यदि उचित गार्डरेल नहीं हैं।

जबकि एजेंट सभी आकर्षक हैं, आप शायद अनुमान लगा चुके होंगे कि वे कितने खतरनाक हो सकते हैं। यदि वे भ्रमित हो जाते हैं और एक गलत कार्रवाई करते हैं जो बड़े वित्तीय नुकसान या एंटरप्राइज़ प्रणालियों में बड़ी समस्याएं पैदा कर सकते हैं। इसलिए, जिम्मेदार एआई एलएलएम संचालित एप्लिकेशन के युग में अत्यधिक महत्वपूर्ण हो रहा है। जिम्मेदार एआई के सिद्धांत, जो पुनरुत्पादन, पारदर्शिता और जवाबदेही के बारे में हैं, एजेंटों द्वारा लिए गए निर्णयों पर गार्डरेल लगाने का प्रयास करते हैं और यह तय करने के लिए जोखिम विश्लेषण का सुझाव देते हैं कि किन कार्रवाइयों के लिए मानव-इन-द-लूप की आवश्यकता है। जैसे-जैसे अधिक जटिल एजेंट डिज़ाइन किए जा रहे हैं, उन्हें अधिक जांच, पारदर्शिता और जवाबदेही की आवश्यकता होती है ताकि हमें पता चले कि वे क्या कर रहे हैं।

समापन विचार

एजेंटों की क्षमता तार्किक कदमों के एक मार्ग को उत्पन्न करने के लिए उन्हें मानवीय तर्क के बहुत करीब ले जाती है। उन्हें अधिक शक्तिशाली टूल्स से सशक्त बनाने से उन्हें सुपरपावर मिल सकती है। रिएक्ट जैसे पैटर्न मानव द्वारा समस्या का समाधान करने के तरीके की नकल करने का प्रयास करते हैं और हम विशिष्ट संदर्भों और क्षेत्रों (बैंकिंग, बीमा, स्वास्थ्य सेवा, औद्योगिक, आदि) के लिए प्रासंगिक एजेंट पैटर्न देखेंगे। भविष्य यहाँ है और एजेंटों के पीछे की प्रौद्योगिकी हमारे उपयोग के लिए तैयार है। 同 समय, हमें जिम्मेदार एआई गार्डरेल पर करीब से ध्यान देने की आवश्यकता है ताकि हम स्काईनेट का निर्माण न करें!