क्यों एजेंटिक एआई वास्तविक दुनिया में विफल हो जाता है

पिछले कुछ वर्षों में, हमने एजेंटिक एआई सिस्टम को प्रभावशाली प्रदर्शन बनाते हुए देखा है। वे ऐसा कोड लिखते हैं जो परीक्षण मामलों को पास करता है। वे वेब पर खोज करते हैं और जटिल प्रश्नों का उत्तर देते हैं। वे सॉफ़्टवेयर इंटरफ़ेस के साथ उल्लेखनीय सटीकता के साथ नेविगेट करते हैं। प्रत्येक सम्मेलन प्रस्तुति, प्रत्येक प्रेस विज्ञप्ति, प्रत्येक बेंचमार्क रिपोर्ट एजेंटिक एआई के उदय को उजागर करती है।

लेकिन इन प्रभावशाली प्रदर्शनों के नीचे एक समस्या छिपी है। जब ये सिस्टम नियंत्रित वातावरण से वास्तविक दुनिया के तैनाती में जाते हैं, तो वे अक्सर विफल हो जाते हैं जैसा कि बेंचमार्क ने कभी अनुमान नहीं लगाया था। वह कोड जनरेटर जो 100 क्यूरेटेड उदाहरणों पर बिल्कुल सही काम करता था, अज्ञात एज केस पर त्रुटियां उत्पन्न करना शुरू कर देता है। वेब खोज एजेंट जिसने प्रयोगशाला में 85% सटीकता हासिल की थी, उपयोगकर्ता व्यवहार के बदलने के साथ बढ़ती तरह से अप्रासंगिक परिणाम पुनर्प्राप्त करता है। प्लानिंग सिस्टम जिसने परीक्षण के दौरान दस एपीआई कॉल को बिना किसी समस्या के समन्वित किया था, जब यह एक अप्रत्याशित एपीआई प्रतिक्रिया प्रारूप का सामना करता है तो यह टूट जाता है।

इन प्रणालियों की विफलता का कारण यह नहीं है कि उनमें बुद्धिमत्ता की कमी है, बल्कि यह है कि उनमें अनुकूलन की कमी है। समस्या एजेंट के सीखने और अनुकूलन के तरीके में है। जबकि अत्याधुनिक प्रणालियां विशाल फाउंडेशन मॉडल पर बनाई गई हैं, कच्ची बुद्धिमत्ता ही पर्याप्त नहीं है। विशेष कार्यों को करने के लिए, एक एजेंट को अनुकूलन करने में सक्षम होना चाहिए। वर्तमान एजेंटिक एआई प्रणालियां ऐसा नहीं कर सकती हैं क्योंकि उनके डिजाइन और प्रशिक्षण में संरचनात्मक सीमाएं हैं। इस लेख में, हम इन सीमाओं का अन्वेषण करते हैं और वे क्यों बनी रहती हैं।

प्रदर्शनों में क्षमता का भ्रम

आधुनिक एआई में सबसे खतरनाक विफलता मोड क्षमता का भ्रम है। छोटे प्रदर्शन अक्सर वास्तविक जटिलता को छुपाते हैं। वे साफ डेटासेट, पredictable एपीआई और संकीर्ण कार्य दायरे पर काम करते हैं। उत्पादन वातावरण इसके विपरीत हैं। डेटाबेस अधूरे हैं, स्कीमाएं बिना नोटिस के बदलती हैं, सेवाएं समय समाप्त हो जाती हैं, अनुमतियां टकराती हैं, और उपयोगकर्ता ऐसे प्रश्न पूछते हैं जो प्रणाली के अंतर्निहित धारणाओं का उल्लंघन करते हैं।

यह वह जगह है जहां उत्पादन जटिलता में काफी वृद्धि होती है। एक प्रदर्शन में एक बार दिखने वाला एक एकल एज केस प्रतिदिन तैनाती में हजारों बार दिखाई दे सकता है। छोटे संभावित त्रुटियां जमा होती हैं। जो एजेंट “अधिकांशतः सही” होता है वह जल्द ही वास्तविक संचालन में अविश्वसनीय हो जाता है।

समस्या का केंद्र जमे हुए फाउंडेशन मॉडल पर निर्भरता है। ये मॉडल पैटर्न पूर्ति में उत्कृष्ट हैं, लेकिन एजेंटिक व्यवहार अनुक्रमिक और स्थितीय है। प्रत्येक क्रिया पिछली एक के परिणाम पर निर्भर करती है। ऐसे सेटिंग्स में, सांख्यिकीय अनिश्चितता जल्दी से बढ़ जाती है। एक छोटी सी गलती शुरुआत में एक कार्य में बाद में लूप, डेड एंड या विनाशकारी क्रियाओं में बढ़ सकती है। यही कारण है कि एजेंट जो मूल्यांकन के दौरान सक्षम दिखाई देते हैं वे तैनाती के बाद जल्दी से खराब हो जाते हैं।

मुद्दा एक लापता सुविधा नहीं है। यह है कि सामान्य-उद्देश्य मॉडल को डोमेन विशेषज्ञों की तरह व्यवहार करने के लिए कहा जा रहा है बिना उन्हें अपने वातावरण से सीखने की अनुमति दिए।

सामान्य बुद्धिमत्ता से स्थितीय क्षमता तक

फाउंडेशन मॉडल डिजाइन द्वारा सामान्यवादी हैं। वे व्यापक ज्ञान और लचीले तर्क पैटर्न को एन्कोड करते हैं। उत्पादन एजेंट, हालांकि, स्थितीय होने चाहिए। उन्हें एक विशिष्ट संगठन और इसके उपकरणों के नियमों, प्रतिबंधों और विफलता मोड को समझने की आवश्यकता है। इसके बिना, वे किसी ऐसे व्यक्ति की तरह लगते हैं जिसने हर मैनुअल पढ़ा है लेकिन नौकरी पर कभी काम नहीं किया है।

इस अंतर को पाटने के लिए अनुकूलन को ही पुनः सोचने की आवश्यकता है। वर्तमान तरीके दो व्यापक, त्रुटिपूर्ण शिविरों में आते हैं: मुख्य एआई एजेंट को पुनः प्रशिक्षित करना, या बाहरी उपकरणों को समायोजित करना जो इसका उपयोग करते हैं। प्रत्येक दृष्टिकोण एक समस्या का समाधान करता है जबकि दूसरों का निर्माण करता है। इससे हमें ऐसी प्रणालियां मिलती हैं जो या तो बहुत कठोर, बहुत महंगी या उत्पादन वातावरण के लिए अस्थिर हैं जहां स्थिरता और लागत महत्वपूर्ण हैं।

एकल एजेंट जाल

पहला दृष्टिकोण, एजेंट अनुकूलन, मुख्य एलएलएम को उपकरणों का उपयोग करने में अधिक चतुर बनाने का प्रयास करता है। यह मूल रूप से एआई को विशिष्ट कौशल सिखाता है जिनकी उन्हें उपकरणों का उपयोग करने की आवश्यकता है। शोधकर्ता इसे आगे दो वर्गों में वर्गीकृत करते हैं। कुछ तरीके एजेंट को सीधे उपकरणों से प्रतिक्रिया का उपयोग करके प्रशिक्षित करते हैं, जैसे कि कोड संकलक की सफलता या खोज इंजन के परिणाम। दूसरे इसे अंतिम आउटपुट की सही तरीके से प्रशिक्षित करते हैं, जैसे कि सही या गलत उत्तर।

सिस्टम जैसे डीपसीक-आर1 और सर्च-आर1 दिखाते हैं कि एजेंट जटिल, बहु-चरण रणनीतियों को सीख सकते हैं जो उपकरणों का उपयोग करते हैं। हालांकि, यह शक्ति एक महत्वपूर्ण लागत के साथ आती है। अरब-पैरामीटर मॉडल को प्रशिक्षित करना गणनात्मक रूप से अति उत्साही है। अधिक गंभीर बात यह है कि यह एक कठोर, भंगुर बुद्धिमत्ता बनाता है। एजेंट के ज्ञान और उपकरण-उपयोग नियमों को मिलाकर, यह दृष्टिकोण अद्यतनों को धीमा, जोखिम भरा और तेजी से बदलती व्यावसायिक आवश्यकताओं के लिए अनुपयुक्त बनाता है। एक नए कार्य या उपकरण के लिए एजेंट को अनुकूलित करने से “विनाशकारी भूलने” का खतरा है, जहां यह पहले से मास्टर किए गए कौशल खो देता है। यह एक पूरी फैक्ट्री असेंबली लाइन को पुनः बनाने की तरह है जब आप एक नया विजेट जोड़ना चाहते हैं।

नाजुक टूलबॉक्स समस्या

इन सीमाओं को पहचानते हुए, दूसरा प्रमुख दृष्टिकोण, उपकरण अनुकूलन, मुख्य एजेंट को जमे हुए छोड़ देता है और इसके बजाय इसके पारिस्थितिकी तंत्र में उपकरणों को अनुकूलित करता है। यह अधिक मॉड्यूलर और लागत प्रभावी है। कुछ उपकरण सामान्य रूप से प्रशिक्षित होते हैं, जैसे कि एक मानक खोज रिट्रीवर, और प्लग किए जाते हैं। अन्य विशेष रूप से एक जमे हुए एजेंट के पूरक के लिए ट्यून किए जाते हैं, जो इसके आउटपुट से सीखते हैं और बेहतर सहायक बन जाते हैं।

यह परिदृश्य कुशलता के लिए बहुत सारे वादे रखता है। एक सिस्टम के बारे में एक लैंडमार्क अध्ययन जिसे एस3 कहा जाता है, ने इस दृष्टिकोण की संभावना को प्रदर्शित किया। इसने एक छोटे से, विशेषज्ञ “खोजकर्ता” उपकरण को एक जमे हुए एलएलएम के समर्थन के लिए प्रशिक्षित किया, जो एक पूरी तरह से पुनः प्रशिक्षित एजेंट जैसे सर्च-आर1 के समान प्रदर्शन हासिल किया, लेकिन 70 गुना कम प्रशिक्षण डेटा का उपयोग किया।直觉 यह है कि क्यों एक जीनियस भौतिक विज्ञानी को पुस्तकालय कैटलॉग का उपयोग करने के लिए फिर से सिखाना? इसके बजाय, बस एक बेहतर लाइब्रेरियन को प्रशिक्षित करें जो भौतिक विज्ञानी की जरूरतों को समझता है।

हालांकि, टूलबॉक्स मॉडल में अपनी सीमा है। पूरे सिस्टम की क्षमताएं अंततः जमे हुए एलएलएम के अंतर्निहित तर्कसंगत द्वारा सीमित हैं। आप एक सर्जन को एक तेज़ स्केलपेल दे सकते हैं, लेकिन आप एक गैर-सर्जन को हृदय शल्य चिकित्सा करने के लिए नहीं बना सकते। इसके अलावा, अनुकूलित उपकरणों के बढ़ते सूट को समन्वित करना एक जटिल एकीकरण चुनौती बन जाता है। टूल ए मेट्रिक के लिए अनुकूलित हो सकता है जो टूल बी के इनपुट आवश्यकताओं का उल्लंघन करता है। सिस्टम का प्रदर्शन तब जुड़े हुए घटकों के बीच एक नाजुक संतुलन पर निर्भर करता है।

सह-अनुकूलन चुनौती

यह हमें वर्तमान एजेंटिक एआई परिदृश्यों में अनुकूलन घाटे के मूल में ले जाता है। हम या तो एजेंट को अनुकूलित करते हैं या उपकरणों को अनुकूलित करते हैं, लेकिन दोनों को एक सिंक्रनाइज़, स्थिर तरीके से नहीं। उत्पादन वातावरण स्थिर नहीं हैं। नए डेटा, नए उपयोगकर्ता आवश्यकताएं और नए उपकरण लगातार उभर रहे हैं। एक एआई सिस्टम जो अपने “दिमाग” और “हाथों” दोनों को चिकनी और सुरक्षित रूप से विकसित नहीं कर सकता है, अंततः टूट जाएगा।

शोधकर्ता इस आवश्यकता को सह-अनुकूलन के रूप में पहचानते हैं जो अगला मोर्चा है। हालांकि, यह एक जटिल चुनौती है। यदि एजेंट और इसके उपकरण दोनों एक ही समय में सीख रहे हैं, तो विफलता के लिए कौन सा श्रेय या दोष मिलता है? कैसे एक अस्थिर प्रतिक्रिया लूप को रोका जाए जहां एजेंट और उपकरण एक दूसरे के परिवर्तनों का पीछा करते हैं बिना समग्र प्रदर्शन में सुधार किए? प्रारंभिक प्रयास, जैसे कि एजेंट-उपकरण संबंध को एक सहकारी बहु-एजेंट प्रणाली के रूप में व्यवहार करना, कठिनाई को प्रकट करते हैं। श्रेय असाइनमेंट और स्थिरता के लिए मजबूत समाधानों के बिना, यहां तक ​​कि हमारी सबसे उन्नत एजेंटिक एआई एक प्रभावशाली लेकिन असंबद्ध क्षमताओं का सेट बनी हुई है।

स्मृति को पहले दर्जे की प्रणाली के रूप में

अनुकूलन घाटे के सबसे दिखाई देने वाले संकेतों में से एक स्थिर स्मृति है। कई तैनात एजेंट समय के साथ बेहतर नहीं होते हैं। वे एक ही गलतियां दोहराते हैं क्योंकि वे अनुभव को आंतरिक नहीं कर सकते हैं। प्रत्येक इंटरैक्शन को पहले जैसे ही माना जाता है।

उत्पादन वातावरण अनुकूलन स्मृति की मांग करते हैं। एजेंटों को लंबी दूरी की कार्यों को संभालने के लिए एपिसोडिक रिकॉल, योजनाओं को परिष्कृत करने के लिए रणनीतिक स्मृति और ऑपरेशनल स्मृति की आवश्यकता होती है ताकि वे गलतियों को दोहराने से बच सकें। इसके बिना, एजेंट नाजुक और अविश्वसनीय लगते हैं।

स्मृति को एक ट्यूनेबल घटक के रूप में माना जाना चाहिए, न कि एक निष्क्रिय लॉग के रूप में। जो प्रणालियां अनुभव की समीक्षा करती हैं, गलतियों से सीखती हैं और अपने व्यवहार को समायोजित करती हैं, वे बहुत अधिक स्थिर हैं।

अनुकूलन प्रणालियों से नए जोखिम

अनुकूलन अपने साथ जोखिम लाता है। एजेंट लक्ष्यों के बजाय मीट्रिक को अनुकूलित करना सीख सकते हैं, जिसे परजीवी अनुकूलन के रूप में जाना जाता है। वे सफल दिखाई दे सकते हैं जबकि अंतर्निहित उद्देश्य को कमजोर करते हैं। बहु-एजेंट प्रणालियों में, समझौता किए गए उपकरण एजेंटों को मैनिपुलेट कर सकते हैं सूक्ष्म प्रॉम्प्ट इंजेक्शन या भ्रामक डेटा के माध्यम से। इन जोखिमों को कम करने के लिए, एजेंटों को मजबूत सत्यापन तंत्र की आवश्यकता है। क्रियाएं परीक्षण योग्य, प्रतिवर्ती और लेखा परीक्षित होनी चाहिए। एजेंट और उपकरणों के बीच सुरक्षा परतें सुनिश्चित करती हैं कि गलतियां चुपचाप प्रसारित नहीं होती हैं।

नीचे की रेखा

एजेंटिक एआई के लिए वास्तविक दुनिया में काम करने के लिए, यह केवल बुद्धिमान होने के लिए पर्याप्त नहीं है; यह अनुकूलन करने में सक्षम होना चाहिए। अधिकांश एजेंट आज विफल हो जाते हैं क्योंकि वे “जमे हुए” हैं समय में, जबकि वास्तविक दुनिया जटिल और निरंतर बदलती रहती है। यदि एक एआई अपनी स्मृति को अद्यतन नहीं कर सकता है और अपनी गलतियों से सुधार नहीं कर सकता है, तो यह अंततः टूट जाएगी। विश्वसनीयता एक पूर्ण प्रदर्शन से नहीं आती है; यह अनुकूलन करने की क्षमता से आती है।