जब एआई एजेंट एआई बनाना शुरू करते हैं: कोई भी तैयार नहीं है रिकर्सिव इंटेलिजेंस विस्फोट के लिए

दशकों से, कृत्रिम बुद्धिमत्ता ने सावधानी, मुख्य रूप से रैखिक चरणों में प्रगति की। शोधकर्ताओं ने मॉडल बनाए। इंजीनियरों ने प्रदर्शन में सुधार किया। संगठनों ने विशिष्ट कार्यों को स्वचालित करने के लिए प्रणालियों को तैनात किया। प्रत्येक सुधार मानव डिजाइन और पर्यवेक्षण पर बहुत अधिक निर्भर था। यह पैटर्न अब टूट रहा है। शांतिपूर्वक लेकिन निर्णायक रूप से, एआई प्रणालियां एक सीमा पार कर रही हैं जहां वे केवल मानव द्वारा निर्मित उपकरण नहीं हैं। वे स्वयं निर्माता बन रहे हैं।

एआई एजेंट अन्य एआई प्रणालियों को डिजाइन, मूल्यांकन और तैनात करना शुरू कर रहे हैं। ऐसा करके, वे प्रतिक्रिया लूप बनाते हैं जहां प्रत्येक पीढ़ी अगले को बेहतर बनाती है। यह परिवर्तन नाटकीय हेडलाइंस के साथ खुद की घोषणा नहीं करता है। यह शोध पत्रों, डेवलपर टूल्स और उद्यम प्लेटफार्मों के माध्यम से होता है। हालांकि, इसके परिणाम गहरे हैं। जब बुद्धिमत्ता स्वयं को रिकर्सिव रूप से सुधार सकती है, तो प्रगति मानव समयरेखा या直觉 का पालन नहीं करती है। यह तेजी से बढ़ती है।

यह लेख बताता है कि हम इस पल कैसे पहुंचे, क्यों रिकर्सिव बुद्धिमत्ता महत्वपूर्ण है, और क्यों समाज इसके लिए तैयार नहीं है जितना कि यह होना चाहिए। बुद्धिमत्ता विस्फोट, एक बार एक दार्शनिक विचार, अब एक ठोस इंजीनियरिंग चुनौती बन गया है।

बुद्धिमत्ता विस्फोट का विकास

एक मशीन का अपनी बुद्धिमत्ता में सुधार करने का विचार आधुनिक कंप्यूटिंग से पहले का है। 1960 के दशक की शुरुआत में, ब्रिटिश गणितज्ञ आई. जे. गुड ने “बुद्धिमत्ता विस्फोट” की अवधारणा पेश की। उनका तर्क था कि: यदि एक मशीन अपने डिजाइन में सुधार करने के लिए पर्याप्त बुद्धिमान हो जाती है, तो भी थोड़ा सा, सुधारित संस्करण अगले एक को सुधारने में बेहतर होगा। यह चक्र तेजी से दोहराया जा सकता है, जिससे मानव समझ या नियंत्रण से परे वृद्धि हो सकती है। उस समय, यह एक दार्शनिक विचार प्रयोग था, जो अधिक सिद्धांत में चर्चा की गई थी niż अभ्यास में।

कुछ दशकों बाद, यह विचार कंप्यूटर वैज्ञानिक जुर्गेन श्मिडहबर के काम के माध्यम से तकनीकी आधार प्राप्त करता है। उनके प्रस्ताव में गोडेल मशीन का वर्णन किया गया है, जो अपने स्वयं के कोड के किसी भी हिस्से को पुनः लिख सकती है, बशर्ते यह正式 रूप से साबित कर सके कि परिवर्तन इसके भविष्य के प्रदर्शन में सुधार करेगा। पारंपरिक सीखने वाली प्रणालियों के विपरीत, जो निर्धारित वास्तुकला के भीतर पैरामीटर समायोजित करती हैं, गोडेल मशीन अपने स्वयं के सीखने के नियमों को बदल सकती है। अभी भी सैद्धांतिक, यह काम बुद्धिमत्ता विस्फोट को कुछ ऐसा बनाता है जिसे अध्ययन किया जा सकता है, औपचारिक रूप से और अंततः निर्मित किया जा सकता है।

अंतिम परिवर्तन से सिद्धांत से अभ्यास में आया जब आधुनिक एआई एजेंटों का उदय हुआ। ये प्रणालियां केवल प्रेरित करने वाले प्रतिक्रियाओं का उत्पादन नहीं करती हैं। वे योजना बनाते हैं, तर्क करते हैं, कार्य करते हैं, परिणामों का अवलोकन करते हैं और समय के साथ व्यवहार को समायोजित करते हैं। एजेंटिक वास्तुकला के उद्भव के साथ, बुद्धिमत्ता विस्फोट दर्शन से इंजीनियरिंग में चला गया। प्रारंभिक प्रयोग, जैसे डार्विन गोडेल मशीन की अवधारणा, ऐसी प्रणालियों की ओर संकेत करती हैं जो पुनरावृत्ति स्व-सुधार के माध्यम से विकसित होती हैं। जो इस पल को अलग बनाता है वह पुनरावृत्ति है। जब एक एआई एजेंट अन्य एजेंटों को बनाने और परिष्कृत करने में सक्षम होता है, तो प्रत्येक पुनरावृत्ति से सीखता है, सुधार यौगिक हो जाता है।

जब एआई एजेंट एआई बनाना शुरू करते हैं

दो प्रमुख रुझान इस परिवर्तन को चला रहे हैं। पहला एआई एजेंटों के उदय का है। ये प्रणालियां विस्तारित अवधि में लक्ष्यों का पीछा करती हैं, कार्यों को चरणों में तोड़ती हैं, उपकरणों को समन्वयित करती हैं और प्रतिक्रिया के आधार पर अनुकूलन करती हैं। वे स्थिर मॉडल नहीं हैं। वे प्रक्रियाएं हैं।

दूसरा रुझान स्वचालित मशीन लर्निंग है। ऐसी प्रणालियां अब मौजूद हैं जो वास्तुकला को डिजाइन कर सकती हैं, हाइपरपैरामीटर को ट्यून कर सकती हैं, प्रशिक्षण पाइपलाइनों को उत्पन्न कर सकती हैं और न्यूनतम मानव इनपुट के साथ नए एल्गोरिदम का प्रस्ताव कर सकती हैं। जब एजेंटिक तर्क स्वचालित मॉडल निर्माण के साथ मिलता है, तो एआई को एआई बनाने की क्षमता मिलती है।

यह अब एक कल्पनात्मक परिदृश्य नहीं है। स्वायत्त एजेंट जैसे ऑटोจीपीटी दिखाते हैं कि एकल लक्ष्य चक्रों को योजना, कार्यान्वयन, मूल्यांकन और संशोधन में कैसे ट्रिगर कर सकता है। शोध वातावरण में, प्रणालियां जैसे साकाना एआई के वैज्ञानिक-वी2 और डीपमाइंड के अल्फावॉल्व एजेंटों को प्रयोगों को डिजाइन करने, एल्गोरिदम का प्रस्ताव करने और पुनरावृत्ति प्रतिक्रिया के माध्यम से समाधानों को परिष्कृत करने दिखाते हैं। न्यूरल आर्किटेक्चर सर्च में, एआई प्रणालियां पहले से ही मानव-डिज़ाइन किए गए नेटवर्क को पार करने या समान करने वाले मॉडल संरचनाएं खोजती हैं। ये प्रणालियां केवल समस्याओं का समाधान नहीं कर रही हैं। वे समस्याओं को हल करने के लिए उपयोग किए जाने वाले तंत्र में सुधार कर रही हैं। प्रत्येक चक्र बेहतर उपकरण उत्पन्न करता है, जो बेहतर चक्रों को सक्षम बनाता है।

इस प्रक्रिया को स्केल करने के लिए, शोधकर्ता और कंपनियां बढ़ती संख्या में ऑर्केस्ट्रेटर वास्तुकला पर निर्भर करती हैं। एक केंद्रीय मेटा-एजेंट एक उच्च-स्तरीय उद्देश्य प्राप्त करता है। यह कार्य को उप-समस्याओं में विभाजित करता है, उन्हें संबोधित करने के लिए विशेषज्ञ एजेंटों को उत्पन्न करता है, वास्तविक दुनिया के डेटा का उपयोग करके परिणामों का मूल्यांकन करता है और सर्वोत्तम परिणामों को एकीकृत करता है। खराब डिजाइनों को त्याग दिया जाता है और सफल लोगों को मजबूत किया जाता है। समय के साथ, ऑर्केस्ट्रेटर स्वयं एजेंटों को डिजाइन करने में बेहतर हो जाता है।

जबकि एआई एजेंट पूरी तरह से अन्य एआई प्रणालियों को बनाने और सुधारने के लिए कब समयबद्ध होगा, इसके लिए सटीक समयरेखा अनिश्चित रहती है, वर्तमान शोध ट्रेजेक्टरी और अग्रणी एआई शोधकर्ताओं और प्रैक्टिशनर्स के मूल्यांकन से संकेत मिलता है कि परिवर्तन अपेक्षा से तेजी से आ रहा है। इस क्षमता के प्रारंभिक, सीमित संस्करण पहले से ही शोध प्रयोगशालाओं और उद्यम तैनाती में दिखाई दे रहे हैं, जहां एजेंट अन्य प्रणालियों को डिजाइन, मूल्यांकन और परिष्कृत करना शुरू कर रहे हैं जिसमें मानव की कम से कम भागीदारी है।

अनुमानितता का उदय

रिकर्सिव बुद्धिमत्ता पारंपरिक स्वचालन का सामना नहीं करने वाली चुनौतियों को पेश करती है। इनमें से एक चुनौती प्रणाली स्तर पर अनुमानितता है। जब कई एजेंट बातचीत करते हैं, तो उनका सामूहिक व्यवहार उनके व्यक्तिगत डिजाइन के पीछे के इरादों से विचलित हो सकता है। इस घटना को उभयवृत्ति व्यवहार के रूप में जाना जाता है।

उभयवृत्ति एक ही दोषपूर्ण घटक से नहीं उत्पन्न होती है, बल्कि कई सक्षम घटकों के बीच बातचीत से। स्वचालित व्यापार प्रणालियों पर विचार करें। प्रत्येक व्यापारिक एजेंट तर्कसंगत नियमों का पालन कर सकता है जो लाभ को अधिकतम करने के लिए डिज़ाइन किए गए हैं और प्रतिबंधों के भीतर हैं। हालांकि, जब हजारों ऐसे एजेंट उच्च गति से बातचीत करते हैं, तो प्रतिक्रिया लूप बन सकते हैं। एक एजेंट की प्रतिक्रिया दूसरे की प्रतिक्रिया को ट्रिगर कर सकती है, जो एक और को ट्रिगर कर सकती है, जब तक कि प्रणाली अस्थिर न हो जाए। बाजार के पतन एकल एजेंट के दोषपूर्ण होने के बिना हो सकते हैं। यह विफलता दुर्भावनापूर्ण इरादे से नहीं है। यह स्थानीय अनुकूलन और प्रणाली-व्यापी लक्ष्यों के बीच मिसलाइनमेंट के परिणामस्वरूप है। समान गतिविधियां अन्य क्षेत्रों में भी लागू हो सकती हैं।

मल्टी-एजेंट एलाइनमेंट संकट

पारंपरिक एआई एलाइनमेंट शोध ने एकल मॉडल को मानव मूल्यों के साथ संरेखित करने पर ध्यान केंद्रित किया। प्रश्न सरल था: हम यह सुनिश्चित करने के लिए क्या करते हैं कि यह एक प्रणाली हमारी योजना के अनुसार व्यवहार करती है? यह प्रश्न तब काफी कठिन हो जाता है जब प्रणाली में दर्जनों, सैकड़ों या हजारों बातचीत करने वाले एजेंट होते हैं। व्यक्तिगत एजेंटों को संरेखित करना प्रणाली व्यवहार को संरेखित करने की गारंटी नहीं देता है। यहां तक कि जब प्रत्येक घटक अपने नियमों का पालन करता है, तो सामूहिक परिणाम हानिकारक हो सकता है। मौजूदा सुरक्षा विधियां इन विफलताओं का पता लगाने या रोकने के लिए अच्छी तरह से अनुकूल नहीं हैं।

सुरक्षा जोखिम भी गुणा करते हैं। एक समझौता एजेंट एक मल्टी-एजेंट नेटवर्क में अन्य एजेंटों पर निर्भर जानकारी को जहर दे सकता है। एक दूषित डेटा स्टोर पूरी प्रणाली में मिसलाइन्ड व्यवहार को प्रसारित कर सकता है। जो बुनियादी मॉडल को खतरा पैदा करते हैं उन्हें हर नए एजेंट के साथ जोड़ा जा सकता है। हमले की सतह हर नए एजेंट के साथ बढ़ती है।

इस बीच, शासन की खाई चौड़ी होती जा रही है। माइक्रोसॉफ्ट और अन्य संगठनों के शोध से पता चलता है कि लगभग एक कंपनी में से दस एआई एजेंट पहचान और अनुमतियों के लिए एक स्पष्ट रणनीति है। इस साल के अंत तक लगभग चालीस अरब स्वायत्त पहचान होने की उम्मीद है। अधिकांश डेटा और प्रणालियों तक व्यापक पहुंच के साथ संचालित होते हैं लेकिन मानव उपयोगकर्ताओं के लिए लागू सुरक्षा प्रोटोकॉल के बिना। प्रणालियां तेजी से आगे बढ़ रही हैं। पर्यवेक्षण तंत्र नहीं हैं।

नीचे की रेखा

एआई एक चरण में प्रवेश किया है जहां यह स्वयं को बेहतर संस्करणों का निर्माण करके सुधार कर सकता है। रिकर्सिव, एजेंट-चालित बुद्धिमत्ता असाधारण लाभ का वादा करती है, लेकिन यह जोखिम भी पेश करती है जो मानव पर्यवेक्षण, शासन और直觉 से तेजी से बढ़ती है। आगे की चुनौती यह नहीं है कि क्या यह परिवर्तन रोका जा सकता है, बल्कि यह है कि सुरक्षा, संरेखण और जवाबदेही क्षमता की तुलना में समान गति से आगे बढ़ सकती है या नहीं। यदि वे नहीं करते हैं, तो बुद्धिमत्ता विस्फोट हमारे मार्गदर्शन से परे जाएगा।