जब एआई एजेंट एआई का निर्माण शुरू करते हैं: बुद्धिमत्ता का वह अभूतपूर्व विस्फोट जिसके लिए कोई भी तैयार नहीं है

दशकों तक, कृत्रिम बुद्धिमत्ता ने सावधानीपूर्वक, लगभग रैखिक चरणों में प्रगति की। शोधकर्ताओं ने मॉडल बनाए। इंजीनियरों ने प्रदर्शन में सुधार किया। संगठनों ने विशिष्ट कार्यों को स्वचालित करने के लिए सिस्टम तैनात किए। प्रत्येक सुधार काफी हद तक मानवीय डिजाइन और पर्यवेक्षण पर निर्भर था। अब यह पैटर्न टूट रहा है। चुपचाप लेकिन निर्णायक रूप से, एआई सिस्टम एक ऐसे मुकाम को पार कर रहे हैं जहां वे अब केवल मनुष्यों द्वारा निर्मित उपकरण नहीं रह गए हैं। वे स्वयं निर्माता बन रहे हैं।

कृत्रिम बुद्धिमत्ता (एआई) एजेंट अन्य एआई प्रणालियों को डिजाइन, मूल्यांकन और तैनात करना शुरू कर रहे हैं। ऐसा करने से, वे फीडबैक लूप बनाते हैं जहां प्रत्येक पीढ़ी अगली पीढ़ी को बेहतर बनाती है। यह बदलाव सनसनीखेज सुर्खियों के साथ सामने नहीं आता। यह शोध पत्रों, डेवलपर टूल्स और एंटरप्राइज प्लेटफॉर्म के माध्यम से प्रकट होता है। हालांकि, इसके प्रभाव बहुत गहरे हैं। जब बुद्धिमत्ता स्वयं को पुनरावर्ती रूप से बेहतर बना सकती है, तो प्रगति अब मानवीय समय-सीमा या अंतर्ज्ञान का अनुसरण नहीं करती। यह तीव्र गति से आगे बढ़ती है।

यह लेख इस बात की पड़ताल करता है कि हम इस स्थिति तक कैसे पहुँचे, पुनरावर्ती बुद्धिमत्ता क्यों महत्वपूर्ण है, और समाज इसके लिए जितना तैयार होना चाहिए, उससे कहीं कम तैयार क्यों है। बुद्धिमत्ता का विस्फोट, जो कभी एक दार्शनिक विचार था, अब एक ठोस इंजीनियरिंग चुनौती बन गया है।

खुफिया जानकारी के विस्फोट का विकास

मशीन की बुद्धिमत्ता में सुधार की क्षमता का विचार आधुनिक कंप्यूटिंग से पहले का है। 1960 के दशक की शुरुआत में, ब्रिटिश गणितज्ञ आई.जे. गुड ने यह विचार प्रस्तुत किया था। शुरू की “ की अवधारणाखुफिया विस्फोटउनका तर्क यह था कि यदि कोई मशीन इतनी बुद्धिमान हो जाए कि वह अपने डिज़ाइन में थोड़ा सा भी सुधार कर सके, तो वह सुधारा हुआ संस्करण अगले संस्करण को और भी बेहतर बना सकेगा। यह चक्र तेजी से दोहराया जा सकता है, जिससे ऐसी वृद्धि हो सकती है जो मानव समझ या नियंत्रण से परे हो। उस समय, यह एक दार्शनिक विचार प्रयोग था, जिस पर व्यवहार की अपेक्षा सिद्धांत में अधिक चर्चा हुई।

कई दशकों बाद, कंप्यूटर वैज्ञानिक जुर्गन श्मिडहुबर के कार्यों के माध्यम से इस विचार को तकनीकी आधार मिला। उनके प्रस्ताव के अनुसार... गोडेल मशीन इस शोध में एक ऐसी प्रणाली का वर्णन किया गया है जो अपने कोड के किसी भी हिस्से को पुनः लिख सकती है, बशर्ते वह औपचारिक रूप से यह सिद्ध कर सके कि परिवर्तन से उसके भविष्य के प्रदर्शन में सुधार होगा। पारंपरिक शिक्षण प्रणालियों के विपरीत, जो निश्चित संरचनाओं के भीतर मापदंडों को समायोजित करती हैं, गोडेल मशीन अपने स्वयं के शिक्षण नियमों को बदल सकती है। यद्यपि यह कार्य अभी भी सैद्धांतिक है, इसने बुद्धिमत्ता विस्फोट को एक ऐसी अवधारणा के रूप में प्रस्तुत किया जिसका अध्ययन किया जा सकता है, उसे औपचारिक रूप दिया जा सकता है और अंततः उसका निर्माण किया जा सकता है।

सिद्धांत से व्यवहार की ओर अंतिम बदलाव आधुनिक कृत्रिम बुद्धिमत्ता (एआई) एजेंटों के उदय के साथ आया। ये प्रणालियाँ केवल संकेतों के जवाब में आउटपुट उत्पन्न नहीं करतीं। वे योजना बनाती हैं, तर्क करती हैं, कार्य करती हैं, परिणामों का अवलोकन करती हैं और समय के साथ अपने व्यवहार को समायोजित करती हैं। एजेंटिक आर्किटेक्चर के उद्भव के साथ, बुद्धिमत्ता का विस्फोट दर्शन से इंजीनियरिंग की ओर बढ़ गया। प्रारंभिक प्रयोग, जैसे कि डार्विन गोडेल मशीन ये अवधारणाएँ उन प्रणालियों की ओर इशारा करती हैं जो पुनरावृत्ति के माध्यम से स्वयं में सुधार करती हैं। इस क्षण को जो बात अलग बनाती है, वह है पुनरावर्तन। जब एक एआई एजेंट अन्य एजेंटों को बना और परिष्कृत कर सकता है, और प्रत्येक पुनरावृत्ति से सीखता है, तो सुधार कई गुना बढ़ जाता है।

जब एआई एजेंट एआई का निर्माण शुरू करते हैं

इस बदलाव को दो प्रमुख रुझान गति दे रहे हैं। पहला है एजेंटिक एआई सिस्टम का उदय। ये सिस्टम लंबी अवधि में लक्ष्यों का पीछा करते हैं, कार्यों को चरणों में विभाजित करते हैं, उपकरणों का समन्वय करते हैं और फीडबैक के आधार पर अनुकूलन करते हैं। ये स्थिर मॉडल नहीं हैं, बल्कि प्रक्रियाएं हैं।

दूसरा रुझान स्वचालित मशीन लर्निंग का है। अब ऐसे सिस्टम मौजूद हैं जो आर्किटेक्चर डिज़ाइन कर सकते हैं, हाइपरपैरामीटर को ट्यून कर सकते हैं, ट्रेनिंग पाइपलाइन तैयार कर सकते हैं और यहां तक ​​कि न्यूनतम मानवीय इनपुट के साथ नए एल्गोरिदम भी प्रस्तावित कर सकते हैं। जब एजेंटिक रीजनिंग स्वचालित मॉडल निर्माण के साथ जुड़ती है, तो एआई को एआई बनाने की क्षमता प्राप्त हो जाती है।

यह अब कोई काल्पनिक परिदृश्य नहीं है। स्वायत्त एजेंट जैसे कि ऑटोजीपीटी यह दर्शाता है कि कैसे एक ही लक्ष्य योजना, क्रियान्वयन, मूल्यांकन और संशोधन के चक्रों को गति दे सकता है। अनुसंधान परिवेश में, इस प्रकार की प्रणालियाँ सकाना एआई का साइंटिस्ट-v2 और डीपमाइंड का अल्फा इवॉल्व इसमें एजेंट प्रयोगों को डिजाइन करते हैं, एल्गोरिदम प्रस्तावित करते हैं और पुनरावृत्ति प्रतिक्रिया के माध्यम से समाधानों को परिष्कृत करते हैं। तंत्रिका वास्तुकला खोजकृत्रिम बुद्धिमत्ता प्रणालियाँ पहले से ही ऐसे मॉडल संरचनाओं की खोज कर रही हैं जो मानव निर्मित नेटवर्क के बराबर या उससे भी बेहतर हैं। ये प्रणालियाँ केवल समस्याओं का समाधान नहीं कर रही हैं, बल्कि समस्याओं को हल करने के लिए उपयोग किए जाने वाले तंत्रों में सुधार कर रही हैं। प्रत्येक चक्र बेहतर उपकरण उत्पन्न करता है, जो बेहतर चक्रों को सक्षम बनाता है।

इस प्रक्रिया को व्यापक स्तर पर लागू करने के लिए, शोधकर्ता और कंपनियां तेजी से इस पर निर्भर हो रही हैं। वाद्यवृन्दकार आर्किटेक्चर में, एक केंद्रीय मेटा-एजेंट को एक उच्च-स्तरीय उद्देश्य प्राप्त होता है। यह कार्य को उप-समस्याओं में विभाजित करता है, उन्हें हल करने के लिए विशेष एजेंट उत्पन्न करता है, वास्तविक दुनिया के डेटा का उपयोग करके परिणामों का मूल्यांकन करता है, और सर्वोत्तम परिणामों को एकीकृत करता है। खराब डिज़ाइनों को खारिज कर दिया जाता है और सफल डिज़ाइनों को सुदृढ़ किया जाता है। समय के साथ, ऑर्केस्ट्रेटर स्वयं एजेंटों को डिज़ाइन करने में बेहतर होता जाता है।

हालांकि एआई एजेंट कब तक अन्य एआई प्रणालियों का पूरी तरह से निर्माण और सुधार कर पाएंगे, इसकी सटीक समयसीमा अभी अनिश्चित है, लेकिन अग्रणी शोधकर्ताओं के वर्तमान शोध रुझान और आकलन इस बात की पुष्टि करते हैं कि एआई एजेंट कब तक अन्य एआई प्रणालियों का निर्माण और सुधार कर पाएंगे। एआई शोधकर्ता और चिकित्सकों इससे संकेत मिलता है कि यह परिवर्तन कई लोगों की अपेक्षा से कहीं अधिक तेज़ी से हो रहा है। इस क्षमता के प्रारंभिक, सीमित संस्करण पहले से ही अनुसंधान प्रयोगशालाओं और उद्यमों में दिखाई देने लगे हैं, जहाँ एजेंट सीमित मानवीय हस्तक्षेप के साथ अन्य प्रणालियों को डिज़ाइन, मूल्यांकन और परिष्कृत करना शुरू कर रहे हैं।

अनिश्चितता का उदय

पुनरावर्ती बुद्धिमत्ता ऐसी चुनौतियाँ पेश करती है जिनका सामना पारंपरिक स्वचालन ने कभी नहीं किया। इनमें से एक चुनौती सिस्टम स्तर पर अप्रत्याशितता है। जब कई एजेंट परस्पर क्रिया करते हैं, तो उनका सामूहिक व्यवहार उनके व्यक्तिगत उद्देश्यों से भिन्न हो सकता है। इस घटना को इस प्रकार जाना जाता है: आकस्मिक व्यवहार.

किसी एक दोषपूर्ण घटक से नहीं, बल्कि कई सक्षम घटकों की परस्पर क्रियाओं से कोई समस्या उत्पन्न होती है। स्वचालित व्यापार प्रणालियों पर विचार करें। प्रत्येक व्यापार एजेंट सीमित संसाधनों के भीतर लाभ को अधिकतम करने के लिए डिज़ाइन किए गए तर्कसंगत नियमों का पालन कर सकता है। हालांकि, जब ऐसे हजारों एजेंट तीव्र गति से परस्पर क्रिया करते हैं, तो फीडबैक लूप बन सकते हैं। एक एजेंट की प्रतिक्रिया दूसरे की प्रतिक्रिया को प्रेरित कर सकती है, जो आगे चलकर किसी अन्य को प्रेरित कर सकती है, जब तक कि प्रणाली अस्थिर न हो जाए। बाजार में गिरावट बिना किसी एजेंट की खराबी के भी हो सकती है। यह विफलता दुर्भावनापूर्ण इरादे से प्रेरित नहीं होती है। यह स्थानीय अनुकूलन और प्रणाली-व्यापी लक्ष्यों के बीच असंगति का परिणाम है। यही प्रक्रिया अन्य क्षेत्रों पर भी लागू हो सकती है।

बहु-एजेंट संरेखण संकट

परंपरागत एआई संरेखण अनुसंधान एक ही मॉडल को मानवीय मूल्यों के अनुरूप बनाने पर केंद्रित था। प्रश्न सरल था: हम यह कैसे सुनिश्चित करें कि यह प्रणाली हमारी इच्छानुसार व्यवहार करे? वह प्रश्न अब जटिल हो गया है। काफ़ी कठिन जब सिस्टम में दर्जनों, सैकड़ों या हजारों परस्पर क्रिया करने वाले एजेंट होते हैं, तो व्यक्तिगत एजेंटों को संरेखित करने से सिस्टम के संरेखित व्यवहार की गारंटी नहीं मिलती। भले ही प्रत्येक घटक अपने नियमों का पालन करे, सामूहिक परिणाम हानिकारक हो सकता है। मौजूदा सुरक्षा विधियाँ इन विफलताओं का पता लगाने या उन्हें रोकने के लिए उपयुक्त नहीं हैं।

सुरक्षा जोखिम भी कई गुना बढ़ जाते हैं। एक बहु-एजेंट नेटवर्क में एक असुरक्षित एजेंट अन्य एजेंटों द्वारा उपयोग की जाने वाली जानकारी को दूषित कर सकता है। एक दूषित डेटा भंडार पूरे सिस्टम में गलत व्यवहार फैला सकता है। एक एजेंट को खतरे में डालने वाली अवसंरचना संबंधी कमजोरियाँ मूलभूत मॉडलों को भी खतरे में डाल सकती हैं। हर नए एजेंट के जुड़ने से हमले का दायरा बढ़ता जाता है।

इस बीच, शासन व्यवस्था में अंतर लगातार बढ़ता जा रहा है। शोध से पता चलता है कि माइक्रोसॉफ्ट और अन्य संगठनों ने पाया कि लगभग दस में से केवल एक कंपनी के पास प्रबंधन के लिए एक स्पष्ट रणनीति है। एआई एजेंट पहचान और अनुमतियाँ। अनुमान है कि इस वर्ष के अंत तक चालीस अरब से अधिक स्वायत्त पहचानें अस्तित्व में आ जाएँगी। इनमें से अधिकांश के पास डेटा और सिस्टम तक व्यापक पहुँच है, लेकिन मानव उपयोगकर्ताओं पर लागू होने वाले सुरक्षा प्रोटोकॉल के बिना। सिस्टम तेजी से विकसित हो रहे हैं। निगरानी तंत्र विकसित नहीं हो रहे हैं।

नीचे पंक्ति

कृत्रिम बुद्धिमत्ता एक ऐसे चरण में प्रवेश कर चुकी है जहाँ वह अपने बेहतर संस्करणों का निर्माण करके स्वयं को और बेहतर बना सकती है। पुनरावर्ती, एजेंट-संचालित बुद्धिमत्ता असाधारण लाभों का वादा करती है, लेकिन यह ऐसे जोखिम भी पैदा करती है जो मानवीय निगरानी, ​​शासन और अंतर्ज्ञान की तुलना में कहीं अधिक तेज़ी से बढ़ते हैं। आगे की चुनौती यह नहीं है कि इस बदलाव को रोका जा सकता है या नहीं, बल्कि यह है कि क्या सुरक्षा, सामंजस्य और जवाबदेही क्षमता के साथ-साथ उसी गति से आगे बढ़ सकती हैं। यदि ऐसा नहीं होता है, तो बुद्धिमत्ता का विस्फोट हमारे नियंत्रण से बाहर हो जाएगा।