शोधकर्ता कहते हैं कि सुपरइंटेलिजेंट एआई को नियंत्रित करना मानवों के लिए संभव नहीं होगा

कृत्रिम बुद्धिमत्ता (एआई) के बारे में जागरूक किसी भी व्यक्ति ने संभवतः इसके बारे में कुछ सुना होगा कि यह अंततः मानव नियंत्रण से मुक्त हो जाएगा। यह केवल विज्ञान-कथा फिल्मों का विषय नहीं है, बल्कि एक बहुत ही मजबूत संभावना है जो उद्योग में कई विशेषज्ञों को चिंतित कर रही है। इनमें से कई विशेषज्ञ, जिनमें वैज्ञानिक भी शामिल हैं, यह तर्क देते हैं कि हमें इस संभावना के लिए तैयारी शुरू करनी चाहिए और इसे जितना संभव हो उतने तरीकों से避 करना चाहिए।

अब, एक अंतरराष्ट्रीय शोधकर्ता दल ने इस विचार को теорीतिक गणनाओं के साथ समर्थित किया है। इस दल में मैक्स प्लैंक इंस्टीट्यूट फॉर ह्यूमन डेवलपमेंट के सेंटर फॉर ह्यूमन्स एंड मशीन्स के वैज्ञानिक शामिल थे, जिन्होंने उन गणनाओं का उपयोग करके दिखाया कि एक सुपरइंटेलिजेंट एआई को नियंत्रित करना संभव नहीं होगा।

यह शोध हाल ही में आर्टिफिशियल इंटेलिजेंस रिसर्च जर्नल में प्रकाशित हुआ है।

सुपरइंटेलिजेंट एआई सिस्टम

एक सुपरइंटेलिजेंट एआई सिस्टम के बारे में चिंता इस तथ्य से जुड़ी हुई है कि ऐसा सिस्टम मानवों से बहुत अधिक श्रेष्ठ होगा। यह न केवल स्वतंत्र रूप से सीखने में सक्षम होगा, बल्कि यह सभी मौजूदा डेटा तक पहुंच सकता है और इसे बहुत तेजी से प्रोसेस कर सकता है।

एक ऐसी घटना के परिणामस्वरूप सुपरइंटेलिजेंट एआई सभी ऑनलाइन मशीनों पर कब्जा कर सकता है, और जबकि यह मानवता के सामने आने वाली बड़ी समस्याओं का समाधान करने और बीमारियों का इलाज करने में सक्षम होगा, इसके नियंत्रण से बाहर होने का जोखिम भी बहुत अधिक है।

मैनुअल सेब्रियन इस अध्ययन के सह-लेखक हैं और मैक्स प्लैंक इंस्टीट्यूट फॉर ह्यूमन डेवलपमेंट के सेंटर फॉर ह्यूमन्स एंड मशीन्स में डिजिटल मोबिलाइजेशन ग्रुप के नेता हैं।

“एक सुपर-इंटेलिजेंट मशीन जो दुनिया पर नियंत्रण रखती है, यह विज्ञान-कथा जैसा लगता है। लेकिन पहले से ही ऐसी मशीनें हैं जो कुछ महत्वपूर्ण कार्य स्वतंत्र रूप से करती हैं जिनके बारे में प्रोग्रामर पूरी तरह से नहीं जानते कि उन्होंने यह कैसे सीखा। इसलिए, यह सवाल उठता है कि क्या यह कभी नियंत्रण से बाहर हो सकता है और मानवता के लिए खतरनाक हो सकता है,” सेब्रियन कहते हैं।

सिस्टम को नियंत्रित करना

एक सुपरइंटेलिजेंट एआई सिस्टम को नियंत्रित करने के बारे में दो मुख्य विचार हैं। पहला, मानव एक सुपरइंटेलिजेंट एआई की क्षमताओं को सीमित कर सकते हैं bằng इसके डेटा स्रोतों तक पहुंच को प्रतिबंधित करके, जैसे कि पूरे इंटरनेट तक। सिस्टम बाहरी दुनिया से संपर्क किए बिना भी काम कर सकता है। हालांकि, इसका समस्या यह है कि यह एआई की संभावनाओं को बहुत अधिक सीमित कर देगा।

सिस्टम को नियंत्रित किया जा सकता है bằng यह सुनिश्चित करना कि यह केवल मानवता के लिए लाभकारी परिणामों का पीछा करे। यह एआई में नैतिक सिद्धांतों को प्रोग्राम करके किया जा सकता है।

इस अध्ययन में शोधकर्ता दल ने एक теорीतिक नियंत्रण एल्गोरिदम विकसित किया जो सुपरइंटेलिजेंट एआई को मानवों को नुकसान पहुंचाने से रोकता है। यह एक सिमुलेशन बनाकर और एआई के व्यवहार का पता लगाकर किया जा सकता है जो हानिकारक हो सकता है। इसके बावजूद, वर्तमान विश्लेषण से पता चलता है कि ऐसा एल्गोरिदम विकसित नहीं किया जा सकता है।

इयाद रहवान सेंटर फॉर ह्यूमन्स एंड मशीन्स के निदेशक हैं।

“यदि आप समस्या को मूलभूत नियमों में तोड़ते हैं, तो यह पता चलता है कि एक एल्गोरिदम जो एआई को दुनिया को नष्ट नहीं करने का निर्देश देता है, वह अनजाने में अपने स्वयं के संचालन को रोक सकता है। यदि ऐसा होता है, तो आप नहीं जानते कि नियंत्रण एल्गोरिदम अभी भी खतरे का विश्लेषण कर रहा है या यह हानिकारक एआई को नियंत्रित करने के लिए रुक गया है। वास्तव में, यह नियंत्रण एल्गोरिदम को अनुपयोगी बना देता है,” रहवान कहते हैं।

एक और समस्या यह है कि विशेषज्ञ यह महसूस नहीं कर सकते हैं कि जब एक सुपरइंटेलिजेंट मशीन उस स्थिति तक पहुंचती है, ज्यादातर इसलिए कि यह मानवों से अधिक बुद्धिमान होगी।