शोधकर्ताओं का कहना है कि मनुष्य सुपरइंटेलिजेंट एआई को नियंत्रित करने में सक्षम नहीं होंगे

जो कोई भी कृत्रिम बुद्धिमत्ता (एआई) के बारे में जानता है, उसने संभवतः इसके मानव नियंत्रण से मुक्त होने के बारे में कुछ संस्करण सुना होगा। यह केवल विज्ञान-फाई फिल्मों का विषय नहीं है, बल्कि एक बहुत मजबूत संभावना है जिससे उद्योग के कई विशेषज्ञ चिंतित हैं। वैज्ञानिकों सहित इनमें से कई विशेषज्ञ इस बात की वकालत करते हैं कि हम इस संभावना के लिए तैयारी शुरू कर दें और हर संभव तरीके से इससे बचें। 

अब, शोधकर्ताओं की एक अंतरराष्ट्रीय टीम ने इस विचार को लिया है और सैद्धांतिक गणना के साथ इसका समर्थन किया है। टीम, जिसमें मैक्स प्लैंक इंस्टीट्यूट फॉर ह्यूमन डेवलपमेंट में सेंटर फॉर ह्यूमन एंड मशीन्स के वैज्ञानिक शामिल थे, ने उन गणनाओं का उपयोग यह प्रदर्शित करने के लिए किया कि कैसे एक सुपरइंटेलिजेंट एआई को नियंत्रित करना संभव नहीं होगा। 

यह शोध हाल ही में प्रकाशित हुआ था आर्टिफिशियल इंटेलिजेंस रिसर्च जर्नल. 

सुपरइंटेलिजेंट एआई सिस्टम

एक सुपरइंटेलिजेंट एआई सिस्टम को लेकर डर इस तथ्य से जुड़ा है कि ऐसी प्रणाली इंसानों से कहीं बेहतर होगी। यह न केवल स्वतंत्र रूप से सीखने में सक्षम होगा, बल्कि यह सभी मौजूदा डेटा तक भी पहुंच सकता है और इसे बहुत तेजी से संसाधित कर सकता है। 

इस तरह की घटना से सुपरइंटेलिजेंट एआई ऑनलाइन सभी मौजूदा मशीनों पर हावी हो सकता है, और जबकि यह बीमारी का इलाज करने और मानवता के सामने आने वाली अन्य प्रमुख समस्याओं को हल करने जैसी चीजें कर सकता है और करेगा, चीजों के नियंत्रण से बाहर होने का जोखिम भी अधिक है। 

मैनुअल सेब्रियन अध्ययन के सह-लेखक और मैक्स प्लैंक इंस्टीट्यूट फॉर ह्यूमन डेवलपमेंट के सेंटर फॉर ह्यूमन एंड मशीन्स में डिजिटल मोबिलाइजेशन ग्रुप के नेता हैं। 

“दुनिया को नियंत्रित करने वाली एक सुपर-बुद्धिमान मशीन विज्ञान कथा की तरह लगती है। लेकिन पहले से ही ऐसी मशीनें हैं जो कुछ महत्वपूर्ण कार्य स्वतंत्र रूप से करती हैं, बिना प्रोग्रामर को यह समझे कि उन्होंने इसे कैसे सीखा। इसलिए सवाल उठता है कि क्या यह किसी बिंदु पर बेकाबू हो सकता है और मानवता के लिए खतरनाक हो सकता है, ”सेब्रियन कहते हैं। 

सिस्टम को नियंत्रित करना

जब ऐसी प्रणाली को नियंत्रित करने की बात आती है तो दो प्रमुख विचारधाराएँ होती हैं। सबसे पहले, मनुष्य संपूर्ण इंटरनेट जैसे डेटा के कुछ स्रोतों तक पहुंच को प्रतिबंधित करके एक सुपरइंटेलिजेंट एआई की क्षमताओं को सीमित कर सकता है। सिस्टम बाहरी दुनिया के संपर्क में आए बिना भी काम कर सकता है। हालाँकि, इसके साथ समस्या यह है कि यह AI की क्षमता को काफी हद तक सीमित कर देगा।

सिस्टम को केवल उन परिणामों को आगे बढ़ाने की अनुमति देकर नियंत्रित किया जाएगा जो मानवता को लाभान्वित करेंगे, और यह इसमें नैतिक सिद्धांतों को प्रोग्राम करके किया जा सकता है। 

अध्ययन में एक सैद्धांतिक रोकथाम एल्गोरिदम विकसित करने वाली टीम शामिल थी जो किसी भी परिस्थिति में सुपरइंटेलिजेंट एआई को मनुष्यों को नुकसान पहुंचाने से रोकती है। इसे पहले एआई के व्यवहार का अनुकरण बनाकर और किसी भी ऐसे व्यवहार का पता लगाकर हासिल किया जा सकता है जो हानिकारक हो सकता है। इस आशाजनक सिद्धांत के बावजूद, वर्तमान विश्लेषण से पता चलता है कि ऐसा एल्गोरिदम विकसित नहीं किया जा सकता है। 

इयाद रहवान सेंटर फॉर ह्यूमन एंड मशीन्स के निदेशक हैं।

“यदि आप समस्या को सैद्धांतिक कंप्यूटर विज्ञान के बुनियादी नियमों तक तोड़ते हैं, तो यह पता चलता है कि एक एल्गोरिदम जो एआई को दुनिया को नष्ट नहीं करने का आदेश देगा, वह अनजाने में अपने स्वयं के संचालन को रोक सकता है। यदि ऐसा हुआ, तो आपको पता नहीं चलेगा कि क्या रोकथाम एल्गोरिथ्म अभी भी खतरे का विश्लेषण कर रहा है, या क्या इसने हानिकारक एआई को रोकना बंद कर दिया है। वास्तव में, यह रोकथाम एल्गोरिदम को अनुपयोगी बना देता है," रहवान कहते हैं।

एक और मुद्दा यह है कि विशेषज्ञों को इस बात का एहसास भी नहीं हो सकता है कि एक सुपरइंटेलिजेंट मशीन कब उस स्थिति में पहुंच जाती है, ज्यादातर इस तथ्य के कारण कि वह मनुष्यों की तुलना में अधिक बुद्धिमान होगी।