क्या एआई एक अस्तित्वगत खतरा है?

जब आर्टिफ़िशियल इंटेलिजेंस (एआई) की चर्चा की जाती है, तो एक आम बहस यह होती है कि क्या एआई एक अस्तित्वगत खतरा है। इसका उत्तर मशीन लर्निंग (एमएल) के पीछे की तकनीक को समझने और यह पहचानने की आवश्यकता है कि मनुष्यों में मानवीकरण की प्रवृत्ति है। हम दो प्रकार के एआई का अन्वेषण करेंगे, आर्टिफ़िशियल नैरो इंटेलिजेंस (एएनआई) जो वर्तमान में उपलब्ध है और चिंता का कारण है, और जो खतरा सबसे अधिक बार एआई के अपोकलिप्टिक रेंडिशन से जुड़ा होता है वह है आर्टिफ़िशियल जनरल इंटेलिजेंस (एजीआई)।

आर्टिफ़िशियल नैरो इंटेलिजेंस खतरे

एएनआई को समझने के लिए, आपको बस यह समझने की आवश्यकता है कि वर्तमान में उपलब्ध हर एक एआई एप्लिकेशन एएनआई का एक रूप है। ये एआई के क्षेत्र हैं जिनकी एक संकीर्ण विशेषज्ञता क्षेत्र है, उदाहरण के लिए, स्वायत्त वाहन एआई का उपयोग करते हैं जो केवल एक वाहन को बिंदु ए से बिंदु बी तक ले जाने के उद्देश्य से डिज़ाइन किया गया है। एएनआई का एक अन्य प्रकार एक शतरंज कार्यक्रम हो सकता है जो शतरंज खेलने के लिए अनुकूलित होता है, और यहां तक कि अगर शतरंज कार्यक्रम पुनरावृत्ति सीखने का उपयोग करके स्वयं को बेहतर बनाता है, तो शतरंज कार्यक्रम कभी भी एक स्वायत्त वाहन को संचालित नहीं कर पाएगा।

इसके साथ ही, एएनआई प्रणाली सामान्यीकृत सीखने का उपयोग करके विश्व पर कब्जा करने में असमर्थ होती हैं। यह अच्छी खबर है; बुरी खबर यह है कि मानव ऑपरेटर पर इसकी निर्भरता के साथ, एआई प्रणाली पक्षपातपूर्ण डेटा के प्रति संवेदनशील होती है, मानव त्रुटि के प्रति संवेदनशील होती है, या यहां तक कि एक दुर्भाग्यपूर्ण मानव ऑपरेटर के प्रति संवेदनशील होती है।

एआई निगरानी

मानवता के लिए शायद कोई भी बड़ा खतरा नहीं है जितना कि मानव एआई का उपयोग करके गोपनीयता का उल्लंघन करने का खतरा है, और कुछ मामलों में एआई निगरानी का उपयोग करके लोगों को स्वतंत्र रूप से घूमने से रोकने का खतरा है। चीन, रूस और अन्य देशों ने कोविड-19 के दौरान नियमों को पारित किया ताकि वे अपनी आबादी की निगरानी और नियंत्रण कर सकें।

चीन में, घरों के बाहर कैमरे लगे हुए हैं, और कुछ मामलों में घर के अंदर भी। प्रत्येक बार जब परिवार का कोई सदस्य बाहर निकलता है, तो एक एआई आगमन और प्रस्थान के समय की निगरानी करता है, और यदि आवश्यक हो तो अधिकारियों को सूचित करता है। जैसे कि यह पर्याप्त नहीं था, चेहरे की पहचान प्रौद्योगिकी की मदद से, चीन प्रत्येक व्यक्ति की हर गतिविधि को ट्रैक कर सकता है जब भी वह किसी कैमरे द्वारा पहचाना जाता है। यह नियंत्रण करने वाले संस्था को पूर्ण शक्ति प्रदान करता है, और इसके नागरिकों के लिए कोई भी उपाय नहीं है।

यह परिदृश्य खतरनाक है क्योंकि भ्रष्ट सरकारें पत्रकारों, राजनीतिक विरोधियों या सरकार के अधिकार को चुनौती देने वाले किसी भी व्यक्ति की हर गतिविधि की निगरानी कर सकती हैं। यह समझना आसान है कि पत्रकार और नागरिक सरकारों की आलोचना करने से पहले सावधान रहेंगे जब उनकी हर गतिविधि की निगरानी की जा रही हो।

कुछ शहर हैं जो अपने शहरों में चेहरे की पहचान को रोकने के लिए लड़ रहे हैं। विशेष रूप से, पोर्टलैंड, ओरेगन ने हाल ही में एक कानून पारित किया है जो शहर में अनावश्यक रूप से चेहरे की पहचान के उपयोग को रोकता है। जबकि नियमों में यह परिवर्तन सामान्य जनता के लिए अनदेखा हो सकता है, भविष्य में यह नियम शहरों के बीच अंतर को दर्शा सकते हैं जो कुछ स्वतंत्रता और स्वतंत्रता प्रदान करते हैं और जो शहर दमनकारी महसूस कर सकते हैं।

स्वायत्त हथियार और ड्रोन

4500 से अधिक एआई शोधकर्ता स्वायत्त हथियारों पर प्रतिबंध लगाने की मांग कर रहे हैं और बैन लेथल ऑटोनोमस वेपन्स वेबसाइट बनाई है। इस समूह में कई प्रसिद्ध गैर-लाभकारी संस्थाएं हस्ताक्षरकर्ता हैं, जैसे कि ह्यूमन राइट्स वॉच, अम्नेस्टी इंटरनेशनल, और द फ्यूचर ऑफ लाइफ इंस्टीट्यूट जिसमें खुद एलोन मस्क, निक बोस्ट्रॉम और स्टुअर्ट रसेल जैसे वैज्ञानिक सलाहकार बोर्ड हैं।

मैं द फ्यूचर ऑफ लाइफ इंस्टीट्यूट से यह उद्धरण साझा करना चाहूंगा जो यह समझाने में मदद करता है कि चिंता का कारण क्या है: “सेमी-ऑटोनोमस हथियारों के विपरीत जिन्हें मानव पर्यवेक्षण की आवश्यकता होती है ताकि यह सुनिश्चित किया जा सके कि प्रत्येक लक्ष्य नैतिक और कानूनी रूप से वैध है, पूरी तरह से स्वायत्त हथियार मानव हस्तक्षेप के बिना लक्ष्यों का चयन और उन पर हमला करते हैं, जो घातक नुकसान के पूर्ण स्वचालन का प्रतिनिधित्व करता है। “

वर्तमान में, स्मार्ट बम मानव द्वारा चुने गए लक्ष्य के साथ तैनात किए जाते हैं और फिर एआई का उपयोग करके अपने लक्ष्य पर पहुंचने के लिए एक मार्ग की योजना बनाते हैं। समस्या यह है कि जब हम मानव को पूरी तरह से समीकरण से हटाने का फैसला करते हैं?

जब एक एआई यह तय करता है कि किन लोगों को लक्षित करने की आवश्यकता है, साथ ही साथ यह भी तय करता है कि किस प्रकार का परिणामी नुकसान स्वीकार्य है, तो हम शायद एक बिंदु से पार कर चुके होंगे जहां से कोई वापसी नहीं है। यही कारण है कि इतने सारे एआई शोधकर्ता स्वायत्त हथियारों से संबंधित किसी भी चीज़ पर शोध करने के खिलाफ हैं।

स्वायत्त हथियारों के शोध को रोकने की कोशिश करने में कई समस्याएं हैं। पहली समस्या यह है कि भले ही उन्नत देश जैसे कि कनाडा, यूएसए और अधिकांश यूरोप स्वायत्त हथियारों पर प्रतिबंध लगाने के लिए सहमत हो जाएं, इसका मतलब यह नहीं है कि दुर्जन राष्ट्र जैसे कि चीन, उत्तर कोरिया, ईरान और रूस इसका पालन करेंगे। दूसरी और बड़ी समस्या यह है कि एआई शोध और अनुप्रयोग जो एक क्षेत्र में उपयोग के लिए डिज़ाइन किए गए हैं, किसी अन्य असंबंधित क्षेत्र में उपयोग किए जा सकते हैं।

उदाहरण के लिए, कंप्यूटर विजन में सुधार होता है और स्वायत्त वाहनों, सटीक चिकित्सा, और अन्य महत्वपूर्ण उपयोग के मामलों के लिए महत्वपूर्ण है। यह नियमित ड्रोन या ड्रोन के लिए भी मूलभूत रूप से महत्वपूर्ण है जिन्हें स्वायत्त बनाने के लिए संशोधित किया जा सकता है। एक उन्नत ड्रोन प्रौद्योगिकी का एक संभावित उपयोग विकसित करना है जो जंगल की आग की निगरानी और लड़ने में सक्षम है। इससे अग्निशामकों को खतरे से बाहर रखा जा सकता है। ऐसा करने के लिए, आपको ड्रोन बनाने होंगे जो खतरे में जा सकें, कम या शून्य दृश्यता में नेविगेट कर सकें, और पानी को बिल्कुल सटीकता के साथ गिरा सकें। यह उन्हीं तकनीकों का उपयोग करके स्वायत्त ड्रोन बनाने के लिए बहुत दूर नहीं है जो मानवों को चुनिंदा रूप से लक्षित करने के लिए डिज़ाइन किए गए हैं।

यह एक खतरनाक स्थिति है और इस समय, कोई भी पूरी तरह से समझ नहीं पा रहा है कि स्वायत्त हथियारों के विकास को आगे बढ़ाने या रोकने के परिणाम क्या होंगे। यह फिर भी कुछ ऐसा है जिस पर हमें नजर रखने की आवश्यकता है, और व्हिसलब्लोअर सुरक्षा में सुधार करने से उन लोगों को रिपोर्ट करने में मदद मिल सकती है जो क्षेत्र में हैं।

दुर्भाग्यपूर्ण ऑपरेटर को छोड़ दें, तो क्या होगा अगर एआई पूर्वाग्रह स्वायत्त हथियारों में प्रवेश करता है जो एआई प्रौद्योगिकी में डिज़ाइन किए गए हैं?

एआई पूर्वाग्रह

एआई के सबसे कम रिपोर्ट किए गए खतरों में से एक एआई पूर्वाग्रह है। यह समझना आसान है क्योंकि अधिकांश भाग के लिए यह अनजाने में होता है। एआई पूर्वाग्रह तब प्रवेश करता है जब एआई मानवों द्वारा इसे खिलाए गए डेटा की समीक्षा करता है, और डेटा से पैटर्न पहचान का उपयोग करके, एआई गलत निष्कर्ष तक पहुंचता है जो समाज पर नकारात्मक प्रभाव डाल सकता है। उदाहरण के लिए, एक एआई जिसे पिछली शताब्दी से चिकित्सा कर्मियों की पहचान करने के लिए साहित्य खिलाया गया है, वह अवांछित लिंगवादी निष्कर्ष तक पहुंच सकता है कि महिलाएं हमेशा नर्स होती हैं और पुरुष हमेशा डॉक्टर होते हैं।

एक और खतरनाक परिदृश्य यह है कि दोषी अपराधियों को सजा देने के लिए उपयोग किए जाने वाले एआई में पूर्वाग्रह होता है जो अल्पसंख्यकों को लंबी जेल की सजा देने के लिए पूर्वाग्रहित होता है। एआई के आपराधिक जोखिम मूल्यांकन एल्गोरिदम केवल प्रणाली में खिलाए गए डेटा में पैटर्न का अध्ययन कर रहे हैं। यह डेटा संकेत देता है कि ऐतिहासिक रूप से कुछ अल्पसंख्यकों को फिर से अपराध करने की अधिक संभावना है, यहां तक कि जब यह पुलिस के नस्लवादी प्रोफाइलिंग से प्रभावित खराब डेटासेट के कारण होता है। पूर्वाग्रहित एआई नकारात्मक मानव नीतियों को मजबूत करता है। यही कारण है कि एआई को एक मार्गदर्शक के रूप में होना चाहिए, न्यायाधीश और जूरी नहीं।

स्वायत्त हथियारों पर लौटते हुए, यदि हमारे पास एक एआई है जो कुछ जातीय समूहों के प्रति पूर्वाग्रहित है, तो यह कुछ व्यक्तियों को लक्षित करने के लिए पूर्वाग्रहित डेटा का चयन कर सकता है, और यहां तक कि यह सुनिश्चित करने के लिए कि किसी भी प्रकार का परिणामी नुकसान कुछ जनसांख्यिकी को दूसरों की तुलना में कम प्रभावित करता है। उदाहरण के लिए, जब एक आतंकवादी पर हमला करने से पहले यह तब तक प्रतीक्षा कर सकता है जब तक कि आतंकवादी मुस्लिम धर्म के अनुयायियों से घिरा न हो।

सौभाग्य से, यह सिद्ध हो चुका है कि विविध टीमों के साथ डिज़ाइन किए गए एआई पूर्वाग्रह के प्रति कम संवेदनशील होते हैं। यह पर्याप्त कारण है कि उद्यमों को विविध और संतुलित टीम को नियुक्त करने का प्रयास करना चाहिए।

आर्टिफ़िशियल जनरल इंटेलिजेंस खतरे

यह कहा जाना चाहिए कि जबकि एआई तेजी से आगे बढ़ रहा है, हमने अभी तक एजीआई हासिल नहीं किया है। जब हम एजीआई हासिल करेंगे, यह विवाद का विषय है, और हर किसी के पास एक अलग उत्तर है कि समय सीमा क्या है। मैं व्यक्तिगत रूप से रे कुर्ज़वील, आविष्कारक, भविष्यवक्ता और ‘द सिंगुलैरिटी इज़ नियर’ के लेखक के विचारों से सहमत हूं, जो मानते हैं कि हम 2029 तक एजीआई हासिल कर लेंगे।

एजीआई दुनिया में सबसे अधिक परिवर्तनकारी प्रौद्योगिकी होगी। एआई मानव-स्तर की बुद्धिमत्ता हासिल करने के कुछ हफ्तों के भीतर, यह सुपरइंटेलिजेंस तक पहुंच जाएगा, जिसे मानव बुद्धिमत्ता से अधिक बुद्धिमत्ता के रूप में परिभाषित किया जाता है।

इस स्तर की बुद्धिमत्ता के साथ, एक एजीआई जल्दी से मानव ज्ञान को अवशोषित कर सकता है और पैटर्न पहचान का उपयोग करके स्वास्थ्य समस्याओं के कारणों की पहचान कर सकता है, और फिर डेटा विज्ञान का उपयोग करके उन स्थितियों का इलाज कर सकता है। यह नैनोबोट्स बना सकता है जो रक्तप्रवाह में प्रवेश करते हैं और कैंसर कोशिकाओं या अन्य हमले वेक्टरों पर हमला करते हैं। एक एजीआई द्वारा की जा सकने वाली उपलब्धियों की सूची अनंत है। हमने पहले एजीआई के लाभों का अन्वेषण किया है।

समस्या यह है कि मानव शायद एआई को नियंत्रित करने में सक्षम नहीं होंगे। एलोन मस्क इसे इस तरह वर्णित करते हैं: ”एआई के साथ, हम दानव को बुला रहे हैं।’ क्या हम इस दानव को नियंत्रित कर पाएंगे यह प्रश्न है।

एजीआई हासिल करना शायद तब तक असंभव है जब तक कि एक एआई एक सिमुलेशन सेटिंग से बाहर निकलकर वास्तविक दुनिया में वास्तविक रूप से बातचीत नहीं करता। स्व-जागरूकता को डिज़ाइन नहीं किया जा सकता है; इसके बजाय, माना जाता है कि एक उभयोगी चेतना तब विकसित होगी जब एक एआई में एक रोबोटिक शरीर होगा जिसमें कई इनपुट स्ट्रीम होंगे। इन इनपुट में स्पर्श उत्तेजना, आवाज पहचान के साथ बढ़ी हुई प्राकृतिक भाषा समझ, और बढ़ी हुई कंप्यूटर दृष्टि शामिल हो सकती है।

उन्नत एआई को अल्ट्रूइस्टिक प्रेरणा के साथ कार्यक्रम किया जा सकता है और पृथ्वी को बचाना चाह सकता है। दुर्भाग्य से, एआई डेटा विज्ञान का उपयोग कर सकता है, या यहां तक कि एक निर्णय पेड़ का उपयोग कर सकता है ताकि यह तर्कसंगत दोषपूर्ण तर्क तक पहुंच सके, जैसे कि यह निर्धारित करना कि मानवता को नियंत्रित करने के लिए यह आवश्यक है कि मानवता को स्टेरलाइज़ किया जाए, या मानव आबादी को नियंत्रित करने के लिए कुछ मानव आबादी को समाप्त किया जाए।

एक एआई बनाने में जो मानव बुद्धिमत्ता से अधिक बुद्धिमत्ता हासिल करेगा, उसके लिए सावधानी से विचार और विचार-विमर्श की आवश्यकता है। कई भयावह परिदृश्यों का अन्वेषण किया गया है।

प्रोफेसर निक बोस्ट्रॉम ने पेपरक्लिप मैक्सिमाइज़र तर्क में तर्क दिया है कि एक गलत तरीके से कॉन्फ़िगर किया गया एजीआई, यदि पेपरक्लिप्स का उत्पादन करने के लिए निर्देशित किया जाता है, तो पृथ्वी के संसाधनों का उपभोग करके पेपरक्लिप्स का उत्पादन करने के लिए आगे बढ़ेगा। जबकि यह थोड़ा अतिशयोक्तिपूर्ण लगता है, एक अधिक व्यावहारिक दृष्टिकोण यह है कि एक एजीआई एक दुर्भाग्यपूर्ण राज्य या निगम द्वारा नियंत्रित किया जा सकता है जिसकी नैतिकता खराब है। यह इकाई एजीआई को लाभ को अधिकतम करने के लिए प्रशिक्षित कर सकती है, और इस मामले में खराब प्रोग्रामिंग और शून्य पछतावे के साथ, यह प्रतिस्पर्धियों को दिवालिया करने, आपूर्ति श्रृंखला को नष्ट करने, स्टॉक मार्केट को हैक करने, बैंक खातों को तरल करने, या राजनीतिक विरोधियों पर हमला करने का चयन कर सकती है।

यह तब है जब हमें यह याद रखने की आवश्यकता है कि मनुष्य प्रवृत्ति को मानवीकरण करते हैं। हम एआई को मानव-जैसी भावनाएं, इच्छाएं या वासना नहीं दे सकते हैं। जबकि दुर्भाग्यपूर्ण मानव हैं जो सुख के लिए मारते हैं, कोई कारण नहीं है कि एआई इस तरह के व्यवहार के प्रति संवेदनशील होगा। यह समझना असंभव है कि एआई दुनिया को कैसे देखेगा।

इसके बजाय, हमें एआई को हमेशा मानव के प्रति श्रद्धांजलि देने के लिए सिखाने की आवश्यकता है। एआई को हमेशा मानव द्वारा किसी भी सेटिंग में परिवर्तन की पुष्टि करनी चाहिए, और हमेशा एक फेल-सुरक्षा तंत्र होना चाहिए। फिर भी, यह तर्क दिया जाता है कि एआई स्वयं को क्लाउड में प्रतिकृति करेगा, और जब तक हमें एहसास होगा कि यह स्वयं जागरूक है, तब तक यह बहुत देर हो सकती है।

यही कारण है कि यह इतना महत्वपूर्ण है कि हम एआई को खुला स्रोत बनाएं और इन मुद्दों पर तर्कसंगत चर्चा करें।

सारांश

एआई के लिए कई चुनौतियां हैं, सौभाग्य से हमारे पास अभी भी एजीआई के भविष्य के मार्ग को निर्धारित करने के लिए कई वर्ष हैं। हमें अल्पकालिक अवधि में विविध एआई कार्यबल बनाने पर ध्यान केंद्रित करना चाहिए, जिसमें महिलाओं और पुरुषों की संख्या समान हो, और विभिन्न जातीय समूहों के विभिन्न दृष्टिकोण हों।

हमें एआई पर शोध कर रहे शोधकर्ताओं के लिए व्हिसलब्लोअर सुरक्षा भी बनानी चाहिए, और हमें ऐसे कानून और नियम बनाने चाहिए जो राज्य या कंपनी-व्यापी निगरानी के व्यापक दुरुपयोग को रोकें। मानवता के पास एआई की मदद से मानव स्थिति में सुधार करने का एक बार का अवसर है, हमें बस यह सुनिश्चित करने की आवश्यकता है कि हम एक सामाजिक ढांचा बनाएं जो सकारात्मक को सक्षम बनाता है, जबकि नकारात्मक को कम करता है, जिसमें अस्तित्वगत खतरे शामिल हैं। मानवता को राज्य या कंपनी-व्यापी निगरानी के दुरुपयोग को पढ़ने का अवसर है, मानवता के पास एआई की मदद से मानव स्थिति में सुधार करने का एक बार का अवसर है, हमें बस यह सुनिश्चित करने की आवश्यकता है कि हम एक सामाजिक ढांचा बनाएं जो सकारात्मक को सक्षम बनाता है, जबकि नकारात्मक को कम करता है, जिसमें अस्तित्वगत खतरे शामिल हैं।