नैतिकता
उन्नत एआई प्रौद्योगिकियां नैतिक चुनौतियां प्रस्तुत करती हैं – विचार नेताओं
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
अल्फ्रेड क्रू, जूनियर द्वारा, बीएई सिस्टम्स इंक के इंटेलिजेंस एंड सिक्योरिटी सेक्टर के उपाध्यक्ष और मुख्य वकील
इस साल की शुरुआत में, वैश्विक महामारी से पहले, मैं चार्ल्सटन में द सिटाडेल के इंटेलिजेंस एथिक्स कॉन्फ्रेंस में भाग लिया, जहां हमने राष्ट्रीय सुरक्षा की रक्षा के संबंध में खुफिया संग्रह में नैतिकता के विषय पर चर्चा की। रक्षा उद्योग में, हम ज्ञान, कंप्यूटिंग और उन्नत प्रौद्योगिकियों के प्रसार को देख रहे हैं, विशेष रूप से कृत्रिम बुद्धिमत्ता (एआई) और मशीन लर्निंग (एमएल) के क्षेत्र में। हालांकि, खुफिया संग्रह या वास्तविक समय कombat में एआई को तैनात करने से महत्वपूर्ण मुद्दे हो सकते हैं।
एआई के साथ क्वांटम कंप्यूटिंग जोखिम प्रस्तुत करती है
हमें यह प्रश्न करना होगा, विश्लेषण करना होगा और आगे बढ़ने के लिए एक मार्ग निर्धारित करना होगा जब एआई को क्वांटम कंप्यूटिंग क्षमताओं के साथ युद्धकालीन निर्णय लेने की प्रक्रिया में उपयोग किया जाता है। उदाहरण के लिए, टर्मिनेटर को याद करें? जब हमारी प्रौद्योगिकी छलांग और सीमा बनाती है, तो स्काईनेट की वास्तविकता हमारे सामने है। हम खुद से पूछ सकते हैं, “क्या स्काईनेट हमें प्राप्त करने जा रहा है?” मुझे एक स्मृति लेने के लिए चलो; एआई मशीनें अपने दम पर सोचने और निर्णय लेने में सक्षम थीं बिना किसी मानव के निर्देशन के। जब मशीनों ने निर्धारित किया कि मानव एक बग थे, तो उन्होंने मानवता को नष्ट करने का फैसला किया। मुझे गलत न समझें, एआई की बड़ी संभावना है, लेकिन मुझे लगता है कि जोखिम कारक के कारण इसके लिए नियंत्रण पैरामीटर होने चाहिए।
एआई की नैतिक अस्पष्टता और दार्शनिक दुविधा
मुझे लगता है कि यही कारण है कि संयुक्त राज्य अमेरिका के रक्षा विभाग (डीओडी) ने अपने स्वयं के एआई के लिए नैतिक सिद्धांतों को जारी किया, क्योंकि एआई का उपयोग नई नैतिक अस्पष्टता और जोखिम उठाता है। जब एआई को क्वांटम कंप्यूटिंग क्षमताओं के साथ जोड़ा जाता है, तो निर्णय लेने की क्षमता बदलती है और नियंत्रण खोने का जोखिम बढ़ जाता है – जितना कि हम आज समझते हैं। क्वांटम कंप्यूटिंग हमारे मानव मस्तिष्क के ऑपरेटिंग सिस्टम को शर्मिंदा करती है क्योंकि सुपर कंप्यूटर हमारे मानव मस्तिष्क की तुलना में अधिक गणना कर सकते हैं और अधिक सटीकता के साथ तेजी से कर सकते हैं।
इसके अलावा, एआई के साथ कंप्यूटिंग का उपयोग एक दार्शनिक दुविधा प्रस्तुत करता है। किस बिंदु पर दुनिया मशीनों को अपनी मर्जी की अनुमति देगी; और, यदि मशीनों को अपने दम पर सोचने की अनुमति दी जाती है, तो क्या इसका मतलब है कि मशीन स्वयं जागरूक हो गई है? क्या स्वयं जागरूक होना जीवन को परिभाषित करता है? एक समाज के रूप में, हमने अभी तक यह निर्धारित नहीं किया है कि इस स्थिति को कैसे परिभाषित किया जाए। इसलिए, जैसा कि यह आज खड़ा है, मशीनें मानव हस्तक्षेप के बिना कार्रवाई करने के लिए निर्देशित की जा सकती हैं, जो परिणामों को जन्म दे सकती हैं। क्या एक मशीन मानव हस्तक्षेप को रोकने के लिए आग लगाने से रोक सकती है? यदि मशीन स्वयं काम कर रही है, तो क्या हम प्लग खींच पाएंगे?
मेरे लिए, एआई का उपयोग रक्षात्मक दृष्टिकोण से करना आसान है। हालांकि, आक्रामक रूप से इसे कितना आसान होगा? आक्रामक रूप से, मशीनें स्थान पर युद्ध निर्णय लेंगी। क्या एक मशीन द्वारा दुश्मन पर गोली चलाना जीनेवा कन्वेंशन और सशस्त्र संघर्ष के कानूनों का उल्लंघन होगा? इस स्थान में तेजी से आगे बढ़ रहे हैं, दुनिया को यह सहमति होनी चाहिए कि युद्ध में एआई और क्वांटम कंप्यूटिंग का उपयोग हमारे वर्तमान कानूनों में शामिल होना चाहिए।
डीओडी का एक स्थान है जब स्वायत्त प्रणालियों के साथ एआई का उपयोग किया जाता है और यह कहता है कि निर्णय लेने की प्रक्रिया में हमेशा एक व्यक्ति शामिल होगा; एक व्यक्ति हथियार चलाने के लिए ट्रिगर खींचने का अंतिम निर्णय लेगा। यह हमारा नियम है, लेकिन क्या होगा अगर एक विरोधी एक अलग मार्ग अपनाने का फैसला करता है और एआई-सक्षम मशीन को सभी अंतिम निर्णय लेने देता है? तब मशीन, जो पहले से ही तेज, चतुर और अधिक सटीक है, के पास लाभ होगा।
एक ड्रोन को एआई और चेहरे की पहचान के साथ देखें: ड्रोन अपनी मर्जी से गोली चलाता है क्योंकि एक पूर्व निर्धारित लक्ष्य को आतंकवादी के रूप में लेबल किया गया है। वास्तव में कौन जिम्मेदार है अगर एक पूर्वाग्रहपूर्ण गलती होती है?
एआई/एमएल में पूर्वाग्रह
शोध यह तथ्य की ओर इशारा करता है कि एक मशीन एक मानव की तुलना में कम गलतियां करने की संभावना है। हालांकि, शोध यह भी साबित करता है कि मानव “शिक्षक” द्वारा मशीन को सिखाने पर मशीन लर्निंग में पूर्वाग्रह होता है। डीओडी के एआई के पांच नैतिक सिद्धांतों में मौजूदा पूर्वाग्रहों का उल्लेख किया गया है जब यह कहता है, “विभाग एआई क्षमताओं में अनजाने में पूर्वाग्रह को कम करने के लिए जानबूझकर कदम उठाएगा।” हम पहले से ही सिद्ध अध्ययनों के माध्यम से जानते हैं कि चेहरे की पहचान अनुप्रयोगों में रंग के लोगों के प्रति पूर्वाग्रह होता है जिसमें झूठे सकारात्मक होते हैं। जब कोई व्यक्ति कोड बनाता है जो मशीन को निर्णय लेने के लिए सिखाता है, तो पूर्वाग्रह हो सकते हैं। यह अनजाने में हो सकता है क्योंकि एआई बनाने वाला व्यक्ति अपने भीतर मौजूद पूर्वाग्रह से अनजान था।
तो, पूर्वाग्रह को कैसे समाप्त किया जाए? एआई आउटपुट केवल तब तक अच्छा है जब तक कि इनपुट अच्छा है। इसलिए, नियंत्रण होना चाहिए। आपको डेटा को नियंत्रित करना होगा जो प्रवाहित हो रहा है क्योंकि यही वह है जो एआई परिणामों को कम वैध बना सकता है। डेवलपर्स को लगातार कोड को फिर से लिखना होगा ताकि पूर्वाग्रह को समाप्त किया जा सके।
दुनिया को प्रौद्योगिकी का सर्वोत्तम उपयोग परिभाषित करना होगा
प्रौद्योगिकी स्वयं अच्छी या बुरी नहीं है। यह एक राष्ट्र के लिए इसका उपयोग कैसे किया जाता है जो सर्वोत्तम इरादों को गलत कर सकता है। जैसे-जैसे प्रौद्योगिकी मानव जीवन को प्रभावित करने वाले तरीकों से आगे बढ़ती है, दुनिया को मिलकर उपयुक्त कार्रवाई को परिभाषित करना होगा। यदि हम एआई अनुप्रयोगों से मानव को हटा देते हैं, तो हम उस पल को भी हटा देते हैं जो हमें ट्रिगर खींचने से पहले रोकता है – जो नैतिक दिशा सूचक है जो हमें मार्गदर्शन करता है; जो पल जब हम रुकते हैं और प्रश्न पूछते हैं, “क्या यह सही है?” एक मशीन जिसे संलग्न करने के लिए सिखाया गया है उसमें वह पल नहीं होगा। इसलिए, प्रश्न यह है कि भविष्य में, क्या दुनिया इसके लिए खड़ी होगी? कितनी दूर दुनिया मशीनों को युद्ध निर्णय लेने देने की अनुमति देगी?
