नियमन
टेक एडवाइजरी ग्रुप पेंटागन के एआई उपयोग पर सीमाएं लगाने के लिए दबाव डाल रहा है
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
पेंटागन ने अपने इरादे को स्पष्ट किया है कि वह कृत्रिम बुद्धिमत्ता में भारी निवेश करेगा, यह कहते हुए कि एआई अमेरिकी सैन्य को अधिक शक्तिशाली और राष्ट्रीय सुरक्षा खतरों के लिए अधिक मजबूत बना देगा। एंगेडगेट की रिपोर्ट के अनुसार, इस पिछले गुरुवार को रक्षा नवाचार बोर्ड ने सैन्य में एआई के उपयोग के लिए कई प्रस्तावित नैतिक दिशानिर्देशों को आगे बढ़ाया। प्रस्तावों की सूची में अनियंत्रित पूर्वाग्रह से बचने और नियंत्रित एआई की रणनीतियों को शामिल किया गया है जो आपातकालीन रोकथाम प्रक्रियाओं को अपनाते हैं जो एआई को अनावश्यक नुकसान पहुंचाने से रोकते हैं।
वायर्ड की रिपोर्ट के अनुसार, रक्षा नवाचार बोर्ड का गठन ओबामा प्रशासन द्वारा पेंटागन को तकनीकी उद्योग के अनुभव और प्रतिभा प्राप्त करने में मार्गदर्शन करने के लिए किया गया था। बोर्ड की वर्तमान अध्यक्षता गूगल के पूर्व सीईओ एरिक श्मिट कर रहे हैं। विभाग को हाल ही में सैन्य परियोजनाओं में एआई के नैतिक कार्यान्वयन के लिए दिशानिर्देश स्थापित करने का काम सौंपा गया था। गुरुवार को बोर्ड ने अपने दिशानिर्देशों और सिफारिशों को समीक्षा के लिए जारी किया। रिपोर्ट में कहा गया है कि सैन्य संदर्भ में एआई के उपयोग पर गंभीर चर्चा करने का समय अब है, इससे पहले कि कोई गंभीर घटना यह आवश्यक बना दे कि ऐसा किया जाना चाहिए।
(GOOGL )आर्टिफिशियल इंटेलिजेंस न्यूज के अनुसार, एक पूर्व सैन्य अधिकारी ने हाल ही में कहा कि पेंटागन एआई के उपयोग में पिछड़ रहा है। पेंटागन इस अंतर को पूरा करने का लक्ष्य रखता है और उसने सैन्य में एआई के विकास और विस्तार को एक राष्ट्रीय प्राथमिकता घोषित किया है। एआई नैतिकविदों को चिंता है कि पेंटागन की एआई में अग्रणी बनने की जल्दी में, एआई प्रणालियों का उपयोग अनैतिक तरीके से किया जा सकता है। विभिन्न स्वतंत्र एआई नैतिक बोर्डों ने अपनी सिफारिशें दी हैं, रक्षा नवाचार बोर्ड ने कम से कम पांच सिद्धांतों का प्रस्ताव दिया है जिनका पालन सैन्य को एआई प्रणालियों के विकास और कार्यान्वयन के दौरान हमेशा करना चाहिए।
बोर्ड द्वारा प्रस्तावित पहला सिद्धांत यह है कि सैन्य संदर्भ में उपयोग किए जाने वाले किसी भी कृत्रिम बुद्धिमत्ता प्लेटफ़ॉर्म के उपयोग, तैनाती और परिणामों के लिए मानव जिम्मेदार होना चाहिए। यह 2012 की नीति की याद दिलाता है जिसने मानव को अंततः निर्णय लेने की प्रक्रिया में शामिल करने की मांग की थी जब कभी घातक बल का उपयोग किया जा सकता था। सूची में अन्य सिद्धांतों में से एक यह है कि एआई प्रणालियों को हमेशा उन इंजीनियरों द्वारा बनाया जाना चाहिए जो अपने कार्यक्रमों को समझते हैं और उन्हें पूरी तरह से दस्तावेज़ करते हैं। एक अन्य सिद्धांत यह सलाह देता है कि सैन्य एआई प्रणालियों को हमेशा उनकी विश्वसनीयता के लिए परीक्षण किया जाना चाहिए। ये दिशानिर्देश सामान्य ज्ञान की तरह लगते हैं, लेकिन बोर्ड उनके महत्व पर जोर देना चाहता है।
सूची में अन्य सिद्धांत एआई एल्गोरिदम के लिए पूर्वाग्रह नियंत्रण और एआई की क्षमता से संबंधित हैं ताकि यह पता लगाया जा सके कि क्या अनियंत्रित नुकसान हो सकता है और स्वचालित रूप से डिसेंगेज हो जाए। दिशानिर्देशों में कहा गया है कि यदि अनावश्यक नुकसान होने वाला है, तो एआई को खुद को डिसेंगेज करने में सक्षम होना चाहिए और एक मानव ऑपरेटर को नियंत्रण लेने देना चाहिए। दिशानिर्देशों के मसौदे में यह भी सिफारिश की गई है कि एआई के आउटपुट को ट्रेसेबल होना चाहिए ताकि विश्लेषक यह देख सकें कि एआई ने किसी विशिष्ट निर्णय पर क्या पहुंचाया।
बोर्ड द्वारा आगे बढ़ाए गए सिफारिशों का सेट दो अलग-अलग विचारों पर जोर देता है। सिद्धांत यह दर्शाते हैं कि एआई सैन्य अभियानों के भविष्य का एक अभिन्न अंग होगा, लेकिन एआई का अधिकांश हिस्सा अभी भी मानव प्रबंधन और निर्णय लेने पर निर्भर करता है।
जबकि पेंटागन को बोर्ड की सिफारिशों को अपनाने की आवश्यकता नहीं है, ऐसा लगता है कि पेंटागन सिफारिशों को गंभीरता से ले रहा है। वायर्ड की रिपोर्ट के अनुसार, संयुक्त कृत्रिम बुद्धिमत्ता केंद्र के निदेशक, लेफ्टिनेंट जनरल जैक शनहान ने कहा कि बोर्ड की सिफारिशें पेंटागन को “डीओडी एआई रणनीति में रेखांकित उच्चतम नैतिक मानकों को बनाए रखने में मदद करेंगी, जबकि अमेरिकी सैन्य के प्रौद्योगिकी नवाचारों के लिए सख्त परीक्षण और क्षेत्र मानकों को लागू करने के मजबूत इतिहास को अपनाते हैं।”
सामान्य तौर पर, तकनीकी उद्योग सैन्य हार्डवेयर और सॉफ्टवेयर के निर्माण में एआई का उपयोग करने से सावधान रहता है। माइक्रोसॉफ्ट और गूगल के कर्मचारियों ने दोनों सैन्य संस्थाओं के साथ सहयोग पर विरोध किया है, और गूगल ने हाल ही में प्रोजेक्ट मेवेन में योगदान देने वाले अनुबंध को नवीनीकृत नहीं करने का फैसला किया है। कई सीईओ, वैज्ञानिक, इंजीनियर और शोधकर्ताओं ने एक शपथ पर हस्ताक्षर किए हैं कि वे “माराने वाले स्वायत्त हथियारों के विकास, निर्माण, व्यापार या उपयोग में भाग नहीं लेंगे या समर्थन नहीं करेंगे”। यदि पेंटागन बोर्ड द्वारा सुझाई गई दिशानिर्देशों को अपनाता है, तो यह तकनीकी उद्योग को परियोजनाओं पर सहयोग करने के लिए अधिक इच्छुक बना सकता है, हालांकि यह केवल समय ही बताएगा।
(MSFT )
