नैतिकता
एआई शोधकर्ता एआई पूर्वाग्रह पर बाउंटी लगाने का प्रस्ताव रखते हैं ताकि एआई अधिक नैतिक बनाया जा सके
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
इंटेल, गूगल ब्रेन और ओपनएआई जैसी कंपनियों और एआई विकास प्रयोगशालाओं के एआई शोधकर्ताओं की एक टीम ने एआई के नैतिक उपयोग को सुनिश्चित करने के लिए बाउंटी का उपयोग करने की सिफारिश की है। शोधकर्ताओं की टीम ने हाल ही में एआई उपयोग के लिए नैतिक दिशानिर्देशों के साथ-साथ उन्हें पूरा करने के सुझावों की एक संख्या जारी की है। शोधकर्ताओं द्वारा की गई एक सिफारिश यह थी कि एआई कार्यक्रमों में पूर्वाग्रह का पता लगाने वाले डेवलपर्स को बाउंटी दी जानी चाहिए। यह सिफारिश “ट्रस्टवर्थी एआई डेवलपमेंट की ओर: सत्यापन योग्य दावों का समर्थन करने के लिए तंत्र” नामक एक पत्र में की गई थी।
वेंचरबीट की रिपोर्ट के अनुसार, यूएस और यूरोप में विभिन्न कंपनियों के शोधकर्ता एआई विकास के लिए नैतिक दिशानिर्देशों के साथ-साथ उन्हें पूरा करने के सुझावों का एक सेट तैयार करने के लिए एक साथ आए। शोधकर्ताओं द्वारा की गई एक सिफारिश यह थी कि एआई कार्यक्रमों में पूर्वाग्रह का पता लगाने वाले डेवलपर्स को बाउंटी दी जानी चाहिए। यह सिफारिश “ट्रस्टवर्थी एआई डेवलपमेंट की ओर: सत्यापन योग्य दावों का समर्थन करने के लिए तंत्र” नामक एक पत्र में की गई थी।
शोधकर्ता टीम द्वारा संबोधित किए जाने वाले पूर्वाग्रहों के उदाहरणों के रूप में, पूर्वाग्रहित डेटा और एल्गोरिदम स्वास्थ्य सेवा अनुप्रयोगों से लेकर कानून प्रवर्तन द्वारा उपयोग की जाने वाली चेहरे की पहचान प्रणाली तक सब कुछ में पाए गए हैं। पूर्वाग्रह का एक ऐसा उदाहरण पैटर्न जोखिम मूल्यांकन उपकरण है जिसका उपयोग हाल ही में यूएस डिपार्टमेंट ऑफ जस्टिस द्वारा किया गया था ताकि कैदियों को त्रि-आयामी किया जा सके और यह तय किया जा सके कि कोरोनावायरस महामारी के जवाब में जेल आबादी को कम करने के लिए कौन से घर जा सकते हैं।
कंप्यूटर प्रोग्रामों में अवांछित व्यवहार का पता लगाने वाले डेवलपर्स को पुरस्कृत करने की प्रथा पुरानी है, लेकिन यह पहली बार हो सकता है कि एआई नैतिकता बोर्ड ने गंभीरता से इस विचार को एआई पूर्वाग्रह से निपटने के विकल्प के रूप में आगे बढ़ाया है। हालांकि यह असंभव है कि एआई डेवलपर्स पर्याप्त पूर्वाग्रह पाएं ताकि एआई को नैतिक बनाया जा सके, यह कंपनियों को समग्र पूर्वाग्रह को कम करने और यह जानने में मदद करेगा कि किस प्रकार के पूर्वाग्रह उनके एआई सिस्टम में रिसाव कर रहे हैं।
पत्र के लेखकों ने समझाया कि बग-बाउंटी अवधारणा को पूर्वाग्रह और सुरक्षा बाउंटी के उपयोग के साथ एआई में विस्तारित किया जा सकता है और bahwa इस तकनीक का उचित उपयोग बेहतर दस्तावेजीकृत डेटासेट और मॉडल का नेतृत्व कर सकता है। दस्तावेज़ीकरण मॉडल और डेटा दोनों की सीमाओं को बेहतर ढंग से प्रतिबिंबित करेगा। शोधकर्ताओं ने यह भी उल्लेख किया कि यही विचार व्याख्यात्मकता, सुरक्षा और गोपनीयता संरक्षण जैसे अन्य एआई गुणों पर लागू किया जा सकता है।
एआई के नैतिक सिद्धांतों के आसपास अधिक से अधिक चर्चा होने के साथ, कई लोगों ने यह टिप्पणी की है कि सिद्धांतों के लिए पर्याप्त नहीं है और एआई को नैतिक बनाने के लिए कार्रवाई की आवश्यकता है। पत्र के लेखकों ने उल्लेख किया कि “उद्योग और अकादमिक जगत में मौजूदा नियम और मानक एआई विकास को जिम्मेदार बनाने के लिए पर्याप्त नहीं हैं।” गूगल ब्रेन के सह-संस्थापक और एआई उद्योग के नेता एंड्रू एनजी ने यह भी कहा कि मार्गदर्शक सिद्धांतों के पास एआई का उपयोग जिम्मेदारी से और न्यायपूर्ण तरीके से करने की क्षमता नहीं है, यह कहते हुए कि कई को अधिक स्पष्ट और कार्रवाई योग्य विचारों की आवश्यकता है।
संयुक्त शोध टीम द्वारा पूर्वाग्रह बाउंटी शिकार की सिफारिश नैतिक सिद्धांतों से परे नैतिक कार्रवाई के क्षेत्र में जाने का प्रयास है। शोध टीम ने एआई क्षेत्र में नैतिक कार्रवाई को बढ़ावा देने के लिए कई अन्य सिफारिशें भी कीं।
शोध टीम ने कंपनियों के लिए अपने एआई उपयोग को अधिक नैतिक बनाने के लिए कई अन्य सिफारिशें कीं। उन्होंने सुझाव दिया कि एआई समुदाय के बीच साझा की जाने वाली एआई घटनाओं का एक केंद्रीकृत डेटाबेस बनाया जाना चाहिए। इसी तरह, शोधकर्ताओं ने यह प्रस्ताव दिया कि एक ऑडिट ट्रेल स्थापित किया जाना चाहिए और इन ट्रेल्स को सुरक्षा-सITICAL अनुप्रयोगों के निर्माण और एआई प्लेटफार्मों पर तैनाती के बारे में जानकारी संरक्षित करनी चाहिए।
लोगों की गोपनीयता की रक्षा के लिए, शोध टीम ने सिफारिश की कि एन्क्रिप्टेड संचार, संघीय सीखने और अंतर्निहित गोपनीयता जैसी गोपनीयता-केंद्रित तकनीकों का उपयोग किया जाना चाहिए। इसके अलावा, शोध टीम ने सुझाव दिया कि खुले स्रोत विकल्पों को व्यापक रूप से उपलब्ध कराया जाना चाहिए और व्यावसायिक एआई मॉडल की गहन जांच की जानी चाहिए। अंत में, शोध टीम ने सिफारिश की कि सरकारी धन को बढ़ाया जाना चाहिए ताकि अकादमिक शोधकर्ता हार्डवेयर प्रदर्शन दावों की पुष्टि कर सकें।
