एआई: लोगों द्वारा, लोगों के लिए और लोगों की ओर से

द्वारा: बालाकृष्ण (बाली) डीआर, सीनियर वाइस प्रेसिडेंट, सर्विस ऑफरिंग हेड – ईसीएस, एआई और ऑटोमेशन tại इंफोसिस。

हम भाग्यशाली हैं कि हम तकनीक के युग में रहते हैं जहां आर्टिफिशियल इंटेलिजेंस हमारे जीवन को आसान बनाने के लिए इतनी मेहनत करता है – हमारे फोन अब हमें पहचानते हैं और हमें ‘देखते’ ही अनलॉक हो जाते हैं, हमारे पास बात करने वाले मैप्स हैं जो हमें सबसे छोटा और सबसे कम भीड़भाड़ वाले रास्ते पर ले जाने में मदद करते हैं जहां हम जाना चाहते हैं, स्मार्ट डिवाइस जो हमारे घरों को गर्म और ठंडा करते हैं इससे पहले कि हम शब्द कहें, बुद्धिमान ऐप्स जो धोखाधड़ी की भविष्यवाणी और रोकथाम करते हैं, और बहुत कुछ।

हालांकि, हमारे पास ऐसे उदाहरण भी हैं जहां ये स्मार्ट एआई-संचालित सिस्टम हमें न्याय और नैतिकता के दृष्टिकोण से विफल कर चुके हैं। उदाहरण के लिए, हमारे साथ काम करने वाले एक प्रतिष्ठित बैंक ने संदेह व्यक्त किया कि वे ऋण जारी करने से पहले क्रेडिट योग्यता का मूल्यांकन करने के लिए जिन एआई मॉडल का उपयोग करते हैं, वे पक्षपाती हो सकते हैं, और उन्होंने हमें उनकी मदद करने के लिए बुलाया। एक अन्य अवसर पर, एक मशीनरी निर्माता ने हमारे साथ मिलकर वारंटी दावों के पैटर्न का विश्लेषण करने के लिए काम किया ताकि डेटा सेट और प्रक्रिया से पक्षपात को समाप्त किया जा सके, इससे पहले कि वे अपनी दावा अनुमोदन प्रक्रिया को पुनः इंजीनियर और स्वचालित करें। भर्ती से संबंधित एआई मॉडल, हम अक्सर पाते हैं कि वे आयु, लिंग, जाति, यहां तक कि ज़िप कोड के अपने डेटा सेट में पक्षपात से दूषित होते हैं – यदि अनियंत्रित छोड़ दिया जाए तो अनुचित परिणाम प्रदान करते हैं।

एआई पूर्वाग्रह के पूरे उद्यम में इतना बड़ा प्रभाव हो सकता है, इसलिए एआई सिस्टम के विकास, कार्यान्वयन और उपयोग में नैतिक प्रश्न केंद्र चरण में आ गए हैं। एआई सिस्टम कई मानव निर्णयों का संयोजन है, जो स्वयं मानव पूर्वाग्रहों पर आधारित हैं। कर्मचारी स्वायत्तता और गोपनीयता की रक्षा, पूर्वाग्रहों के कारण करियर विकास और अवसरों पर जोखिम, त्वचा के रंग, जाति या लिंग के आधार पर भेदभाव, एआई समाधान द्वारा किए गए विकल्पों की कमी की व्याख्या, और इस प्रकार, एआई निर्णय लेने की जिम्मेदारी, गर्म रूप से चर्चा की जा रही है जब यह एआई और इसके गुणों की चर्चा करने की बात आती है।

जिम्मेदार एआई बनाना

एआई पूर्वाग्रह पूरे संगठन में एक परिणामी प्रभाव डाल सकता है। यह प्रासंगिक है कि आईटी नेता सुनिश्चित करें कि वे एआई को एक नैतिक तरीके से तैनात कर रहे हैं जो कर्मचारियों के साथ और उनके खिलाफ नहीं है। ऐसा करने के लिए, संगठनों को अपने एआई तैनाती में निम्नलिखित को शामिल करना चाहिए।

डेटा गवर्नेंस: एआई का नैतिक उपयोग भी डेटा के नैतिक और पारदर्शी उपयोग पर आधारित है, जो डेटा से शुरू होता है। ऐसा करने के लिए, आईटी नेताओं को एक अच्छी तरह से परिभाषित शासन ढांचा स्थापित करना चाहिए जो डेटा सुरक्षा, अखंडता, और गोपनीयता सुनिश्चित करेगा, साथ ही डेटा भ्रष्टाचार और हानि को रोकेगा – सभी आवश्यक हैं।

जिम्मेदारी: मशीन लर्निंग मॉडल निष्पक्ष, पक्षपात रहित, लोगों को समान रूप से व्यवहार करना चाहिए और सभी विशेषताओं जैसे कि जाति, धर्म, लिंग आदि में लाभों को समान रूप से साझा करना चाहिए (समान स्वीकृति और अस्वीकृति दर)। उन्हें समग्र आंकड़े पर स्वीकार्य सटीकता हासिल करने की आवश्यकता नहीं है, बल्कि अल्पसंख्यक वर्गों पर भी है। इन मॉडलों को परिणाम कैसे प्राप्त किया गया, इसकी व्याख्या करने में सक्षम होना चाहिए। उदाहरण के लिए, यह समझाने में सक्षम होना कि मॉडल ने आवेदक ए के ऋण आवेदन को क्यों अस्वीकार कर दिया लेकिन आवेदक बी के समान आवेदन को स्वीकार कर दिया। आईटी नेताओं को व्यवसायिक हितधारकों को इन निर्णयों को चलाने वाले अंतर्निहित तर्क को स्पष्ट करने की आवश्यकता है ताकि उद्यम में अधिक पारदर्शिता हो।
विरोधी रोबस्टनेस: पूरे एआई पारिस्थितिकी तंत्र को एआई मॉडल को परीक्षण और हैकिंग के माध्यम से संभावित प्रतिकूल परिणामों का अध्ययन करने की आवश्यकता पर सहमत होने की आवश्यकता है। उदाहरण के लिए, आईटी नेता अपने एआई सिस्टम की जांच करने और संभावित बाधाओं के लिए तैयार करने के लिए निम्नलिखित परीक्षणों का उपयोग कर सकते हैं:

• डेटा संशोधित करें: डेटा इंजेक्शन, संशोधन और तर्क भ्रष्टाचार द्वारा सीधे प्रशिक्षण के लिए उपयोग किए जाने वाले डेटासेट को बदलें।
• मॉडल संशोधित करें: आत्मविश्वास में कमी और गलत वर्गीकरण के लिए परीक्षण करें।
• सहायक उपकरण: परिणामों को प्रभावित या भ्रष्ट करने के लिए उपकरण का उपयोग करें।

मानव लूप में: एआई मॉडल को जोखिम मुक्त करने के लिए प्रमुख निर्णय बिंदुओं पर मानव की आवश्यकता होती है और यदि एआई सिस्टम को वापस लेने की आवश्यकता है तो एक प्रभावी बैकअप तंत्र या वैकल्पिक मार्ग होना चाहिए।

एआई के लिए सामाजिक सहमति विकसित करना

इन दिशानिर्देशों के अलावा, हमें उद्यम भर में सभी नेताओं के बीच समावेशी चर्चाओं और विचार-विमर्श को बढ़ावा देने की आवश्यकता है, एआई तैनाती के लाभों, हितों, लागतों और परिणामों के बारे में। केवल ऐसी समावेशी प्रक्रियाएं, जिसमें सभी हितधारक शामिल हों, स्वीकार्य परिणामों पर चर्चा और निर्णय लेने के लिए, और जोखिमों और लाभों को तौलने के लिए, एआई प्रौद्योगिकियों को पूरे उद्यम में संचालित करने की अनुमति देने की संभावना है।