आर्टिफ़िशियल इंटेलिजेंस: लोगों द्वारा, लोगों के लिए और लोगों की सेवा में

लेखक: बालाकृष्ण (बाली) डीआर, सीनियर वाइस प्रेसिडेंट, सर्विस ऑफरिंग हेड – ईसीएस, एआई और ऑटोमेशन, इन्फोसिस।

हम तकनीक के युग में रहने के लिए भाग्यशाली हैं जहां आर्टिफ़िशियल इंटेलिजेंस हमारे जीवन को आसान बनाने के लिए कड़ी मेहनत करता है – हमारे फोन अब हमें पहचानते हैं और हमें ‘देखते’ ही अनलॉक हो जाते हैं, हमारे पास बात करने वाले मानचित्र हैं जो हमें सबसे छोटे और कम भीड़भाड़ वाले मार्गों पर ले जाने में मदद करते हैं, स्मार्ट डिवाइस जो हमारे घरों को गर्म और ठंडा करते हैं इससे पहले कि हम शब्द कहें, बुद्धिमान ऐप जो धोखाधड़ी की भविष्यवाणी और रोकथाम करते हैं, और बहुत कुछ।

हालांकि, हमें ऐसे उदाहरण भी मिले हैं जहां ये स्मार्ट एआई-संचालित प्रणालियां हमें न्याय और नैतिकता के दृष्टिकोण से विफल कर दी हैं। उदाहरण के लिए, हमारे साथ काम करने वाले एक प्रतिष्ठित बैंक ने संदेह व्यक्त किया कि वे ऋण जारी करने से पहले ऋण की योग्यता का मूल्यांकन करने के लिए जिन एआई मॉडल का उपयोग करते हैं, वे पूर्वाग्रह से ग्रस्त हो सकते हैं, और उन्होंने हमें इसकी मदद करने के लिए बुलाया। एक अन्य अवसर पर, एक मशीनरी निर्माता ने हमारे साथ मिलकर वारंटी दावा पैटर्न का विश्लेषण करने और पूर्वाग्रह को दूर करने के लिए काम किया, इससे पहले कि वे अपनी दावा अनुमोदन प्रक्रिया को फिर से तैयार करें और स्वचालित करें। भर्ती से संबंधित एआई मॉडल अक्सर हमें उम्र, लिंग, जाति, और कभी-कभी ज़िप कोड के पूर्वाग्रह से भरे हुए पाए जाते हैं – यदि उन्हें अनियंत्रित छोड़ दिया जाए तो अनुचित परिणाम प्रदान करते हैं।

एआई पूर्वाग्रह के उद्यम में बहुत बड़ा प्रभाव हो सकता है, इसलिए एआई प्रणालियों के विकास, कार्यान्वयन और उपयोग में नैतिक प्रश्न महत्वपूर्ण हो गए हैं। एआई प्रणालियां कई मानव निर्णयों का संयोजन हैं, जो स्वाभाविक रूप से मानव पूर्वाग्रहों पर आधारित हैं। कर्मचारी स्वायत्तता और गोपनीयता की रक्षा, पूर्वाग्रह के जोखिम जो करियर विकास और अवसरों पर प्रभाव डाल सकते हैं, त्वचा के रंग, जाति या लिंग के आधार पर भेदभाव, एआई समाधान द्वारा किए गए निर्णयों की व्याख्या करने में असमर्थता, और इस प्रकार एआई निर्णय लेने की जवाबदेही – ये सभी मुद्दे एआई और इसके गुणों पर चर्चा करते समय गरमागरम बहस का विषय बन गए हैं।

जिम्मेदार एआई बनाना

एआई पूर्वाग्रह पूरे संगठन में एक प्रभाव डाल सकता है। यह आवश्यक है कि आईटी नेता सुनिश्चित करें कि वे एआई को एक नैतिक तरीके से तैनात कर रहे हैं जो कर्मचारियों के साथ और उनके खिलाफ नहीं है। ऐसा करने के लिए, संगठनों को अपने एआई तैनाती में निम्नलिखित शामिल करना चाहिए।

डेटा गवर्नेंस: एआई का नैतिक उपयोग डेटा के नैतिक और पारदर्शी स्रोत पर आधारित है। इसके लिए, आईटी नेताओं को एक अच्छी तरह से परिभाषित शासन ढांचा स्थापित करना चाहिए जो डेटा सुरक्षा, अखंडता, और गोपनीयता सुनिश्चित करे और डेटा भ्रष्टाचार और हानि को रोके।

जवाबदेही: मशीन लर्निंग मॉडल न्यायसंगत, पूर्वाग्रह मुक्त, और सभी विशेषताओं जैसे कि जाति, धर्म, लिंग आदि में समान व्यवहार करना चाहिए। उन्हें स्वीकृति और अस्वीकृति दर में भी समान होना चाहिए। इन मॉडलों को परिणाम की व्याख्या करने में सक्षम होना चाहिए। उदाहरण के लिए, यह बताने में सक्षम होना चाहिए कि क्यों एक मॉडल ने एक आवेदक को ऋण देने से इनकार कर दिया लेकिन दूसरे को स्वीकृति दी। आईटी नेताओं को व्यावसायिक हितधारकों को यह स्पष्ट करना चाहिए कि इन निर्णयों के पीछे क्या तर्क है, ताकि उद्यम में अधिक पारदर्शिता हो।

विरोधी स्थिरता: पूरे एआई पारिस्थितिकी तंत्र को यह स्वीकार करना चाहिए कि एआई मॉडलों का परीक्षण और हैकिंग की जानी चाहिए ताकि संभावित नकारात्मक परिणामों का अध्ययन किया जा सके। उदाहरण के लिए, आईटी नेता निम्नलिखित परीक्षणों का उपयोग करके अपने एआई प्रणालियों की जांच कर सकते हैं और संभावित बाधाओं के लिए तैयारी कर सकते हैं:

• डेटा संशोधित करें: प्रशिक्षण के लिए उपयोग किए जाने वाले डेटासेट को सीधे बदलकर, डेटा इंजेक्शन, संशोधन और तर्क भ्रष्टाचार द्वारा
• मॉडल संशोधित करें: आत्मविश्वास में कमी और गलत वर्गीकरण के लिए परीक्षण करें
• सहायक उपकरण: परिणामों को प्रभावित करने या भ्रष्ट करने के लिए उपकरणों का उपयोग करें

मानव मध्यस्थता: एआई मॉडलों को जोखिम मुक्त करने के लिए महत्वपूर्ण निर्णय बिंदुओं पर मानव मध्यस्थता की आवश्यकता होती है और यदि एआई प्रणाली को वापस लेने की आवश्यकता हो तो एक प्रभावी बैकअप तंत्र या वैकल्पिक मार्ग होना चाहिए।

एआई के लिए सामाजिक अनुमति विकसित करना

इन दिशानिर्देशों के अलावा, हमें उद्यम भर में सभी नेताओं के बीच समावेशी चर्चाओं और विचार-विमर्श को बढ़ावा देने की आवश्यकता है, बड़े एआई तैनाती के लाभों, हितों, लागतों और परिणामों के बारे में। केवल ऐसी समावेशी प्रक्रियाएं, जिसमें सभी हितधारक शामिल हों, जो स्वीकार्य परिणामों पर चर्चा और निर्णय लेने के लिए और जोखिमों और लाभों को तौलने के लिए, एआई प्रौद्योगिकियों को उद्यम भर में संचालित करने की अनुमति देने की संभावना है।