विचार नेता

उद्योग एआई अपनाने में तेजी की तैयारी कर रहे हैं, नैतिकता और जिम्मेदारी पर नया ध्यान

Dr. Pandurang Kamat
Unite.AI को Google पर अपने पसंदीदा स्रोतों में जोड़ें
मुख्य बिंदुबीएफएसआई में एआई पूर्वाग्रह को बढ़ाने का जोखिम पैदा करता है, जिसमें अश्वेत आवेदकों को…
और देखें
  • बीएफएसआई में एआई पूर्वाग्रह को बढ़ाने का जोखिम पैदा करता है, जिसमें अश्वेत आवेदकों को गृह ऋण देने से इनकार किए जाने की संभावना 80% अधिक होती है।
  • स्वास्थ्य सेवा में एआई अपनाने में पक्षपातपूर्ण डेटा और असमानताओं को बढ़ाने के जोखिम जैसी चुनौतियों का सामना करना पड़ता है।
  • मीडिया कंपनियों को नैतिकता, गोपनीयता और प्रतिस्पर्धात्मक बढ़त के बीच संतुलन बनाने के लिए एआई तैनाती के बाद निगरानी करनी चाहिए।

द्वारा: पांडुरंग कामत, पर्सिस्टेंट सिस्टम्स के मुख्य प्रौद्योगिकी अधिकारी (PERSISTENT.BO )

आर्टिफ़िशियल इंटेलिजेंस (एआई) अपने मूल में मशीन लर्निंग (एमएल) है, जो डेटा इनपुट के आधार पर प्रदर्शन में सुधार करने के लिए मशीनों द्वारा सीखने की प्रक्रिया है। आज मौजूद डेटा की भारी मात्रा का अर्थ है कि एआई को पनपने के लिए उपजाऊ जमीन मिली है, पिछले कुछ वर्षों में इसकी प्रगति बेहद तेजी से हुई है। और एआई का वादा तकनीशियनों और कार्यकारियों को व्यापक उद्योगों में इसके विभिन्न अनुप्रयोगों के बारे में रचनात्मक रूप से सोचने के लिए प्रेरित कर रहा है।

औद्योगिक क्रांति के बाद से, तेजी से तकनीकी प्रगति की कोई भी अवधि उत्साह और आशंका के बराबर हिस्सों से चिह्नित होती है। वर्ल्ड वाइड वेब कंसोर्टियम (डब्ल्यू३सी), एक समूह जो वेब डेवलपर उद्योग मानक बनाता है, यह इंगित करता है कि “मशीन लर्निंग के अनुप्रयोग से जोखिम होते हैं और नुकसान हो सकते हैं” – जिनमें से कुछ क्षेत्रों में शामिल हैं: पूर्वाग्रह, गोपनीयता, सुरक्षा, स्थिरता, और समग्र जवाबदेही।

“नैतिक एआई दृष्टिकोण के लिए स्पष्ट मांग है, जो नागरिक समाज से सक्रियता, ~100 सेट नैतिक एआई सिद्धांतों के उदय, और दुनिया भर में सरकारों द्वारा एआई को विनियमित करने के लिए कदमों से देखा जा सकता है,” समूह ने लिखा। “यदि प्रौद्योगिकियां उन समाजों के मूल्यों के साथ संरेखित नहीं हैं जिनमें वे काम करती हैं, तो वे उन्हें कमजोर कर सकती हैं।”

सावधानी से चुनें

सतह पर, यह तर्क देना मुश्किल है कि बढ़ी हुई गति और आउटपुट व्यवसाय के लिए बुरे हैं। लेकिन कुछ उद्योगों के लिए, निर्णय लेने की प्रक्रिया में बहुत कुछ दांव पर है, जिसे कुछ तर्क देते हैं कि इसे केवल एक एल्गोरिदम पर नहीं छोड़ा जाना चाहिए। कुछ सबसे बड़े उद्योगों पर नजर डालें, तो हम देख सकते हैं कि मशीन त्रुटि के लिए हम कितने कमजोर हैं, और जिम्मेदार एआई क्यों इतना महत्वपूर्ण है।

बैंकिंग, वित्तीय सेवाएं, और बीमा (बीएफएसआई)

वर्ल्ड इकोनॉमिक फोरम (डब्ल्यूईएफ) और डेलॉइट ने बीएफएसआई कंपनियों में एआई को तैनात करने की प्रक्रिया की जांच की, यह पाया कि “एआई से व्यावसायिक अंतर्दृष्टि बनाने में मदद मिल सकती है,” लेकिन “एआई की विदेशीता” एक गंभीर जोखिम का स्रोत होगी।

“एआई मानव तरीके से नहीं सोचता,” रिपोर्ट पढ़ती है। “एआई सिस्टम मानव निर्मित तर्क का पालन नहीं करते हैं और एक ही कार्य के लिए मनुष्यों से बहुत अलग व्यवहार करते हैं। इसके अलावा, एआई सिस्टम की स्व-शिक्षा प्रकृति उन्हें मानव इनपुट के बिना विकसित करने की अनुमति देती है, जो अज्ञात चरों के आधार पर अप्रत्याशित परिणामों की ओर ले जा सकती है।”

जिम्मेदार एआई के समर्थकों का तर्क है कि मशीन लर्निंग में गंभीर समस्याएं हैं, जैसे कि स्वचालित जोखिम स्कोरिंग, ऋण, और उधार निर्णय, जो ऐतिहासिक रूप से कुछ जनसांख्यिकी के प्रति पक्षपातपूर्ण हैं। हाल के अध्ययनों से पता चला है कि एआई-आधारित निर्णय इंजन का उपयोग करने वाले उधारदाताओं ने घरेलू ऋणों के लिए रंग के लोगों को अस्वीकार करने की संभावना अधिक थी – कुछ मामलों में, अश्वेत आवेदकों को अस्वीकार किए जाने की संभावना 80% अधिक थी।

स्वास्थ्य सेवा

कुछ साल पहले, जर्नल ऑफ द अमेरिकन मेडिकल एसोसिएशन (जामा) ने स्वास्थ्य सेवा में एआई को अपनाने की जांच की, जिसमें कई चुनौतियों का पता चला, जिनमें “अवास्तविक अपेक्षाएं, पूर्वाग्रहपूर्ण और गैर-प्रतिनिधि डेटा, समानता और समावेशन को पर्याप्त रूप से प्राथमिकता नहीं देना, स्वास्थ्य देखभाल में असमानता को बढ़ाने का जोखिम, विश्वास के निम्न स्तर, और अनिश्चित नियामक वातावरण” शामिल थीं।

यह एक उत्साहजनक समर्थन नहीं है, लेकिन स्वास्थ्य सेवा में जिम्मेदार एआई के लिए एक उच्च मानक है, खासकर जब इसकी जीवन-मृत्यु की संभावना को देखते हुए। समग्र रूप से, स्वास्थ्य पेशेवर एआई के भविष्य के बारे में आशावादी लेकिन सावधान हैं, और वे क्लिनिकल सेटिंग में इसके उपयोग के बारे में अन्य चिकित्सकों को शिक्षित करने और सभी रोगियों को लाभ पहुंचाने वाले तरीके से जिम्मेदारीपूर्वक आगे बढ़ने के लिए दिशानिर्देश बनाने पर ध्यान केंद्रित कर रहे हैं।

मीडिया

पीडब्ल्यूसी अनुमान है कि एआई 2030 तक वैश्विक आर्थिक विकास में $15.7 ट्रिलियन प्रदान करेगा, लेकिन सेल्सफोर्स के अनुसार (CRM ) आधे से भी कम (48%) ग्राहकों को भरोसा है कि कंपनियां एआई का नैतिक रूप से उपयोग करेंगी, और 65% अनैतिक उपयोग के बारे में चिंतित हैं। लाभ और विश्वास के बिंदु पर, मीडिया कंपनियां हैं – शुरुआती अपनाने वाले जिनकी बड़ी पहुंच और प्रभाव है। और चिंता है कि एआई एक “सेट इट एंड फॉरगेट” अनुप्रयोग नहीं है, जिसका अर्थ है कि मीडिया कंपनियों के लिए उनकी जिम्मेदारी न केवल सामग्री के उत्पादन में है, बल्कि इसकी तैनाती के बाद इसकी निरंतर निगरानी में भी है।

विज्ञापन कैसे परोसे जा रहे हैं और व्यक्तिगत किए जा रहे हैं? किस दर्शक तक कैसे पहुंच रहा है, और संदेश क्या है? एआई को सीखने का तरीका कौन सिखा रहा है? और आप विशिष्ट उपभोक्ताओं को लक्षित करते हुए गोपनीयता का सम्मान कैसे कर सकते हैं? ये कुछ प्रश्न हैं जो मीडिया कंपनियों को नैतिकता के साथ प्रतिस्पर्धी लाभ को संतुलित करने के लिए परेशान कर रहे हैं।

जिम्मेदारी का जवाब

जिम्मेदार एआई विकसित करने में प्रगति प्रतिदिन स्पष्ट है – विधायक नियम बना रहे हैं, उपभोक्ता अधिक पारदर्शिता की मांग कर रहे हैं, और कई कंपनियों ने अपने एआई का उपयोग उचित रूप से सुनिश्चित करने के लिए विशिष्ट विभाग बनाए हैं। कंपनियों को एक अच्छी तरह से परिभाषित जिम्मेदार एआई फ्रेमवर्क की आवश्यकता है जो नैतिकता, पारदर्शिता, जवाबदेही, न्याय, गोपनीयता और सुरक्षा को कवर करता है। जैसे ही बहस और सुधार जारी रहते हैं, हाल का एक संयुक्त अध्ययन एमआईटी स्लोन मैनेजमेंट रिव्यू और बोस्टन कंसल्टिंग ग्रुप द्वारा कुछ सरल समग्र मार्गदर्शन प्रदान करता है – उन्होंने लिखा, “यदि आप एक जिम्मेदार एआई नेता बनना चाहते हैं, तो एक जिम्मेदार कंपनी बनने पर ध्यान केंद्रित करें।”

डॉ. पांडुरंग कामत Persistent Systems के मुख्य प्रौद्योगिकी अधिकारी हैं। वे उन्नत प्रौद्योगिकी अनुसंधान के लिए ज़िम्मेदार हैं, जिसका उद्देश्य बड़े पैमाने पर नवाचार के माध्यम से व्यावसायिक मूल्य सृजित करना है। वे एक अनुभवी प्रौद्योगिकी नेतृत्वकर्ता हैं जो ग्राहकों को उपयोगकर्ता अनुभव बेहतर बनाने, व्यावसायिक प्रक्रियाएँ अनुकूलित करने और नए डिजिटल उत्पाद बनाने में मदद करते हैं। उनका दृष्टिकोण Persistent को नवाचार का एक शक्तिशाली केंद्र बनाना है, जो शैक्षणिक जगत और स्टार्टअप से बने वैश्विक तथा विविध नवाचार पारिस्थितिकी तंत्र को आधार प्रदान करे।