उद्योग तेजी से एआई अपनाने के लिए तैयार हैं, नैतिकता और जिम्मेदारी पर नए फोकस के साथ

द्वारा: पांडुरंग कामत, सीटीओ ऑफ पERSISTENT सिस्टम्स

आर्टिफ़िशियल इंटेलिजेंस (एआई) अपने मूल में मशीन लर्निंग (एमएल) है, जो डेटा इनपुट के आधार पर प्रदर्शन में सुधार करने के लिए मशीनों द्वारा सीखने की प्रक्रिया है। आज मौजूद डेटा की भारी मात्रा का अर्थ है कि एआई को पनपने के लिए उपजाऊ जमीन मिली है, पिछले कुछ वर्षों में तेजी से तेजी है। और एआई का वादा तकनीशियनों और कार्यकारियों को व्यापक उद्योगों में इसके विभिन्न अनुप्रयोगों के बारे में रचनात्मक रूप से सोचने के लिए प्रेरित कर रहा है।

औद्योगिक क्रांति के बाद से, तेजी से तकनीकी प्रगति की कोई भी अवधि उत्साह और आशंका के बराबर हिस्सों से चिह्नित होती है। वर्ल्ड वाइड वेब कंसोर्टियम (डब्ल्यू३सी), एक समूह जो वेब डेवलपर उद्योग मानक बनाता है, यह इंगित करता है कि “मशीन लर्निंग के अनुप्रयोग से जोखिम होते हैं और नुकसान हो सकते हैं” – जिनमें से कुछ क्षेत्रों में शामिल हैं: पूर्वाग्रह, गोपनीयता, सुरक्षा, स्थिरता, और समग्र जवाबदेही।

“नैतिक एआई दृष्टिकोण के लिए स्पष्ट मांग है, जो नागरिक समाज से सक्रियता, ~100 सेट नैतिक एआई सिद्धांतों के उदय, और दुनिया भर में सरकारों द्वारा एआई को विनियमित करने के लिए कदमों से देखा जा सकता है,” समूह ने लिखा। “यदि प्रौद्योगिकियां उन समाजों के मूल्यों के साथ संरेखित नहीं हैं जिनमें वे काम करती हैं, तो वे उन्हें कमजोर कर सकती हैं।”

सावधानी से चुनें

सतह पर, यह तर्क देना मुश्किल है कि बढ़ी हुई गति और आउटपुट व्यवसाय के लिए बुरे हैं। लेकिन कुछ उद्योगों के लिए, निर्णय लेने की प्रक्रिया में बहुत कुछ दांव पर है, जिसे कुछ तर्क देते हैं कि इसे केवल एक एल्गोरिदम पर नहीं छोड़ा जाना चाहिए। कुछ सबसे बड़े उद्योगों पर नजर डालें, तो हम देख सकते हैं कि मशीन त्रुटि के लिए हम कितने कमजोर हैं, और जिम्मेदार एआई क्यों इतना महत्वपूर्ण है।

बैंकिंग, वित्तीय सेवाएं, और बीमा (बीएफएसआई)

वर्ल्ड इकोनॉमिक फोरम (डब्ल्यूईएफ) और डेलॉइट ने बीएफएसआई कंपनियों में एआई को तैनात करने की प्रक्रिया की जांच की, यह पाया कि “एआई से व्यावसायिक अंतर्दृष्टि बनाने में मदद मिल सकती है,” लेकिन “एआई की विदेशीता” एक गंभीर जोखिम का स्रोत होगी।

“एआई मानव तरीके से नहीं सोचता,” रिपोर्ट पढ़ती है। “एआई सिस्टम मानव निर्मित तर्क का पालन नहीं करते हैं और एक ही कार्य के लिए मानव अभिनेताओं से बहुत अलग व्यवहार करते हैं। इसके अलावा, एआई सिस्टम की स्व-शिक्षा प्रकृति उन्हें मानव इनपुट के बिना विकसित करने की अनुमति देती है, जो अज्ञात चरों के आधार पर अप्रत्याशित परिणामों की ओर ले जा सकती है।”

जिम्मेदार एआई के समर्थकों का तर्क है कि मशीन लर्निंग में गंभीर समस्याएं हैं, जैसे कि स्वचालित जोखिम स्कोरिंग, ऋण, और उधार निर्णय, जो ऐतिहासिक रूप से कुछ जनसांख्यिकी के प्रति पक्षपातपूर्ण हैं। हाल के अध्ययनों से पता चला है कि एआई-आधारित निर्णय इंजन का उपयोग करने वाले उधारदाताओं ने घरेलू ऋणों के लिए रंग के लोगों को अस्वीकार करने की संभावना अधिक थी – कुछ मामलों में, 80% काले आवेदकों को अस्वीकार करने की संभावना अधिक थी।

स्वास्थ्य सेवा

कुछ साल पहले, जामा (जーナल ऑफ द अमेरिकन मेडिकल एसोसिएशन) ने स्वास्थ्य सेवा में एआई को अपनाने की जांच की, जिसमें कई चुनौतियों का पता चला, जिनमें “अवास्तविक अपेक्षाएं, पूर्वाग्रहपूर्ण और गैर-प्रतिनिधि डेटा, समानता और समावेशन को पर्याप्त रूप से प्राथमिकता नहीं देना, स्वास्थ्य देखभाल में असमानता को बढ़ाने का जोखिम, विश्वास के निम्न स्तर, और अनिश्चित नियामक वातावरण” शामिल थीं।

यह एक उत्साहजनक समर्थन नहीं है, लेकिन स्वास्थ्य सेवा में जिम्मेदार एआई के लिए एक उच्च मानक है, खासकर जब इसकी जीवन-मृत्यु की संभावना को देखते हुए। समग्र रूप से, स्वास्थ्य पेशेवर एआई के भविष्य के बारे में आशावादी लेकिन सावधान हैं, और वे क्लिनिकल सेटिंग में इसके उपयोग के बारे में अन्य पрак्टिशनरों को शिक्षित करने और जिम्मेदारी से आगे बढ़ने के लिए दिशानिर्देश बनाने पर ध्यान केंद्रित कर रहे हैं।

मीडिया

पीडब्ल्यूसी अनुमान है कि एआई 2030 तक वैश्विक आर्थिक विकास में $15.7 ट्रिलियन प्रदान करेगा, लेकिन सेल्सफोर्स के अनुसार ग्राहकों में से कम से कम आधे (48%) को लगता है कि कंपनियां एआई का नैतिक रूप से उपयोग करती हैं, और 65% अनैतिक उपयोग के बारे में चिंतित हैं। लाभ और विश्वास के बिंदु पर, मीडिया कंपनियां हैं – शुरुआती अपनाने वाले जिनकी बड़ी पहुंच और प्रभाव है। और चिंता है कि एआई एक “सेट इट एंड फॉरगेट” अनुप्रयोग नहीं है, जिसका अर्थ है कि मीडिया कंपनियों के लिए उनकी जिम्मेदारी न केवल सामग्री के उत्पादन में है, बल्कि इसकी तैनाती के बाद इसकी निरंतर निगरानी में भी है।

विज्ञापन कैसे परोसे जा रहे हैं और व्यक्तिगत किए जा रहे हैं? किस दर्शक तक कैसे पहुंच रहा है, और संदेश क्या है? कौन सा एआई “कैसे” सीखने के लिए सिखा रहा है? और आप विशिष्ट उपभोक्ताओं को लक्षित करते हुए गोपनीयता का सम्मान कैसे कर सकते हैं? ये कुछ प्रश्न हैं जो मीडिया कंपनियों को नैतिकता के साथ प्रतिस्पर्धी लाभ को संतुलित करने के लिए परेशान कर रहे हैं।

जिम्मेदारी का जवाब

जिम्मेदार एआई विकसित करने में प्रगति प्रतिदिन स्पष्ट है – विधायक नियम बना रहे हैं, उपभोक्ता अधिक पारदर्शिता की मांग कर रहे हैं, और कई कंपनियों ने अपने एआई का उपयोग उचित रूप से सुनिश्चित करने के लिए विशिष्ट विभाग बनाए हैं। कंपनियों को एक अच्छी तरह से परिभाषित जिम्मेदार एआई फ्रेमवर्क की आवश्यकता है जो नैतिकता, पारदर्शिता, जवाबदेही, न्याय, गोपनीयता और सुरक्षा को कवर करता है। जैसे ही बहस और सुधार जारी रहते हैं, हाल का एक संयुक्त अध्ययन एमआईटी स्लोन मैनेजमेंट रिव्यू और बोस्टन कंसल्टिंग ग्रुप द्वारा कुछ सरल समग्र मार्गदर्शन प्रदान करता है – उन्होंने लिखा, “यदि आप एक जिम्मेदार एआई नेता बनना चाहते हैं, तो एक जिम्मेदार कंपनी बनने पर ध्यान केंद्रित करें।” जिम्मेदार एआई, पारदर्शिता, जवाबदेही, न्याय, गोपनीयता और सुरक्षा के बारे में बहस और सुधार जारी है, एक हाल के संयुक्त अध्ययन द्वारा प्रदान किया गया मार्गदर्शन – उन्होंने लिखा, “यदि आप एक जिम्मेदार एआई नेता बनना चाहते हैं, तो एक जिम्मेदार कंपनी बनने पर ध्यान केंद्रित करें।”