एंड्रयू पेरी, एथिक्स इवेंजेलिस्ट, एबीबीवाई – साक्षात्कार श्रृंखला

एंड्रयू पेरी, एबीबीवाई में एथिक्स इवेंजेलिस्ट हैं, जो एक डिजिटल इंटेलिजेंस कंपनी है। वे संगठनों को उनके संचालन में मूल्यवान अंतर्दृष्टि प्राप्त करने में सक्षम बनाते हैं जो वास्तविक व्यवसाय परिवर्तन को सक्षम बनाता है।

एबीबीवाई ने हाल ही में एक ग्लोबल पहल शुरू की है जो विश्वसनीय कृत्रिम बुद्धिमत्ता के विकास को बढ़ावा देती है। हमने एंड्रयू से एआई में नैतिकता, एआई के दुरुपयोग और आगे बढ़ने के लिए एआई उद्योग के बारे में प्रश्न पूछे।

एआई नैतिकता में आपकी रुचि क्या है?

मेरी एआई नैतिकता में रुचि कानून और एआई प्रौद्योगिकी के बीच के अंतर्संबंध में गहरी रुचि से उत्पन्न हुई। मैंने अपना करियर आपराधिक न्याय प्रणाली में शुरू किया, जहां मैंने उन आरोपियों का प्रतिनिधित्व किया जो वित्तीय साधनों की कमी के कारण कानूनी सेवाओं का खर्च नहीं उठा सकते थे।

मुख्य चेहरा पहचान प्रौद्योगिकी का दुरुपयोग अक्सर अधिकार के स्रोतों द्वारा किया जाता है, जिसमें अमेरिकी सरकार भी शामिल है। यह एक बड़ा सामाजिक चिंता का विषय होना चाहिए?

मुख्य चेहरा पहचान प्रौद्योगिकी के परिणामस्वरूप आर्थिक, सामाजिक और सुरक्षा अधिकारों सहित मौलिक अधिकारों पर इसका प्रभाव हो सकता है।

निष्कर्ष यह है कि मुख्य चेहरा पहचान एल्गोरिदम विश्वसनीय नहीं हैं। एक एनआईएसटी अध्ययन में पाया गया कि अफ्रीकी अमेरिकी 100 गुना अधिक गलत पहचाने जाने की संभावना है।

यही कारण है कि नियामक मुख्य चेहरा पहचान प्रौद्योगिकी के उपयोग पर प्रतिबंध लगाने के लिए कदम उठा रहे हैं, विशेष रूप से निगरानी और प्रोफाइलिंग के संदर्भ में। उदाहरण के लिए, कैलिफोर्निया सीनेट ने एक राज्यव्यापी प्रतिबंध पारित किया है।

आईबीएम ने घोषणा की है कि यह मुख्य चेहरा पहचान सॉफ्टवेयर बेचना बंद कर देगा, यह कहते हुए कि यह मौलिक मानवाधिकारों और स्वतंत्रता का उल्लंघन करता है। माइक्रोसॉफ्ट ने भी अपनी मुख्य चेहरा पहचान प्रौद्योगिकी को बेचने को बंद करने का फैसला किया है, यह कहते हुए कि यह मौलिक मानवाधिकारों का उल्लंघन करता है।

क्या एआई को न्यायालयों में उपयोग किया जाना चाहिए?

अध्ययन में पाया गया कि कॉम्पास एल्गोरिदम यादृच्छिक लोगों की तुलना में अपराध की भविष्यवाणी करने में बेहतर नहीं है। जबकि पूर्वानुमानिक विश्लेषण व्यावसायिक संदर्भ में महत्वपूर्ण मूल्य प्रदान करता है, यह आपराधिक न्याय में इसके अनुप्रयोग में असमानता का परिणाम है।

इन असमानताओं ने तत्कालीन अटॉर्नी जनरल एरिक होल्डर को न्याय और स्वतंत्रता के संबंध में चिंता व्यक्त करने के लिए प्रेरित किया।

एआई प्रणालियों में नकारात्मक पूर्वाग्रह को कैसे रोका जा सकता है?

सबसे पहले, एआई में अनजाने पूर्वाग्रह की संभावना को स्वीकार करना आवश्यक है। इसके प्रतिकूल प्रभाव को कम करने के लिए एक समग्र दृष्टिकोण की आवश्यकता है जिसमें नैतिक एआई दिशानिर्देशों का विकास शामिल है, जैसा कि ओईसीडी द्वारा प्रस्तावित किया गया है।

दूसरा, स्वचालित प्रोफाइलिंग के खिलाफ कानूनी ढांचे का पालन करना आवश्यक है। उदाहरण के लिए, यूरोपीय संघ ने गोपनीयता अधिकारों की रक्षा की एक लंबी परंपरा है, जिसमें सबसे हालिया और शक्तिशाली अभिव्यक्ति सामान्य डेटा संरक्षण विनियमन (जीडीपीआर) है, जो स्वचालित निर्णय लेने के खिलाफ विशेष रूप से सुरक्षा प्रदान करता है।

तीसरा, उद्योग को एआई प्रौद्योगिकी के विकास और पारदर्शिता के लिए जिम्मेदारी लेनी चाहिए। प्रौद्योगिकी संगठनों को यह सुनिश्चित करना चाहिए कि वे अपने मालिकाना बौद्धिक संपदा अधिकारों को प्रभावित किए बिना एआई प्रौद्योगिकी के विकास और उपयोग में पारदर्शिता बनाए रखें।

अंत में, प्रौद्योगिकी संगठनों को एआई एल्गोरिदम की व्यावसायिक रिलीज से पहले पूर्वाग्रह प्रभाव मूल्यांकन करने के लिए प्रतिबद्ध होना चाहिए, विशेष रूप से जब उनके अनुप्रयोग गोपनीयता और सुरक्षा अधिकारों पर प्रभाव डालते हैं।

यह महत्वपूर्ण है कि एआई समाधान अंतर्निहित डेटा को दर्शाते हैं जिस पर ये अनुप्रयोग प्रशिक्षित हैं। इसलिए, यह सुनिश्चित करना महत्वपूर्ण है कि यह डेटा पूर्वाग्रह से मुक्त है और जिन लोगों की सेवा समाधान प्रदान करेगा, उनकी विविधता को सही ढंग से प्रतिबिंबित करता है।

एबीबीवाई ने हाल ही में एक ग्लोबल पहल शुरू की है जो विश्वसनीय कृत्रिम बुद्धिमत्ता के विकास को बढ़ावा देती है। यह पहल एबीबीवाई के भविष्य के लिए कितनी महत्वपूर्ण है?

विश्वसनीय एआई के लिए हमारी ग्लोबल पहल विकसित करने का निर्णय हमारे विश्वास से प्रेरित है कि एक संगठन के रूप में जिसकी प्रौद्योगिकियां दुनिया भर के उद्यमों और दसियों हजारों व्यक्तिगत उपयोगकर्ताओं को प्रभावित करती हैं, हमें एक अच्छे निगम के नागरिक होने और सामाजिक विवेक के साथ कार्य करने का कर्तव्य है।

यह पहल हमारे ब्रांड इक्विटी को मजबूत बनाती है, हमारे वैश्विक ग्राहकों और भागीदारों के साथ विश्वास को बढ़ावा देती है, और यह सुनिश्चित करती है कि हमारी प्रौद्योगिकियां एक ऐसे तरीके से प्रभाव डालती हैं जो सामान्य भलाई को बढ़ावा देता है।

इस पहल का एक हिस्सा एबीबीवाई को एआई के नैतिक उपयोग और इसके सामाजिक उपयोगिता को बढ़ावा देने वाली संस्कृति को बढ़ावा देने के लिए प्रतिबद्ध है। अन्य कंपनियों को ऐसी संस्कृति को बढ़ावा देने के लिए क्या करने की आवश्यकता है?

प्रौद्योगिकी कंपनियों को एआई के नैतिक उपयोग के लिए एक ढांचा तैयार करना चाहिए। एआई एल्गोरिदम के इरादित अनुप्रयोगों के आधार पर इस प्रतिबद्धता का स्तर भिन्न हो सकता है। इसके प्रभाव का मूल्यांकन करने का सबसे अच्छा तरीका है कि नुकसान न करने के सिद्धांत को लागू किया जाए और एआई के विश्वसनीय उपयोग के लिए शीर्ष-नीचे प्रतिबद्धता हो।

समान रूप से, पारदर्शिता की प्रतिबद्धता महत्वपूर्ण है। जबकि बौद्धिक संपदा अधिकारों को विश्वसनीय एआई के सिद्धांत के साथ संतुलित किया जाना चाहिए, एआई के जिम्मेदार उपयोग के लिए पारदर्शिता और जवाबदेही का महत्व स्पष्ट रूप से संप्रेषित किया जाना चाहिए।

एबीबीवाई ने जिन पहलों में से एक को प्रतिबद्ध किया है, वह है सामाजिक और आर्थिक रूप से लाभकारी एआई प्रौद्योगिकियां प्रदान करना। यह एक कठिन संतुलन हासिल करना हो सकता है। कंपनियां इसे कैसे लागू कर सकती हैं?

नेता डेलॉइट द्वारा दी गई सिफारिशों को ध्यान में रखते हुए इस संतुलन को हासिल कर सकते हैं: एआई में नैतिकता को डिजाइन करना ग्राहकों, कर्मचारियों, नियामकों और सामान्य जनता जैसे हितधारकों के लिए क्या मायने रखता है, यह निर्धारित करने से शुरू होता है। कंपनियों को एक समर्पित एआई शासन और सलाहकार समिति स्थापित करनी चाहिए जो क्रॉस-फंक्शनल नेताओं और बाहरी सलाहकारों से बनी हो और जो बहु-हितधारक कार्य समूहों के साथ जुड़कर एआई-संचालित समाधानों की डिजाइन, विकास, तैनाती और उपयोग की देखरेख और शासन स्थापित करे।

हमने हाल ही में कोरोनवायरस महामारी के दौरान अपनी प्रौद्योगिकियों को नि:शुल्क या छूट की दरों पर उपलब्ध कराया ताकि व्यक्तियों और संगठनों को संकट का सामना करने में मदद मिल सके।

हमने हाल ही में अपने नियोमल मशीन लर्निंग लाइब्रेरी को खोला है, जो एक क्रॉस-प्लेटफ़ॉर्म ओपन-सोर्स मशीन लर्निंग लाइब्रेरी है जो सॉफ़्टवेयर डेवलपर्स को सिद्ध और विश्वसनीय मॉडल का लाभ उठाने में सक्षम बनाती है ताकि एआई नवाचार को आगे बढ़ाया जा सके।

क्या आप कोविड-19 ऐप्स के लिए संपर्क ट्रेसिंग के लिए एआई का उपयोग करने के पीछे के विचार साझा कर सकते हैं और गोपनीयता के अधिकारों को संतुलित करने की आवश्यकता है?

यह एक विशेष रूप से जटिल मुद्दा है। कुछ लोग तर्क देते हैं कि मोबाइल ट्रैकिंग एप्लिकेशन का कार्यान्वयन गोपनीयता अधिकारों में एक अवांछित हस्तक्षेप का प्रतिनिधित्व करता है। दूसरी ओर, जब यह सार्वजनिक सुरक्षा की बात आती है, तो अधिकारों पर हमेशा सीमाएं होती हैं। यह एक अधिकारों और जिम्मेदारियों के बीच एक व्यापार-बंद है।

गोपनीयता अधिकारों और सामान्य भलाई के बीच यह संतुलन कानूनी ढांचे में मान्यता प्राप्त है। उदाहरण के लिए, जीडीपीआर में व्यक्तिगत रूप से पहचान योग्य जानकारी के कानूनी प्रसंस्करण के लिए छह आधार हैं, जिनमें एक प्रावधान यह है कि जब प्रसंस्करण सार्वजनिक हित में आवश्यक हो, तो डेटा विषय की सहमति प्राप्त किए बिना ऐसा प्रसंस्करण वारंटेड है।

इसके अलावा, जीडीपीआर के अनुच्छेद 46 में स्पष्ट रूप से कहा गया है कि महामारी जैसे मानवीय संकट के दौरान व्यक्तिगत रूप से पहचान योग्य जानकारी का प्रसंस्करण डेटा विषय की सहमति प्राप्त किए बिना वारंटेड है। हालांकि, यह ध्यान रखना महत्वपूर्ण है कि अनुच्छेद 46 सार्वजनिक हित प्रावधान के अनुप्रयोग को बहुत संकीर्ण रूप से निर्धारित करता है, यह कहते हुए कि यह केवल तभी होना चाहिए जब यह किसी अन्य कानूनी आधार पर आधारित नहीं हो सकता है।

गोपनीयता अधिकारों के साथ संतुलन के अलावा, यह प्रौद्योगिकी क्षेत्र और नीति निर्माताओं पर निर्भर करता है कि वे एआई-संचालित प्रोफाइलिंग और उच्च संवेदनशील स्वास्थ्य जानकारी को साझा करने से संबंधित नैतिक रूप से ध्वनि और पारदर्शी दिशानिर्देश लागू करें।

मुझे लगता है कि जब तक जानकारी गुमनाम है, इसका सामाजिक उपयोगिता है।

क्या आप एबीबीवाई की नई ग्लोबल पहल के बारे में कुछ और साझा करना चाहेंगे जो विश्वसनीय कृत्रिम बुद्धिमत्ता के विकास को बढ़ावा देती है?

नियमन प्रौद्योगिकी नवाचार की तुलना में अक्सर पिछड़ जाते हैं, इसलिए कंपनियों को एआई प्रौद्योगिकियों के साथ पारदर्शिता और जवाबदेही को बढ़ावा देने में एक सक्रिय भूमिका निभानी चाहिए। हमारी पहल इस प्रयास में हमारी प्रतिबद्धता को दर्शाती है।

इसके अलावा, एआई प्रौद्योगिकियों का नैतिक उपयोग न केवल कानूनी आधार पर, बल्कि एक नैतिक बाध्यता और एक व्यावसायिक आवश्यकता के रूप में भी माना जाना चाहिए। यदि आपके समाधान व्यापक हैं और व्यावसायिक रूप से महत्वपूर्ण कार्यों को प्रभावित करते हैं, तो यह एक उद्योग मानक होना चाहिए कि एआई प्रौद्योगिकियों के अनुप्रयोग में पारदर्शिता हो।

आपके इन महत्वपूर्ण प्रश्नों का उत्तर देने के लिए धन्यवाद। एबीबीवाई के मार्गदर्शक सिद्धांतों और विश्वसनीय एआई सिद्धांतों की वकालत करने के लिए यहां क्लिक करें। यदि आप एबीबीवाई के बारे में अधिक जानना चाहते हैं, तो आप एबीबीवाई वेबसाइट पर जा सकते हैं।