वित्तीय अपराध के भीतर एआई-आधारित प्रणालियों का पूर्वाग्रह और निष्पक्षता

जब वित्तीय अपराध से लड़ने की बात आती है, तो ऐसी चुनौतियाँ मौजूद होती हैं जो केवल धोखेबाजों या अन्य बुरे अभिनेताओं को रोकने के दायरे से परे होती हैं।

लॉन्च की जा रही कुछ नवीनतम, उन्नत तकनीकों में अक्सर अपने स्वयं के विशिष्ट मुद्दे होते हैं जिन पर विनियामक प्रभावों के बिना धोखेबाजों से सफलतापूर्वक लड़ने के लिए गोद लेने के चरणों के दौरान विचार किया जाना चाहिए। धोखाधड़ी का पता लगाने में, मॉडल निष्पक्षता और डेटा पूर्वाग्रह तब हो सकता है जब किसी सिस्टम पर अधिक भार होता है या डेटा के कुछ समूहों या श्रेणियों का प्रतिनिधित्व कम होता है। सिद्धांत रूप में, एक पूर्वानुमानित मॉडल गलती से अन्य संस्कृतियों के अंतिम नामों को धोखाधड़ी वाले खातों से जोड़ सकता है, या कुछ प्रकार की वित्तीय गतिविधियों के लिए जनसंख्या क्षेत्रों के भीतर जोखिम को गलत तरीके से कम कर सकता है।

पक्षपातपूर्ण एआई सिस्टम एक गंभीर खतरे का प्रतिनिधित्व कर सकते हैं जब प्रतिष्ठा प्रभावित हो सकती है और ऐसा तब होता है जब उपलब्ध डेटा जनसंख्या या अन्वेषण की घटना का प्रतिनिधि नहीं है। इस डेटा में वे वेरिएबल शामिल नहीं हैं जो उस घटना को ठीक से पकड़ते हैं जिसकी हम भविष्यवाणी करना चाहते हैं। या वैकल्पिक रूप से डेटा में मनुष्यों द्वारा उत्पादित सामग्री शामिल हो सकती है जिसमें सांस्कृतिक और व्यक्तिगत अनुभवों से विरासत में मिले लोगों के समूहों के प्रति पूर्वाग्रह हो सकता है, जिससे निर्णय लेते समय विकृतियां पैदा हो सकती हैं। हालाँकि पहली नज़र में डेटा वस्तुनिष्ठ लग सकता है, फिर भी इसे मनुष्यों द्वारा एकत्र और विश्लेषित किया जाता है, और इसलिए यह पक्षपाती हो सकता है।

हालाँकि, जब एआई सिस्टम में भेदभाव और अनुचितता के खतरों को दूर करने या मशीन लर्निंग मॉडल और उपयोग के निर्माण में निष्पक्षता और पूर्वाग्रह शमन की समस्या के स्थायी समाधान की बात आती है, तो कोई उम्मीद की किरण नहीं है, इन मुद्दों पर सामाजिक और सामाजिक दोनों के लिए विचार किया जाना चाहिए। व्यावसायिक कारण.

एआई में सही काम करना

एआई-आधारित प्रणालियों में पूर्वाग्रह को संबोधित करना न केवल सही बात है, बल्कि व्यापार के लिए स्मार्ट बात है - और व्यापार जगत के नेताओं के लिए इसमें बड़ा जोखिम है। पक्षपातपूर्ण एआई सिस्टम अवसरों, संसाधनों, सूचना या सेवा की गुणवत्ता को गलत तरीके से आवंटित करके वित्तीय संस्थानों को गलत रास्ते पर ले जा सकता है। यहां तक ​​कि उनमें नागरिक स्वतंत्रता का उल्लंघन करने, व्यक्तियों की सुरक्षा को नुकसान पहुंचाने या अपमानजनक या आक्रामक माने जाने पर किसी व्यक्ति की भलाई को प्रभावित करने की भी क्षमता होती है।

उद्यमों के लिए एआई पूर्वाग्रह की शक्ति और जोखिमों को समझना महत्वपूर्ण है। हालांकि संस्थान द्वारा अक्सर अज्ञात, एक पक्षपाती एआई-आधारित प्रणाली हानिकारक मॉडल या डेटा का उपयोग कर सकती है जो ऋण देने के निर्णय में नस्ल या लिंग पूर्वाग्रह को उजागर करती है। अवैध तरीकों से आवेदकों को वर्गीकृत करने और पहचानने के लिए नाम और लिंग जैसी जानकारी प्रॉक्सी हो सकती है। भले ही पूर्वाग्रह अनजाने में हो, फिर भी यह विनियामक आवश्यकताओं का अनुपालन न करके संगठन को जोखिम में डालता है और लोगों के कुछ समूहों को गलत तरीके से ऋण या ऋण की रेखाओं से वंचित कर सकता है।

वर्तमान में, संगठनों के पास एआई सिस्टम में पूर्वाग्रह को सफलतापूर्वक कम करने के लिए पर्याप्त संसाधन नहीं हैं। लेकिन निर्णयों को सूचित करने के लिए एआई को तेजी से व्यवसायों में तैनात किया जा रहा है, यह महत्वपूर्ण है कि संगठन पूर्वाग्रह को कम करने का प्रयास करें, न केवल नैतिक कारणों से, बल्कि नियामक आवश्यकताओं का अनुपालन करने और राजस्व बढ़ाने के लिए भी।

"निष्पक्षता-जागरूक" संस्कृति और कार्यान्वयन

जो समाधान निष्पक्षता-जागरूक डिजाइन और कार्यान्वयन पर केंद्रित हैं, उनके परिणाम सबसे अधिक लाभकारी होंगे। प्रदाताओं के पास एक विश्लेषणात्मक संस्कृति होनी चाहिए जो जिम्मेदार डेटा अधिग्रहण, हैंडलिंग और प्रबंधन को एल्गोरिथम निष्पक्षता के आवश्यक घटकों के रूप में मानती है, क्योंकि यदि एआई परियोजना के परिणाम पक्षपाती, समझौता या विषम डेटासेट द्वारा उत्पन्न होते हैं, तो प्रभावित पक्षों को पर्याप्त रूप से संरक्षित नहीं किया जाएगा। भेदभावपूर्ण हानि.

ये डेटा निष्पक्षता के तत्व हैं जिन्हें डेटा विज्ञान टीमों को ध्यान में रखना चाहिए:

• प्रतिनिधित्वशीलता:संदर्भ के आधार पर, डेटा नमूने में वंचित या कानूनी रूप से संरक्षित समूहों का कम प्रतिनिधित्व या अधिक प्रतिनिधित्व, प्रशिक्षित मॉडल के परिणामों में कमजोर पक्षों को व्यवस्थित रूप से नुकसान पहुंचा सकता है। इस प्रकार के नमूनाकरण पूर्वाग्रह से बचने के लिए, एकत्रित या प्राप्त किए गए डेटा और मॉडलिंग की जाने वाली अंतर्निहित आबादी के बीच फिट का आकलन करने के लिए डोमेन विशेषज्ञता महत्वपूर्ण होगी। तकनीकी टीम के सदस्यों को नमूने में प्रतिनिधित्वात्मक त्रुटियों को ठीक करने के लिए उपचार के साधन प्रदान करने चाहिए।
• उद्देश्य के लिए उपयुक्त और पर्याप्तता: यह समझना महत्वपूर्ण है कि एकत्र किया गया डेटा परियोजना के इच्छित उद्देश्य के लिए पर्याप्त है या नहीं। अपर्याप्त डेटासेट उन गुणों को समान रूप से प्रतिबिंबित नहीं कर सकते हैं जिन्हें एआई प्रणाली के वांछित उद्देश्य के अनुरूप उचित परिणाम उत्पन्न करने के लिए तौला जाना चाहिए। तदनुसार, तकनीकी और नीतिगत दक्षता वाले प्रोजेक्ट टीम के सदस्यों को यह निर्धारित करने के लिए सहयोग करना चाहिए कि डेटा की मात्रा पर्याप्त है और उद्देश्य के लिए उपयुक्त है।
• स्रोत अखंडता और माप सटीकता:प्रभावी पूर्वाग्रह शमन डेटा निष्कर्षण और संग्रह प्रक्रियाओं की शुरुआत में ही शुरू हो जाता है। माप के स्रोत और उपकरण दोनों ही डेटासेट में भेदभावपूर्ण कारक पेश कर सकते हैं। भेदभावपूर्ण गैर-नुकसान को सुरक्षित करने के लिए, डेटा नमूने में इष्टतम स्रोत अखंडता होनी चाहिए। इसमें यह सुनिश्चित करना या पुष्टि करना शामिल है कि डेटा एकत्र करने की प्रक्रियाओं में माप के उपयुक्त, विश्वसनीय और निष्पक्ष स्रोत और संग्रह के मजबूत तरीके शामिल हैं।
• समयबद्धता और नवीनता: यदि डेटासेट में पुराना डेटा शामिल है, तो अंतर्निहित डेटा वितरण में परिवर्तन प्रशिक्षित मॉडल की सामान्यीकरण क्षमता पर प्रतिकूल प्रभाव डाल सकता है। बशर्ते ये वितरण संबंधी बदलाव बदलते सामाजिक संबंधों या समूह की गतिशीलता को दर्शाते हों, अंतर्निहित आबादी की वास्तविक विशेषताओं के बारे में सटीकता की यह हानि एआई प्रणाली में पूर्वाग्रह ला सकती है। भेदभावपूर्ण परिणामों को रोकने के लिए डेटासेट के सभी तत्वों की समयबद्धता और नवीनता की जांच की जानी चाहिए।
• प्रासंगिकता, उपयुक्तता और डोमेन ज्ञान: एक मजबूत और निष्पक्ष एआई प्रणाली के निर्माण के लिए सबसे उपयुक्त स्रोतों और प्रकार के डेटा की समझ और उपयोग महत्वपूर्ण है। अंतर्निहित जनसंख्या वितरण और परियोजना के पूर्वानुमानित लक्ष्य का ठोस डोमेन ज्ञान, इष्टतम प्रासंगिक माप इनपुट का चयन करने के लिए महत्वपूर्ण है जो परिभाषित समाधान के उचित समाधान में योगदान देता है। माप की सर्वोत्तम उपयुक्त श्रेणियों और स्रोतों को निर्धारित करने में सहायता के लिए डोमेन विशेषज्ञों को डेटा विज्ञान टीमों के साथ मिलकर सहयोग करना चाहिए।

जबकि एआई-आधारित सिस्टम निर्णय लेने की स्वचालन प्रक्रियाओं में सहायता करते हैं और लागत बचत प्रदान करते हैं, एआई को समाधान मानने वाले वित्तीय संस्थानों को यह सुनिश्चित करने के लिए सतर्क रहना चाहिए कि पक्षपातपूर्ण निर्णय नहीं हो रहे हैं। अनुपालन नेताओं को अपनी डेटा विज्ञान टीम के साथ मिलकर यह पुष्टि करनी चाहिए कि एआई क्षमताएं जिम्मेदार, प्रभावी और पूर्वाग्रह से मुक्त हैं। जिम्मेदार एआई को चैंपियन बनाने की रणनीति बनाना सही काम है, और यह भविष्य के एआई नियमों के अनुपालन का मार्ग भी प्रदान कर सकता है।