एआई-आधारित प्रणालियों में पूर्वाग्रह और निष्पक्षता वित्तीय अपराध के भीतर

वित्तीय अपराध से लड़ने के लिए, केवल धोखेबाजों या अन्य बुरे अभिनेताओं को रोकने से परे चुनौतियाँ हैं जो मौजूद हैं।

नई, उन्नत प्रौद्योगिकियों में से कुछ जो लॉन्च की जा रही हैं, अक्सर अपनी खुद की विशिष्ट समस्याएं हैं जिन्हें धोखाधड़ी के बिना धोखेबाजों को रोकने के लिए अपनाने के चरणों के दौरान विचार किया जाना चाहिए। धोखाधड़ी का पता लगाने में, मॉडल निष्पक्षता और डेटा पूर्वाग्रह तब हो सकता है जब एक प्रणाली कुछ समूहों या श्रेणियों के डेटा के लिए अधिक भारी या प्रतिनिधित्व की कमी होती है। सिद्धांत रूप में, एक पूर्वानुमान मॉडल गलत तरीके से अन्य संस्कृतियों के अंतिम नामों को धोखाधड़ी वाले खातों के साथ जोड़ सकता है, या कुछ प्रकार की वित्तीय गतिविधियों के लिए जनसंख्या खंडों के भीतर जोखिम को गलत तरीके से कम कर सकता है।

पूर्वाग्रहित एआई प्रणाली एक गंभीर खतरा प्रस्तुत कर सकती हैं जब प्रतिष्ठा प्रभावित हो सकती है और तब होती है जब उपलब्ध डेटा जनसंख्या या अन्वेषण की घटना का प्रतिनिधित्व नहीं करता है। यह डेटा उन चरों को शामिल नहीं करता है जो हम जिस परिणाम की भविष्यवाणी करना चाहते हैं उसे ठीक से पकड़ने के लिए। या वैकल्पिक रूप से, डेटा में मानव द्वारा उत्पादित सामग्री शामिल हो सकती है जो लोगों के समूहों के खिलाफ पूर्वाग्रह हो सकती है, जो सांस्कृतिक और व्यक्तिगत अनुभवों से विरासत में मिली है, जिससे निर्णय लेने में विकृतियाँ हो सकती हैं। जबकि पहली नज़र में डेटा वस्तुनिष्ठ प्रतीत हो सकता है, यह अभी भी मानव द्वारा एकत्र किया जाता है और विश्लेषण किया जाता है, और इसलिए पूर्वाग्रहित हो सकता है।

जबकि एआई प्रणालियों में भेदभाव और अन्याय के खतरों को दूर करने के लिए कोई रजत गोली नहीं है, या निष्पक्षता और पूर्वाग्रह मिटाने में स्थायी समाधान नहीं हैं, इन मुद्दों पर विचार किया जाना चाहिए, दोनों सामाजिक और व्यावसायिक कारणों से।

एआई में सही काम करना

एआई-आधारित प्रणालियों में पूर्वाग्रह को संबोधित करना न केवल सही बात है, बल्कि व्यवसाय के लिए भी समझदारी है – और व्यवसाय नेताओं के लिए दांव ऊंचे हैं। पूर्वाग्रहित एआई प्रणाली वित्तीय संस्थानों को गलत रास्ते पर ले जा सकती हैं bằng अवसरों, संसाधनों, जानकारी या सेवा की गुणवत्ता को अन्यायपूर्ण रूप से आवंटित करके। वे यहां तक कि नागरिक स्वतंत्रता का उल्लंघन कर सकते हैं, व्यक्तियों की सुरक्षा को नुकसान पहुंचा सकते हैं, या किसी व्यक्ति के कल्याण को प्रभावित कर सकते हैं यदि उन्हें अपमानजनक या अपमानजनक माना जाता है।

यह उद्यमों के लिए महत्वपूर्ण है कि वे एआई पूर्वाग्रह की शक्ति और जोखिमों को समझें। हालांकि संस्थान द्वारा अक्सर अज्ञात, एक पूर्वाग्रहित एआई-आधारित प्रणाली हानिकारक मॉडल या डेटा का उपयोग कर सकती है जो उधार देने के निर्णय में जाति या लिंग पूर्वाग्रह को उजागर करती है। नाम और लिंग जैसी जानकारी अवैध तरीके से आवेदकों को वर्गीकृत करने और पहचानने के लिए प्रॉक्सी हो सकते हैं। भले ही पूर्वाग्रह अनजाने में हो, यह अभी भी संगठन को जोखिम में डालता है क्योंकि यह नियामक आवश्यकताओं का पालन नहीं करता है और यह कुछ समूहों के लोगों को अन्यायपूर्ण रूप से ऋण या क्रेडिट लाइन से वंचित कर सकता है।

वर्तमान में, संगठनों के पास एआई प्रणालियों में पूर्वाग्रह को सफलतापूर्वक कम करने के लिए टुकड़े नहीं हैं। लेकिन एआई को व्यवसायों में निर्णय लेने की स्वचालन प्रक्रियाओं को सूचित करने के लिए बढ़ती तरह से तैनात किया जा रहा है, यह महत्वपूर्ण है कि संगठन पूर्वाग्रह को कम करने का प्रयास करें, न केवल नैतिक कारणों से, बल्कि नियामक आवश्यकताओं का पालन करने और राजस्व बनाने के लिए भी।

“निष्पक्षता-सचेत” संस्कृति और कार्यान्वयन

निष्पक्षता-सचेत डिजाइन और कार्यान्वयन पर केंद्रित समाधान सबसे अधिक लाभकारी परिणाम देंगे। प्रदाताओं को एक विश्लेषणात्मक संस्कृति होनी चाहिए जो जिम्मेदार डेटा अधिग्रहण, हैंडलिंग और प्रबंधन को एल्गोरिदमिक निष्पक्षता के आवश्यक घटकों के रूप में मानती है, क्योंकि यदि एआई परियोजना के परिणाम पूर्वाग्रहित, समझौता या तिरछे डेटासेट द्वारा उत्पन्न होते हैं, तो प्रभावित पक्षों को भेदभावपूर्ण नुकसान से पर्याप्त रूप से संरक्षित नहीं किया जाएगा।

इन्हीं डेटा निष्पक्षता के तत्वों को डेटा विज्ञान टीमों को ध्यान में रखना चाहिए:

• प्रतिनिधित्व: संदर्भ के आधार पर, वंचित या कानूनी रूप से संरक्षित समूहों का डेटा नमूने में कम प्रतिनिधित्व या अधिक प्रतिनिधित्व हो सकता है, जिससे प्रशिक्षित मॉडल के परिणामों में कमजोर पक्षों को स системात्मक रूप से नुकसान हो सकता है। इस तरह के नमूना पूर्वाग्रह से बचने के लिए, डोमेन विशेषज्ञता डेटा के बीच फिट का मूल्यांकन करने के लिए महत्वपूर्ण होगा। मॉडल को सटीक रूप से प्रतिनिधित्व करने के लिए डेटा एकत्र किया जाता है या प्राप्त किया जाता है। तकनीकी टीम के सदस्यों को नमूना में प्रतिनिधित्व संबंधी खामियों को ठीक करने के लिए उपाय प्रदान करने चाहिए।
• उद्देश्य और पर्याप्तता: यह जानना महत्वपूर्ण है कि क्या एकत्र किया गया डेटा परियोजना के उद्देश्य के लिए पर्याप्त है। अपर्याप्त डेटासेट न्यायसंगत परिणाम को सटीक रूप से प्रतिबिंबित नहीं कर सकता है जो एआई प्रणाली के वांछित उद्देश्य के साथ संगत है। इसलिए, तकनीकी और नीतिगत क्षमताओं वाले परियोजना टीम के सदस्यों को मिलकर यह निर्धारित करना चाहिए कि डेटा की मात्रा पर्याप्त और उद्देश्य के लिए उपयुक्त है या नहीं।
• स्रोत अखंडता और माप की सटीकता: प्रभावी पूर्वाग्रह मिटाने की शुरुआत डेटा निष्कर्षण और संग्रह प्रक्रियाओं के बहुत शुरू में होती है। स्रोत और माप के साधन दोनों डेटासेट में भेदभावपूर्ण कारक पेश कर सकते हैं। भेदभावपूर्ण नुकसान से बचने के लिए, डेटा नमूने में ऑप्टिमल स्रोत अखंडता होनी चाहिए। इसमें यह सुनिश्चित करना शामिल है कि डेटा संग्रह प्रक्रियाओं में उपयुक्त, विश्वसनीय और निष्पक्ष माप के स्रोत और मजबूत संग्रह विधियां शामिल हैं।
• समयबद्धता और ताजगी: यदि डेटासेट में पुराने डेटा शामिल हैं, तो अंतर्निहित डेटा वितरण में परिवर्तन प्रशिक्षित मॉडल की सामान्यीकरण को प्रतिकूल रूप से प्रभावित कर सकते हैं। यदि ये वितरणात्मक परिवर्तन अंतर्निहित जनसंख्या की वास्तविक विशेषताओं को प्रतिबिंबित करने में कमी के कारण होते हैं, तो यह एआई प्रणाली में पूर्वाग्रह को पेश कर सकता है। भेदभावपूर्ण परिणामों को रोकने के लिए, डेटासेट के सभी तत्वों की समयबद्धता और ताजगी की जांच की जानी चाहिए।
• प्रासंगिकता, उपयुक्तता और डोमेन ज्ञान: उपयुक्त स्रोतों और डेटा के प्रकार का उपयोग और समझना एक मजबूत और पूर्वाग्रह-मुक्त एआई प्रणाली बनाने के लिए महत्वपूर्ण है। अंतर्निहित जनसंख्या वितरण और परियोजना के पूर्वानुमानिक लक्ष्य का ठोस डोमेन ज्ञान, परियोजना के परिभाषित समाधान के योग्य निर्णय लेने में योगदान देने वाले माप इनपुट का चयन करने में महत्वपूर्ण है। डोमेन विशेषज्ञों को डेटा विज्ञान टीमों के साथ मिलकर काम करना चाहिए ताकि यह निर्धारित किया जा सके कि कौन से श्रेणियां और माप के स्रोत सबसे उपयुक्त हैं।

एआई-आधारित प्रणालियां निर्णय लेने की स्वचालन प्रक्रियाओं में सहायता करती हैं और लागत बचत प्रदान करती हैं, वित्तीय संस्थानों को यह सुनिश्चित करने के लिए सावधान रहना चाहिए कि पूर्वाग्रहित निर्णय लिए जा नहीं रहे हैं। नियामक आवश्यकताओं का पालन करने और जिम्मेदार एआई की रणनीति का समर्थन करने के लिए कानूनी नेताओं को अपनी डेटा विज्ञान टीम के साथ मिलकर काम करना चाहिए ताकि यह पुष्टि की जा सके कि एआई क्षमताएं जिम्मेदार, प्रभावी और पूर्वाग्रह मुक्त हैं। जिम्मेदार एआई की रणनीति का समर्थन करना न केवल सही बात है, बल्कि यह भविष्य के एआई नियमन के साथ अनुपालन का मार्ग भी प्रदान कर सकता है।