व्याख्यात्मकता: बीमा और बैंकिंग में कृत्रिम बुद्धिमत्ता के लिए अगला मोर्चा

डॉ. ओरी कात्ज़, विश्लेषणात्मक अनुसंधान वैज्ञानिक, Earnix से।

“कोई भी पर्याप्त रूप से उन्नत प्रौद्योगिकी जादू से अलग नहीं है”, विज्ञान कथा लेखक आर्थर सी। क्लार्क ने तर्क दिया। वास्तव में, कभी-कभी उन्नत प्रौद्योगिकी, जैसे कि नए मशीन लर्निंग एल्गोरिदम, जादू जैसे लगते हैं। मशीन लर्निंग के विकसित अनुप्रयोग, जिनमें छवि वर्गीकरण, वॉयस रिकग्निशन और बीमा और बैंकिंग उद्योगों में इसका उपयोग शामिल है, का उपयोग करने के लिए दूसरे दुनिया के गुण हैं।

कई कंपनियां अपने पारंपरिक विश्लेषणात्मक मॉडलों को बदलने से सावधान हैं – और सही तरीके से। जादू खतरनाक है, खासकर अगर यह अच्छी तरह से समझा नहीं जाता है। न्यूरल नेटवर्क और ट्री एंसेम्बल एल्गोरिदम “ब्लैक बॉक्स” हैं, उनकी आंतरिक संरचना बहुत जटिल हो सकती है। उसी समय, कई अध्ययनों [1] ने दिखाया है कि न्यूरल नेटवर्क और ट्री आधारित एल्गोरिदम कैसे सबसे अधिक सावधानी से ट्यून किए गए पारंपरिक बीमा जोखिम मॉडलों को भी पार कर सकते हैं जो अनुभवी एक्ट्यूरी द्वारा निर्मित होते हैं। यह डेटा में छिपी हुई संरचना को स्वचालित रूप से पहचानने की नई एल्गोरिदम की क्षमता के कारण है। न्यूरल नेटवर्क और ट्री आधारित एल्गोरिदम की रहस्यमयता और उपयोगिता के बीच एक व्यापार है। विश्लेषणात्मक मॉडल की सटीकता और इसकी “व्याख्यात्मकता” के स्तर के बीच एक अंतर्निहित व्यापार है। हम मॉडल पर विश्वास कैसे कर सकते हैं अगर हम यह नहीं समझ सकते कि वे अपने निष्कर्षों पर कैसे पहुंचते हैं? क्या हमें बस जादू के लिए देना चाहिए, कुछ ऐसा जिसे हम पूरी तरह से समझ नहीं सकते हैं उसके लिए विश्वास और नियंत्रण की बलि देनी चाहिए?

प्रबंधक और विश्लेषक ही ऐसा नहीं हैं जो इस व्यापार से चिंतित हैं। पिछले कुछ वर्षों में, नियामकों ने इन उद्योगों की निगरानी करने की अपनी क्षमता बढ़ाने के लिए जादू के अंधेरे पक्ष की खोज शुरू की है। बैंकिंग और बीमा उद्योग कई पहलुओं में उच्च नियंत्रित हैं और वर्तमान नियामक रुझान इन उद्योगों द्वारा उपयोग किए जाने वाले मॉडलों पर एक नज़दीकी नज़र डालने के लिए हैं। यूरोपीय जनरल डेटा संरक्षण नियमन के रीसिटल 71, उदाहरण के लिए, यह कहते हैं कि ग्राहकों को एक स्वचालित निर्णय लेने के बाद इसकी व्याख्या प्राप्त करने का अधिकार होना चाहिए। इसके निर्माण के बाद से, इस नियमन के इस तत्व ने एक अत्यधिक विवादास्पद अकादमिक बहस का केंद्र बनाया है।

“ब्लैक-बॉक्स” विश्लेषणात्मक मॉडलों की व्याख्या करने की तत्काल आवश्यकता ने एक नए अनुसंधान क्षेत्र के उदय को जन्म दिया है: व्याख्यात्मक कृत्रिम बुद्धिमत्ता। विशेषज्ञ ऐसे उपकरण विकसित कर रहे हैं जो हमें ब्लैक-बॉक्स के अंदर झांकने और कम से कम कुछ जादू को समझने की अनुमति देते हैं। शोधकर्ताओं द्वारा बनाए गए दो प्रकार के उपकरणों में “ग्लोबल व्याख्यात्मकता” उपकरण शामिल हैं, जो हमें मॉडल की समग्र भविष्यवाणियों को चलाने वाली प्रमुख विशेषताओं को समझने में मदद कर सकते हैं, और “स्थानीय व्याख्यात्मकता” उपकरण, जो एक विशिष्ट भविष्यवाणी की व्याख्या करने के लिए हैं।

निम्नलिखित प्लॉट स्थानीय व्याख्यात्मकता का एक उदाहरण है। यह नोबेल पुरस्कार विजेता अर्थशास्त्री लॉयड शापले के विचारों पर आधारित है, जिन्होंने एक ही कार्य में सहयोग करने वाले कई खिलाड़ियों के योगदान की गणना के लिए एक गेम-थ्योरी विधि विकसित की थी। व्याख्यात्मक कृत्रिम बुद्धिमत्ता में, “खिलाड़ी” मॉडल की विशेषताएं हैं, जबकि “कार्य” मॉडल की भविष्यवाणी है। प्रत्येक विशेषता के योगदान का वर्णन करने वाले संख्याएं “शापले मूल्य” कहलाती हैं। शोधकर्ताओं ने हाल ही में शापले मूल्यों के तेजी से अनुमान के लिए तरीके विकसित किए हैं [2], जिससे हम भविष्यवाणी को विभिन्न विशेषताओं के बीच न्यायपूर्ण रूप से वितरित कर सकते हैं।

एक विशिष्ट ग्राहक की भविष्यवाणी की गई नवीनीकरण मांग की व्याख्या करने के लिए शापले मूल्यों का उपयोग करना

प्लॉट, जो सिम्युलेटेड डेटा पर आधारित है, एक मांग मॉडल का परिणाम दिखाता है जो ऑटो बीमा पॉलिसी के नवीनीकरण की संभावना की भविष्यवाणी करता है। यह एक विशिष्ट ग्राहक के लिए स्थानीय व्याख्या है। मांग मॉडल एक जटिल डिसीजन ट्री एंसेम्बल पर आधारित है, लेकिन प्लॉट प्रत्येक विशेषता के योगदान को अलग से प्रस्तुत करता है। इस उदाहरण में, मॉडल भविष्यवाणी करता है कि डेटा में औसत व्यक्ति पॉलिसी को 0.64 की संभावना के साथ नवीनीकृत करेगा। हालांकि, इस विशिष्ट ग्राहक के लिए, भविष्यवाणी की गई संभावना 0.72 है, जो बहुत अधिक है। प्लॉट आपको यह देखने की अनुमति देता है कि इस अंतर का कारण क्या है।

जबकि हम इस जटिल मॉडल की आंतरिक संरचना को पूरी तरह से समझ नहीं सकते हैं, शापले मूल्य हमें यह देखने की अनुमति देते हैं कि एक विशिष्ट भविष्यवाणी के लिए सबसे महत्वपूर्ण विशेषताएं क्या हैं, जादू का एक हिस्सा समझने में हमारी मदद करते हैं। जनसंख्या पर व्यक्तिगत शापले मूल्यों को औसत करने से हमें यह देखने की अनुमति मिलती है कि कौन सी विशेषताएं सबसे महत्वपूर्ण हैं और मॉडल की वैश्विक व्याख्यात्मकता प्राप्त करें। अन्य लोकप्रिय व्याख्यात्मक उपकरणों में “पेरम्यूटेशन फीचर इम्पोर्टेंस”, स्थानीय रूप से फिट किए गए सरोगेट मॉडल, और विरोधाभासी उदाहरण शामिल हैं, जिनमें से कुछ हैं।

नई व्याख्यात्मकता उपकरण मशीन लर्निंग के विकास में अगला आवश्यक कदम हैं। वे बीमा कंपनियों और बैंकों को अपने मशीन लर्निंग मॉडलों को समझने और विश्वास करने की अनुमति दे सकते हैं, नए नियमों का पालन कर सकते हैं, और अपने ग्राहकों को मूल्यवान जानकारी प्रदान कर सकते हैं। हम अब सटीकता और व्याख्यात्मकता के बीच व्यापार को आंशिक रूप से पार कर सकते हैं और नए मशीन लर्निंग मॉडलों के लाभों का आनंद ले सकते हैं जो उनके ब्लैक-बॉक्स प्रकृति के बारे में कम चिंता के साथ हैं।

हमारे तेजी से डिजिटलाइज़िंग दुनिया में, पूरी तरह से विश्लेषणात्मक रूप से चलने वाला बीमा कंपनियों और बैंकों के लिए अस्तित्व का मूल मानदंड है। यह क्षमता हमेशा महत्वपूर्ण रही है – लेकिन 2020 ने जो अस्थिर बाजार की स्थिति लाई है, उसके साथ यह आवश्यक हो गई है। बीमा कंपनियों और बैंकों को जटिल नए वास्तविकता को मॉडल करने के लिए स्मार्ट विश्लेषण की आवश्यकता है जिस पर वे अपने व्यवसायिक निर्णय ले सकते हैं और अपने ग्राहकों को तेजी से और बेहतर सेवा प्रदान कर सकते हैं। व्याख्यात्मकता उपकरण बीमा कंपनियों और बैंकों को यह हासिल करने की अनुमति दे सकते हैं। समय के साथ, हम उस बिंदु पर पहुंच जाएंगे जहां मशीन लर्निंग मॉडल जादू के रूप में नहीं बल्कि किसी भी डेटा-चालित व्यवसाय के मूल आरсенल में एक आवश्यक उपकरण के रूप में माने जाएंगे।

स्रोत:

[1] बार्टल, एम., और क्रुममेकर, एस। (2020)। निर्यात क्रेडिट वित्त में दावों की भविष्यवाणी: चार मशीन लर्निंग तकनीकों की तुलना। जोखिम, 8(1), 22।

नोल, ए., साल्ज़मैन, आर., और वुथरिच, एम.वी. (2020)। मामला अध्ययन: फ्रांसीसी मोटर तृतीय-पक्ष देयता दावे। एसएसआरएन पर उपलब्ध।

फौज़ा, एम.ए., और मुर्फी, एच. (2018)। बीमा दावा भविष्यवाणी के लिए एक्सजीबोस्ट की सटीकता। इंट। जे. एडव। सॉफ्ट कॉम्प्लेक्स एप्ली, 10(2)।

वीरासिंघे, के.पी.एम.एल.पी., और विजेगुनासेकरा, एम.सी. (2016)। ऑटो बीमा दावों की भविष्यवाणी में डेटा माइनिंग एल्गोरिदम का एक तुलनात्मक अध्ययन। यूरोपीय अंतर्राष्ट्रीय विज्ञान और प्रौद्योगिकी पत्रिका, 5(1), 47-54।

[2] लुंडबर्ग, एस.एम., और ली, एस.आई. (2017)। मॉडल भविष्यवाणियों की व्याख्या के लिए एक एकीकृत दृष्टिकोण। न्यूरल इंफॉर्मेशन प्रोसेसिंग सिस्टम में प्रगति (पीपी। 4765-4774)।

[3] अधिक जानकारी के लिए यहां देखें: https://christophm.github.io/interpretable-ml-book/index.html