ရှင်းပြနိုင်မှု- အာမခံနှင့် ဘဏ်လုပ်ငန်းဆိုင်ရာ ဥာဏ်ရည်တုအတွက် နောက်တစ်ခု

Dr. Ori Katz မှ ခွဲခြမ်းစိတ်ဖြာ သုတေသန သိပ္ပံပညာရှင်၊ Earnix.

သိပ္ပံစိတ်ကူးယဉ်စာရေးဆရာ Arthur C. Clarke က “လုံလောက်သောအဆင့်မြင့်နည်းပညာသည် မှော်ပညာနှင့် ခွဲခြား၍မရပါ။ အမှန်တကယ်ပင်၊ တစ်ခါတစ်ရံတွင် စက်သင်ယူမှု အယ်လဂိုရီသမ်အသစ်ကဲ့သို့သော အဆင့်မြင့်နည်းပညာများသည် မှော်ပညာနှင့် ဆင်တူသည်။ ရုပ်ပုံအမျိုးအစားခွဲခြင်း၊ အသံမှတ်မိခြင်း နှင့် အာမခံနှင့် ဘဏ်လုပ်ငန်းနယ်ပယ်များတွင် ၎င်း၏အသုံးပြုမှုအပါအဝင် စက်သင်ယူခြင်းဆိုင်ရာ တိုးတက်ပြောင်းလဲလာသော အပလီကေးရှင်းများတွင် အခြားကမ္ဘာ့ဂုဏ်သတ္တိများရှိသည်။

ကုမ္ပဏီများစွာသည် ၎င်းတို့၏ သမားရိုးကျ ခွဲခြမ်းစိတ်ဖြာမှုပုံစံများကို ပြောင်းလဲရန် သတိထားနေကြသည်မှာ မှန်ပါသည်။ အထူးသဖြင့် ကောင်းစွာနားမလည်ပါက မျက်လှည့်ပညာသည် အန္တရာယ်ရှိသည်။ အာရုံကြောကွန်ရက်များနှင့် သစ်ပင်စုပေါင်း အယ်လဂိုရီသမ်များသည် “သေတ္တာနက်များ” ဖြစ်ပြီး ၎င်းတို့၏ အတွင်းပိုင်းဖွဲ့စည်းပုံသည် အလွန်ရှုပ်ထွေးနိုင်သည်။ တစ်ချိန်တည်းမှာပင်၊ လေ့လာမှုအများအပြား [1] သည် အာရုံကြောကွန်ရက်များနှင့် သစ်ပင်အခြေပြု အယ်လဂိုရီသမ်များသည် အတွေ့အကြုံရှိ actuaries မှတည်ဆောက်ထားသော ဂရုတစိုက်အရှိဆုံးသော အာမခံအန္တရာယ်မော်ဒယ်များပင်လျှင် မည်သို့လုပ်ဆောင်နိုင်သည်ကို ပြသခဲ့သည်။ ၎င်းသည် ဒေတာအတွင်းရှိ ဝှက်ထားသော ဖွဲ့စည်းပုံကို အလိုအလျောက် ဖော်ထုတ်ရန် အယ်ဂိုရီသမ်အသစ်၏ စွမ်းရည်ကြောင့် ဖြစ်သည်။ အာရုံကြောကွန်ရက်များနှင့် သစ်ပင်အခြေပြု အယ်လဂိုရီသမ်များ၏ လျှို့ဝှက်ဆန်းကြယ်မှုနှင့် အသုံးဝင်မှုတို့ကို ပေါင်းစပ်ထားသည်။ ခွဲခြမ်းစိတ်ဖြာမှုပုံစံတစ်ခု၏ တိကျမှုနှင့် ၎င်း၏ "ရှင်းပြနိုင်မှု" အဆင့်ကြားတွင် မွေးရာပါ အပေးအယူတစ်ခုရှိသည်။ သူတို့ ကောက်ချက်ချပုံကို နားမလည်ပါက မော်ဒယ်များကို ကျွန်ုပ်တို့ မည်သို့ယုံကြည်နိုင်မည်နည်း။ ကျွန်ုပ်တို့သည် မှော်ပညာကို စွန့်စားပြီး ကျွန်ုပ်တို့၏ယုံကြည်မှုကို စွန့်လွှတ်ကာ တိကျမှုအတွက် ကျွန်ုပ်တို့အပြည့်အဝနားမလည်နိုင်သော အရာတစ်ခုကို ထိန်းချုပ်သင့်ပါသလား။

မန်နေဂျာများနှင့် ခွဲခြမ်းစိတ်ဖြာသူများသည် ဤအပေးအယူကိစ္စအတွက် စိတ်ပူသောသူများသာ မဟုတ်ပါ။ လွန်ခဲ့သည့်နှစ်အနည်းငယ်အတွင်း၊ စည်းကမ်းထိန်းသိမ်းရေးသမားများသည် အဆိုပါစက်မှုလုပ်ငန်းများကို စောင့်ကြည့်နိုင်မှုအား တိုးမြှင့်ရန်အတွက် မှော်၏အမှောင်ဘက်ခြမ်းကို စတင်စူးစမ်းလာကြသည်။ ဘဏ်လုပ်ငန်းနှင့် အာမခံလုပ်ငန်းများသည် ကဏ္ဍများစွာတွင် မြင့်မားစွာ ထိန်းညှိထားပြီး လက်ရှိ စည်းမျဉ်းစည်းကမ်းများသည် ခန့်မှန်းမှုများပြုလုပ်ရန် အသုံးပြုသည့် မော်ဒယ်များကို အနီးကပ်ကြည့်ရှုခြင်းပါ၀င်သည်။ ဥပမာအားဖြင့်၊ ဥရောပအထွေထွေဒေတာကာကွယ်ရေးစည်းမျဉ်း (GDPR) ၏ Recital 71 တွင် သုံးစွဲသူများသည် ၎င်းကိုပြုလုပ်ပြီးသည့်နောက်တွင် အလိုအလျောက်အလိုအလျောက်ဆုံးဖြတ်ချက်တစ်ခုအတွက် ရှင်းလင်းချက်တစ်ခုရယူပိုင်ခွင့်ရှိသင့်သည်ဟု ဖော်ပြထားသည်။ စတင်ဖွဲ့စည်းချိန်မှစ၍ ဤစည်းမျဥ်းစည်းကမ်းသည် အလွန်အငြင်းပွားဖွယ်ရာ ပညာရပ်ဆိုင်ရာ ဆွေးနွေးငြင်းခုံမှု၏ ဗဟိုချက်တွင် ရှိနေပါသည်။

“Black-Black-box” ခွဲခြမ်းစိတ်ဖြာမှုပုံစံများကို ရှင်းပြရန် အရေးတကြီးလိုအပ်မှုသည် သုတေသနနယ်ပယ်သစ်တစ်ခု ပေါ်ပေါက်လာစေသည်- ရှင်းပြနိုင်သော Artificial Intelligence ဖြစ်သည်။ ကျွမ်းကျင်သူများသည် ကျွန်ုပ်တို့အား black-box အတွင်း ဝင်ရောက်ကြည့်ရှုနိုင်ပြီး အနည်းဆုံး မှော်အတတ်အချို့ကို ဖော်ထုတ်နိုင်စေမည့် ကိရိယာများကို တီထွင်နေကြသည်။ သုတေသီများ ဖန်တီးထားသော ကိရိယာ အမျိုးအစား နှစ်မျိုးတွင် ကျွန်ုပ်တို့အား အလုံးစုံ မော်ဒယ် ခန့်မှန်းချက်များကို မောင်းနှင်သည့် အဓိက အင်္ဂါရပ်များကို နားလည်နိုင်စေရန် ကူညီပေးနိုင်သည့် “ကမ္ဘာလုံးဆိုင်ရာ ရှင်းလင်းနိုင်မှု” ကိရိယာများ နှင့် တိကျသော ခန့်မှန်းချက်များကို ရှင်းပြရန် ရည်ရွယ်သည့် “ဒေသဆိုင်ရာ ရှင်းလင်းနိုင်မှု” ကိရိယာများ။

အောက်ဖော်ပြပါ ဇာတ်ကွက်သည် ဒေသဆိုင်ရာ ရှင်းပြနိုင်မှု၏ ဥပမာတစ်ခုဖြစ်သည်။ ၎င်းသည် နိုဘယ်ဆုရ ဘောဂဗေဒပညာရှင် Lloyd Shapley ၏ စိတ်ကူးများကို အခြေခံကာ ဂိမ်းသီအိုရီကို တွက်ချက်သည့် နည်းလမ်းကို တီထွင်ခဲ့သော ကစားသမားများစွာ၏ ပံ့ပိုးကူညီမှုဖြင့် တူညီသောလုပ်ငန်းခွင်တွင် ပူးပေါင်းဆောင်ရွက်လျက်ရှိသည်။ ရှင်းပြနိုင်သော Artificial Intelligence တွင် "ကစားသမားများ" သည် စံပြအင်္ဂါရပ်များဖြစ်ပြီး "တာဝန်" သည် မော်ဒယ်၏ခန့်မှန်းချက်ဖြစ်သည်။ အင်္ဂါရပ်တစ်ခုစီ၏ ပံ့ပိုးကူညီမှုကို ဖော်ပြသည့် နံပါတ်များကို “Shapley Values” ဟုခေါ်သည်။ မကြာသေးမီက သုတေသီများသည် Shapley Values ​​[2] ကို လျင်မြန်စွာ ခန့်မှန်းနိုင်သော နည်းလမ်းများကို တီထွင်ခဲ့ပြီး မတူညီသော အင်္ဂါရပ်များကြားတွင် ခန့်မှန်းချက်တစ်ခုကို မျှမျှတတ ဖြန့်ဝေနိုင်စေခဲ့သည်။

သီးသန့်ဝယ်ယူသူ၏ သက်တမ်းတိုးလိုအပ်ချက်ကို ရှင်းပြရန် Shapley တန်ဖိုးများကို အသုံးပြုခြင်း။

သရုပ်ဖော်ထားသည့် အချက်အလက်ပေါ်တွင် အခြေခံထားသော ဇာတ်ကွက်သည် ကားအာမခံမူဝါဒ သက်တမ်းတိုးခြင်း၏ ဖြစ်နိုင်ခြေကို ခန့်မှန်းသည့် တောင်းဆိုမှုပုံစံတစ်ခု၏ ရလဒ်ကို ပြသသည်။ ဤသည်မှာ ဖောက်သည်တစ်ဦးအတွက် ဒေသဆိုင်ရာ ရှင်းလင်းချက်ဖြစ်သည်။ ဝယ်လိုအားပုံစံသည် ရှုပ်ထွေးသော ဆုံးဖြတ်ချက်သစ်ပင်များ၏ အစုအဝေးအပေါ် အခြေခံထားသော်လည်း ဇာတ်ကွက်သည် နောက်ဆုံးခန့်မှန်းချက်တွင် အင်္ဂါရပ်တစ်ခုစီ၏ သီးခြားပံ့ပိုးပေးမှုကို တင်ပြသည်။ ဤဥပမာတွင်၊ ဒေတာရှိ ပျမ်းမျှလူတစ်ဦးချင်းစီသည် ဖြစ်နိုင်ခြေ 0.64 ဖြင့် မူဝါဒကို သက်တမ်းတိုးမည်ဟု မော်ဒယ်က ခန့်မှန်းသည်။ သို့သော်လည်း ဤတိကျသောဖောက်သည်အတွက်၊ ခန့်မှန်းခြေဖြစ်နိုင်ခြေသည် 0.72 တွင် ပိုမိုမြင့်မားပါသည်။ ဇာတ်ကွက်က ဒီကွာခြားမှုရဲ့ အကြောင်းရင်းကို မြင်နိုင်စေတယ်။

ဤရှုပ်ထွေးသောမော်ဒယ်၏အတွင်းပိုင်းဖွဲ့စည်းပုံကို ကျွန်ုပ်တို့ အပြည့်အဝနားမလည်နိုင်သော်လည်း Shapley Values ​​သည် မှော်အတတ်၏အစိတ်အပိုင်းတစ်ခုကို ခွဲထုတ်ကာ တိကျသောခန့်မှန်းချက်တစ်ခုအတွက် အရေးကြီးဆုံးအင်္ဂါရပ်များဖြစ်သည့်အရာကို မြင်နိုင်စေပါသည်။ လူဦးရေအပေါ် တစ်ဦးချင်း Shapley တန်ဖိုးများကို ပျမ်းမျှအားဖြင့် မည်သည် အရေးကြီးဆုံးဖြစ်ကြောင်း သိနိုင်ပြီး မော်ဒယ်၏ ကမ္ဘာလုံးဆိုင်ရာ ရှင်းပြနိုင်မှုကို ရရှိစေပါသည်။ အခြားသော လူကြိုက်များသော ရှင်းပြနိုင်မှု ကိရိယာများ တွင် “Permutation Feature Importance”၊ ဒေသအလိုက် တပ်ဆင်ထားသော ရိုးရှင်းသော အငှားမော်ဒယ်များနှင့် အတုအယောင် ဥပမာများ၊ အချို့ကို အမည်ပေးရန်အတွက် ပါဝင်သည်။

ရှင်းပြနိုင်မှု ကိရိယာအသစ်များသည် စက်သင်ယူမှု၏ ဆင့်ကဲဖြစ်စဉ်အတွက် လိုအပ်သော နောက်တစ်ဆင့်ဖြစ်သည်။ ၎င်းတို့သည် အာမခံကုမ္ပဏီများနှင့် ဘဏ်များကို ၎င်းတို့၏ စက်သင်ယူမှုပုံစံများကို နားလည်ယုံကြည်နိုင်စေရန်၊ စည်းမျဉ်းအသစ်များကို လိုက်နာရန်နှင့် ၎င်းတို့၏ဝယ်ယူသူများအား တန်ဖိုးရှိသော အချက်အလက်များကို ပေးစွမ်းနိုင်စေပါသည်။ ယခုအခါ ကျွန်ုပ်တို့သည် တိကျမှုနှင့် ရှင်းပြနိုင်မှုကြား အပေးအယူကို တစ်စိတ်တစ်ပိုင်း ကျော်လွှားနိုင်ပြီး ၎င်းတို့၏ black-box သဘောသဘာဝနှင့် ပတ်သက်၍ စိုးရိမ်မှုနည်းပါးသော စက်သင်ယူမှုမော်ဒယ်အသစ်များ၏ အားသာချက်များကို ခံစားနိုင်ပါပြီ။

ကျွန်ုပ်တို့၏ လျင်မြန်သော ဒစ်ဂျစ်တယ်အသွင်ပြောင်းကမ္ဘာတွင်၊ အပြည့်အဝ ခွဲခြမ်းစိတ်ဖြာမှု-မောင်းနှင်သူဖြစ်လာခြင်းသည် အာမခံသူများနှင့် ဘဏ်များအတွက် အခြေခံအသက်ရှင်ရေးစံနှုန်းများဖြစ်သည်။ ဤစွမ်းရည်သည် အမြဲတမ်းအရေးကြီးသည် - သို့သော် 2020 တွင်ကျွန်ုပ်တို့အပေါ်ယူဆောင်လာခဲ့သည့် မတည်ငြိမ်သောစျေးကွက်အခြေအနေများဖြင့် ၎င်းသည် အရေးကြီးလာသည်။ အာမခံများနှင့် ဘဏ်များသည် ၎င်းတို့၏ လုပ်ငန်းဆုံးဖြတ်ချက်များကို အခြေခံပြီး ၎င်းတို့၏ဖောက်သည်များကို ပိုမိုမြန်ဆန်စွာ ဝန်ဆောင်မှုပေးနိုင်သည့် ရှုပ်ထွေးသောအဖြစ်မှန်အသစ်တစ်ခုကို စံနမူနာပြုရန် ထက်မြက်သော ခွဲခြမ်းစိတ်ဖြာမှုများ လိုအပ်ပါသည်။ ရှင်းပြနိုင်မှု ကိရိယာများသည် အာမခံ နှင့် ဘဏ်များကို ထိုသို့အောင်မြင်ရန် ခွင့်ပြုနိုင်သည်။ အချိန်ကြာလာသည်နှင့်အမျှ၊ စက်သင်ယူမှုပုံစံများကို မှော်ဆန်သည်ဟု မယူဆတော့ဘဲ ဒေတာမောင်းနှင်သည့်လုပ်ငန်း၏ အဓိကလက်နက်တိုက်တွင် မရှိမဖြစ်လိုအပ်သောကိရိယာတစ်ခုဖြစ်သည်။

သတင်းရပ်ကွက်များ:

[1] Bärtl, M., & Krummaker, S. (2020)။ ပို့ကုန်ခရက်ဒစ်ဘဏ္ဍာရေးတွင် တောင်းဆိုမှုများ၏ ခန့်မှန်းချက်- စက်သင်ယူမှုနည်းပညာလေးခု၏ နှိုင်းယှဉ်ချက်။ အန္တရာယ်များ၊ ၈(၁)၊ ၂၂။

Noll, A., Salzmann, R., & Wuthrich, MV (2020)။ ဖြစ်ရပ်လေ့လာမှု- ပြင်သစ်မော်တော်ယာဥ်ပြင်ပကုမ္ပဏီမှ တာဝန်ယူမှုတောင်းဆိုမှုများ။ SSRN 3164764 တွင် ရနိုင်ပါသည်။

Fauzan၊ MA၊ & Murfi၊ H. (2018)။ အာမခံတောင်းဆိုမှု ခန့်မှန်းချက်အတွက် XGBoost ၏ တိကျမှု။ Int J. Adv. Soft Comput ပါ။ Appl၊ ၁၀(၂)။

Weerasinghe၊ KPMLP၊ & Wijegunasekara၊ MC (2016)။ အော်တိုအာမခံတောင်းဆိုမှုများ ခန့်မှန်းရာတွင် ဒေတာတူးဖော်ခြင်းဆိုင်ရာ algorithms ၏ နှိုင်းယှဉ်လေ့လာမှု။ European International Journal of Science and Technology, 5(1), 47-54။

[2] Lundberg, SM, & Lee, SI (2017)။ မော်ဒယ်ခန့်မှန်းချက်များကို ဘာသာပြန်ရန် တစ်စုတစ်စည်းတည်း ချဉ်းကပ်မှု။ ၌ အာရုံကြောဆိုင်ရာ သတင်းအချက်အလတ် လုပ်ဆောင်ခြင်းစနစ်များ တိုးတက်လာသည်။ (စစ။ 4765-4774) ။

[3] နောက်ထပ်အသေးစိတ်အချက်အလက်များအတွက် ဤနေရာတွင် ကြည့်ပါ- https://christophm.github.io/interpretable-ml-book/index.html