Federated Learning ဆိုတာဘာလဲ။

Federated Learning ဆိုတာဘာလဲ။

AI မော်ဒယ်များကို လေ့ကျင့်ပေးသည့် သမားရိုးကျနည်းလမ်းမှာ cloud-based computing platform ကိုအသုံးပြုခြင်းဖြင့် မကြာခဏ data ပေါ်တွင် မော်ဒယ်များကို လေ့ကျင့်ပေးသည့် ဆာဗာများကို တည်ဆောက်ခြင်း ပါဝင်သည်။ သို့သော်လည်း လွန်ခဲ့သည့်နှစ်အနည်းငယ်အတွင်း ဖက်ဒရယ်သင်ယူခြင်းဟုခေါ်သော အစားထိုးပုံစံဖန်တီးမှုပုံစံတစ်ခု ပေါ်ပေါက်လာခဲ့သည်။ ပဒေသရာဇ် သင်ကြားရေး မော်ဒယ်သို့ ဒေတာကို ယူဆောင်ခြင်းထက် စက်ပစ္စည်းသင်ယူမှု မော်ဒယ်များကို ဒေတာအရင်းအမြစ်သို့ ယူဆောင်လာပါသည်။ Federated Learning သည် မော်ဒယ်ကို လေ့ကျင့်ရာတွင် အထောက်အကူပြုရန် ဒေတာစုဆောင်းသည့် စက်ပစ္စည်းတစ်ခုစီကို ခွင့်ပြုသည့် ဗဟိုချုပ်ကိုင်မှုစနစ်သို့ ချိတ်ဆက်ထားသော ကွန်ပျူတာကိရိယာများစွာကို ချိတ်ဆက်ထားသည်။

ပြည်ထောင်စု သင်ကြားရေးစနစ်တွင်၊ သင်ယူမှုကွန်ရက်၏ အစိတ်အပိုင်းတစ်ခုစီတွင် ပါဝင်သည့် စက်ပစ္စည်းအမျိုးမျိုးတွင် စက်ပေါ်ရှိ မော်ဒယ်၏ မိတ္တူတစ်ခုစီရှိသည်။ မတူညီသော စက်/ဖောက်သည်များ သူတို့ရဲ့ကိုယ်ပိုင်မော်ဒယ်ကိုလေ့ကျင့်ပါ။ ကလိုင်းယင့်၏ဒေသခံဒေတာကိုအသုံးပြု၍ မော်ဒယ်တစ်ခုချင်းစီမှ ဘောင်များ/အလေးများကို ပါရာမီတာများကို ပေါင်းစည်းပြီး ကမ္ဘာလုံးဆိုင်ရာမော်ဒယ်ကို အပ်ဒိတ်လုပ်မည့် မာစတာစက်ပစ္စည်း သို့မဟုတ် ဆာဗာသို့ ပေးပို့သည်။ ထို့နောက် လိုချင်သောတိကျမှုအဆင့်သို့ရောက်သည်အထိ ဤလေ့ကျင့်ရေးလုပ်ငန်းစဉ်ကို ထပ်ခါတလဲလဲလုပ်နိုင်ပါသည်။ အတိုချုပ်ပြောရလျှင် ဖက်ဒရယ်သင်ယူမှုနောက်ကွယ်ရှိ အယူအဆမှာ လေ့ကျင့်ရေးဒေတာများကို စက်များအကြား သို့မဟုတ် ပါတီများကြားတွင် မည်သည့်အခါမျှ မပို့နိုင်ဘဲ မော်ဒယ်နှင့် ပတ်သက်သည့် အပ်ဒိတ်များသာဖြစ်သည်။

Federated Learning ကို မတူညီသော အဆင့် သို့မဟုတ် အဆင့်သုံးဆင့် ခွဲနိုင်သည်။ Federated Learning သည် ပုံမှန်အားဖြင့် အခြေခံအချက်အဖြစ် လုပ်ဆောင်သည့် ယေဘုယျပုံစံဖြင့် စတင်ပြီး ဗဟိုဆာဗာတွင် လေ့ကျင့်သင်ကြားပေးသည်။ ပထမအဆင့်တွင်၊ ဤယေဘုယျပုံစံကို အပလီကေးရှင်း၏ဖောက်သည်များထံ ပေးပို့သည်။ ထို့နောက် အဆိုပါဒေသခံမိတ္တူများကို ဖောက်သည်စနစ်များမှ ထုတ်ပေးသည့်ဒေတာများကို လေ့ကျင့်သင်ကြားကာ ၎င်းတို့၏စွမ်းဆောင်ရည်ကို မြှင့်တင်ပေးသည်။

ဒုတိယအဆင့်တွင်၊ ဖောက်သည်များအားလုံးသည် ၎င်းတို့၏သင်ယူထားသော မော်ဒယ်ဘောင်များကို ဗဟိုဆာဗာထံ ပေးပို့သည်။ ၎င်းသည် သတ်မှတ်အချိန်ဇယားအတိုင်း အခါအားလျော်စွာ ဖြစ်ပေါ်သည်။

တတိယအဆင့်တွင်၊ ဆာဗာသည် ၎င်းတို့ကို လက်ခံရရှိသောအခါ လေ့လာသင်ယူထားသော ဘောင်များကို စုစည်းပေးသည်။ ကန့်သတ်ချက်များကို ပေါင်းစည်းပြီးနောက်၊ ဗဟိုမော်ဒယ်ကို မွမ်းမံပြီး သုံးစွဲသူများနှင့် တစ်ကြိမ် ထပ်မံမျှဝေပါသည်။ ထို့နောက် လုပ်ငန်းစဉ်တစ်ခုလုံး ပြန်လုပ်သည်။

အဆိုပါ ကော်ပီရှိခြင်း၏အကျိုးကျေးဇူး စက်ပစ္စည်းအမျိုးမျိုးရှိ မော်ဒယ်များ၏ ကွန်ရက် latencies များကို လျှော့ချခြင်း သို့မဟုတ် ဖယ်ရှားခြင်းပင်ဖြစ်သည်။ ဆာဗာနှင့် ဒေတာမျှဝေခြင်းဆိုင်ရာ ကုန်ကျစရိတ်များကိုလည်း ဖယ်ရှားပေးပါသည်။ ဖက်ဒရယ်သင်ယူမှုနည်းလမ်းများ၏ အခြားအကျိုးကျေးဇူးများတွင် ဖက်ဒရယ်သင်ယူမှုပုံစံများသည် ကိုယ်ရေးကိုယ်တာအချက်အလက်များကို ထိန်းသိမ်းထားပြီး စက်ပစ္စည်း၏အသုံးပြုသူအတွက် မော်ဒယ်တုံ့ပြန်မှုများကို ပုဂ္ဂိုလ်ရေးသီးသန့်ပြုလုပ်ထားသည့်အချက်လည်း ပါဝင်ပါသည်။

ဖက်ဒရယ်လေ့လာသင်ယူမှုပုံစံများ၏နမူနာများတွင် အကြံပြုချက်အင်ဂျင်များ၊ လိမ်လည်မှုရှာဖွေခြင်းမော်ဒယ်များနှင့် ဆေးဘက်ဆိုင်ရာမော်ဒယ်များ ပါဝင်သည်။ Netflix သို့မဟုတ် Amazon မှ အသုံးပြုသည့် မီဒီယာ အကြံပြုချက်အင်ဂျင်များ သည် သုံးစွဲသူထောင်ပေါင်းများစွာထံမှ စုဆောင်းထားသော ဒေတာများကို လေ့ကျင့်ပေးနိုင်ပါသည်။ ဖောက်သည် စက်ပစ္စည်းများသည် ၎င်းတို့၏ သီးခြားမော်ဒယ်များကို လေ့ကျင့်ပေးမည်ဖြစ်ပြီး၊ ဒေတာအချက်များသည် မတူညီသောအသုံးပြုသူများနှင့်မတူသော်လည်း တစ်ဦးချင်း ဒေတာအချက်များသည် ကွဲပြားသော်လည်း ဗဟိုမော်ဒယ်သည် ပိုမိုကောင်းမွန်သော ခန့်မှန်းချက်များကို ပြုလုပ်ရန် သင်ယူမည်ဖြစ်သည်။ အလားတူ၊ ဘဏ်များမှအသုံးပြုသော လိမ်လည်မှုရှာဖွေခြင်းပုံစံများကို မတူညီသောစက်ပစ္စည်းများစွာမှ လုပ်ဆောင်မှုပုံစံများပေါ်တွင် လေ့ကျင့်သင်ကြားနိုင်ပြီး မတူညီသောဘဏ်လက်တစ်ဆုပ်စာသည် ဘုံပုံစံတစ်ခုကို လေ့ကျင့်ရန်အတွက် ပူးပေါင်းလုပ်ဆောင်နိုင်ပါသည်။ ဆေးဘက်ဆိုင်ရာ ဖက်ဒရယ်စနစ်ဖြင့် သင်ယူမှုပုံစံအရ၊ ဆေးရုံအများအပြားသည် ဆေးစကင်န်ဖတ်ခြင်းဖြင့် ဖြစ်နိုင်ချေရှိသောအကျိတ်များကို မှတ်မိနိုင်သည့် ဘုံပုံစံတစ်ခုကို လေ့ကျင့်သင်ကြားပေးနိုင်သည်။

Federated Learning အမျိုးအစားများ

Federated Learning schemas ပုံမှန်အားဖြင့် မတူညီသော အတန်းနှစ်ခုထဲမှ တစ်ခုသို့ ကျရောက်သည်။ပါတီစုံစနစ်များနှင့် တစ်ပါတီစနစ်များ။ တစ်ပါတီစနစ်ဖြင့် သင်ကြားရေးစနစ်များကို "single-party" ဟုခေါ်တွင်ရခြင်းမှာ သင်ယူမှုကွန်ရက်ရှိ client စက်ပစ္စည်းများအားလုံးတွင် ဒေတာဖမ်းယူမှုနှင့် စီးဆင်းမှုကို ကြီးကြပ်ရန်အတွက် အဖွဲ့အစည်းတစ်ခုတည်းကသာ တာဝန်ရှိသောကြောင့် ဖြစ်သည်။ ကလိုင်းယင့်စက်ပစ္စည်းများတွင်ပါရှိသော မော်ဒယ်များကို တူညီသောဖွဲ့စည်းပုံဖြင့် ဒေတာလေ့ကျင့်ထားသော်လည်း ဒေတာအချက်များသည် ပုံမှန်အားဖြင့် အသုံးပြုသူများနှင့် စက်အမျိုးမျိုးအတွက် သီးသန့်ဖြစ်သည်။

တစ်ပါတီစနစ်များနှင့် ဆန့်ကျင်ဘက်အားဖြင့် ပါတီစုံစနစ်များကို နှစ်ခု သို့မဟုတ် တစ်ခုထက်ပိုသော အဖွဲ့အစည်းများက စီမံခန့်ခွဲသည်။ ဤအဖွဲ့အစည်းများသည် ၎င်းတို့အသုံးပြုခွင့်ရှိသော စက်ပစ္စည်းအမျိုးမျိုးနှင့် ဒေတာအတွဲများကို အသုံးပြုခြင်းဖြင့် မျှဝေထားသော မော်ဒယ်တစ်ခုကို လေ့ကျင့်ရန် ပူးပေါင်းဆောင်ရွက်ပါသည်။ ဘောင်များနှင့် ဒေတာဖွဲ့စည်းပုံများသည် ပုံမှန်အားဖြင့် များစွာသော entities များပိုင်ဆိုင်သည့် စက်များတွင် ဆင်တူသော်လည်း ၎င်းတို့သည် အတိအကျတူညီနေရန် မလိုအပ်ပါ။ ယင်းအစား၊ မော်ဒယ်၏ သွင်းအားစုများကို စံချိန်စံညွှန်းသတ်မှတ်ရန် အကြိုလုပ်ဆောင်မှုကို လုပ်ဆောင်သည်။ မတူညီသော entity များအတွက် ထူးခြားသည့် စက်များမှ ချမှတ်ထားသော အလေးများကို ပေါင်းစည်းရန် ကြားနေအဖွဲ့အစည်းကို အသုံးချနိုင်သည်။

Federated Learning အတွက် မူဘောင်များ

ဖက်ဒရယ် သင်ကြားရေး အတွက် အသုံးပြုသော နာမည်ကြီး မူဘောင်များ ပါဝင်သည်။ Tensorflow Federated, Federated AI Technology Enabler (FATE)နှင့် PySyft. PySyft သည် နက်ရှိုင်းသော သင်ယူမှုစာကြည့်တိုက် PyTorch ကို အခြေခံထားသည့် ပွင့်လင်းသောအရင်းအမြစ် ဖက်ဒရယ် သင်ကြားရေးစာကြည့်တိုက်တစ်ခုဖြစ်သည်။ PySyft သည် ကုဒ်ဝှက်ထားသော တွက်ချက်မှုကို အသုံးပြု၍ ဆာဗာများနှင့် အေးဂျင့်များတစ်လျှောက် လျှို့ဝှက်၊ လုံခြုံသော နက်နဲသော သင်ယူမှုကို သေချာစေရန် ရည်ရွယ်ပါသည်။ ဤအတောအတွင်း Tensorflow Federated သည် Google ၏ Tensorflow ပလပ်ဖောင်းပေါ်တွင် တည်ဆောက်ထားသော အခြား open-source framework ဖြစ်သည်။ အသုံးပြုသူများအား ၎င်းတို့၏ကိုယ်ပိုင် အယ်လဂိုရီသမ်များ ဖန်တီးနိုင်စေသည့်အပြင်၊ Tensorflow Federated သည် အသုံးပြုသူများအား ၎င်းတို့၏ကိုယ်ပိုင်မော်ဒယ်များနှင့် ဒေတာများတွင် ပါဝင်သော ဖက်ဒရယ်သင်ယူမှုဆိုင်ရာ အယ်လဂိုရီသမ်များစွာကို အတုယူနိုင်စေပါသည်။ နောက်ဆုံးတွင်၊ FATE သည် Webank AI မှဒီဇိုင်းထုတ်ထားသော open-source framework ဖြစ်ပြီး Federated AI ဂေဟစနစ်အား လုံခြုံသောတွက်ချက်မှုဆိုင်ရာမူဘောင်တစ်ခုပေးစွမ်းရန် ရည်ရွယ်ပါသည်။

Federated Learning Challenges

ပြည်ထောင်စုစနစ်ဖြင့် သင်ကြားရေးမှာ အခြေတည်နေဆဲဖြစ်သောကြောင့်၊ စိန်ခေါ်မှုများစွာ ၎င်း၏ အလားအလာ အပြည့်အဝရရှိရန် ညှိနှိုင်းရန် လိုအပ်နေသေးသည်။ အနားသတ်ကိရိယာများ၏ လေ့ကျင့်ရေးစွမ်းရည်များ၊ ဒေတာတံဆိပ်ကပ်ခြင်းနှင့် စံချိန်စံညွှန်းသတ်မှတ်ခြင်းနှင့် စံနမူနာပေါင်းစည်းခြင်းတို့သည် ဗဟိုအစိုးရသင်ကြားရေးချဉ်းကပ်မှုများအတွက် ဖြစ်နိုင်ချေရှိသော လမ်းပိတ်ဆို့မှုများဖြစ်သည်။

Edge စက်များ၏ တွက်ချက်မှုစွမ်းရည်များကို ဒေသန္တရလေ့ကျင့်ရေးနှင့်ပတ်သက်လာလျှင် ပြည်ထောင်စုအဆင့် သင်ကြားရေးချဉ်းကပ်နည်းများကို ဒီဇိုင်းဆွဲသည့်အခါ ထည့်သွင်းစဉ်းစားရန် လိုအပ်ပါသည်။ စမတ်ဖုန်းများ၊ တက်ဘလက်များနှင့် အခြားသော IoT တွဲဖက်အသုံးပြုနိုင်သော စက်အများစုသည် စက်သင်ယူမှုပုံစံများကို လေ့ကျင့်ပေးနိုင်သော်လည်း၊ ၎င်းသည် ပုံမှန်အားဖြင့် စက်၏စွမ်းဆောင်ရည်ကို အနှောင့်အယှက်ဖြစ်စေပါသည်။ မော်ဒယ်တိကျမှုနှင့် စက်စွမ်းဆောင်ရည်ကြားတွင် အပေးအယူများ ပြုလုပ်ရမည်ဖြစ်ပါသည်။

ဒေတာတံဆိပ်တပ်ခြင်းနှင့် စံချိန်စံညွှန်းသတ်မှတ်ခြင်းသည် ဖက်ဒရယ်သင်ကြားရေးစနစ်များကို ကျော်လွှားရမည့် နောက်ထပ်စိန်ခေါ်မှုတစ်ခုဖြစ်သည်။ ကြီးကြပ်ထားသော သင်ယူမှုပုံစံများသည် စနစ်၏အစိတ်အပိုင်းဖြစ်သော သုံးစွဲသူစက်ပစ္စည်းအများအပြားတွင် လုပ်ဆောင်ရန်ခက်ခဲနိုင်သည့် ရှင်းလင်းပြတ်သားပြီး တသမတ်တည်း အညွှန်းတပ်ထားသည့် လေ့ကျင့်ရေးဒေတာ လိုအပ်ပါသည်။ ထို့ကြောင့်၊ ဖြစ်ရပ်များနှင့် အသုံးပြုသူလုပ်ဆောင်ချက်များအပေါ် အခြေခံ၍ အညွှန်းများကို စံချိန်စံညွှန်းသတ်မှတ်ထားသော နည်းလမ်းဖြင့် အလိုအလျောက်အသုံးပြုမည့် မော်ဒယ်ဒေတာပိုက်လိုင်းများကို တီထွင်ရန် အရေးကြီးပါသည်။

စံပြပေါင်းစည်းခြင်းအချိန်သည် ဖက်ဒရယ်သင်ယူခြင်းအတွက် နောက်ထပ်စိန်ခေါ်မှုတစ်ခုဖြစ်သည်၊ အကြောင်းမှာ ဖက်ဒရယ်သင်ယူမှုပုံစံများသည် ဒေသအလိုက်လေ့ကျင့်ထားသောမော်ဒယ်များထက် ပေါင်းစည်းရန် ပိုကြာသောကြောင့်ဖြစ်သည်။ ချိတ်ဆက်မှုပြဿနာများ၊ ပုံမှန်မွမ်းမံမှုများနှင့် မတူညီသောအပလီကေးရှင်းအသုံးပြုချိန်များပင်လျှင် ပေါင်းစည်းချိန်ကို တိုးမြင့်စေပြီး ယုံကြည်စိတ်ချရမှုကို လျော့နည်းစေသောကြောင့် လေ့ကျင့်ရေးတွင်ပါရှိသော စက်ပစ္စည်းအရေအတွက်သည် မော်ဒယ်လေ့ကျင့်ရေးတွင် မှန်းဆမရသောအချက်ကို ပေါင်းထည့်ပါသည်။ ထို့ကြောင့်၊ ဒေတာအတွဲများ အလွန်ကြီးမားပြီး ဖြန့်ဝေသည့် စံနမူနာများကဲ့သို့သော ဗဟိုချုပ်ကိုင်လေ့ကျင့်မှုပုံစံတစ်ခုအတွက် အဓိပ္ပာယ်ပြည့်ဝသော အကျိုးကျေးဇူးများကို ပေးဆောင်သောအခါတွင် ဖက်ဒရယ်ဆိုင်ရာ သင်ယူမှုဖြေရှင်းနည်းများသည် ယေဘုယျအားဖြင့် အသုံးအများဆုံးဖြစ်သည်။

ဓာတ်ပုံ- Wikimedia Commons မှတဆင့် Jeromemetronome၊ CC By SA 4.0 (https://en.wikipedia.org/wiki/File:Federated_learning_process_central_case.png)