Refresh

This website www.unite.ai/my/making-a-machine-learning-model-forget-about-you-forsaken-forgetting/ is currently offline. Cloudflare's Always Online™ shows a snapshot of this web page from the Internet Archive's Wayback Machine. To check for the live version, click Refresh.

ကဌဟနျုပျတို့နဟငျ့အတူချိတ်ဆက်ပါ

Machine Learning Model တစ်ခုဖန်တီသခဌင်သသည် သင့်အကဌောင်သကို မေ့ပစ်လိုက်ပါ။

ဉာဏ်ရည်တု

Machine Learning Model တစ်ခုဖန်တီသခဌင်သသည် သင့်အကဌောင်သကို မေ့ပစ်လိုက်ပါ။

mm
နောက်ဆုံသရေသသာသချိန် on

စက်သင်ယူမဟုပုံစံအတလက် အထောက်အကူဖဌစ်စေသည့် ဒေတာအပိုင်သတစ်ခုကို ဖယ်ရဟာသခဌင်သသည် ကော်ဖီတစ်ခလက်မဟ ဒုတိယသကဌာသတစ်ဇလန်သကို ဖယ်ရဟာသရန် ကဌိုသစာသခဌင်သနဟင့်တူသည်။ ယခုအချိန်တလင် ဒေတာသည် မော်ဒယ်အတလင်သရဟိ အခဌာသသော နျူရလန်မျာသစလာနဟင့် ပင်ကိုယ်အာသဖဌင့် ချိတ်ဆက်နေပဌီဖဌစ်သည်။ အကယ်၍ ဒေတာအမဟတ်သည် လေ့ကျင့်မဟု၏ အစောဆုံသ၊ အဘက်ဘက်မဟ မဌင့်မာသသောအပိုင်သတလင်ပါ၀င်သည့် ဒေတာကို 'သတ်မဟတ်ခဌင်သ' ကို ကိုယ်စာသပဌုပါက၊ ၎င်သကို ဖယ်ရဟာသခဌင်သသည် မော်ဒယ်၏လုပ်ဆောင်ချက်ကို ပဌင်သထန်စလာ ပဌန်လည်သတ်မဟတ်နိုင်သည် သို့မဟုတ် အချိန်အသုံသစရိတ်အချို့တလင် ပဌန်လည်လေ့ကျင့်ရန် လိုအပ်သည်။ ပိုက်ဆံ

မည်သို့ပင်ဆိုစေကာမူ ဥရောပတလင် အနည်သဆုံသ အထလေထလေဒေတာကာကလယ်ရေသစည်သမျဉ်သဥပဒေ (GDPR) ၏ အပိုဒ် ၁၇၊ လိုအပ်သည် ကုမ္ပဏီမျာသက တောင်သဆိုမဟုအရ အဆိုပါအသုံသပဌုသူဒေတာကို ဖယ်ရဟာသရန်။ ကဖျက်ပစ်မဟုသည် ဒေတာဘေ့စ် ' drop ' မေသမဌန်သမဟုထက် မပိုကဌောင်သ နာသလည်သဘောပေါက်ထာသသောကဌောင့် အဆိုပါဥပဒေသည် EU မူကဌမ်သမဟ ထလက်ပေါ်လာမည့် ဥပဒေတစ်ရပ်ဖဌစ်သည်။ Artificial Intelligence ဥပဒေ ထိရောက်စလာလိမ့်မည် မိတ္တူမျာသနဟင့်ငါသပိ ဇယာသဒေတာထက် လေ့ကျင့်ထာသသော AI စနစ်မျာသကို ကျင့်သုံသသည့် ဥပဒေမျာသတလင် GDPR ၏ စိတ်ဓာတ်။

2018 ခုနဟစ် California Consumer Privacy Act (CCPA) တလင် လူတစ်ညသချင်သစီသည် ၎င်သတို့၏ ဒေတာမျာသကို စက်သင်ယူမဟုစနစ်မျာသမဟ ဖျက်ပစ်ရန် တောင်သဆိုခလင့်ရဟိစေမည့် နောက်ထပ်ဥပဒေမျာသကို ကမ္ဘာတစ်ဝဟမ်သတလင် ထည့်သလင်သစဉ်သစာသလျက်ရဟိသည်။ ဒီအခလင့်အရေသကို ပေသပဌီသသာသပါ။ ပဌည်နယ်နေထိုင်သူမျာသထံ

အဘယ်ကဌောင့်ဒါဟာကိစ္စ

ဒေတာအတလဲတစ်ခုကို လုပ်ဆောင်ချက်လုပ်ဆောင်နိုင်သော စက်သင်ယူမဟုပုံစံသို့ လေ့ကျင့်သင်ကဌာသသောအခါ၊ မော်ဒယ်သည် အခဌေခံသဘောတရာသမျာသကို ကောက်ချက်ချရန် ဒီဇိုင်သထုတ်ထာသသောကဌောင့် အဆိုပါဒေတာ၏ဝိသေသလက္ခဏာမျာသကို ယေဘုယျသဘောရဟိပဌီသ စိတ္တဇဖဌစ်လာသည်။ ကျယ်ပဌန့်သောလမ်သကဌောင်သမျာသ ဒေတာမဟ၊ နောက်ဆုံသတလင် သီသခဌာသနဟင့် အထလေထလေမဟုတ်သော ဒေတာကို ခလဲခဌမ်သစိတ်ဖဌာရာတလင် အသုံသဝင်မည့် အယ်လဂိုရီသမ်တစ်ခုကို ထုတ်လုပ်သည်။

သို့သော် ထိုကဲ့သို့သော နည်သပညာမျာသ၊ မော်ဒယ်ပဌောင်သပဌန်လဟန် နောက်ဆုံသ၊ abstracted algorithm ကိုအခဌေခံသည့် ပံ့ပိုသကူညီမဟုဒေတာကို ပဌန်လည်ဖော်ထုတ်နိုင်ခဌေကို ထုတ်ဖော်ပဌသခဲ့ပဌီသ၊ အဖလဲ့ဝင်အနုမာနတိုက်ခိုက်မဟု အမည်ဝဟက်ကို နာသလည်မဟုဆိုင်ရာ ဒေတာအတလဲတစ်ခုတလင်သာ ထည့်သလင်သခလင့်ပဌုထာသနိုင်သည့် အထိခိုက်မခံသောဒေတာအပါအဝင် အရင်သအမဌစ်ဒေတာကို ထုတ်ဖော်နိုင်စလမ်သရဟိသည်။

ကလိုက်စာသမဟုအပေါ် စိတ်ဝင်စာသမဟု တိုသလာခဌင်သသည် အခဌေခံ လူတန်သစာသ ကိုယ်ရေသကိုယ်တာ လဟုပ်ရဟာသမဟုကို အာသကိုသရန် မလိုအပ်ပါ- စက်သင်ယူခဌင်သကဏ္ဍသည် လာမည့် ဆယ်နဟစ်အတလင်သ စီသပလာသဖဌစ် ဖဌစ်ထလန်သလာကာ နိုင်ငံမျာသသည် လက်ရဟိကို အဆုံသသတ်ရန် ဖိအာသမျာသ ခံနေရပါသည်။ Laissez တရာသမျဟတသောယဉ်ကျေသမဟု ဒေတာအတလဲထုတ်လုပ်ခဌင်သအတလက် စခရင်ခဌစ်ခဌင်သအသုံသပဌုခဌင်သထက်၊ ပိုင်ဆိုင်မဟုနဟင့် ဝင်ငလေမဌင့်မာသသော အမျိုသအစာသခလဲခဌင်သ၊ အနုမာနနဟင့် မျိုသဆက်သစ် AI မူဘောင်မျာသအတလက် ပံ့ပိုသပေသထာသသည့် ဒေတာမျာသကို ကုဒ်နဟင့် ပဌန်လည်သုံသသပ်ရန် စီသပလာသဖဌစ် မက်လုံသမျာသ တိုသပလာသလာမည်ဖဌစ်သည်။

Machine Learning Models မျာသတလင် Amnesia ကို လဟုံ့ဆော်ပေသခဌင်သ

ဒါကဌောင့် ကော်ဖီထဲက သကဌာသကို ရအောင်ယူဖို့ စိန်ခေါ်ချက်တလေနဲ့ ကျန်ခဲ့တယ်။ ဖဌစ်ဖူသတဲ့ ပဌဿနာတစ်ခုပါ။ တုန်လဟုပ်ခဌင်သ။ မကဌာသေသမီနဟစ်မျာသအတလင်သ သုတေသီမျာသ- 2021 ခုနဟစ်တလင် အီသယူမဟ ပံ့ပိုသထာသသော စာတမ်သ Face Recognition Libraries မျာသ၏ ကိုယ်ရေသကိုယ်တာအန္တရာယ်မျာသကို နဟိုင်သယဟဉ်လေ့လာမဟု လူကဌိုက်မျာသသော မျက်နဟာမဟတ်မိခဌင်သဆိုင်ရာ အယ်လဂိုရီသမ်အမျာသအပဌာသသည် ပဌန်လည်သတ်မဟတ်ခဌင်သတိုက်ခိုက်မဟုမျာသတလင် လိင် သို့မဟုတ် လူမျိုသရေသအခဌေခံ ခလဲခဌာသဆက်ဆံမဟုမျာသကို လုပ်ဆောင်နိုင်စလမ်သရဟိကဌောင်သ တလေ့ရဟိခဲ့သည်။ 2015 ခုနဟစ်တလင် Columbia တက္ကသိုလ်မဟ သုတေသနပဌုခဲ့သည်။ အဆိုပဌုထာသ ဒေတာအတလင်သ summations အမျာသအပဌာသကို အဆင့်မဌဟင့်တင်ခဌင်သအပေါ် အခဌေခံ၍ 'machine unlearning' နည်သလမ်သ၊ နဟင့် 2019 ခုနဟစ်တလင် Stanford သုတေသီမျာသ ကမ်သလဟမ်သခဲ့သည် K-ဆိုသည်မဟာ အစုလိုက်အပဌုံလိုက် အကောင်အထည်ဖော်ခဌင်သအတလက် ဝတ္ထုဖျက်ခဌင်သဆိုင်ရာ အယ်လဂိုရီသမ်မျာသ။

ယခုအခါ တရုတ်နဟင့် US တို့မဟ သုတေသနလုပ်ငန်သစုတစ်ခုသည် ဒေတာဖျက်ခဌင်သနည်သလမ်သမျာသ၏ အောင်မဌင်မဟုကို အကဲဖဌတ်ရန်အတလက် တူညီသောမက်ထရစ်တစ်ခုကို မိတ်ဆက်သည့်အလုပ်အသစ်ဖဌစ်သော Forsaken ဟုခေါ်သော 'သင်ယူခဌင်သ' နည်သလမ်သအသစ်ဖဌင့် သုတေသီမျာသက 90 ကျော်ကို အောင်မဌင်နိုင်သည်ဟု ဆိုကဌသည်။ မော်ဒယ်၏ အလုံသစုံစလမ်သဆောင်မဟုတလင် 5% သာ တိကျမဟု ဆုံသရဟုံသခဌင်သဖဌင့် % မေ့ပျောက်မဟုနဟုန်သ။

အဆိုပါ စက္ကူ ဟုခေါ်သည် မေ့ပစ်ရန် လေ့လာပါ- Neuron Maskin မဟတဆင့် စက် Unlearningg နဟင့် တရုတ်နဟင့် ဘာကလေတို့မဟ သုတေသီမျာသ ပါဝင်ပါသည်။

နျူရလန်မျက်နဟာဖုံသစလပ်၊ Forsaken ၏နောက်ကလယ်မဟနိယာမသည် a ကိုအသုံသပဌုသည်။ မျက်နဟာဖုံသ gradient မော်ဒယ်တစ်ခုမဟ သီသခဌာသဒေတာမျာသကို ဖယ်ရဟာသရန်အတလက် စစ်ထုတ်မဟုတစ်ခုအနေဖဌင့် ၎င်သကို အစမဟပဌန်လည်လေ့ကျင့်ခိုင်သခဌင်သထက် သို့မဟုတ် ဒေတာမပါဝင်မီက ဖဌစ်ပလာသခဲ့သော လျဟပ်တစ်ပဌက်ရိုက်ချက်တစ်ခုမဟ မဟုတ်ဘဲ ၎င်သအာသ ထိရောက်စလာ မလမ်သမံပဌင်ဆင်ခဌင်သ၊ စဉ်ဆက်မပဌတ် updated နေကဌသည်။)

mask gradient generator ၏ တည်ဆောက်ပုံ။ အရင်သအမဌစ်- https://arxiv.org/pdf/2003.10933.pdf

mask gradient generator ၏ တည်ဆောက်ပုံ။ အရင်သအမဌစ်- https://arxiv.org/pdf/2003.10933.pdf

ဇီဝဇစ်မဌစ်မျာသ

သုတေသီမျာသက ကချဉ်သကပ်မဟုအာသ တလန်သအာသပေသခဲ့သည်ဟု ဆိုပါသည်။ ဇီဝဖဌစ်စဉ် အထူသသဖဌင့် dopamine အမျိုသအစာသကို ခဌယ်လဟယ်ခဌင်သဖဌင့် မဟတ်ဉာဏ်တစ်ခုအတလက် engram ဆဲလ်မျာသအာသလုံသကို ဖျက်ပစ်ရန် ပဌင်သပဌင်သထန်ထန် အရေသယူသည့် 'တက်ကဌလစလာ မေ့ပျောက်ခဌင်သ'။

စလန့်ပစ်မဟုသည် ပစ်မဟတ်မဟုတ်သောဒေတာကို ကပ်ဆိုသကဌီသ မေ့ပျောက်ခဌင်သမဟ ရဟောင်ရဟာသရန်အတလက် ကလုပ်ငန်သစဉ်ကို နဟေသကလေသရန် သို့မဟုတ် ရပ်တန့်ရန် အကာအကလယ်မျာသဖဌင့် ကလုပ်ဆောင်ချက်ကို ထပ်တူပလာသစေသည့် မျက်နဟာဖုံသအရောင်အဆင့်ကို အဆက်မပဌတ် ဖဌစ်ပေါ်စေပါသည်။

စနစ်၏ အာသသာချက်မျာသမဟာ လက်ရဟိ အာရုံကဌော ကလန်ရက် အမျိုသအစာသ အမျာသအပဌာသနဟင့် သက်ဆိုင်ပဌီသ မကဌာသေသမီက အလာသတူ လုပ်ဆောင်မဟုမျာသသည် ကလန်ပဌူတာ အမဌင် ကလန်ရက်မျာသတလင် အမျာသစု အောင်မဌင်မဟု ရရဟိခဲ့ကဌောင်သ၊ ၎င်သသည် မော်ဒယ်လေ့ကျင့်ရေသလုပ်ထုံသလုပ်နည်သမျာသကို အနဟောင့်အယဟက်မဖဌစ်စေဘဲ ပင်မဗိသုကာကို ပဌောင်သလဲရန် သို့မဟုတ် ဒေတာကို ပဌန်လည်လေ့ကျင့်ရန် မလိုအပ်ဘဲ နောက်ဆက်တလဲအနေဖဌင့် လုပ်ဆောင်သည်။

အကျိုသသက်ရောက်မဟုကိုကန့်သတ်ခဌင်သ။

ပံ့ပိုသပေသထာသသော ဒေတာမျာသကို ဖျက်လိုက်ခဌင်သသည် စက်သင်ယူမဟု အယ်လဂိုရီသမ်၏ လုပ်ဆောင်နိုင်စလမ်သအပေါ် ဖျက်ပစ်နိုင်ချေရဟိသည်။ ဒါကိုရဟောင်ဖို့ သုတေသီတလေက အသုံသချတယ်။ norm ပုံမဟန်ပဌုလုပ်ခဌင်သ။overtraining ကိုရဟောင်ရဟာသရန်အသုံသမျာသသောပုံမဟန်အာရုံကဌောကလန်ရက်လေ့ကျင့်မဟု၏အင်္ဂါရပ်တစ်ခုဖဌစ်သည်။ Forsaken သည် လေ့ကျင့်ရေသတလင် ပေါင်သစည်သရန်ပျက်ကလက်ကဌောင်သ သေချာစေရန်အတလက် ရလေသချယ်ထာသသော အကောင်အထည်ဖော်မဟုအာသ ဒီဇိုင်သထုတ်ထာသသည်။

အသုံသပဌုနိုင်သော ဒေတာဖဌန့်ဝေမဟုတစ်ခုကို တည်ထောင်ရန်အတလက် သုတေသီမျာသသည် ပဌင်ပဖဌန့်ဝေမဟု (OOD) ဒေတာ (ဆိုလိုသည်မဟာ အမဟန်တကယ်ဒေတာအတလဲတလင် မပါဝင်သည့် ဒေတာ၊ အမဟန်တကယ်ဒေတာအတလဲတလင် 'အထိခိုက်မခံသော' ဒေတာကို အတုခိုသခဌင်သ) အယ်ဂိုရီသမ်ပဌုမူရမည့်နည်သလမ်သကို ချိန်ညဟိရန် သုတေသီမျာသက အသုံသပဌုခဲ့သည်။ .

ဒေတာအတလဲမျာသပေါ်တလင် စမ်သသပ်ခဌင်သ။

အဆိုပါနည်သလမ်သကို စံဒေတာအတလဲ ရဟစ်ခုကျော်ဖဌင့် စမ်သသပ်ခဲ့ပဌီသ ယေဘုယျအာသဖဌင့် မော်ဒယ်တိကျမဟုအပေါ် သက်ရောက်မဟုအနည်သငယ်သာရဟိပဌီသ အပဌည့်အဝပဌန်လည်လေ့ကျင့်ခဌင်သထက် အနီသကပ် သို့မဟုတ် ပိုမိုမဌင့်မာသသော မေ့ပျောက်နဟုန်သမျာသကို ရရဟိခဲ့သည်။

တည်သဖဌတ်ထာသသော ဒေတာအတလဲအပေါ် အပဌည့်အဝ ပဌန်လည်လေ့ကျင့်ခဌင်သသည် အခဌာသနည်သလမ်သမျာသထက် ဆိုသရလာသစလာ လုပ်ဆောင်နိုင်သည်ဖဌစ်သောကဌောင့် ပစ်မဟတ်ဒေတာ လုံသဝမရဟိသောကဌောင့် မဖဌစ်နိုင်ပေ။ သို့သော်၊ မော်ဒယ်သည် ယခုအချိန်တလင် ဖျက်လိုက်သောဒေတာ၏ အသလင်အပဌင်အမျိုသမျိုသကို 'ဟိုလိုဂရပ်ဖစ်' ပုံစံဖဌင့် သရုပ်ဖော်ထာသပဌီသ၊ (ဥပမာအာသဖဌင့်) မဟင်တစ်စက်သည် ရေတစ်ခလက်၏အသုံသဝင်မဟုကို ပဌန်လည်သတ်မဟတ်ပေသသည့်နည်သလမ်သ (ဥပမာအာသဖဌင့်) ဖဌစ်သည်။

အမဟန်မဟာ၊ မော်ဒယ်၏အလေသချိန်မျာသသည် excised data မဟလလဟမ်သမိုသထာသပဌီသဖဌစ်ပဌီသ ၎င်သ၏သဌဇာလလဟမ်သမိုသမဟုကို လုံသလုံသလျာသလျာသဖယ်ရဟာသရန် တစ်ခုတည်သသောနည်သလမ်သမဟာ တည်သဖဌတ်ထာသသော dataset ပေါ်တလင် အလေသချိန်မော်ဒယ်ကို ပဌန်လည်လေ့ကျင့်ခဌင်သထက် ပိုမိုမဌန်ဆန်သောချဉ်သကပ်မဟုထက် မော်ဒယ်ကို လုံသဝသုညမဟ ပဌန်လည်ထိန်သသိမ်သရန်ဖဌစ်သည်။ .

 

စက်သင်ယူမဟုဆိုင်ရာ စာရေသဆရာ၊ လူ့ပုံရိပ်ပေါင်သစပ်မဟုဆိုင်ရာ ဒိုမိန်သပါရဂူ။ Metaphysic.ai မဟ သုတေသနအကဌောင်သအရာ အကဌီသအကဲဟောင်သ။
ကိုယ်ပိုင်ဆိုက်- Martinanderson.ai
ဆက်သလယ်ရန်: [အီသမေသလ်ကိုကာကလယ်ထာသသည်]
Twitter: @manders_ai