Cyber Security
AI la sharxi karo waxa laga yaabaa inay si fudud u dhiibto xogta sirta ah
Cilmi-baarayaal ka socda Jaamacadda Qaranka ee Singapore waxay soo gabagabeeyeen in mar kasta oo AI sii sharaxi karo, ay sahlanaan doonto in la hareer maro sifooyinka gaarka ah ee muhiimka ah ee hababka barashada mashiinka. Waxa kale oo ay ogaadeen in xitaa marka qaabka aan la macnayn karin, ay suurtogal tahay in la isticmaalo sharraxaadaha moodooyinka la midka ah si loo 'decode' xogta xasaasiga ah ee qaabka aan la macnayn karin.
The cilmi, cinwaan looga dhigay Ka Faa'iidaysiga Sharaxaada Weerarada Rogashada Model, waxay muujinaysaa khataraha isticmaalka 'si shil' ah ee habka shabakadaha neerfayaasha u shaqeeyaan sidii haddii tani ay tahay qaab-qaabaynta amniga - ugu yaraan sababtoo ah mowjadaha hindisaha cusub ee caalamiga ah, oo ay ku jiraan Midowga Yurub xeerarka AI qabyo ah, waa lagu garto AI (XAI) la macnayn karo oo shardi u ah in caadi loo noqdo barashada mashiinka bulshada dhexdeeda.
Cilmi-baadhista, aqoonsiga dhabta ah ayaa si guul leh dib loogu dhisay xogta la moodo in aan la garanayn ee la xidhiidha wejiga, iyada oo laga faa'iidaysanayo sharraxaadyo badan oo ku saabsan nidaamka barashada mashiinka. Xigasho: https://arxiv.org/pdf/2108.10800.pdf
Cilmi-baarayaashu waxay ka faalloodeen:
'Aqoonsiga macmalka ah ee la sharxi karo (XAI) wuxuu bixiyaa macluumaad dheeri ah si ay uga caawiso isticmaalayaasha inay fahmaan go'aamada moodeelka, haddana aqoontan dheeriga ah waxay daaha ka qaadaysaa khataraha dheeraadka ah ee weerarada sirta ah. Sidaa darteed, bixinta sharraxaadda waxay dhaawacaysaa sirta.'
Dib-u-Aqoonsiga Xogta Gaarka ah
Ka-qaybgalayaasha xog-ururinta mashiinka waxa laga yaabaa inay ogolaadeen in lagu daro malo-awaalka qarsoodiga; Xaaladda Macluumaadka Aqoonsiga Shakhsi ahaaneed (PII) ee ku dhammaanaya nidaamyada AI iyada oo loo marayo xog-ururinta ad hoc (tusaale, iyada oo loo marayo shabakadaha bulshada), ka qaybqaadashadu waxay noqon kartaa farsamo ahaan sharci, laakiin waxay adkeynaysaa fikradda 'oggolaanshaha'.
Dhawr habab ayaa soo baxay sanadihii ugu dambeeyay kuwaas oo cadeeyay in ay awood u leeyihiin in ay qarsoodi ka dhigaan PII ee socodka xogta mashiinka barashada mugdiga ah. Soo saarista moodalka adeegsada gelitaanka API (ie 'sanduuqa madow' gelitaanka, iyada oo aan lahayn helitaan gaar ah oo koodka isha ama xogta) si uu uga soo saaro PII xitaa bixiyeyaasha MlaaS ee heerka sare ah, oo ay ku jiraan Amazon Web Services, halka Weerarada XubinnimadaMIA-yada), ku shaqaynta caqabado la mid ah, waa suurtagal helitaanka macluumaadka caafimaadka sirta ah; Intaa waxaa dheer Weerarada Waxyeeleynta (AIAs) waxay awoodaan soo kabsado xogta xasaasiga ah ka soo saarka API.
Wajiyada Muujinaya
Warqadda cusub, cilmi-baarayaashu waxay xoogga saareen qaab weerar rogaal celis ah oo loogu talagalay in lagu helo aqoonsiga qayb ka mid ah xogta dareenka wejiga oo aan ahayn inay awood u yeelato inay soo bandhigto macluumaadkan.
Ujeedada nidaamku waxay ahayd in la isku xidho sawirada laga helay duurjoogta (ha ahaato si aan caadi ahayn loogu dhajiyay internetka ama ku jira jebinta xogta) iyada oo lagu darayo xog-ururinta kuwaas oo saldhig u ah algorithm barashada mashiinka.
Cilmi-baarayaashu waxay tababareen qaabka weerarka rogaal celiska ah oo awood u leh inuu dib u dhiso sawirka wax ku biirinaya ee ka soo baxay API qarsoodi ah, iyada oo aan si gaar ah loo helin qaab-dhismeedka asalka ah. Shaqadii hore ee goobtan waxay xooga saartay nidaamyada aqoonsiga (ilaalinta ama muujinta) ay ahayd ujeeddada habka bartilmaameedka iyo habka weerarka labadaba; Xaaladdan oo kale, qaab-dhismeedka waxaa loo qorsheeyay in laga faa'iidaysto wax soo saarka hal domain oo lagu dabaqo qayb kale.
A ka soo gudubtay Isku-xidhka neerfayaasha ee kontorol (CNN) ayaa loo shaqaaleysiiyay inay saadaaliso weji 'asal ah' oo ku salaysan bartilmaameedka saadaasha bartilmaameedka (khariidad saliency) ee nidaamka aqoonsiga dareenka, iyadoo la adeegsanayo Dhismaha U-Net si loo hagaajiyo waxqabadka dib u dhiska wejiga.
Nidaamka dib-u-aqoonsiga waxaa awood leh oo lagu wargeliyaa AI (XAI), oo la macnayn karo, halkaas oo aqoonta firfircoonida neerfaha, oo ka mid ah wejiyada XAI ee dadwaynaha wax ku biiriya, looga faa'iidaysto in dib loo dhiso mashiinnada gudaha ee dhismaha oo keliya wax soo saarkeeda, taas oo awood u siinaysa dib-u-aqoonsiga wax ku biirinta. sawirada xogta.
Imtixaanka
Imtixaanka nidaamka, cilmi-baarayaashu waxay ku dabaqeen saddex qaybood oo xog ah: iCV-MEFED tibaaxaha wejiga; CelebA; iyo MNIST tirooyinka gacanta lagu qoray. Si loo habeeyo cabbirka moodeelka ay isticmaaleen cilmi-baarayaashu, saddexda xog-ururinta ayaa loo kala beddelay 128×128, 265×256 iyo 32×32 pixels. 50% qayb kasta waxa loo isticmaalay xogta tababarka, badhkii kalena waxa loo adeegsaday xog-ururin si loo tababaro moodooyinka ka soo horjeeda.
Xog-ururin kastaa waxa ay lahayd habab bartilmaameed oo kala duwan, shabakad kasta oo weerar ahna waxa lagu miisaamay xaddidaadda sharraxaadaha sal-dhiga u ah geeddi-socodka, halkii la isticmaali lahaa moodooyinka neerfaha qoto dheer ee kakankoodu ka badnaan doono guud ahaan sharraxaadda.
Noocyada sharraxaadda XAI ee loo adeegsaday awood isku dayga lagu daray Sharaxaada garaadka, Gelida Gradient, Grad-CAM iyo Faafinta Xikmada leh ee LakabkaLRP). Cilmi-baarayaashu waxay sidoo kale qiimeeyeen sharraxaadyo badan oo ku saabsan tijaabooyinka.
Dib-u-dhiska sawirka waxaa fududeeyay weerar rogaal celis ah oo-XAI-gacan ee saddexda xog-ururinta, oo muujinaya bartilmaameed isku mid ah iyo hawlo weerar.
Halbeegyada imtixaanku waxa ay isku mid yihiin pixelwise oo lagu qiimeeyay Macnaha Qalad labajibaaran (MSE); Isku ekaanshaha sawirka (SSIM), tusmada isku ekaanshaha ee ku salaysan garaadka; saxnaanta weerarka, oo lagu go'aamiyo haddii kalasaaruhu si guul leh dib ugu calaamadin karo sawirka dib loo dhisay; iyo weerarka isku-dhafka isku midka ah, kaas oo isbarbar dhigaya sifada xogta isha la yaqaan ee ka dhanka ah xogta dib loo dhisay.
Dib-u-aqoonsiga ayaa la gaaray, iyadoo leh heerar kala duwan iyadoo loo eegayo hawsha iyo kaydka xogta, dhammaan qaybaha. Dheeraad ah, cilmi-baarayaashu waxay ogaadeen in iyada oo la isku darayo qaabka bartilmaameedka ah (kaas oo ay si dabiici ah u leeyihiin xakamayn dhamaystiran), ay weli suurtogal tahay in la gaaro dib-u-aqoonsiga xogta dibadda, moodooyinka 'xiran', oo ku salaysan mabaadi'da XAI ee la yaqaan.
Cilmi-baadhayaashu waxay ogaadeen in natiijooyinka ugu saxsan ay heleen sharraxaadyo firfircooni ku salaysan (khariidad saliency), taas oo ka daatay PII ka badan hababka dareenka ku salaysan (gradient).
Shaqada mustaqbalka, kooxdu waxay damacsan tahay inay ku daraan noocyada kala duwan ee sharaxaadda XAI ee weerarrada cusub, sida muuqaal muuqaal ah iyo fikradda firfircoonida kicinta.
