Cybersecurity
Dh’ fhaodadh AI mìneachaidh dàta dìomhair a ghèilleadh nas fhasa
Tha luchd-rannsachaidh bho Oilthigh Nàiseanta Singapore air co-dhùnadh mar as motha a dh’ fhàsas AI soilleir, is ann as fhasa a bhios e faighinn seachad air feartan prìobhaideachd deatamach ann an siostaman ionnsachaidh innealan. Fhuair iad a-mach cuideachd, eadhon nuair nach urrainnear modal a mhìneachadh, gu bheil e comasach mìneachaidhean de mhodalan coltach ris a chleachdadh gus dàta mothachail a dhì-chòdachadh anns a’ mhodail nach gabh mìneachadh.
Tha rannsachadh, leis an tiotal A’ gabhail brath air mìneachaidhean airson ionnsaighean tionndadh modail, a’ soilleireachadh na cunnartan bho bhith a’ cleachdadh neo-sheasmhachd ‘tubaist’ san dòigh sa bheil lìonraidhean neural ag obair mar gum b’ e feart tèarainteachd fo-dhealbhaidh a bha seo - gu h-àraidh air sgàth tonn de dh’ iomairtean cruinne ùra, a’ gabhail a-steach iomairt an Aonaidh Eòrpaich. dreachd riaghailtean AI, a tha caractar AI mìneachaidh (XAI) mar ro-riatanach airson gnàthachadh ionnsachadh innealan sa chomann-shòisealta.
Anns an rannsachadh, tha dearbh-aithne air ath-chruthachadh gu soirbheachail bho dhàta gun urra co-cheangailte ri seallaidhean aghaidh, tro bhith a’ cleachdadh ioma-mhìneachaidhean air an t-siostam ionnsachaidh inneal. Stòr: https://arxiv.org/pdf/2108.10800.pdf
Tha an luchd-rannsachaidh ag ràdh:
“Tha inntleachd fuadain mìneachaidh (XAI) a’ toirt seachad barrachd fiosrachaidh gus luchd-cleachdaidh a chuideachadh gus co-dhùnaidhean modail a thuigsinn, ach tha an t-eòlas a bharrachd seo a’ nochdadh cunnartan a bharrachd airson ionnsaighean prìobhaideachd. Mar sin, bidh mìneachadh a' dèanamh cron air prìobhaideachd.'
Ath-chomharrachadh dàta prìobhaideach
Is dòcha gu bheil com-pàirtichean ann an stòran-dàta ionnsachadh innealan air aontachadh a bhith air an gabhail a-steach leis a’ bharail gun urra; a thaobh Fiosrachadh Pearsanta Aithnichte (PII) a thig gu crìch ann an siostaman AI tro chruinneachadh dàta ad hoc (mar eisimpleir, tro lìonraidhean sòisealta), faodaidh com-pàirteachadh a bhith laghail gu teicnigeach, ach a’ cur cuideam air a’ bheachd air ‘cead’.
Tha grunn dhòighean air nochdadh anns na bliadhnachan mu dheireadh a tha air a bhith comasach air PII a dhì-ainmeachadh bho shruth dàta ionnsachadh innealan a tha coltach gu neo-shoilleir. Toirt a-mach modail a’ cleachdadh ruigsinneachd API (ie ruigsinneachd ‘bogsa dubh’, gun chothrom sònraichte air a’ chòd stòr no dàta) gus PII a thoirt a-mach eadhon bho sholaraichean MLaaS àrd-sgèile, gabhail a-steach Seirbheisean Lìn Amazon, fhad 'sa tha Co-dhùnadh Ballrachd a' toirt ionnsaigh (MIAs), ag obair fo chuingealachaidhean co-chosmhail, comasach faighinn fiosrachadh meidigeach dìomhair; A bharrachd air an sin faodaidh Attribution Inference At Attribution (AIAn). fhaighinn air ais dàta mothachail bho toradh API.
Aodainn a’ nochdadh
Airson a’ phàipear ùr, tha an luchd-rannsachaidh air fòcas a chuir air modal ionnsaigh tionndaidh a chaidh a dhealbhadh gus dearbh-aithne fhaighinn bho fho-sheata de dhàta faireachdainn aghaidh nach bu chòir a bhith comasach air am fiosrachadh seo fhoillseachadh.
B’ e amas an t-siostaim ìomhaighean a chaidh a lorg san fhàsach a cheangal (an dàrna cuid air an postadh gu cas air an eadar-lìn no ann am briseadh dàta a dh’ fhaodadh a bhith ann) le bhith gan toirt a-steach do na stòran-dàta a tha mar bhunait air algorithm ionnsachaidh inneal.
Rinn an luchd-rannsachaidh trèanadh air modal ionnsaigh tionndaidh a bha comasach air an ìomhaigh a chuir ris bhon toradh API gun urra ath-chruthachadh, gun chothrom sònraichte air an ailtireachd thùsail. Tha obair roimhe san raon seo air fòcas a chuir air siostaman far an robh comharrachadh (dìon no foillseachadh) na amas aig an dà chuid an siostam targaid agus an siostam ionnsaigh; sa chùis seo, chaidh am frèam a dhealbhadh gus brath a ghabhail air toradh aon àrainn agus a chuir an sàs ann an raon eile.
A air a thionndadh chaidh lìonra neural convolutional (CNN) fhastadh gus aghaidh stòr ‘tùsail’ a ro-innse stèidhichte air an vectar ro-innse targaid (mapa sàsachd) airson siostam aithneachaidh faireachdainn, a’ cleachdadh a Ailtireachd U-Net gus coileanadh ath-thogail aghaidh a leasachadh.
Tha an siostam ath-aithneachaidh air a stiùireadh agus air a stiùireadh le AI mìneachaidh (XAI), far a bheilear a’ cleachdadh eòlas air gnìomhachd neuron, am measg mòran de thaobhan poblach XAI a tha a’ cur ris, gus innealan taobh a-staigh na h-ailtireachd ath-thogail bhon toradh aige, a’ comasachadh ath-aithneachadh air cur-ris. dealbhan dàta.
Deuchainn
Ann a bhith a’ dèanamh deuchainn air an t-siostam, chuir an luchd-rannsachaidh an sàs ann an trì stòran-dàta: iCV-MEFED seallaidhean aghaidh; CelebA; agus Àireamhan làmh-sgrìobhte MNIST. Gus gabhail ris a’ mheud modail a bha an luchd-rannsachaidh a’ cleachdadh, chaidh na trì stòran-dàta ath-mheudachadh fa leth gu 128 × 128, 265 × 256 agus 32 × 32 piogsail. Chaidh 50% de gach seata a chleachdadh mar dhàta trèanaidh, agus chaidh an leth eile a chleachdadh mar sheata dàta ionnsaigh gus na modalan antagonist a thrèanadh.
Bha modalan targaid eadar-dhealaichte aig gach stòr-dàta, agus chaidh gach lìonra ionnsaigh a sgèileadh gu crìochan nam mìneachaidhean a bha mar bhunait don phròiseas, seach a bhith a’ cleachdadh mhodalan neural nas doimhne a bhiodh an iom-fhillteachd nas àirde na coitcheannachadh nam mìneachaidhean.
Na seòrsaichean mìneachaidh XAI a chaidh a chleachdadh gus cumhachd a thoirt dha na h-oidhirpean a chaidh a ghabhail a-steach Mìneachadh Gradient, Cur a-steach caisead, Grad-CAM agus Iomadachadh buntainneachd sreath-ghlic (LRP). Rinn an luchd-rannsachaidh measadh cuideachd air grunn mhìneachaidhean thairis air na deuchainnean.
Ath-thogail ìomhaigh air a chomasachadh le ionnsaigh tionndaidh mothachail XAI thairis air na trì stòran-dàta, a’ nochdadh gnìomhan targaid is ionnsaigh co-ionann.
Bha na meatrach airson an deuchainn coltach ri piogsail air a mheasadh le Mearachd ceàrnagach ciallach (MSE); Co-ionnanachd ìomhaigh (SSIM), clàr-amais coltachd stèidhichte air perceptually; mionaideachd ionnsaigh, air a dhearbhadh le co-dhiù an urrainn do neach-seòrsachaidh ìomhaigh ath-chruthaichte ath-ainmeachadh gu soirbheachail; agus ionnsaigh a’ stèidheachadh coltachd, a tha a’ dèanamh coimeas eadar freumhachadh feart de dhàta tùsail aithnichte an aghaidh dàta ath-chruthaichte.
Chaidh ath-aithneachadh a choileanadh, le ìrean eadar-dhealaichte a rèir na h-obrach agus an dàta, thar nan seataichean gu lèir. A bharrachd air an sin, lorg an luchd-rannsachaidh le bhith a’ co-dhùnadh modal targaid ionaid (air an robh smachd iomlan aca gu nàdarrach), bha e fhathast comasach ath-aithneachadh dàta bho mhodalan ‘dùinte’ taobh a-muigh, stèidhichte air prionnsapalan XAI aithnichte.
Lorg an luchd-rannsachaidh gun deach na toraidhean as cinntiche fhaighinn le mìneachadh stèidhichte air gnìomhachd (mapa sàsachd), a leig a-mach barrachd PII na dòighean-obrach stèidhichte air cugallachd ( caisead).
Ann an obair san àm ri teachd, tha an sgioba an dùil diofar sheòrsaichean de mhìneachadh XAI a thoirt a-steach do ionnsaighean ùra, leithid seallaidhean feart agus Vector gnìomhachadh bun-bheachd.
