Ka taea e AI te whakamaarama te tuku Raraunga Matatapu He ngawari ake

Kua whakatauhia e nga Kairangahau mai i te Whare Wananga o Hingapoa ka kaha ake te whakamaramatanga o te AI, ka ngawari ake te karo i nga ahuatanga motuhake o nga punaha ako miihini. I kitea ano e ratou ahakoa kaore e taea te whakamarama i tetahi tauira, ka taea te whakamahi i nga whakamaramatanga o nga tauira rite ki te 'whakawaehere' raraunga tairongo i roto i te tauira kore-whakamarama.

te rangahau, taitara Te Whakamaramatanga mo nga Tauira Huringa Huringa, e whakaatu ana i nga morearea o te whakamahi i te opacity 'ahina' o te mahi o nga whatunga neural me te mea he waahanga haumarutanga-hoahoa tenei - ehara i te mea he ngaru o nga kaupapa hou o te ao, tae atu ki te Kotahitanga o Europi. tuhi ture AI, tohu ana AI (XAI) ka whakamaramatia hei whakaritenga mo te whakatikatika i te ako miihini i roto i te hapori.

Ka korero nga kairangahau:

'Ko te whakamaarama mohio hangai (XAI) e whakarato ana i etahi atu korero hei awhina i nga kaiwhakamahi ki te mohio ki nga whakatau tauira, engari ko tenei matauranga taapiri e whakaatu ana i etahi atu morearea mo nga whakaeke tūmataiti. No reira, ko te tuku whakamaaramatanga ka kino te noho muna.'

Te tautuhi ano i nga Raraunga Whaiaro

Ko nga kaiuru i roto i nga kohinga ako miihini kua whakaae kia whakaurua i runga i te whakaaro kore ingoa; i roto i te take o te Whaiaro Whaiaro Whaiaro (PII) ka mutu i roto i nga punaha AI na roto i te kohi-raraunga a-hoc (hei tauira, na roto i nga whatunga hapori), he ture hangarau te whakaurunga, engari ka whakararu i te whakaaro o te 'whakaae'.

He maha nga tikanga kua puta ake i nga tau tata nei kua kaha ki te whakakore i te ingoamuna PII mai i nga rerenga raraunga ako miihini ahua puatakore. Tangohanga tauira ka whakamahi i te urunga API (ara te urunga 'pouaka pango', kaore he watea motuhake o te waehere puna, raraunga ranei) ki te tango i te PII ahakoa mai i nga kaiwhakarato MLaaS teitei, tae atu ki nga Ratonga Tukutuku a Amazon, i te wa e whakaekea ana te Whakatau Mema (MIA), mahi i raro i nga herenga rite, ka taea pea whiwhi nga korero hauora muna; ka taea hoki e te Whakaaetanga Inference Attacks (AIA). whakaora raraunga tairongo mai i te putanga API.

Whakaatu Mata

Mo te pepa hou, kua aro nga kairangahau ki tetahi tauira whakaeke hurihanga i hangaia kia whiwhi tuakiri mai i te waahanga o nga raraunga kare-a-kanohi e kore e kaha ki te whakaatu i enei korero.

Ko te whainga o te punaha ko te hono i nga whakaahua ka kitea i roto i te mohoao (i whakairia noa ki runga ipurangi, ki te pakaru raraunga pea) me te whakauru ki roto i nga huingararaunga e tautoko ana i te algorithm ako miihini.

I whakangungua e nga kairangahau tetahi tauira whakaeke hurihuri e kaha ana ki te hanga ano i te ahua koha mai i te whakaputanga API ingoamuna, kaore he uru motuhake ki te hoahoanga taketake. Ko nga mahi o mua i roto i tenei mara kua aro ki nga punaha ko te tohu (te whakamarumaru, te whakakite ranei) te kaupapa o te punaha whaainga me te punaha whakaeke; i roto i tenei take, kua hangaia te anga ki te whakamahi i te putanga o tetahi rohe me te whakamahi ki tetahi rohe rereke.

A whakawhitia I whakamahia te whatunga neural convolutional (CNN) ki te matapae i te mata matapuna 'taketake' i runga i te tohu tohu tohu (mapi saliency) mo te punaha mohio kare-re-roto, ma te whakamahi i te U-Net hoahoanga ki te whakapai ake i te mahi whakatikatika kanohi.

Testing

I roto i te whakamatautau i te punaha, ka whakamahia e nga kairangahau ki nga huingararaunga e toru:  iCV-MEFED whakaaturanga kanohi; TiorangiA; a MNIST mati tuhi-ringa. Hei whakauru i te rahi o te tauira e whakamahia ana e nga kairangahau, ko nga huinga raraunga e toru i whakarerekehia ki te 128x128, 265x256 me te 32x32 pika. Ko te 50% o ia huinga i whakamahia hei raraunga whakangungu, ko te haurua i whakamahia hei huinga raraunga whakaeke hei whakangungu i nga tauira antagonist.

He rereke nga tauira whaainga o ia huinga raraunga, a, ko ia kupenga whakaeke i whakatairitehia ki nga herenga o nga whakamaramatanga e tautoko ana i te mahi, kaua ki te whakamahi i nga tauira neural hohonu ake ka nui ake te uaua ki te whaanui o nga whakamaramatanga.

Ko nga momo whakamarama XAI i whakamahia hei kaha i nga nganatanga kua whakauruhia Whakamarama Rōnaki, Tāuru Rōnaki, Grad-CAM me te Whakatairanga Tikanga Papa-papa (LRP). I arotakehia ano e nga kairangahau nga whakamaramatanga maha puta noa i nga whakamatautau.

Ko nga inenga mo te whakamatautau he ahua rite pika i arotakea e Hapa Tapawha Tikanga (MSE); Whakaritenga Atahanga (SSIM), he taupū rite-whakaaro; te tika o te whakaeke, ka whakatauhia mehemea ka taea e te kaarahi te tapanga ano i te ahua kua oti te hanga; me te whakaeke i te ahua rite, e whakatairite ana i nga ahuatanga whakaurunga o nga raraunga puna mohio ki nga raraunga kua hangaia.

I tutuki ano te tautuhi, he rereke nga reanga e ai ki nga mahi me nga huingararaunga, puta noa i nga huinga katoa. I tua atu, i kitea e nga kairangahau na roto i te hanga i tetahi tauira whainga whakakapi (he mana tonu to ratou mana ki runga), ka taea tonu te whakatutuki i te tautuhi ano o nga raraunga mai i nga tauira o waho, 'kati', i runga i nga tikanga XAI e mohiotia ana.

I kitea e nga kairangahau ko nga hua tino tika i puta mai i nga whakamaaramatanga-whakahohe (mapi mapi), he nui ake te PII i tukuna atu i nga huarahi e pa ana ki te tairongo (gradient).

I nga mahi a meake nei, ka hiahia te roopu ki te whakauru i nga momo whakamaramatanga XAI ki nga whakaeke hou, penei i whakakitenga a vectors whakahohenga ariā.