He aha te Whakamarama AI?

I te mea ka nui ake te uaua o te matauranga hangai (AI) me te whakamahi whanui puta noa i te hapori, ko tetahi o nga momo tino mahi me nga tikanga he whakamarama (AI), ka kiia ko XAI. 

Ka taea te whakamaarama AI ko:

• He huinga tukanga me nga tikanga e awhina ana i nga kaiwhakamahi tangata ki te mohio me te whakawhirinaki ki nga hua o te ako miihini. 

Ka taea e koe te whakaaro, he mea tino nui tenei whakamaramatanga na te AI algorithms e whakahaere ana i nga waahanga maha, ka puta mai me te tupono o te whakatoihara, nga huringa hapa, me etahi atu take. Ma te whakatutuki i te maarama me te whakamarama, ka taea e te ao te whakamahi i te mana o AI. 

Ko te whakamaramatanga o AI, pera i te ingoa e kii ana, ka awhina i te whakaahua i tetahi tauira AI, tona paanga, me nga taarua pea. Ka whai waahi ano ia ki te whakaatu i te tika o te tauira, te tika, te marama, me nga putanga i roto i nga tikanga whakatau whakatau a AI. 

Ko nga whakahaere a AI o enei ra me tango i nga tikanga AI whakamarama hei awhina i te whakawhirinaki me te maia ki nga tauira AI i roto i te whakaputanga. Ko AI te whakamarama he mea matua kia noho hei kamupene whai mana i roto i te taiao AI o enei ra.

Na te mea he tino matatau nga punaha AI o enei ra, ko te tikanga ka mahia e te tangata he tikanga tatau ki te whai i te huarahi i tae ai te algorithm ki tana hua. Ko tenei tukanga ka waiho hei "pouaka pango," ko te tikanga kaore e taea te mohio. Ina whakawhanakehia enei tauira kore whakamarama mai i nga raraunga, kaore he tangata e mohio he aha nga mea kei roto. 

Ma te mohio ki te mahi a nga punaha AI na roto i te whakamarama AI, ka taea e nga kaihanga te whakarite kia pai te mahi o te punaha. Ka taea hoki te awhina ki te whakarite kia tutuki te tauira ki nga paerewa ture, me te whai waahi mo te tauira kia werohia, kia whakarereketia ranei. 

Whakaahua: Takuta Matt Turek/DARPA

Nga Rerekētanga i waenga i AI me XAI

Ko etahi o nga rereketanga nui ka awhina i te wehe "i nga wa katoa" AI mai i te AI whakamarama, engari ko te mea nui, ka whakatinanahia e XAI nga tikanga me nga tikanga motuhake hei awhina i ia whakatau i roto i te tukanga ML ka taea te rapu me te whakamarama. Ki te whakataurite, ka tae mai a AI auau ki tana hua ma te whakamahi i te ML algorithm, engari kaore e taea te tino mohio me pehea te taenga mai o te algorithm ki te hua. I roto i te take o te AI auau, he tino uaua ki te tirotiro mo te tika, ka mutu te ngaro o te mana whakahaere, te kawenga takohanga, me te tirotiro. 

Nga Painga o te Whakamarama AI 

He maha nga painga mo tetahi whakahaere e titiro ana ki te tango AI whakamarama, penei: 

• Nga Hua Tere: Ma te whakamarama AI ka taea e nga whakahaere te aro turuki nahanaha me te whakahaere tauira hei arotau i nga hua pakihi. Ka taea te arotake me te whakapai tonu i te mahinga tauira me te hanga tauira pai.
  
• Whakaitihia nga Morearea: Ma te tango i nga tukanga AI whakamarama, ka whakarite koe he whakamarama, he marama hoki o tauira AI. Ka taea e koe te whakahaere i te ture, te hanganga ture, nga tupono me etahi atu whakaritenga i te wa e whakaitihia ana te utu o te tirotiro a-ringa. Ka awhina ano hoki enei mea katoa ki te whakaiti i te tupono o te whakapae kore. 
• Hanga Tiakitanga: Ko AI te whakamarama ka awhina i te whakawhirinaki ki te whakaputa AI. Ka tere te kawe mai i nga tauira AI ki te whakaputanga, ka taea e koe te whakarite i te whakamaarama me te whakamarama, ka taea te whakangawari me te whakamarama ake i te tukanga arotakenga tauira. 

Nga Tikanga mo AI Whakamarama

Anei etahi tikanga XAI me whakaaro nga whakahaere katoa, a e toru nga tikanga matua: te tika o te matapae, whakapapa, a te maramatanga whakatau. 

Ko te tuatahi o nga tikanga e toru, te tika o te matapae, he mea nui kia angitu te whakamahi AI i nga mahi o ia ra. Ka taea te whakahaere i nga whaihanga, ka taea te whakataurite te putanga XAI ki nga hua o te huinga raraunga whakangungu, e awhina ana ki te whakatau i te tika o te matapae. Ko tetahi o nga tikanga rongonui ki te whakatutuki i tenei ka kiia ko Local Interpretable Model-Agnostic Explanations (LIME), he tikanga e whakamarama ana i te matapae o nga kaikorero ma te miihini ako algorithm. 

Ko te tikanga tuarua whakapapa, ka tutuki ma te whakawhäiti me pehea e taea ai te whakatau, me te whakarite i te waahi whaiti mo nga ture ako miihini me nga ahuatanga. Ko tetahi o nga tikanga tino kitea ko te DeepLIFT, he Akoranga Hiranga Hiranga ranei. Ka whakatairitehia e DeepLIFT te whakahohenga o ia neuron ki tana neuron tohutoro i te wa e whakaatu ana he hononga hono i waenga i ia neuron whakahohe. E whakaatu ana hoki i nga whakawhirinakitanga i waenganui i a raatau. 

Ko te tikanga tuatoru me te whakamutunga te maramatanga whakatau, e arotahi ana ki te tangata, kaore i rite ki era atu tikanga e rua. Ko te maarama ki te whakatau ko te whakaako i te whakahaere, ina koa ko te roopu e mahi tahi ana me te AI, kia mohio ai ratou ki te pehea me te take i whakatau ai te AI. He mea nui tenei tikanga ki te whakapumau i te whakawhirinaki ki te punaha. 

Nga Tikanga AI Whakamarama

Kia pai ake ai te maarama ki te XAI me ona maataapono, ko te National Institute of Standards (NIST), he waahanga o te Tari Tauhokohoko o Amerika, e whakarato ana i nga whakamaramatanga mo nga maataapono e wha o te AI whakamarama: 

1. Ko te punaha AI me whakarato taunakitanga, tautoko, whakaaro ranei mo ia putanga. 
2. Ko te punaha AI me tuku whakamarama ka taea e nga kaiwhakamahi te mohio. 
3. Ko te whakamaramatanga me whakaatu tika i te tukanga e whakamahia ana e te punaha kia tae ki tana putanga. 
4. Me mahi noa te punaha AI i raro i nga tikanga i hoahoatia ai, kaua hoki e tuku putanga ina kore e tino maia ki te hua. 

Ka taea te whakariterite i enei maataapono ki: 

• Whai tikanga: Ki te whakatutuki i te kaupapa o te whai kiko, me mohio te kaiwhakamahi ki nga whakamaramatanga kua whakaratohia. Ko te tikanga ano pea mo te AI algorithm e whakamahia ana e nga momo kaiwhakamahi rereke, he maha nga whakamaramatanga. Hei tauira, mo te motoki-whaiaro, kotahi pea te whakamaarama i runga i nga rarangi o te…”Ka whakarōpūtia e te AI te peeke kirihou i te huarahi hei toka, na reira ka mahi ki te karo i te patu.” Ahakoa ka pai tenei tauira mo te taraiwa, kaore e tino whai hua ki te kaiwhakawhanake AI e rapu ana ki te whakatika i te raru. I tera keehi, me maarama te kaiwhakawhanake he aha i hapa ai te whakarōpūtanga. 
• Tikanga Whakamarama: Kaore i rite ki te tika o te whakaputanga, ko te tika o te whakamaarama ko te AI algorithm e whakamarama tika ana i te huarahi i tae atu ai ki tana whakaputanga. Hei tauira, ki te whakamaaramahia e te hātepee whakaaetanga taurewa tetahi whakatau i runga i te moni whiwhi a te tono inaa, i ahu mai i runga i te waahi noho o te kaitono, ka hee te whakamaramatanga. 
• Tepe Matauranga: E rua nga huarahi e taea ai nga rohe matauranga o AI, a ko te whakaurunga kei waho o te tohungatanga o te punaha. Hei tauira, ki te hangaia he punaha hei whakarōpū i nga momo manu, ka hoatu he pikitia o te aporo, me whakamarama mai ehara te whakaurunga i te manu. Mena ka hoatu he pikitia puhoi ki te punaha, ka taea e ia te whakaatu kaore e taea e ia te tautuhi i te manu kei roto i te ahua, he rereke ranei, he iti rawa te maia o tana tautuhi. 

Te Mahi a Raraunga ki te Whakamarama AI

Ko tetahi o nga waahanga nui o te whakamarama AI ko te raraunga. 

E ai ki Google, mo nga raraunga me te whakamarama AI, "he punaha AI te tino mohio ki nga raraunga whakangungu me nga mahi whakangungu, tae atu ki te tauira AI ka puta." Ko tenei maaramatanga e whakawhirinaki ana ki te kaha ki te mapi i tetahi tauira AI kua whakangungua ki te huinga raraunga tika i whakamahia hei whakangungu, me te kaha ki te tirotiro i nga raraunga. 

Hei whakanui ake i te whakamaramatanga o te tauira, he mea nui kia aro ki nga raraunga whakangungu. Me whakatau e nga roopu te takenga mai o nga raraunga i whakamahia ki te whakangungu i te algorithm, te mana ture me nga tikanga e pa ana ki tana whiwhinga, nga momo whiria i roto i nga raraunga, me nga mea ka taea ki te whakaiti i nga mahi. 

Ko tetahi atu waahanga nui o nga raraunga me te XAI ko nga raraunga kaore e pa ana ki te punaha me whakakorehia. Hei whakatutuki i tenei, ko nga raraunga kore e tika kia whakauruhia ki roto i te huinga whakangungu me nga raraunga whakauru. 

Kua taunakitia e Google he huinga mahi hei whakatutuki i te whakamaoritanga me te kawenga takohanga: 

• Whakamaherehia o whiringa ki te whai i te whakamaoritanga
• Me whai waahi te whakamaoritanga hei waahanga matua o te wheako kaiwhakamahi
• Hangaia te tauira kia taea te whakamaori
• Kōwhirihia ngā inenga hei whakaata i te whainga mutunga me te mahi mutunga
• Kia mohio ki te tauira kua whakangungua
• Korerohia nga whakamarama ki te whakatauira i nga kaiwhakamahi
• He maha nga whakamatautau kia mohio kei te mahi te punaha AI i runga i te whakaaro 

Ma te whai i enei tikanga e taunaki ana, ka taea e to whakahaere te whakatutuki i te AI whakamarama, he mea matua ki tetahi whakahaere a AI i roto i te taiao o enei ra.