Cad is AI Inmhínithe ann?

De réir mar a éiríonn intleacht shaorga (AI) níos casta agus go nglactar léi go forleathan ar fud na sochaí, tá ceann de na tacair is tábhachtaí de phróisis agus de mhodhanna inmhínithe (AI), dá ngairtear XAI uaireanta. 

Is féidir AI inmhínithe a shainmhíniú mar:

• Sraith próiseas agus modhanna a chuidíonn le húsáideoirí daonna torthaí na n-algartam meaisínfhoghlama a thuiscint agus a muinín. 

Mar is féidir leat buille faoi thuairim, tá an míniú seo thar a bheith tábhachtach mar go nglacann halgartaim AI smacht ar go leor earnálacha, a thagann le riosca claonta, halgartaim lochtacha, agus saincheisteanna eile. Trí thrédhearcacht a bhaint amach le míniú, is féidir leis an domhan cumhacht AI a ghiaráil go fírinneach. 

Cuidíonn AI inmhínithe, mar a thugann an t-ainm le fios, le cur síos a dhéanamh ar shamhail AI, ar a thionchar, agus ar laofachtaí féideartha. Tá ról aige freisin maidir le cruinneas samhlacha, cothroime, trédhearcacht, agus torthaí a shainiú i bpróisis cinnteoireachta atá á gcumhachtú ag AI. 

Ba cheart d’eagraíochtaí an lae inniu atá faoi thiomáint ag AI próisis AI inmhínithe a ghlacadh i gcónaí chun cabhrú le muinín agus muinín a chothú sna samhlacha AI sa táirgeadh. Tá AI inmhínithe ríthábhachtach freisin maidir le bheith ina cuideachta fhreagrach i dtimpeallacht AI an lae inniu.

Toisc go bhfuil córais AI an lae inniu chomh forbartha sin, is gnách go ndéanann daoine próiseas ríofa chun a fháil siar ar an gcaoi ar tháinig an t-algartam ar a thoradh. Éiríonn an próiseas seo ina “bhosca dubh,” rud a chiallaíonn go bhfuil sé dodhéanta a thuiscint. Nuair a fhorbraítear na samhlacha do-mhínithe seo go díreach ó shonraí, ní féidir le duine ar bith a thuiscint cad atá ag tarlú taobh istigh díobh. 

Trí thuiscint a fháil ar an gcaoi a n-oibríonn córais AI trí AI inmhínithe, is féidir le forbróirí a chinntiú go n-oibríonn an córas mar ba chóir. Féadfaidh sé cabhrú freisin a chinntiú go gcomhlíonann an tsamhail caighdeáin rialála, agus cuireann sé an deis ar fáil chun an tsamhail a dhúshlánú nó a athrú. 

Íomhá: Dr. Matt Turek/DARPA

Difríochtaí idir AI agus XAI

Cuidíonn roinnt príomhdhifríochtaí le AI “rialta” a scaradh ó AI inmhínithe, ach níos tábhachtaí fós, cuireann XAI teicnící agus modhanna sonracha i bhfeidhm a chuidíonn lena chinntiú go bhfuil gach cinneadh sa phróiseas ML inrianaithe agus inmhínithe. I gcomparáid leis sin, is gnách go dtagann AI rialta ar a thoradh ag baint úsáide as algartam ML, ach ní féidir a thuiscint go hiomlán conas a tháinig an algartam ar an toradh. I gcás AI rialta, tá sé thar a bheith deacair cruinneas a sheiceáil, rud a fhágann go gcailltear rialú, cuntasacht agus iniúchadh. 

Buntáistí AI Inmhínithe 

Tá go leor buntáistí ag baint le haon eagraíocht atá ag iarraidh AI inmhínithe a ghlacadh, mar shampla: 

• Torthaí Níos Gasta: Cuireann AI inmhínithe ar chumas eagraíochtaí monatóireacht chórasach a dhéanamh ar mhúnlaí agus iad a bhainistiú chun torthaí gnó a bharrfheabhsú. Is féidir feidhmíocht na samhla a mheas agus a fheabhsú go leanúnach agus forbairt na samhla a mhionchoigeartú.
  
• Rioscaí a Mhaolú: Trí phróisis AI inmhínithe a ghlacadh, cinntíonn tú go bhfuil do mhúnlaí AI soiléir agus trédhearcach. Is féidir leat ceanglais rialála, comhlíonta, rioscaí agus ceanglais eile a bhainistiú agus an forchostas a bhaineann le hiniúchadh láimhe a íoslaghdú. Cuidíonn sé seo go léir freisin leis an mbaol a bhaineann le laofacht neamhbheartaithe a mhaolú. 
• Tóg Iontaobhas: Cuidíonn AI inmhínithe le muinín a bhunú i dtáirgeadh AI. Is féidir samhlacha AI a thabhairt go dtí an táirgeadh go tapa, is féidir leat inléirmhíniú agus míniú a chinntiú, agus is féidir an próiseas meastóireachta múnla a shimpliú agus a dhéanamh níos trédhearcaí. 

Teicnící le haghaidh AI Inmhínithe

Tá roinnt teicníochtaí XAI ann ar cheart do gach eagraíocht a mheas, agus tá trí phríomh-mhodh ann: cruinneas tuar, inrianaitheacht, agus tuiscint cinnidh. 

An chéad cheann de na trí mhodh, cruinneas tuar, riachtanach chun AI a úsáid go rathúil in oibríochtaí laethúla. Is féidir insamhaltaí a dhéanamh, agus is féidir aschur XAI a chur i gcomparáid leis na torthaí sa tacar sonraí oiliúna, rud a chabhraíonn le cruinneas tuartha a chinneadh. Is é ceann de na teicníochtaí is mó tóir chun é seo a bhaint amach ná Mínithe Múnla-Agnóiseach Inbhraite Áitiúil (LIME), teicníocht a mhíníonn tuar aicmithe ag an algartam foghlama meaisín. 

Is é an dara modh inrianaitheacht, a bhaintear amach trí theorannú a dhéanamh ar an gcaoi ar féidir cinntí a dhéanamh, chomh maith le raon feidhme níos cúinge a bhunú le haghaidh rialacha agus gnéithe meaisínfhoghlama. Ceann de na teicníochtaí inrianaitheachta is coitianta ná DeepLIFT, nó Gnéithe Tábhachtacha Deep Learning. Déanann DeepLIFT gníomhachtú gach néaróin a chur i gcomparáid lena néaróin tagartha agus é ag taispeáint nasc inrianaithe idir gach néaróin gníomhachtaithe. Léiríonn sé freisin na spleáchais eatarthu. 

Is é an modh tríú agus deiridh tuiscint cinnidh, atá dírithe ar an duine, murab ionann agus an dá mhodh eile. Is éard atá i gceist le tuiscint cinnidh ná oideachas a chur ar an eagraíocht, go háirithe an fhoireann a oibríonn leis an AI, chun cur ar a gcumas a thuiscint conas agus cén fáth a ndéanann an AI cinntí. Tá an modh seo ríthábhachtach chun muinín a bhunú sa chóras. 

Prionsabail AI Inmhínithe

Chun tuiscint níos fearr a thabhairt ar XAI agus a phrionsabail, soláthraíonn an Institiúid Náisiúnta um Chaighdeáin (NIST), atá mar chuid de Roinn Tráchtála na SA, sainmhínithe ar cheithre phrionsabal AI inmhínithe: 

1. Ba cheart go gcuirfeadh córas AI fianaise, tacaíocht nó réasúnaíocht ar fáil do gach aschur. 
2. Ba cheart go dtabharfadh córas AI mínithe ar féidir lena chuid úsáideoirí a thuiscint. 
3. Ba cheart go léireodh an míniú go cruinn an próiseas a úsáideann an córas chun a aschur a bhaint amach. 
4. Níor cheart go n-oibreodh an córas AI ach amháin faoi na coinníollacha a dearadh dó, agus níor cheart go gcuirfeadh sé aschur ar fáil nuair nach bhfuil dóthain muiníne aige as an toradh. 

Is féidir na prionsabail seo a eagrú níos faide ná: 

• Brí: Chun prionsabal na brí a bhaint amach, ba cheart d'úsáideoir an míniú a thugtar a thuiscint. D’fhéadfadh go gciallódh sé seo freisin i gcás algartam AI a bheith in úsáid ag cineálacha éagsúla úsáideoirí, d’fhéadfadh go mbeadh roinnt mínithe ann. Mar shampla, i gcás cairr féin-tiomána, d’fhéadfadh míniú amháin a bheith cosúil le…”rinne an AI an mála plaisteach sa bhóthar a chatagóiriú mar charraig, agus mar sin rinne sé beart chun é a sheachaint.” Cé go n-oibreodh an sampla seo don tiománaí, ní bheadh ​​sé an-úsáideach d'fhorbróir AI atá ag iarraidh an fhadhb a cheartú. Sa chás sin, caithfidh an forbróir a thuiscint cén fáth go raibh mírangú ann. 
• Cruinneas an Mhínithe: Murab ionann agus cruinneas aschuir, is éard atá i gceist le cruinneas mínithe ná go míníonn an t-algartam AI go cruinn conas a shroich sé a aschur. Mar shampla, má mhíníonn algartam ceadaithe iasachta cinneadh bunaithe ar ioncam iarratas nuair a bhí sé bunaithe ar áit chónaithe an iarratasóra, bheadh ​​an míniú míchruinn. 
• Teorainneacha Eolais: Is féidir teorainneacha eolais an AI a bhaint amach ar dhá bhealach, agus baineann sé leis an ionchur a bheith lasmuigh de shaineolas an chórais. Mar shampla, má thógtar córas chun speicis éan a rangú agus má thugtar pictiúr d’úll dó, ba cheart go mbeadh sé in ann a mhíniú nach éan é an t-ionchur. Má thugtar pictiúr doiléir don chóras, ba cheart go mbeadh sé in ann a thuairisciú nach bhfuil sé in ann an t-éan san íomhá a aithint, nó mar mhalairt air sin, go bhfuil muinín an-íseal ag baint lena aithint. 

Ról Sonraí in AI Inmhínithe

Tá sonraí ar cheann de na comhpháirteanna is tábhachtaí de AI inmhínithe. 

De réir google, maidir le sonraí agus AI inmhínithe, “is fearr a thuigtear córas AI leis na sonraí oiliúna bunúsacha agus leis an bpróiseas oiliúna, chomh maith leis an tsamhail AI mar thoradh air.” Tá an tuiscint seo ag brath ar an gcumas samhail AI oilte a mhapáil chuig an tacar sonraí cruinn a úsáidtear chun é a oiliúint, chomh maith leis an gcumas na sonraí a scrúdú go géar. 

Chun soiléireacht mhúnla a fheabhsú, tá sé tábhachtach aird a thabhairt ar na sonraí oiliúna. Ba cheart d’fhoirne bunús na sonraí a úsáidtear chun algartam a oiliúint a chinneadh, an dlíthiúlacht agus an eitic a bhaineann lena fháil, aon chlaontacht a d’fhéadfadh a bheith sna sonraí, agus cad is féidir a dhéanamh chun aon laofacht a mhaolú. 

Gné ríthábhachtach eile de shonraí agus XAI is ea gur cheart sonraí nach mbaineann leis an gcóras a eisiamh. Chun é seo a bhaint amach, níor cheart na sonraí nach mbaineann le hábhar a chur san áireamh sa tacar oiliúna ná sna sonraí ionchuir. 

Tá sraith cleachtas molta ag Google chun inléirmhíniú agus cuntasacht a bhaint amach: 

• Déan do roghanna a phleanáil chun an léirmhíniú a leanúint
• Déileáil le léirmhíniú mar chuid lárnach d’eispéireas an úsáideora
• Dear an mionsamhail le bheith soléirmhínithe
• Roghnaigh méadracht chun an sprioc deiridh agus an tasc deiridh a léiriú
• An tsamhail oilte a thuiscint
• Mínithe a chur in iúl d'úsáideoirí na múnlaí
• Déan go leor tástála chun a chinntiú go bhfuil an córas AI ag obair mar a bhí beartaithe 

Trí na cleachtais mholta seo a leanúint, is féidir le d'eagraíocht a chinntiú go mbainfidh sí AI inmhínithe amach, rud atá ríthábhachtach d'aon eagraíocht AI-tiomáinte i dtimpeallacht an lae inniu.