Dè a th’ ann an AI a ghabhas mìneachadh?

Mar a bhios inntleachd fuadain (AI) a’ fàs nas iom-fhillte agus air a chleachdadh gu farsaing air feadh a’ chomainn-shòisealta, tha aon de na seataichean pròiseasan agus dòighean as deatamaiche air a mhìneachadh (AI), ris an canar uaireannan XAI. 

Faodar AI soilleir a mhìneachadh mar:

• Seata de phròiseasan agus dhòighean-obrach a chuidicheas luchd-cleachdaidh daonna gu bhith a’ tuigsinn agus a’ cur earbsa ann an toraidhean algorithms ionnsachadh innealan. 

Mar a shaoileadh tu, tha am mìneachadh seo air leth cudromach leis gu bheil algorithms AI a’ gabhail smachd air mòran roinnean, a tha a’ tighinn le cunnart claon-bhreith, algoirmean lochtach, agus cùisean eile. Le bhith a’ coileanadh follaiseachd le mìneachadh, faodaidh an saoghal fìor chumhachd AI a luathachadh. 

Tha AI mìneachaidh, mar a tha an t-ainm a’ moladh, a’ cuideachadh le bhith a’ toirt cunntas air modal AI, a’ bhuaidh a th’ aige, agus claon-bhreith a dh’fhaodadh a bhith ann. Tha pàirt aige cuideachd ann a bhith a’ comharrachadh cruinneas modail, cothromachd, follaiseachd, agus builean ann am pròiseasan co-dhùnaidh le cumhachd AI. 

Bu chòir do bhuidhnean an latha an-diugh a tha air an stiùireadh le AI gabhail ri pròiseasan AI a ghabhas mìneachadh gus cuideachadh le bhith a’ togail earbsa agus misneachd anns na modalan AI ann an cinneasachadh. Tha AI soilleir cuideachd deatamach airson a bhith na chompanaidh cunntachail ann an àrainneachd AI an latha an-diugh.

Leis gu bheil siostaman AI an latha an-diugh cho adhartach, mar as trice bidh daoine a’ dèanamh pròiseas àireamhachaidh gus lorg fhaighinn air mar a thàinig an algairim gu buil. Bidh am pròiseas seo gu bhith na “bogsa dubh,” a’ ciallachadh gu bheil e do-dhèanta a thuigsinn. Nuair a thèid na modalan neo-mhìneachaidh sin a leasachadh gu dìreach bho dhàta, chan urrainn dha duine tuigsinn dè a tha a’ tachairt taobh a-staigh iad. 

Le bhith a’ tuigsinn mar a bhios siostaman AI ag obair tro AI a tha furasta a mhìneachadh, faodaidh luchd-leasachaidh dèanamh cinnteach gu bheil an siostam ag obair mar a bu chòir. Faodaidh e cuideachd cuideachadh gus dèanamh cinnteach gu bheil am modail a’ coileanadh inbhean riaghlaidh, agus bheir e cothrom dùbhlan a thoirt don mhodail no atharrachadh. 

Ìomhaigh: Dr. Matt Turek/DARPA

Eadar-dhealachaidhean eadar AI agus XAI

Bidh cuid de phrìomh eadar-dhealachaidhean a’ cuideachadh le bhith a’ sgaradh AI “cunbhalach” bho AI a tha furasta a mhìneachadh, ach nas cudromaiche, bidh XAI a’ cur an gnìomh dòighean agus dòighean sònraichte a chuidicheas le bhith a’ dèanamh cinnteach gu bheil gach co-dhùnadh sa phròiseas ML ri lorg agus furasta a mhìneachadh. An coimeas ri sin, mar as trice bidh AI cunbhalach a’ ruighinn a thoradh le bhith a ’cleachdadh algorithm ML, ach tha e do-dhèanta làn thuigsinn mar a ràinig an algairim an toradh. A thaobh AI cunbhalach, tha e air leth duilich sgrùdadh a dhèanamh airson cruinneas, a’ leantainn gu call smachd, cunntachalachd agus sgrùdadh. 

Buannachdan AI a ghabhas mìneachadh 

Tha mòran bhuannachdan ann do bhuidheann sam bith a tha airson gabhail ri AI a ghabhas mìneachadh, leithid: 

• Toraidhean nas luaithe: Tha AI mìneachaidh a’ toirt comas do bhuidhnean sùil gheur a chumail air agus a’ riaghladh mhodalan gus builean gnìomhachais a bharrachadh. Tha e comasach coileanadh mhodail a mheasadh agus a leasachadh gu leantainneach agus leasachadh modail le deagh ghleus.
  
• Lùghdaich cunnartan: Le bhith a’ gabhail ri pròiseasan AI a tha furasta am mìneachadh, bidh thu a’ dèanamh cinnteach gu bheil na modalan AI agad soilleir agus follaiseach. Faodaidh tu riaghladh, gèilleadh, cunnartan agus riatanasan eile fhad ‘s a tha thu a’ lughdachadh cosgais sgrùdadh làimhe. Bidh seo uile cuideachd a’ cuideachadh le bhith a’ lughdachadh cunnart claon-bhreith gun dùil. 
• Tog Urras: Bidh AI soilleir a’ cuideachadh le bhith a’ stèidheachadh earbsa ann an cinneasachadh AI. Faodar modalan AI a thoirt gu cinneasachadh gu sgiobalta, faodaidh tu dèanamh cinnteach gu bheil mìneachadh agus mìneachadh, agus faodar am pròiseas measaidh modail a dhèanamh nas sìmplidhe agus a dhèanamh nas soilleire. 

Teicneòlasan airson AI a ghabhas mìneachadh

Tha cuid de dhòighean XAI air am bu chòir do gach buidheann beachdachadh, agus tha trì prìomh dhòighean annta: cruinneas ro-innse, lorg, agus tuigse co-dhùnaidh. 

A’ chiad de na trì dòighean, cruinneas ro-innse, deatamach gus AI a chleachdadh gu soirbheachail ann an gnìomhachd làitheil. Faodar samhlaidhean a dhèanamh, agus faodar toradh XAI a choimeas ris na toraidhean anns an t-seata dàta trèanaidh, a chuidicheas le bhith a’ dearbhadh cruinneas ro-innse. Is e aon de na dòighean as mòr-chòrdte airson seo a choileanadh an t-ainm Mìneachadh Modail-Agnostic Eadar-mhìneachaidh Ionadail (LIME), dòigh-obrach a mhìnicheas ro-innse luchd-seòrsachaidh leis an algairim ionnsachaidh inneal. 

Tha an dàrna dòigh lorg, a tha air a choileanadh le bhith a 'cuingealachadh mar a ghabhas co-dhùnaidhean a dhèanamh, a bharrachd air a bhith a' stèidheachadh raon nas cumhainge airson riaghailtean agus feartan ionnsachadh innealan. Is e aon de na dòighean lorg as cumanta DeepLIFT, no Feartan Cudromach Ionnsachadh domhainn. Bidh DeepLIFT a’ dèanamh coimeas eadar gnìomhachd gach neuron agus an neuron iomraidh fhad ‘s a tha e a’ nochdadh ceangal a ghabhas lorg eadar gach neuron gnìomhaichte. Tha e cuideachd a’ sealltainn nan eisimeileachd a tha eatorra. 

Tha an treas agus an dòigh mu dheireadh tuigse co-dhùnaidh, a tha ag amas air daoine, eu-coltach ris an dà dhòigh eile. Tha tuigse co-dhùnaidh a’ toirt a-steach a bhith ag oideachadh na buidhne, gu sònraichte an sgioba a tha ag obair leis an AI, gus an tuig iad ciamar agus carson a bhios an AI a’ dèanamh cho-dhùnaidhean. Tha an dòigh seo deatamach gus earbsa a stèidheachadh san t-siostam. 

Prionnsabalan AI soilleir

Gus tuigse nas fheàrr a thoirt air XAI agus na prionnsapalan aige, tha Institiud Nàiseanta nan Inbhean (NIST), a tha na phàirt de Roinn Malairt na SA, a’ toirt seachad mìneachaidhean airson ceithir prionnsapalan AI a ghabhas mìneachadh: 

1. Bu chòir do shiostam AI fianais, taic no reusanachadh a thoirt seachad airson gach toradh. 
2. Bu chòir do shiostam AI mìneachadh a thoirt seachad a thuigeas an luchd-cleachdaidh. 
3. Bu chòir don mhìneachadh sealltainn gu ceart am pròiseas a bhios an siostam a’ cleachdadh gus an toradh aige a ruighinn. 
4. Cha bu chòir don t-siostam AI obrachadh ach fo na cumhaichean airson an deach a dhealbhadh, agus cha bu chòir dha toradh a thoirt seachad nuair nach eil misneachd gu leòr aige san toradh. 

Faodar na prionnsapalan sin a chuir air dòigh eadhon nas fhaide gu: 

• Ciall: Gus prionnsapal brìgh a choileanadh, bu chòir do neach-cleachdaidh am mìneachadh a tha air a thoirt seachad a thuigsinn. Dh’ fhaodadh seo cuideachd a bhith a’ ciallachadh ma bhios algairim AI air a chleachdadh le diofar sheòrsaichean de luchd-cleachdaidh, gum faodadh grunn mhìneachaidhean a bhith ann. Mar eisimpleir, a thaobh càr fèin-dràibhidh, dh’ fhaodadh aon mhìneachadh a bhith coltach ri…” dh’ ainmich an AI am poca plastaig san rathad mar chreig, agus mar sin rinn e gnìomh gus nach buail e.” Ged a bhiodh an eisimpleir seo ag obair airson an draibhear, cha bhiodh e glè fheumail do leasaiche AI ​​a bha ag iarraidh an duilgheadas a cheartachadh. Anns a 'chùis sin, feumaidh an leasaiche tuigsinn carson a bha mì-seòrsachadh ann. 
• Cruinneas mìneachaidh: Eu-coltach ri cruinneas toraidh, tha cruinneas mìneachaidh a ’toirt a-steach an algairim AI a’ mìneachadh gu ceart mar a ràinig e an toradh aige. Mar eisimpleir, ma tha algairim cead iasaid a 'mìneachadh co-dhùnadh stèidhichte air teachd a-steach tagradh nuair a bha e gu dearbh stèidhichte air àite-còmhnaidh an tagraiche, bhiodh am mìneachadh mearachdach. 
• Crìochan eòlais: Faodar crìochan eòlais an AI a ruighinn ann an dà dhòigh, agus tha e a’ toirt a-steach an cuir a-steach taobh a-muigh eòlas an t-siostaim. Mar eisimpleir, ma thèid siostam a thogail gus gnèithean eòin a sheòrsachadh agus gum faigh e dealbh de ubhal, bu chòir dha a bhith comasach air mìneachadh nach e eun a th’ anns an cuir a-steach. Ma thèid dealbh neo-shoilleir a thoirt don t-siostam, bu chòir dha a bhith comasach air aithris nach urrainn dha an t-eun aithneachadh san ìomhaigh, no air an làimh eile, gu bheil glè bheag de mhisneachd aige san aithneachadh. 

Dleastanas dàta ann an AI a ghabhas mìneachadh

Is e dàta aon de na pàirtean as cudromaiche de AI a ghabhas mìneachadh. 

A rèir Ghoogle, a thaobh dàta agus AI a tha furasta a mhìneachadh, “tha siostam AI air a thuigsinn nas fheàrr leis a’ phròiseas dàta trèanaidh agus trèanaidh bunaiteach, a bharrachd air a ’mhodal AI a thig às.” Tha an tuigse seo an urra ri comas modal AI le trèanadh a mhapadh chun an dearbh sheata-dàta a thathar a’ cleachdadh airson a thrèanadh, a bharrachd air a’ chomas an dàta a sgrùdadh gu dlùth. 

Gus mìneachadh nas fheàrr a thoirt air modail, tha e cudromach aire a thoirt don dàta trèanaidh. Bu chòir do sgiobaidhean faighinn a-mach cò às a thàinig an dàta a thathar a’ cleachdadh gus algairim a thrèanadh, an laghail agus a’ bheusachd timcheall air a bhith ga fhaighinn, claonadh sam bith a dh’ fhaodadh a bhith san dàta, agus dè ghabhas dèanamh gus claonadh sam bith a lasachadh. 

Is e taobh deatamach eile de dhàta agus XAI gum bu chòir dàta nach eil buntainneach don t-siostam a bhith air a dùnadh a-mach. Gus seo a choileanadh, cha bu chòir an dàta neo-iomchaidh a bhith air a ghabhail a-steach san t-seata trèanaidh no san dàta cuir a-steach. 

Tha Google air seata de chleachdaidhean a mholadh gus mìneachadh agus cunntachalachd a choileanadh: 

• Dealbhaich na roghainnean agad airson eadar-mhìneachadh a leantainn
• Dèiligeadh ri eadar-mhìneachadh mar phrìomh phàirt de eòlas an neach-cleachdaidh
• Dealbhaich am modail gus am bi e furasta a mhìneachadh
• Tagh metrics gus an amas deireannach agus an obair crìochnachaidh a nochdadh
• Tuig am modail trèanaidh
• Conaltradh mìneachaidhean do luchd-cleachdaidh modail
• Dèan tòrr dheuchainnean gus dèanamh cinnteach gu bheil an siostam AI ag obair mar a bha dùil 

Le bhith a’ leantainn nan cleachdaidhean seo a thathar a’ moladh, faodaidh a’ bhuidheann agad dèanamh cinnteach gun coilean i AI a tha furasta a mhìneachadh, a tha deatamach do bhuidheann sam bith air a stiùireadh le AI ann an àrainneachd an latha an-diugh.