Explainable AI çi ye?

Her ku îstîxbarata sûnî (AI) tevlihevtir dibe û li seranserê civakê bi berfirehî tête pejirandin, yek ji rêzikên herî krîtîk ên pêvajo û rêbazan raveker e (AI), ku carinan wekî XAI tê binav kirin. 

AI-ya ravekirî dikare wiha were pênase kirin:

• Komek pêvajo û rêbazan ku ji bikarhênerên mirovan re dibe alîkar ku encamên algorîtmayên fêrbûna makîneyê fam bikin û pê bawer bikin. 

Wekî ku hûn dikarin texmîn bikin, ev ravekirin pir girîng e ji ber ku algorîtmayên AI-ê kontrola gelek sektoran digirin, ku bi xetereya bias, algorîtmayên xelet, û pirsgirêkên din re tê. Bi gihîştina zelalbûna bi ravekirinê re, cîhan bi rastî dikare hêza AI-ê bikar bîne. 

AI-ya ravekirî, wekî ku ji navê xwe diyar dike, arîkariya danasîna modelek AI-ê, bandora wê, û nerînên potansiyel dike. Di heman demê de ew di pêvajoyên biryargirtinê yên bi hêza AI-ê de di karakterîzekirina rastbûn, dadperwerî, zelalî û encamên modelê de rolek dilîze. 

Rêxistinên îroyîn ên AI-ê divê her gav pêvajoyên AI-ê yên ravekirî qebûl bikin da ku di hilberînê de di modelên AI-ê de bawerî û pêbaweriyê ava bikin. Explainable AI di heman demê de girîng e ku meriv di hawîrdora AI-ya îroyîn de bibe pargîdaniyek berpirsiyar.

Ji ber ku pergalên AI-ê yên îroyîn ew qas pêşkeftî ne, mirov bi gelemperî pêvajoyek hesabkirinê pêk tînin da ku vegere ka algorîtma çawa gihîştiye encama xwe. Ev pêvajo dibe "qutiya reş", ango ne mimkun e ku were fam kirin. Dema ku ev modelên nenas rasterast ji daneyan têne pêşve xistin, kes nikare fêm bike ka di hundurê wan de çi diqewime. 

Bi têgihiştina pergalên AI-ê bi AI-ya ravekirî çawa tevdigerin, pêşdebir dikarin pê ewle bibin ku pergal wekî ku divê dixebite. Di heman demê de ew dikare bibe alîkar ku model standardên rêziknameyê bicîh bîne, û ew fersendê dide ku model were ceribandin an guheztin. 

Wêne: Dr. Matt Turek/DARPA

Cûdahî di navbera AI û XAI de

Hin cûdahiyên sereke dibin alîkar ku AI-ya "birêkûpêk" ji AI-ya ravekirî veqetîne, lê ya herî girîng, XAI teknîk û rêbazên taybetî bicîh tîne ku ji bo piştrastkirina ku her biryarek di pêvajoya ML-ê de peyda dibe û ravebar dibe alîkar dike. Di berhevdanê de, AI-ya birêkûpêk bi gelemperî bi karanîna algorîtmayek ML-ê digihîje encama xwe, lê ne gengaz e ku meriv bi tevahî fêm bike ka algorîtma çawa gihîştiye encamê. Di doza AI-ya birêkûpêk de, kontrolkirina rastbûnê zehf dijwar e, ku di encamê de windabûna kontrol, berpirsiyarî, û lênihêrînê ye. 

Feydeyên Explainable AI 

Ji bo her rêxistinek ku dixwaze AI-ya ravekirî qebûl bike gelek feyde hene, wek: 

• Encamên Zûtir: AI-ya şirovekirî rê dide rêxistinan ku bi rêkûpêk çavdêrî û rêvebirina modelan bikin da ku encamên karsaziyê xweştir bikin. Mimkun e ku meriv bi domdarî performansa modelê binirxîne û baştir bike û pêşkeftina modela baş-ahengdar bike.
  
• Kêmkirina rîskan: Bi pejirandina pêvajoyên AI-ê yên ravekirî, hûn piştrast dikin ku modelên AI-ya we ravekirin û zelal in. Hûn dikarin birêkûpêk, lihevhatin, xetere û hewcedariyên din îdare bikin dema ku sermaya vekolîna destan kêm bikin. Hemî ev di heman demê de alîkariya kêmkirina metirsiya pêşbaziya nexwestî jî dike. 
• Baweriyê ava bikin: AI-ya ravek arîkariya pêbaweriya di hilberîna AI-ê de dike. Modelên AI-ê zû dikarin werin hilberandin, hûn dikarin şîrovekirin û ravekirinê piştrast bikin, û pêvajoya nirxandina modelê dikare hêsan bibe û zelaltir bibe. 

Teknîkên ji bo AI-ya şirovekirî

Hin teknîkên XAI hene ku divê hemî rêxistin bifikirin, û ew ji sê rêbazên sereke pêk tên: rastbûna pêşbîniyê, şopandin, û têgihiştina biryarê. 

Yekem ji sê rêbazan, rastbûna pêşbîniyê, pêdivî ye ku meriv bi serfirazî AI-ê di karûbarên rojane de bikar bîne. Simulasyon dikarin bêne kirin, û derketina XAI dikare bi encamên di berhevoka daneya perwerdehiyê de were berhev kirin, ku ji bo destnîşankirina rastbûna pêşbîniyê dibe alîkar. Yek ji teknîkên herî populer ên ku bigihîje vê yekê jê re dibêjin Ravekirinên Model-Agnostîk ên Herêmî yên Wergêr (LIME), teknîkek ku pêşbîniya dabeşkeran ji hêla algorîtmaya fêrbûna makîneyê ve rave dike. 

Rêbaza duyemîn e şopandin, ya ku bi bisînorkirina çawaniya biryargirtinê, û her weha bi damezrandina çarçoveyek tengtir ji bo qaîdeyên fêrbûna makîneyê û taybetmendiyan pêk tê. Yek ji teknîkên şopandinê yên herî gelemperî DeepLIFT, an Taybetmendiyên Girîng ên Fêrbûna Kûr e. DeepLIFT aktîvkirina her neuronê bi noyona wê ya referansê re berhev dike dema ku têkiliyek şopbar di navbera her neuronek çalakkirî de destnîşan dike. Ev jî girêdayîbûna di navbera wan de nîşan dide. 

Rêbaza sêyemîn û dawîn e têgihiştina biryarê, ku berevajî her du rêbazên din li ser mirovan e. Têgihîştina biryarê perwerdekirina rêxistinê, bi taybetî tîmê ku bi AI-yê re dixebite, vedihewîne, da ku ew karibin fêm bikin ka AI çawa û çima biryaran dide. Ev rêbaz ji bo avakirina baweriyê di pergalê de pir girîng e. 

Prensîbên AI-ê yên şirovekirî

Ji bo ku têgihîştinek çêtir a XAI û prensîbên wê peyda bike, Enstîtuya Standardên Neteweyî (NIST), ku beşek ji Wezareta Bazirganî ya Dewletên Yekbûyî ye, ji bo çar prensîbên AI-ya ravekirî pênase peyda dike: 

1. Pergalek AI-ê divê ji bo her derketinê delîl, piştgirî, an sedem peyda bike. 
2. Divê pergalek AI-ê ravekirinên ku ji hêla bikarhênerên wê ve têne fêm kirin bide. 
3. Pêdivî ye ku ravekirin pêvajoya ku ji hêla pergalê ve hatî bikar anîn da ku bigihîje encama xwe bi rengek rast nîşan bide. 
4. Pergala AI-ê divê tenê di bin şert û mercên ku ji bo wê hatî sêwirandin de bixebite, û dema ku pêbaweriya wê di encamê de têr nebe divê encam peyda neke. 

Ev prensîb dikarin hê bêtir bi rêxistin bibin: 

• Bimane: Ji bo ku bigihîje prensîba watedarbûnê, bikarhênerek divê ravekirina pêşkêşkirî fam bike. Ev jî dikare were vê wateyê ku di doza algorîtmayek AI-ê ku ji hêla cûrbecûr bikarhêneran ve tê bikar anîn, dibe ku çend ravekirin hebin. Mînakî, di bûyera otomobîlek xwe-ajotinê de, dibe ku ravekirinek li ser rêzê be…”AI-ê çenteya plastîk a di rê de wekî kevirek kategorîze kir, û ji ber vê yekê tevdîr kir da ku lê nekeve.” Dema ku ev mînak dê ji bo ajokerê bixebite, ew ê ji bo pêşdebirek AI-ê ku li ser rastkirina pirsgirêkê digerin ne pir bikêr be. Di wê rewşê de, pêşdebir divê fêm bike ka çima dabeşkirinek xelet bû. 
• Rastiya ravekirinê: Berevajî rastbûna derketinê, rastbûna ravekirinê algorîtmaya AI-ê bi rast eşkere dike ka ew çawa gihîştiye hilberîna xwe. Mînakî, heke algorîtmayek pejirandina krediyê biryarek li ser bingeha dahata serîlêdanê rave dike dema ku bi rastî ew li ser cîhê rûniştina serlêder bû, ravekirin dê nerast be. 
• Sînorên Zanînê: Sînorên zanîna AI-ê bi du awayan têne gihîştin, û ew tê de têketinê li derveyî pisporiya pergalê ye. Mînakî, heke pergalek ji bo dabeşkirina cureyên çûkan were çêkirin û wêneyê sêvê jê re were dayîn, divê were ravekirin ku têketin ne çûk e. Ger ji pergalê re wêneyek nezelal were dayîn, divê ew bikaribe rapor bike ku ew nekare çûkê di wêneyê de nas bike, an jî wekî din, ku nasnameya wî pêbaweriyek pir kêm heye. 

Rola Daneyê di AI-ya şirovekirî de

Yek ji hêmanên herî girîng ên AI-ya ravekirî dane ye. 

Ligor GûgilDi derbarê daneyan û AI-ya ravekirî de, "pergalek AI-ê çêtirîn ji hêla daneya perwerdehiya bingehîn û pêvajoya perwerdehiyê, û her weha modela AI-ê ya encam ve tê fêm kirin." Ev têgihîştin bi şiyana nexşeya modelek AI-ya perwerdekirî ve girêdayî ye li ser databasa rastîn a ku ji bo perwerdekirina wê tê bikar anîn, û her weha şiyana ku daneyan ji nêz ve vekolîne. 

Ji bo zêdekirina ravekirina modelekê, girîng e ku meriv bala xwe bide daneyên perwerdehiyê. Tîm divê eslê daneya ku ji bo perwerdekirina algorîtmayekê, qanûnî û etîka li dora bidestxistina wê, her bertengiya potansiyel a daneyan, û çi dikare were kirin ji bo kêmkirina her alîgiriyê diyar bikin. 

Aliyek din a krîtîk a daneyan û XAI ev e ku daneyên ku bi pergalê re têkildar in divê werin derxistin. Ji bo gihîştina vê yekê, divê daneyên negirêdayî di koma perwerdehiyê an daneyên têketinê de neyên girtin. 

Google ji bo bidestxistina şîrovekirin û berpirsiyariyê komek pratîk pêşniyar kiriye: 

• Vebijarkên xwe plan bikin da ku hûn şîrovekirinê bişopînin
• Şirovekirinê wekî beşek bingehîn a ezmûna bikarhêner binirxînin
• Modela ku were şîrove kirin dîzayn bikin
• Metrîkan hilbijêrin ku armanca dawîn û peywira dawî nîşan bidin
• Modela perwerdekirî fam bikin
• Ji bikarhênerên modelê re ravekirinan ragihînin
• Gelek ceribandinan bikin da ku pê ewle bibin ku pergala AI-ê wekî ku tê xwestin dixebite 

Bi şopandina van pratîkên pêşniyarkirî, rêxistina we dikare piştrast bike ku ew bigihîje AI-ya ravekirî, ya ku di hawîrdora îroyîn de ji bo her rêxistinek AI-a ajoker girîng e.