Çawa AI-ya ravekirî pêbawerî û pêbaweriyê zêde dike

Her ku îstîxbarata artificial (AI) li seranserê pargîdaniyan demokratîk dibe, ew hêdî hêdî di nav tevna hebûna me de cih digire. Aliyek girîng a vê demokratîkbûnê ev e ku bikarhênerên dawîn divê karibin bi tevahî pêvajo û mekanîzmayên ku AI bikar tîne da ku bigihîje encamekê an jî ew çawa dixebite ku encamên xwestî bidest bixe, bi tevahî fêm bikin. Wekî mirov, pêdivîyek me ya kûr heye ku em "çima" û "çawa" ya her diyardeyê derxin holê, ku pêşkeftina meya teknolojîk bileztir kiriye. Di çarçoveya AI-ê de, ev têgihîştin wekî "ravekirin" tê gotin.

Çima ravekirin hewcedariya demjimêrê ye?

Pir caran, em AI-ê wekî "qutiyek reş" nêzîk dibin, ku li wir tenê haya me ji ketin û derketinê heye, lê li cîhek pêvajoyên têne bikar anîn li ser me winda dibin. Tevlihevkirina vê pirsgirêkê ev rastiyek e ku algorîtmayên ku celebên herî populer ên AI-ê hêzdar dikin, mîna pergalên pêşbînkirina-bingeha fêrbûna kûr a tevlihev û Pêvajoya Zimanê Xwezayî (NLP) ji pisporên wê yên herî serfiraz re jî pir razber in.

Bawerî û Zelafî: Ji bo ku bikarhêner bi pêşbîniyên AI-ê bawer bikin, pêdivî ye ku ew di nav xwe de hin astek şirovekirinê hebe. Mînakî, heke bijîjkek bijîjkî pêdivî ye ku dermankirinek li ser bingeha pêşbîniyên AI-yê pêşniyar bike, ew hewce ye ku ew li ser pêşbîniyê pê ewle be. Pêdivî ye ku bankek ji biryara red an pejirandina krediyek pêbawer be û bikaribe heman tiştî ji hemî beşdaran re rast bike. Pêdivî ye ku AI-ya ku ji bo vekolîn û kirêgirtinê tê bikar anîn îspat bike ku mekanîzmayên bingehîn ji hemî hevrêzên serlêderan re dadperwer û wekhev in.

AI-ê bêtir mirovî dike û pejirandinê zêde dike: Li Mckinsey's  Rapora rewşa AI di sala 2020-an de em fêr dibin ku hilberîner modelên zehf zelal bikar tîne ji bo pejirandina ji xebatkarên kargeha xwe, yên ku hewce ne ku ji dadbarên ku ji hêla AI-ê ve di derbarê ewlehiya xwe de hatine çêkirin bawer bikin.. Ji bo pejirandina bilez a AI-ê, wergirtina kirîna beşdaran astenga sereke ye ku ji çareseriyên xalên hêsan berbi asta pargîdaniyê ve diçe û herî zêde ji veberhênana hatî çêkirin bistînin. Ger performansa ji temaşevanên mezin re were ravekirin ev yek pir kêm dibe. Ji perspektîfek karsaziyê, ravekirin ezmûna bikarhêner-a giştî zêde dike û razîbûna xerîdar zêde dike. Li gorî encamên lêkolînek Enstîtuya IBM ya ji bo Nirxa Karsaziyê, ji sedî 68 ê rêvebirên payebilind bawer dikin ku xerîdar dê di sê salên pêş de bêtir ravekirina ji AI-ê bixwazin.

Nerazîbûnên vedîtin û performansa modelê baştir bikin:  Pêşvebirek pêdivî ye ku zanibe ka ew çawa dikare performansa modelê baştir bike, û bi rastî çawa wê debug bike û baş bike. Çarçoveyek ravekirina zelal yek ji amûrên herî girîng e ku ji bo pêkanîna analîzek bêkêmasî ya ku hewce dike.

Nêrînên tûjtir, baş-dorvekirî bistînin:  Nêrînek bêkêmasî ya 360-pileyî ji bo têgihîştina tevahî dermanên ku ji hêla AI-ê ve hatî çêkirin hewce ye. Mînakî, heke AI ji bo girtina biryarek veberhênanê were bikar anîn, pêdivî ye ku meriv mentiqê li pişt wê jî zanibe, da ku vê fêrbûnê li deverên din veguhezîne û her weha xeletiyên potansiyel ên girtina wê biryarê jî fam bike. Têgihiştinek bihêz a ka AI çawa dixebite dê di heman demê de rê bide biryarderan ku dozên karanîna nû derxînin holê.

Rêzikname û Berpirsiyarî: Gelek rêziknameyên mîna GDPR, ji bo çareserkirina pirsgirêkên berpirsiyariyê yên ku ji pêvajoyek biryargirtinê ya otomatîkî derdikevin, mafê ravekirinê ferz dikin. Di pergalên mîna wesayîtên xweser de, heke tiştek xelet bibe ku bibe sedema windakirina jiyan û mal, zanîna rast li ser sedema bingehîn hewce ye, ku dê di pergalek qutiya reş de were destnîşankirin.

Çawa AI dikare bêtir ravek be?

Pergalên Zehmetiya Hunerî ya Ravekirî (XAI) bi karanîna teknolojiyên cihêreng têne pêşve xistin ku an li ser ravekirina modelê bi tevahî an jî ravekirina sedemê li pişt pêşbîniya kesane bi alîkariya hin algorîtmayan ve mijûl dibin.

Bi piranî, hemî teknîkên ravekirinê bi ser ve girêdayî ne:

• Perçekirina modelekê li pêkhateyên takekesî)
• Dîtbarkirina pêşbîniyên modelê (mînakek heke modelek otomobîlek wekî marqeyek diyarkirî dabeş dike, ew beşa ku bûye sedem ku ew wekî wiya ala bike ronî dike)
• Ravekirina Madenê (bikaranîna teknîkên fêrbûna makîneyê ji bo dîtina daneyên têkildar ên ku pêşbîniya algorîtmayek îstîxbarata sûnî rave dike).

Di teknîkek wusa de ku jê re modelkirina proxy tê gotin, modelek hêsan û têgihîştî mîna dara biryarê tê bikar anîn da ku bi qasî modela AI-ya berfirehtir temsîl bike. Van ravekirinên sivik di astek bilind de ramanek adil dide modelê lê carinan dikare hin nuansan bitepisîne.

Nêzîktêdayînek din jê re tê gotin "şirovekirina ji hêla sêwiranê ve" Ev nêzîkatî di sêwirandin û perwerdehiya tora AI-ê de bi şêwazek nû astengiyan derdixe, ku hewl dide tora giştî ji perçeyên piçûktir û hêsan ên ravekirî ava bike. Ev di navbera asta rastbûnê de bi ravekirinê re danûstendinek pêk tîne û hin nêzîkatiyên ji amûra zanyarê daneyê sînordar dike. Di heman demê de dibe ku ew pir bihejmar be.

Perwerde û ceribandina AI-ê di heman demê de dikare teknîkên verastkirina daneya agnostîk ên wekî modela şirovekirî ya herêmî (LIME) û ravekirinên lêzêdekirî yên Shapley (SHAP) jî bikar bîne, û divê ev bêne sêwirandin da ku bi karanîna F-score, rastbûn û metrîkên din ve rastbûna bilind bi dest bixin. Û, bê guman, divê hemî encam bi karanîna cûrbecûr daneyan werin şopandin û verast kirin. Mînakî, bi karanîna LIME, rêxistin dikarin modelên demkî yên ku pêşbîniyên algorîtmayên neşefaf ên mîna fêrbûna makîneyê dişibînin biafirînin. Dûv re ev modelên LIME dikarin li ser bingeha komek daneya diyarkirî û hilberîna wê ya têkildar, cûrbecûr guheztinan biafirînin, ku dûv re dikarin ji bo perwerdekirina modelên sade û şirovekirî digel navnîşên bêkêmasî yên ravekirinan ji bo her biryar û/an pêşbîniyê bikar bînin. Çarçoveya SHAP ku bingehên wê di teoriya lîstikê de û bi taybetî ji teoriya lîstika hevkariyê heye, modelek e ku ew e. Ew veqetandina krediyê ya çêtirîn bi ravekirinên herêmî re bi karanîna nirxên orîjînal ên Shapley ji teoriya lîstikê û neviyên wan re dike yek.

Operasyonên Prensîb

Lêbelê, di astek bêtir stratejîk de, çarçoveyên pêbaweriya AI-ê pêdivî ye ku komek prensîbên berfireh bihewîne ku armanc ew e ku encamên rast hem di destpêka bicîhkirinê de û hem jî bi demê re ji ber ku model di hebûna şert û mercên guheztinê de pêşve diçin. Bi kêmanî, ev çarçove divê tiştên wekî:

• Bias Detection - Pêdivî ye ku hemî berhevokên daneyê ji beralîbûn û taybetmendiyên cûdakar werin paqij kirin û dûv re dema ku li ser modela perwerdehiyê were sepandin giranî û dadmendiya rast were dayîn;
• Tevlêbûna Mirovan - Divê operator karibin her gav encamên algorîtmayê vekolin û şîrove bikin, nemaze dema ku model ji bo pêkanîna qanûnê û parastina azadiyên sivîl têne bikar anîn;
• Bersivkirinî - Pêdivî ye ku hemî pêşbîniyan karibin li ber çavdêriyê bisekinin, ku ji hêla xwezayê ve şefafiyek bilind hewce dike da ku rê bide çavdêrên derveyî ku proses û pîvanên ku ji bo hilberîna encaman têne bikar anîn binirxînin;
• Reproducibility - Modelên pêbawer ên AI-ê divê di pêşbîniyên xwe de domdar bin û dema ku bi daneyên nû re rûbirû dibin divê astên bilind ên aramiyê nîşan bidin.

Lê divê XAI ne tenê wekî navgînek ji bo baştirkirina berjewendiyê were nihêrtin, lê divê berpirsiyariyê bîne cih da ku sazî karibin bandora afirandinên xwe li ser civakê bi tevahî rave û rastdar bikin.