Google Joħloq Programm AI Spjegabbli Ġdid Biex Ittejjeb it-Trasparenza u l-Debugability

Ftit reċentement, Google ħabbret il-ħolqien ta 'pjattaforma sħab ġdida maħsuba biex tikseb għarfien dwar kif programm AI jagħti deċiżjonijiet, jagħmel id-debugging ta' programm aktar faċli u jtejjeb it-trasparenza. Kif irrappurtat minn Ir-Reġistru, il-pjattaforma tal-cloud tissejjaħ Explainable AI, u timmarka tentattiv kbir minn Google biex tinvesti fl-ispjegabbiltà tal-AI.

Netwerks newrali artifiċjali huma impjegati f'ħafna, forsi l-biċċa l-kbira, mis-sistemi ewlenin tal-AI użati fid-dinja llum. In-netwerks newrali li jmexxu applikazzjonijiet ewlenin tal-AI jistgħu jkunu straordinarjament kumplessi u kbar, u hekk kif il-kumplessità tas-sistema tikber isir aktar diffiċli u aktar diffiċli li wieħed jintuwi għaliex ittieħdet deċiżjoni partikolari mis-sistema. Kif jispjega Google fil-white paper tagħhom, hekk kif is-sistemi tal-AI jsiru aktar b'saħħithom, isiru wkoll aktar kumplessi u għalhekk aktar diffiċli biex jiġu debugjati. It-trasparenza tintilef ukoll meta dan iseħħ, li jfisser li algoritmi preġudikati jistgħu jkunu diffiċli biex jiġu rikonoxxuti u indirizzati.

Il-fatt li r-raġunament li jmexxi l-imġiba ta 'sistemi kumplessi huwa tant diffiċli biex jiġi interpretat spiss ikollu konsegwenzi drastiċi. Minbarra li jagħmilha diffiċli biex tiġi miġġielda l-preġudizzju tal-AI, jista 'jagħmilha straordinarjament diffiċli li tgħid korrelazzjonijiet falzi minn korrelazzjonijiet ġenwinament importanti u interessanti.

Ħafna kumpaniji u gruppi ta 'riċerka qed jesploraw kif jindirizzaw il-problema tal-"kaxxa s-sewda" tal-AI u joħolqu sistema li tispjega b'mod adegwat għaliex ittieħdu ċerti deċiżjonijiet minn AI. Il-pjattaforma Explainable AI ta' Google tirrappreżenta l-offerta tagħha stess biex tindirizza din l-isfida. Spjegabbli AI hija magħmula minn tliet għodod differenti. L-ewwel għodda hija sistema li tiddeskrivi liema karatteristiċi ġew magħżula minn AI u turi wkoll punteġġ ta 'attribuzzjoni li jirrappreżenta l-ammont ta' influwenza li għandha karatteristika partikolari fuq il-previżjoni finali. Ir-rapport ta’ Google dwar l-għodda jagħti eżempju ta’ tbassir ta’ kemm se ddum rikba bir-rota abbażi ta’ varjabbli bħax-xita, it-temperatura attwali, il-ġurnata tal-ġimgħa u l-ħin tal-bidu. Wara li n-netwerk jagħti d-deċiżjoni, jingħata feedback li juri liema karatteristiċi kellhom l-aktar impatt fuq it-tbassir.

Din l-għodda kif tipprovdi feedback bħal dan fil-każ tad-dejta tal-immaġni? F'dan il-każ, l-għodda tipproduċi overlay li tenfasizza r-reġjuni tal-immaġni li ppeżaw l-aktar fuq id-deċiżjoni mogħtija.

Għodda oħra misjuba fl-għodda hija l-għodda "X'Jekk", li turi varjazzjonijiet potenzjali fil-prestazzjoni tal-mudell hekk kif l-attributi individwali jiġu manipulati. Fl-aħħarnett, l-aħħar għodda tippermetti li tista 'tiġi stabbilita biex tagħti riżultati ta' kampjun lil reviżuri umani fuq skeda konsistenti.

Dr Andrew Moore, ix-xjenzat ewlieni tal-Google għall-AI u t-tagħlim tal-magni, iddeskriva l-ispirazzjoni għall-proġett. Moore spjega li madwar ħames snin ilu l-komunità akkademika bdiet titħasseb dwar il-prodotti sekondarji ta’ ħsara tal-użu tal-AI u li Google riedet tiżgura li s-sistemi tagħhom qed jintużaw biss b’modi etiċi. Moore ddeskriva inċident fejn il-kumpanija kienet qed tipprova tfassal programm ta’ viżjoni bil-kompjuter biex tavża lill-ħaddiema tal-kostruzzjoni jekk xi ħadd ma kienx liebes elmu, iżda dawn jitħassbu li l-monitoraġġ jista’ jittieħed wisq ‘il bogħod u jsir deumanizzanti. Moore qal li kien hemm raġuni simili li Google ddeċidiet li ma tirrilaxxax API ġenerali ta 'rikonoxximent tal-wiċċ, peress li l-kumpanija riedet ikollha aktar kontroll fuq kif it-teknoloġija tagħhom kienet użata u tiżgura li kienet qed tintuża biss b'modi etiċi.

Moore enfasizza wkoll għaliex kien daqshekk importanti li d-deċiżjoni tal-AI tkun spjegabbli:

“Jekk għandek sistema kritika għas-sikurezza jew ħaġa importanti għas-soċjetà li jista' jkollha konsegwenzi mhux intenzjonati jekk taħseb li l-mudell tiegħek għamel żball, trid tkun kapaċi tiddijanjostikaha. Irridu nispjegaw bir-reqqa x'spjegabbiltà tista' u ma tistax tagħmel. Mhuwiex rimedju.