Google lager nytt forklarbart AI-program for å forbedre gjennomsiktighet og feilsøking

For kort tid siden kunngjorde Google (GOOGL ) opprettelsen av en ny skyplattform som er ment å gi innsikt i hvordan et AI-program tar beslutninger, og gjøre det lettere å feilsøke et program og forbedre gjennomsiktighet. Ifølge The Register heter skyplattformen Explainable AI, og det markerer et stort forsøk fra Google på å investere i AI-forklarbarhet.

Kunstige nevralt nettverk brukes i mange, kanskje de fleste, av de største AI-systemene som brukes i verden i dag. De nevralt nettverkene som kjører store AI-applikasjoner kan være usedvanlig komplekse og store, og jo mer komplekst et system er, jo harder blir det å forstå hvorfor en bestemt beslutning er tatt av systemet. Som Google forklarer i deres hvitbok, blir AI-systemer mer komplekse og harder å feilsøke når de blir mer kraftfulle. Gjennomsiktighet går også tapt når dette skjer, noe som gjør det vanskelig å gjenkjenne og håndtere forvrengte algoritmer.

Dette at grunnene til at komplekse systemers atferd er så hard å tolke ofte har alvorlige konsekvenser. I tillegg til å gjøre det vanskelig å bekjempe AI-forvrengning, kan det gjøre det usedvanlig vanskelig å skille mellom spuriøse korrelasjoner og virkelig viktige og interessante korrelasjoner.

Mange selskaper og forskningsgrupper utforsker hvordan de kan løse “black box”-problemet med AI og lage et system som forklarer tilstrekkelig hvorfor bestemte beslutninger er tatt av en AI. Googles Explainable AI-plattform representerer deres eget forsøk på å møte denne utfordringen. Explainable AI består av tre forskjellige verktøy. Det første verktøyet er et system som beskriver hvilke funksjoner som er valgt av en AI og viser også en tilskrivningsscore som representerer hvor mye en bestemt funksjon påvirker den endelige prediksjonen. Googles rapport om verktøyet gir et eksempel på å forutsi hvor lenge en sykeltur vil vare basert på variabler som regn, gjeldende temperatur, uke dag og starttid. Etter at nettverket tar beslutningen, gis tilbakemelding som viser hvilke funksjoner som hadde størst innvirkning på prediksjonene.

Hvordan gir dette verktøyet slik tilbakemelding i tilfelle av bilde-data? I dette tilfellet produserer verktøyet en overlagring som høydepunkter regionene av bildet som veide tyngst i den avgjørende beslutningen.

Et annet verktøy i verktøykassen er “Hva hvis”-verktøyet, som viser potensielle fluktuerende modell-ytelse når enkelt-egenskaper manipuleres. Til slutt kan det siste verktøyet konfigureres til å gi eksempelresultater til menneskelige gjennomgåere på en jevnlig basis.

Doktor Andrew Moore, Googles sjefsforsker for AI og maskinlæring, beskrev inspirasjonen for prosjektet. Moore forklarte at for omtrent fem år siden begynte den akademiske samfunnet å bli bekymret for de skadelige biproduktene av AI-bruk og at Google ønsket å sikre at deres systemer bare ble brukt på etiske måter. Moore beskrev en hendelse der selskapet prøvde å designe et datavisjonsprogram for å varsle bygningsarbeidere hvis noen ikke bar hjelm, men de ble bekymret for at overvåkingen kunne bli for langt gående og bli avhumaniserende. Moore sa at det var en lignende grunn til at Google bestemte seg for ikke å utgi en generell ansiktsgjenkjenning-API, da selskapet ønsket å ha mer kontroll over hvordan deres teknologi ble brukt og sikre at den bare ble brukt på etiske måter.

Moore fremhevet også hvorfor det var så viktig for AI-beslutninger å være forklarbare:

“Hvis du har et sikkerhetskritisk system eller et samfunnsviktig tema som kan ha uforutsette konsekvenser hvis du tror at modellen din har gjort en feil, må du være i stand til å diagnostisere det. Vi ønsker å forklare nøye hva forklarbarhet kan og ikke kan gjøre. Det er ikke en universell løsning.