Google Skapar Nytt Förklarbart AI-program För Att Förbättra Transparens och Felsökning

Google (GOOGL ) meddelade nyligen att de skapat en ny molnplattform som syftar till att ge insikt i hur ett AI-program fattar beslut, vilket gör det lättare att felsöka programmet och förbättra transparensen. Enligt The Register heter plattformen Explainable AI och det är ett stort företag av Google för att investera i AI-förklarbarhet.

Konstgjorda neuronnät används i de flesta stora AI-system som används i världen idag. De neuronnät som körs i stora AI-applikationer kan vara oerhört komplexa och stora, och ju mer komplexa systemet blir, desto svårare är det att förstå varför ett visst beslut har fattats. Som Google förklarar i sin vitbok, när AI-system blir mer kraftfulla, blir de också mer komplexa och svårare att felsöka. Transparensen går också förlorad när detta sker, vilket gör det svårt att känna igen och åtgärda fördomar i algoritmerna.

Det faktum att resonemanget som driver beteendet hos komplexa system är så svårt att tolka har ofta allvarliga konsekvenser. Utöver att det är svårt att bekämpa AI-fördomar, kan det också vara mycket svårt att skilja på falska korrelationer och genuint viktiga och intressanta korrelationer.

Många företag och forskargrupper undersöker hur man kan hantera “black box”-problemet med AI och skapa ett system som tillräckligt förklarar varför vissa beslut har fattats av en AI. Googles Explainable AI-plattform representerar deras eget försök att tackla denna utmaning. Explainable AI består av tre olika verktyg. Det första verktyget är ett system som beskriver vilka funktioner som har valts av en AI och det visar också en attributpoäng som representerar hur stor inverkan en viss funktion har på den slutliga förutsägelsen. Googles rapport om verktyget ger ett exempel på att förutsäga hur länge en cykeltur kommer att vara baserat på variabler som regn, nuvarande temperatur, veckodag och starttid. Efter att nätverket har fattat beslutet, ges feedback som visar vilka funktioner som hade störst inverkan på förutsägelsen.

Hur ger detta verktyg sådan feedback i fallet med bilddata? I detta fall producerar verktyget en överlagring som markerar de områden i bilden som vägde tyngst vid det fattade beslutet.

Ytterligare ett verktyg i verktygslådan är “What-If”-verktyget, som visar möjliga fluktuationer i modellens prestanda när enskilda attribut manipuleras. Slutligen kan det sista verktyget ställas in för att ge exempelresultat till mänskliga granskare på en regelbunden basis.

Dr. Andrew Moore, Googles chefsforskare för AI och maskinlärning, beskrev inspirationen för projektet. Moore förklarade att för cirka fem år sedan började den akademiska gemenskapen bli orolig för de skadliga biprodukterna av AI-användning och att Google ville säkerställa att deras system bara användes på etiska sätt. Moore beskrev en incident där företaget försökte designa ett datorseende-program för att varna byggnadsarbetare om någon inte bar en hjälm, men de blev oroliga för att övervakningen kunde tas för långt och bli avhumaniserande. Moore sa att det fanns ett liknande skäl till att Google beslutade att inte släppa en allmän ansiktsigenkännings-API, eftersom företaget ville ha mer kontroll över hur deras teknik användes och säkerställa att den bara användes på etiska sätt.

Moore betonade också varför det var så viktigt att AI-beslut kan förklaras:

“Om du har ett säkerhetskritiskt system eller ett samhällsviktigt system som kan ha oavsiktliga konsekvenser om du tror att din modell har gjort ett misstag, måste du kunna diagnostisera det. Vi vill förklara noggrant vad förklarbarhet kan och inte kan göra. Det är inte en panacea.