Google Skapar Nytt Förklarbart AI-program För Att Förbättra Transparens och Felsökning

Nyss meddelade Google att de skapat en ny molnplattform som syftar till att ge insikt i hur ett AI-program fattar beslut, vilket gör det lättare att felsöka ett program och förbättra transparensen. Som rapporterats av The Register, heter molnplattformen Explainable AI, och det är ett stort företag av Google för att investera i AI-förklarbarhet.

Artificiella neuronnät används i de flesta av de stora AI-systemen som används i världen idag. De neuronnät som körs i stora AI-applikationer kan vara oerhört komplexa och stora, och ju mer komplexa systemen blir, desto svårare blir det att förstå varför ett visst beslut har fattats av systemet. Som Google förklarar i sin vitbok, när AI-system blir mer kraftfulla, blir de också mer komplexa och svårare att felsöka. Transparensen går också förlorad när detta sker, vilket innebär att fördomsfulla algoritmer kan vara svåra att känna igen och åtgärda.

Det faktum att resonemanget som driver beteendet hos komplexa system är så svårt att tolka har ofta drastiska konsekvenser. Utöver att göra det svårt att bekämpa AI-fördomar, kan det göra det oerhört svårt att skilja på falska korrelationer och genuint viktiga och intressanta korrelationer.

Många företag och forskargrupper undersöker hur man kan åtgärda “black box”-problemet med AI och skapa ett system som tillräckligt förklarar varför vissa beslut har fattats av en AI. Googles Explainable AI-plattform representerar deras eget försök att tackla denna utmaning. Explainable AI består av tre olika verktyg. Det första verktyget är ett system som beskriver vilka funktioner som har valts av en AI och det visar också en attributpoäng som representerar mängden inflytande som en viss funktion har på den slutliga förutsägelsen. Googles rapport om verktyget ger ett exempel på att förutsäga hur länge en cykeltur kommer att vara baserat på variabler som regn, nuvarande temperatur, veckodag och starttid. Efter att nätverket har fattat beslutet, ges feedback som visar vilka funktioner som hade störst inverkan på förutsägelsen.

Hur ger detta verktyg sådan feedback i fallet med bilddata? I detta fall producerar verktyget en överlagring som markerar de områden av bilden som vägde tyngst på det fattade beslutet.

Ett annat verktyg i verktygslådan är “What-If”-verktyget, som visar potentiella fluktuationer i modellens prestanda när enskilda attribut manipuleras. Slutligen kan det sista verktyget ställas in för att ge exempelresultat till mänskliga granskare på en konsekvent schema.

Dr. Andrew Moore, Googles chefsforskare för AI och maskinlärning, beskrev inspirationen för projektet. Moore förklarade att för cirka fem år sedan började den akademiska gemenskapen bli orolig för de skadliga biprodukterna av AI-användning och att Google ville säkerställa att deras system bara användes på etiska sätt. Moore beskrev en incident där företaget försökte designa ett datorseende-program för att varna byggnadsarbetare om någon inte bar en hjälm, men de blev oroliga för att övervakningen kunde tas för långt och bli avhumaniserande. Moore sa att det fanns en liknande anledning till att Google beslutade att inte släppa en allmän ansiktsigenkännings-API, eftersom företaget ville ha mer kontroll över hur deras teknik användes och säkerställa att den bara användes på etiska sätt.

Moore betonade också varför det var så viktigt att AI-beslut var förklarbara:

“Om du har ett säkerhetskritiskt system eller ett samhällsviktigt system som kan ha oavsiktliga konsekvenser om du tror att din modell har gjort ett misstag, måste du kunna diagnostisera det. Vi vill förklara noggrant vad förklarbarhet kan och inte kan göra. Det är inte en panacea.