Google skaber nyt forklarligt AI-program for at forbedre gennemsigtighed og fejlfinding

For nylig annoncerede Google (GOOGL ) oprettelsen af en ny cloud-platform, der er designet til at give indsigt i, hvordan et AI-program træffer beslutninger, og gøre det lettere at fejlfinde et program og forbedre gennemsigtigheden. Ifølge The Register hedder cloud-platformen Explainable AI, og det er et større forsøg fra Google på at investere i AI-forklarlighed.

Kunstige neurale netværk anvendes i mange, måske de fleste, af de større AI-systemer, der anvendes i verden i dag. De neurale netværk, der kører større AI-applikationer, kan være ekstraordinært komplekse og store, og jo mere komplekst et system er, jo sværere er det at forstå, hvorfor en bestemt beslutning er truffet af systemet. Som Google forklarer i deres white paper, bliver AI-systemer mere komplekse og sværere at fejlfinde, når de bliver mere powerful. Gennemsigtigheden går også tabt, når dette sker, hvilket betyder, at fordomsfulde algoritmer kan være svære at genkende og løse.

Det faktum, at den grundlæggende årsag til, at komplekse systemers adfærd er så svær at fortolke, ofte har dramatiske konsekvenser. Ud over at gøre det svært at bekæmpe AI-forudanelser, kan det gøre det ekstraordinært svært at skelne mellem spurious korrelationer og virkelig vigtige og interessante korrelationer.

Mange virksomheder og forskningsgrupper udforsker, hvordan man kan løse “black box”-problemet med AI og skabe et system, der tilstrækkeligt forklarer, hvorfor bestemte beslutninger er truffet af en AI. Googles Explainable AI-platform repræsenterer deres eget bud på at løse denne udfordring. Explainable AI består af tre forskellige værktøjer. Det første værktøj er et system, der beskriver, hvilke funktioner der er valgt af en AI, og det viser også en attribut-score, der repræsenterer, hvor meget en bestemt funktion har indflydelse på den endelige forudsigelse. Googles rapport om værktøjet giver et eksempel på at forudsige, hvor lang tid en cykeltur vil vare, baseret på variabler som regn, nuværende temperatur, dag i ugen og starttid. Efter netværket har truffet beslutningen, gives der feedback, der viser, hvilke funktioner havde den største indvirkning på forudsigelserne.

Hvordan giver dette værktøj sådan feedback i tilfælde af billeddata? I dette tilfælde producerer værktøjet en overlay, der fremhæver de områder af billedet, der havde den største vægt på den trufne beslutning.

Et andet værktøj i værktøjskassen er “What-If”-værktøjet, der viser potentielle fluktuationer i modelpræstation, når enkeltattributter manipuleres. Endelig kan det sidste værktøj konfigureres til at give eksempelresultater til menneskelige anmeldere på en fast skema.

Doktor Andrew Moore, Googles chefscientist for AI og maskinlæring, beskrev inspirationen bag projektet. Moore forklarede, at for omkring fem år siden begyndte den akademiske fællesskab at bekymre sig om de skadelige biprodukter af AI-brug, og at Google ønskede at sikre, at deres systemer kun blev brugt på etisk vis. Moore beskrev en episode, hvor virksomheden forsøgte at designe et computer-vision-program til at advare bygningsarbejdere, hvis nogen ikke bar en hjelm, men de blev bekymrede for, at overvågningen kunne blive for langt gående og blive afmenneskeliggørende. Moore sagde, at der var en lignende grund til, at Google besluttede ikke at udgive en generel ansigtsgenkendelses-API, da virksomheden ønskede at have mere kontrol over, hvordan deres teknologi blev brugt, og sikre, at den kun blev brugt på etisk vis.

Moore fremhævede også, hvorfor det var så vigtigt for AI’s beslutning at være forklarlig:

“Hvis du har et sikkerheds-kritisk system eller noget, der er vigtigt for samfundet, og som kan have uventede konsekvenser, hvis du tror, din model har begået en fejl, så må du være i stand til at diagnosticere det. Vi ønsker at forklare omhyggeligt, hvad forklarlig kan og ikke kan gøre. Det er ikke en panace.