Introduktion til nye niveauer af gennemsigtighed med AI – Tankeledere

Af Balakrishna D R, Senior Vice President, Service Offering Head – Energy, Communications, Services, and AI and Automation services, hos Infosys.

Den 9. januar 2020 underrettede Verdenssundhedsorganisationen offentligheden om coronavirus-udbruddet i Kina. Tre dage før havde Centers for Disease Control and Prevention i USA fået ordnet en advarsel. Men det var en canadisk sundheds-overvågningsplatform, der havde slået dem begge til punchen, da de sendte en advarsel om udbruddet til deres kunder allerede den 31. december 2019! Platformen, BlueDot, bruger kunstig intelligens-drevne algoritmer til at gennemgå nyhedsrapporter på fremmedsprog, dyre- og plantesygdomsnetværk og officielle erklæringer for at give deres kunder en forhåndsværning om at undgå farlige zoner som Wuhan.

I de seneste år er kunstig intelligens blevet den vigtigste kilde til transformation, disruption og konkurrencemæssig fordel i dagens hurtigt skiftende økonomi. Fra epidemi-sporing til forsvar til sundhedspleje til selvstændige køretøjer og alt imellem, er AI i bred anvendelse. PwC forudser, at AI kan bidrage op til 15,7 billioner dollars til den globale økonomi i 2030, hvis det fortsætter med sin nuværende vækstrate.

Men selv om AI bringer håb, stiller det stadig ubesvarede spørgsmål om gennemsigtighed og tillid. Behovet for at forstå, forudsige og stole på AI-systemers beslutningsevne er vigtigt, især i områder, der er kritiske for liv, død og personlig trivsel.

Ind i det ukendte

Da automatiserede resonanssystemer først blev introduceret for at støtte beslutningstagning, afhængig de af håndlavede regler. Dette gjorde det let at fortolke og ændre deres adfærd, men de var ikke skalerbare. Maskinlæringsbaserede modeller ankom for at imødekomme dette behov; de krævede ikke menneskelig indgriben og kunne trænes fra data – jo mere, jo bedre. Mens dybe læringsmodeller er ubestridte i deres modelkapacitet og anvendelsesområde, rejser det faktum, at disse modeller er sorte kasser for det meste, bekymrende spørgsmål om deres sandhed, tillid og bias i sammenhæng med deres bredde anvendelse.

Der findes i øjeblikket ingen direkte mekanisme til at spore den implicitte resonans, der bruges af dybe læringsmodeller. Med maskinlæringsmodeller, der har en sort kasse-natur, er den primære form for forklarbarhed kendt som post-hoc forklarbarhed, hvilket betyder, at forklaringerne er afledt fra naturen og egenskaberne af de outputs, der genereres af modellen. Tidlige forsøg på at trække regler ud af neurale netværk (som dyb lærning tidligere var kendt som) er ikke længere forfulgt, da netværkene er blevet for store og diverse til at kunne trække regler ud. Der er derfor en presserende behov for at indføre fortolkbarhed og gennemsigtighed i AI-modelleringens allerinderste væv.

Udgang nat, indgang lys

Dette bekymring har skabt et behov for gennemsigtighed i maskinlærning, som har ført til væksten af forklarbar AI, eller XAI. Det søger at imødekomme de store problemer, der hindrer vores evne til fuldt ud at stole på AI-beslutningstagning — herunder bias og gennemsigtighed. Dette nye felt af AI bringer ansvarlighed for at sikre, at AI gavner samfundet med bedre resultater for alle involverede.

XAI vil være afgørende for at hjælpe med den bias, der er indbygget i AI-systemer og algoritmer, som er programmeret af mennesker, hvis baggrund og erfaringer utilsigtet fører til udviklingen af AI-systemer, der viser bias. Uønskede bias, såsom diskrimination mod en bestemt nationalitet eller etnicitet, kan snige sig ind, fordi systemet tilføjer en værdi til det baseret på virkelige data. For at illustrere dette kan det fx være, at typiske låneudlåneres skyldige kommer fra en bestemt etnisk baggrund, men at implementere en restriktiv politik baseret på dette kan være imod fair praksis. Fejlbehæftet data er en anden årsag til bias. Eksempelvis kan det være, at en bestemt ansigtsgenkendelsesscanner er upræcis 5% af tiden på grund af personens hudfarve eller lysforholdene på ansigtet, hvilket kan føre til bias. Endelig kan det også føre til bias, hvis din stikprøve ikke er en sand repræsentation for hele populationen.

XAI søger at imødekomme, hvordan sorte kasse-beslutninger i AI-systemer opstår. Det inspicerer og forsøger at forstå de skridt og modeller, der er involveret i beslutningstagningen. Det besvarer afgørende spørgsmål som: Hvorfor tog AI-systemet en bestemt forudsigelse eller beslutning? Hvorfor gjorde AI-systemet ikke noget andet? Når lykkedes AI-systemet eller fejlede det? Når giver AI-systemet nok tillid til beslutningen, så du kan stole på det, og hvordan kan AI-systemet korrigere fejl?

Forklarbar, forudsigelig og sporbart AI

En måde at opnå forklarbarhed i AI-systemer på er at bruge maskinlæringsalgoritmer, der er indbygget forklarbare. For eksempel kan enklere former for maskinlærning som beslutningstræer, Bayesian klassificatorer og andre algoritmer, der har visse mængder af sporbare og gennemsigtighed i deres beslutningstagning, give den nødvendige gennemsigtighed for kritiske AI-systemer uden at ofre for meget ydelse eller nøjagtighed.

Ved at bemærke behovet for at give forklarbarhed for dyb lærning og andre mere komplekse algorithmiske tilgange, forfølger det amerikanske forsvars avancerede forskningsprojektagentur (DARPA) bestræbelser på at produere forklarbare AI-løsninger gennem en række finansierede forskningsinitiativer. DARPA beskriver AI-forklarbarhed i tre dele, der omfatter forudsigelsesnøjagtighed, der betyder, at modellerne vil forklare, hvordan konklusioner opnås for at forbedre fremtidig beslutningstagning; beslutningsforståelse og tillid fra menneskelige brugere og operatører samt inspektion og sporbare handlinger, der udføres af AI-systemerne.

Sporbarhed vil give mennesker mulighed for at komme ind i AI-beslutningsløkker og have mulighed for at stoppe eller kontrollere opgaver, når det er nødvendigt. Et AI-system forventes ikke kun at udføre en bestemt opgave eller påføre beslutninger, men også at give en gennemsigtig rapport om, hvorfor det tog bestemte beslutninger med den underliggende begrundelse.

Standardisering af algoritmer eller selv XAI-tilgange er ikke mulig i øjeblikket, men det kan muligvis være muligt at standardisere niveauer af gennemsigtighed / niveauer af forklarbarhed. Standardiseringsorganisationer forsøger at nå til fælles, standardiserede forståelser af disse niveauer af gennemsigtighed for at lette kommunikation mellem slutbrugere og teknologileverandører.

Som regeringer, institutioner, virksomheder og den generelle offentlighed kommer til at afhænge af AI-baserede systemer, vil det at vinde deres tillid gennem en klarere gennemsigtighed af beslutningsprocessen være fundamentalt. Lanceringen af den første globale konference, der udelukkende er dedikeret til XAI, den Internationale Fælleskonference om kunstig intelligens: Workshop om Forklarbar Kunstig Intelligens, er yderligere bevis på, at XAI-tiden er kommet.