Hvordan forklarlig AI forbedrer pålidelighed og troværdighed

Da kunstig intelligens (AI) demokratiseres over virksomheder, bliver det langsomt en del af vores tilværelse. En vigtig aspekt af denne demokratisering er, at slutbrugerne skal kunne fuldt ud forstå processen og mekanismerne, som AI bruger til at nå til en konklusion eller hvordan det fungerer til at levere de ønskede resultater. Som mennesker har vi en dybt rodfæstet behov for at afsløre “hvorfor” og “hvordan” af enhver fænomen, hvilket har accelereret vores teknologiske fremgang. I sammenhæng med AI kaldes denne forståelse for “forklarlighed.”

Hvorfor er forklarlighed behovet af timen?

Ofte tilgår vi AI som en “sort boks”, hvor vi kun har kendskab til input og output, men hvor processerne, der bruges, er tabt for os. Dette problem forværres af, at algoritmerne, der driver de fleste former for AI, såsom komplekse dybe læringssystemer og naturlig sprogbehandling (NLP), er meget abstrakte, selv for deres mest erfarne praktikere.

Tillid og gennemsigtighed: For at brugerne skal kunne stole på AI’s forudsigelser, skal det have en vis grad af forklarlighed i sig. For eksempel, hvis en læge skal anbefale en behandling baseret på AI’s forudsigelser, skal han/hun være sikker på forudsigelsen. En bank skal have fuld tillid til beslutningen om at afvise eller godkende et lån og skal kunne forklare og retfærdiggøre det over for alle interessenter. Et AI-system, der bruges til screening og rekruttering, skal kunne bevise, at de underliggende mekanismer er retfærdige og ligelige for alle grupper af ansøgere.

Gør AI mere menneskeligt og øger adoption: I McKinseys rapport “The state of AI in 2020” lærer vi, at en fabrikant bruger ekstremt transparente modeller til at acceptere deres fabriksarbejdere, som skal stole på AI’s domme om deres sikkerhed. For en hurtig adoption af AI er det at få stakeholderne med på vognen den største hindring for at skala fra simple punktløsninger til virksomhedsniveau og få mest muligt ud af investeringen. Dette lettes i høj grad, hvis resultaterne er forklarlige for det brede publikum. Fra et forretningsperspektiv forbedrer forklarlighed den samlede brugeroplevelse og øger kundetilfredsheden. Ifølge IBM Institute for Business Value-survejen mener 68 procent af topcheferne, at kunderne vil kræve mere forklarlighed fra AI de næste tre år.

Afslører fordomme og forbedrer modelpræstation: En udvikler skal vide, hvordan han/hun kan forbedre modelpræstationen, og hvordan han/hun kan fejlfinde og finjustere den. En klar forklarlighedsramme er et af de vigtigste værktøjer til at udføre den grundige analyse, der er nødvendig.

Får skarpere, mere omfattende indsigt: En fuld 360-graders oversigt er nødvendig for at fuldt ud forstå enhver recept, der gives af AI. For eksempel, hvis AI bruges til at træffe en investeringsbeslutning, skal man også vide, hvilke årsager der ligger til grund for den, så man kan overføre denne viden til andre områder og også forstå de potentielle faldgruber ved at træffe den beslutning. En stærk forståelse af, hvordan AI fungerer, vil også enable beslutningstagerne til at afsløre nye anvendelsesmuligheder.

Reguleringer og ansvar: Flere reguleringer som GDPR kræver en ret til forklaring for at tackle de ansvarlige problemer, der opstår fra automatiserede beslutningsprocesser. I systemer som autonome køretøjer, hvis noget går galt og fører til tab af liv og ejendom, skal man have ordentlig viden om årsagen, hvilket vil være svært at fastslå i et sortboks-system.

Hvordan kan AI gøres mere forklarlig?

Forklarlig kunstig intelligens-systemer (XAI) udvikles ved hjælp af forskellige teknikker, der fokuserer på enten at forklare modellen som helhed eller forklare årsagerne bag enkeltforudsigelser gennem assistance fra en algoritme.

De fleste forklarlighedsteknikker afhænger af:

• At opdele en model i enkeltdele)
• Visualisering af modelprædiktioner (for eksempel, hvis en model klassificerer en bil som en bestemt mærke, fremhæver den den del, der fik den til at markere det som sådan)
• Forklaringsminering (brug af maskinlærings-teknikker til at finde relevant data, der forklarer en kunstig intelligensalgoritmes prædiktionsresultat).

I en sådan teknik kaldet proxy-modelering bruges en simpel og mere forståelig model, som en beslutningstræ, til at repræsentere den mere komplekse AI-model. Disse simple forklaringer giver en rimelig idé om modellen på et højt niveau, men kan undertiden undertrykke visse nuancer.

En anden tilgang kaldes “forklarlighed ved design” Denne tilgang sætter begrænsninger i design og træning af AI-netværket på en ny måde, der forsøger at bygge det samlede netværk fra mindre og mere forklarlige dele . Dette indebærer en afvejning mellem niveauet af nøjagtighed og forklarlighed og begrænser visse tilgange fra datavidenskabens værktøjskasse. Det kan også være meget beregningsintensivt.

AI-træning og -test kan også anvende agnostiske data-verifikationsteknikker som lokal fortolkbar model (LIME) og Shapley Additive forklaringer (SHAP), og disse skal tilpasses for at opnå høj nøjagtighed gennem brug af F-score, præcision og andre mål. Og, selvfølgelig, skal alle resultater overvåges og verificeres ved hjælp af en bred vifte af data. Ved hjælp af LIME kan organisationer for eksempel oprette midlertidige modeller, der efterligner forudsigelserne fra ikke-gennemsigtige algoritmer som maskinlæringsmodeller. Disse LIME-modeller kan derefter oprette en bred vifte af permutationer baseret på en given datamængde og dens tilhørende output, som kan bruges til at træne simple og mere fortolkbare modeller sammen med fulde lister over forklaringer for hver beslutning og/eller forudsigelse. SHAP-rammen, der har sin grund i spilteori og specifikt i samarbejdende spilteori, er en model, der . Den kombinerer optimal kreditfordeling med lokale forklaringer ved hjælp af de oprindelige Shapley-værdier fra spilteori og deres efterkommere.

Principperne for operationer

På et mere strategisk niveau skal AI-pålidelighedsrammer dog omfatte et bredt sæt af principper, der sigter på at sikre ordentlige resultater både ved udgangspunktet for implementering og over tid, når modeller udvikler sig i tilstedeværelse af ændrede omstændigheder. Som minimum skal disse rammer omfatte ting som:

• Forudomsætningsdetektion – alle datamængder skal renses for fordomme og diskriminerende attributter og derefter gives den rette vægt og diskretion, når de anvendes på træningsmodellen;
• Menneskelig indgriben – operatører skal kunne undersøge og fortolke algoritme-outputs til enhver tid, især når modeller bruges til lov og orden og til at bevare borgerlige frihedsrettigheder;
• Begrundelse – alle forudsigelser skal kunne tåle undersøgelse, hvilket af natur kræver en høj grad af gennemsigtighed for at tillade ydre iagttagere at vurdere processerne og kriterierne, der bruges til at producere resultater;
• Reproducerbarhed – pålidelige AI-modeller skal være konsistente i deres forudsigelser og skal udvise høje niveauer af stabilitet, når de møder nye data.

Men XAI skal ikke kun ses som et middel til at forbedre profitabiliteten, men til at bringe ansvar til at sikre, at institutioner kan forklare og retfærdiggøre virkningen af deres skabninger på samfundet som helhed.