Hvad er forklarlige AI?

Da kunstig intelligens (AI) bliver mere kompleks og bredt anvendt i samfundet, er en af de vigtigste processer og metoder forklarlige AI (XAI).

Forklarlige AI kan defineres som:

• En samling af processer og metoder, der hjælper menneskelige brugere med at forstå og stole på resultaterne af maskinel læring.

Som du kan gætte, er denne forklarlighed utrolig vigtig, da AI-algoritmer tager kontrol over mange sektorer, hvilket medfører en risiko for bias, fejlbehæftede algoritmer og andre problemer. Ved at opnå gennemsigtighed med forklarlighed kan verden virkelig udnytte kraften af AI.

Forklarlige AI hjælper, som navnet antyder, med at beskrive en AI-model, dens påvirkning og potentielle bias. Det spiller også en rol i karakterisering af modelpræcision, fairhed, gennemsigtighed og resultater i AI-drevne beslutningsprocesser.

I dag skal AI-drevne organisationer altid adoptere forklarlige AI-processer for at opbygge tillid og tillid til AI-modellerne i produktion. Forklarlige AI er også nøgle til at blive en ansvarlig virksomhed i dagens AI-miljø.

Fordi dagens AI-systemer er så avancerede, udfører mennesker normalt en beregningsproces for at genspore, hvordan algoritmen nåede til sin result. Denne proces bliver en “sort boks”, hvilket betyder, at det er umuligt at forstå. Når disse uforklarlige modeller udvikles direkte fra data, kan ingen forstå, hvad der sker inde i dem.

Ved at forstå, hvordan AI-systemer fungerer gennem forklarlige AI, kan udviklere sikre, at systemet fungerer, som det skal. Det kan også hjælpe med at sikre, at modellen opfylder regulatoriske standarder, og det giver mulighed for, at modellen kan udfordres eller ændres.

Billede: Dr. Matt Turek/DARPA

Forskelle mellem AI og XAI

Nogle nøgleforskelle adskiller “almindelig” AI fra forklarlige AI, men det vigtigste er, at XAI implementerer bestemte teknikker og metoder, der hjælper med at sikre, at hver beslutning i ML-processen er sporbare og forklarlige. I modsætning hertil ankommer almindelig AI normalt til sin result ved hjælp af en ML-algoritme, men det er umuligt at fuldt ud forstå, hvordan algoritmen nåede til sin result. I tilfælde af almindelig AI er det ekstremt svært at kontrollere nøjagtighed, hvilket resulterer i en tab af kontrol, ansvarlighed og gennemsigtighed.

Fordele ved forklarlige AI

Der er mange fordele for enhver organisation, der søger at adoptere forklarlige AI, såsom:

• Hurtigere resultater: Forklarlige AI giver organisationer mulighed for systematisk at overvåge og styre modeller for at optimere forretningsresultater. Det er muligt at løbende evaluere og forbedre modelpræcision og finjustere modeludvikling.
  
• Mindre risici: Ved at adoptere forklarlige AI-processer sikrer du, at dine AI-modeller er forklarlige og gennemsigtige. Du kan styre regulatoriske, overholdelses-, risici og andre krav, samtidig med at du minimiserer omkostningerne ved manuel inspektion. Alt dette hjælper også med at mindske risikoen for uventet bias.  
• Opbygge tillid: Forklarlige AI hjælper med at opbygge tillid i produktions-AI. AI-modeller kan hurtigt bringes i produktion, du kan sikre fortolkning og forklarlighed, og modelvurderingsprocessen kan simplificeres og gøres mere gennemsigtig.

Teknikker for forklarlige AI

Der er nogle XAI-teknikker, som alle organisationer bør overveje, og de består af tre hovedmetoder: prædictionsnøjagtighed, sporbarehed og beslutningsforståelse.

Den første af de tre metoder, prædictionsnøjagtighed, er afgørende for at bruge AI med succes i daglig drift. Simulationer kan udføres, og XAI-udgang kan sammenlignes med resultaterne i træningsdatasset, hvilket hjælper med at bestemme prædictionsnøjagtighed. En af de mere populære teknikker til at opnå dette er kaldet Local Interpretable Model-Agnostic Explanations (LIME), en teknik, der forklarer klassificeringsprædiktioner af maskinlæringsalgoritmen.

Den anden metode er sporbarehed, som opnås ved at begrænse, hvordan beslutninger kan træffes, samt ved at etablere en smallere rækkevidde for maskinlæringsregler og funktioner. En af de mest almindelige sporbarehedsteknikker er DeepLIFT, eller Deep Learning Important FeaTures. DeepLIFT sammenligner aktiveringen af hver neuron med dens reference-neuron, mens det demonstrerer en sporbare forbindelse mellem hver aktiveret neuron. Det viser også afhængighederne mellem dem.

Den tredje og sidste metode er beslutningsforståelse, som er fokuseret på mennesker, i modsætning til de to andre metoder. Beslutningsforståelse indebærer at uddanne organisationen, specifikt teamet, der arbejder med AI, for at enable dem til at forstå, hvordan og hvorfor AI træffer beslutninger. Denne metode er afgørende for at etablere tillid til systemet.

Forklarlige AI-principper

For at give en bedre forståelse af XAI og dets principper giver National Institute of Standards (NIST), der er en del af det amerikanske handelsministerium, definitioner for fire principper for forklarlige AI:

1. Et AI-system skal give bevis, støtte eller begrundelse for hver udgang.  
2. Et AI-system skal give forklaringer, der kan forstås af dens brugere.  
3. Forklaringen skal præcis reflektere processen, som systemet brugte til at nå til sin udgang.  
4. AI-systemet skal kun fungere under de betingelser, det er designet til, og det skal ikke give udgang, når det mangler tilstrækkelig tillid til resultaterne.

Disse principper kan organiseres yderligere i:

• Meningfuld: For at opnå principperne om meningfuldhed skal en bruger forstå forklaringen. Dette kunne også betyde, at i tilfælde af en AI-algoritme, der bruges af forskellige typer brugere, der kan være flere forklaringer. For eksempel i tilfælde af en selvstyrende bil, kunne en forklaring være noget i retning af …”AI-kategoriserede den plastikpose på vejen som en sten og tog derefter handling for at undgå at ramme den.” Mens dette eksempel ville fungere for chaufføren, ville det ikke være meget nyttigt for en AI-udvikler, der søger at korrigere problemet. I det tilfælde skal udvikleren forstå, hvorfor der var en mis klassificering.  
• Forklaringens nøjagtighed: I modsætning til udgangsnøjagtighed indebærer forklaringens nøjagtighed, at AI-algoritmen præcist forklarer, hvordan den nåede til sin udgang. For eksempel, hvis en lånegodkendelsesalgoritme forklarer en beslutning baseret på en ansøgningsindkomst, når det i virkeligheden var baseret på ansøgerens bopæl, ville forklaringen være ukorrekt.  
• Vidensgrænser: AI’ens vidensgrænser kan nås på to måder, og det indebærer, at input er uden for systemets ekspertise. For eksempel, hvis et system er bygget til at klassificere fuglearter og det får et billede af et æble, skal det være i stand til at forklare, at input ikke er en fugl. Hvis systemet får et uklart billede, skal det være i stand til at rapportere, at det ikke kan identificere fuglen på billedet, eller alternativt, at dens identifikation har meget lav tillid.

Dataens rolle i forklarlige AI

En af de vigtigste komponenter i forklarlige AI er data.

Ifølge Google (GOOGL ) , med hensyn til data og forklarlige AI, “er et AI-system bedst forstået af den underliggende træningsdata og træningsprocessen, samt den resulterende AI-model.” Denne forståelse er afhængig af evnen til at knytte en trænet AI-model til den præcise datasset, der blev brugt til at træne den, samt evnen til at undersøge dataen nærmere.

For at forbedre forklarligheden af en model er det vigtigt at være opmærksom på træningsdata. Teamene skal bestemme oprindelsen af data, der blev brugt til at træne en algoritme, lovligheden og etikken omkring dets erhvervelse, eventuel bias i data og hvad der kan gøres for at mindske eventuel bias.

En anden kritisk aspekt af data og XAI er, at data, der ikke er relevant for systemet, skal udelades. For at opnå dette skal irrelevante data ikke inkluderes i træningssættet eller inputdata.

Google har anbefalet en række praksis for at opnå fortolkning og ansvarlighed:

• Planlæg dine muligheder for at forfølge fortolkning
• Behandle fortolkning som en kernefunktion i brugeroplevelsen
• Design modellen til at være fortolkelig
• Vælg målinger, der afspejler slutmålet og slutopgaven
• Forstå den trænede model
• Kommuniker forklaringer til modelbrugere
• Udfør en masse test for at sikre, at AI-systemet fungerer, som det er tænkt

Ved at følge disse anbefalede praksis kan din organisation sikre, at den opnår forklarlige AI, hvilket er nøgle til enhver AI-dreven organisation i dagens miljø.