Hvordan forklarbar AI øker pålitelighet og troverdighet

Mens kunstig intelligens (AI) demokratiseres over hele bedrifter, blir det langsomt en del av vår eksistens. En viktig del av denne demokratiseringen er at sluttbrukerne må kunne forstå fullstendig prosessen og mekanismene som AI bruker for å nå en konklusjon eller hvordan det opererer for å levere de ønskede resultater. Som mennesker har vi en dypt rotfestet behov for å avdekke “hvorfor” og “hvordan” av noe fenomen, som har akselerert vår teknologiske fremgang. I sammenheng med AI, kalles denne forståelsen for “forklarbarhet”.

Hvorfor er forklarbarhet behovet i denne timen?

Ofte nærmer vi oss AI som en “svart boks”, hvor vi bare har kunnskap om inndata og utdata, men noen steder er prosessene som brukes tapt for oss. Dette problemet forverres av faktum at algoritmene som driver de mest populære formene for AI, som komplekse dyp-læring-baserte prediksjonsystemer og naturlig språkbehandling (NLP), er høyt abstrakte selv for de mest erfarne praktikerne.

Tillit og gjennomsiktighet: For at brukerne skal stole på prediksjonene til AI, må det ha en viss grad av forklarbarhet innebygget. For eksempel, hvis en lege må anbefale en behandling basert på prediksjonene til AI, må han/hun være trygg på prediksjonen. En bank må ha full tillit til å avvise eller godkjenne et lån og kunne rettferdiggjøre det samme for alle interessenter. En AI som brukes til skjerming og rekruttering må bevise at de underliggende mekanismene er rettferdige og likeverdige for alle kohorter av søkere.

Gjør AI mer menneskelig og øker adopsjon: I Mckinseys The state of AI in 2020 rapport lærer vi at en produsent bruker ekstremt gjennomsiktige modeller for aksept fra deres fabrikkarbeidere, som må stole på dommene som treffes av AI med hensyn til deres sikkerhet. For rask adopsjon av AI, å få interessentenes godkjenning er det største hindret for å skala fra enkle punktløsninger til bedriftsnivå og få mest mulig ut av investeringen. Dette lettet i stor grad hvis ytelsen er forklarbar for et større publikum. Fra et forretningsperspektiv, øker forklarbarhet den totale brukeropplevelsen og øker kundetilfredshet. Ifølge funnene fra en IBM Institute for Business Value-undersøkelse, mener 68 prosent av topplederne at kundene vil kreve mer forklarbarhet fra AI i de neste tre årene.

Avgjør fordommer og forbedre modellens ytelse: En utvikler må vite hvordan han/hun kan forbedre modellens ytelse, og hvordan han/hun kan feilsøke og finjustere den. En klar forklarbarhetsramme er ett av de viktigste verktøyene for å utføre den grundige analysen som er nødvendig.

Få skarpe, velavruppede innsikter: En fullstendig 360-graders visning er nødvendig for å fullstendig forstå noen resepter som gitt av AI. For eksempel, hvis AI brukes til å gjøre en investeringsbeslutning, må man også vite grunnene bak den, slik at man kan overføre denne læringen til andre områder og også forstå de potensielle fallgruvene ved å ta den beslutningen. En sterk forståelse av hvordan AI opererer, vil også gjøre det mulig for beslutningstakere å avdekke nye bruksområder.

Reguleringer og ansvar: Flere reguleringer som GDPR krever en rett til forklaring, for å håndtere ansvarsproblemer som oppstår fra en automatisert beslutningsprosess. I systemer som autonome kjøretøy, hvis noe går galt og fører til tap av liv og eiendom, er det nødvendig å ha kunnskap om årsaken, som vil være vanskelig å peke på i et svart-boks-system.

Hvordan kan AI være mer forklarbar?

Forklarbar kunstig intelligens-systemer (XAI) utvikles ved hjelp av ulike tekniker som fokuserer på å forklare modellen som en helhet eller forklare grunnene bak enkelt-prediksjoner gjennom assistanse fra noen algoritmer.