Innføring av nye nivåer av transparens med AI – Tankeledere

Av Balakrishna D R, Senior Vice President, Service Offering Head – Energy, Communications, Services, and AI and Automation services, at Infosys.

Den 9. januar 2020 informerte Verdens helseorganisasjon (WHO) offentligheten om koronavirusutbruddet i Kina. Tre dager tidligere hadde USAs Centers for Disease Control and Prevention (CDC) allerede gitt beskjed. Men det var en kanadisk helseovervåkingsplattform som hadde slått dem begge tilbakelogg, og sendte varsel om utbruddet til sine kunder allerede den 31. desember 2019! Plattformen, BlueDot, bruker kunstig intelligens-drevne algoritmer som gjennomgår utenlandske nyhetsrapporter, dyre- og plantesykdomsnettverk og offisielle erklæringer for å gi kundene varsel i forkant for å unngå farlige soner som Wuhan.

De siste årene har kunstig intelligens blitt en nøkkelkilde til transformasjon, forstyrrelse og konkurransefordel i dagens raskt endrende økonomi. Fra epidemi-sporing til forsvar til helse til selvstyrte kjøretøy og alt imellom, er AI i ferd med å bli allment akseptert. PwC forutser at AI kan bidra med opptil 15,7 billioner dollar til den globale økonomien i 2030, ved dens nåværende vekstrate.

Likevel, for all håpet AI bringer, stiller det fortsatt ubesvarte spørsmål om transparens og tillit. Behovet for å forstå, forutsi og stole på beslutningsevnen til AI-systemer er viktig, spesielt i områder som er kritiske for liv, død og personlig velvære.

In i det ukjente

Når automatiske resoneringssystemer først ble introdusert for å støtte beslutningstaking, baserte de seg på håndlagde regler. Dette gjorde det enkelt å tolke og modifisere deres atferd, men de var ikke skalerbare. Maskinlæringsbaserte modeller ankom for å møte dette behovet; de trengte ikke menneskelig inngripen og kunne trenes fra data – jo mer, jo bedre. Mens dyplæringsmodeller er ubestridte i deres modelleringsevne og anvendelsesområde, raiser det faktum at disse modellene for det meste er svarte bokser, uroende spørsmål om deres sannhet, tillit og fordommer i sammenheng med deres vide bruk.

Det finnes for øyeblikket ingen direkte mekanisme for å spore den resonnering som brukes av dyplæringsmodeller. Med maskinlæringsmodeller som har en svart-boks-natur, er den primære typen forklarbarhet kjent som post-hoc-forklarbarhet, som innebærer at forklaringene er avledet fra naturen og egenskapene til utdataene generert av modellen. Tidlige forsøk på å trekke ut regler fra neurale nettverk (som dyplæring tidligere var kjent som) er ikke lenger forfulgt, siden nettverkene har blitt for store og mangfoldige for å kunne trekke ut regler på en enkel måte. Det er derfor en presses situasjon for å introdusere tolkbarhet og transparens i AI-modelleringens fundament.

Ut av natten, inn i lyset

Dette bekymringen har skapt et behov for transparens i maskinlæring, som har ført til veksten av forklarbar AI, eller XAI. Den søker å løse de største problemene som hindrer vår evne til å fullt ut stole på AI-beslutningstaking — inkludert fordommer og transparens. Dette nye feltet av AI bringer ansvar for å sikre at AI-benefitter samfunnet med bedre resultater for alle involverte.

XAI vil være kritisk i å hjelpe med de fordommer som er innebygget i AI-systemer og algoritmer, som er programmert av mennesker hvis bakgrunn og erfaringer ufrivillig fører til utvikling av AI-systemer som viser fordommer. Uønskede fordommer som diskriminering mot en bestemt nasjonalitet eller etnisitet kan klatre inn fordi systemet legger en verdi til det basert på virkelige data. For å illustrere, kan det være funnet at typiske låne-forfattere kommer fra en bestemt etnisk bakgrunn, men å implementere noen restriktive politikker basert på dette kan være mot rettferdige praksiser. Feilaktige data er en annen årsak til fordommer. For eksempel, hvis en bestemt ansikts-gjenkjenningsscanner er upresis 5% av tiden på grunn av hudfargen eller lysforholdene på ansiktet, kan det føre til fordommer. Til slutt, hvis din stikkprøve-data ikke er en sann representasjon av hele befolkningen, er fordommer uunngåelige.

XAI søker å løse hvordan de svarte boks-beslutningene til AI-systemer tas. Den inspiserte og prøver å forstå de stegene og modellene som er involvert i å ta beslutninger. Den besvarer kritiske spørsmål som: Hvorfor tok AI-systemet en bestemt prediksjon eller beslutning? Hvorfor gjorde AI-systemet ikke noe annet? Når lyktes AI-systemet eller feilet det? Når gir AI-systemet nok tillit til beslutningen slik at du kan stole på den, og hvordan kan AI-systemet korrigere feil?

Forklarbar, forutsigbar og sporbar AI

En måte å oppnå forklarbarhet i AI-systemer på er å bruke maskinlæringsalgoritmer som er innebygd forklarbare. For eksempel, enklere former for maskinlæring som beslutningstrær, Bayesian klassifiserere og andre algoritmer som har visse mengder sporbarhet og transparens i deres beslutningstaking. De kan gi den synligheten som er nødvendig for kritiske AI-systemer uten å ofre for mye ytelse eller nøyaktighet.

Ved å merke behovet for å gi forklarbarhet for dyplæring og andre mer komplekse algoritmer, har USAs Forsvarsavdeling for avanserte forskningsprosjekter (DARPA) initiert innsatsen for å produsere forklarbare AI-løsninger gjennom en rekke finansiert forskningsinitiativer. DARPA beskriver AI-forklarbarhet i tre deler som inkluderer prediksjonsnøyaktighet, som betyr at modellene vil forklare hvordan konklusjoner er nådd for å forbedre fremtidige beslutninger; beslutningsforståelse og tillit fra menneskelige brukere og operatører, samt inspeksjon og sporbarhet av handlinger utført av AI-systemene.

Sporbarhet vil gi mennesker muligheten til å gå inn i AI-beslutningsløkker og ha evnen til å stoppe eller kontrollere oppgavene når det er nødvendig. Et AI-system forventes ikke bare å utføre en bestemt oppgave eller pålegge beslutninger, men også å gi en transparent rapport om hvorfor det tok bestemte beslutninger med den underbyggende begrunnelsen.

Standardisering av algoritmer eller selv XAI-tilnærminger er ikke mulig for øyeblikket, men det kan være mulig å standardisere nivåer av transparens / nivåer av forklarbarhet. Standardiseringsorganisasjoner prøver å nå felles, standard forståelser av disse nivåene av transparens for å lette kommunikasjonen mellom sluttbrukere og teknologileverandører.

Så lenge regjeringer, institusjoner, bedrifter og den generelle offentligheten kommer til å avhenge av AI-baserte systemer, vil å vinne deres tillit gjennom en klarere transparens av beslutningsprosessen være fundamentalt. Lanseringen av den første globale konferansen som er eksklusivt viet til XAI, den internasjonale felleskonferansen om kunstig intelligens: Workshop om forklarbar kunstig intelligens, er ytterligere bevis på at XAI-tiden har kommet.