Forklarbarhet kan løse hver industris AI-problem: Mangel på transparens

Av: Migüel Jetté, VP of R&D Speech, Rev.

I sine tidlige faser kunne AI kanskje hvile på laurelene til nyheten. Det var greit for maskinlæring å lære langsomt og vedlikeholde en tåkete prosess der AI-regningen var umulig for den gjennomsnittlige forbrukeren å trenger. Dette er i ferd med å endre seg. Etterhvert som flere industrier, som helse, finansielle tjenester og rettsvesenet, begynner å bruke AI på måter som kan ha reell innvirkning på folks liv, ønsker flere å vite hvordan algoritmene brukes, hvordan dataene innhentes og hvor nøyaktige deres evner er. Hvis selskaper ønsker å forbli i fremkant av innovasjon i sine markeder, må de stole på AI som deres publikum vil stole på. Forklarbar AI er den viktigste ingrediensen for å dykke denne relasjonen.

AI-forklarbarhet skiller seg fra standard AI-prosedyrer fordi den tilbyr mennesker en måte å forstå hvordan maskinlæringsalgoritmene skaper utdata. Forklarbar AI er et system som kan gi mennesker potensielle resultater og svakheter. Det er et maskinlæringsystem som kan oppfylle det menneskelige ønsket om rettferdighet, ansvar og respekt for personvern. Forklarbar AI er avgjørende for bedrifter å bygge tillit hos forbrukerne.

Mens AI utvides, må AI-leverandører forstå at den sorte boksen ikke kan. Svarte boks-modeller er skapt direkte fra dataene og ofte kan ikke engang utvikleren som skapte algoritmen identifisere hva som drev maskinens lærte vaner. Men den samvittige forbrukeren ønsker ikke å engasjere seg med noe så ugjennomtrengelig at det ikke kan holdes ansvarlig. Folk ønsker å vite hvordan en AI-algoritme kommer frem til et bestemt resultat uten mysteriet om kildeinndata og kontrollert utdata, spesielt når AI-feil ofte skyldes maskinbias. Etterhvert som AI blir mer avansert, ønsker folk å få tilgang til maskinlæringsprosessen for å forstå hvordan algoritmen kom frem til sitt bestemte resultat. Ledere i hver industri må forstå at folk etterhvert ikke lenger vil foretrekke denne tilgangen, men kreve den som et nødvendig nivå av transparens.

Tale-gjenkjenningssystemer som taleaktiverede assistenter, transkripsjonsteknologi og andre tjenester som omgjør menneskelig tale til tekst, er spesielt rammet av bias. Når tjenesten brukes til sikkerhetstiltak, kan feil på grunn av aksenter, en persons alder eller bakgrunn, være alvorlige feil, så problemet må tas alvorlig. Tale-gjenkjenning kan brukes effektivt i politiets kroppskameraer, for eksempel, til å automatisk opptage og transkribere interaksjoner — å holde en rekord som, hvis transkribert nøyaktig, kunne redde liv. Praksisen med forklarbarhet vil kreve at AI ikke bare baserer seg på kjøpte datasamlinger, men søker å forstå karakteristikkene ved innkommende lyd som kan bidra til feil hvis noen finnes. Hva er den akustiske profilen? Er det støy i bakgrunnen? Er taleren fra et ikke-engelsk land eller fra en generasjon som bruker en vokabular som AI-en ikke har lært ennå? Maskinlæring må være proaktiv i å lære raskere og kan starte med å samle inn data som kan håndtere disse variablene.

Nødvendigheten blir mer og mer åpenbar, men veien til å implementere denne metoden vil ikke alltid ha en enkel løsning. Den tradisjonelle løsningen på problemet er å legge til mer data, men en mer sofistikert løsning vil være nødvendig, spesielt når de kjøpte datasamlingene mange selskaper bruker, er innebygget bias. Dette skyldes at det historisk sett har vært vanskelig å forklare en bestemt beslutning som ble avgjort av AI, og det skyldes kompleksiteten til sluttpunkt-modellene. Men nå kan vi, og vi kan starte med å spørre hvordan folk mistet tillit til AI fra første sted.

Uunngåelig vil AI gjøre feil. Selskaper må bygge modeller som er klar over potensielle svakheter, identifisere når og hvor problemene skjer, og skape løsninger for å bygge sterkere AI-modeller:

1. Når noe går galt, må utviklerne forklare hva som skjedde og utvikle en umiddelbar plan for å forbedre modellen og redusere fremtidige, lignende feil.
2. For at maskinen faktisk skal vite om den var riktig eller feil, må forskerne skape en tilbakemeldingsløkke så AI kan lære av sine svakheter og utvikle seg.
3. En annen måte for tale-gjenkjenning å bygge tillit mens AI-en fortsatt er under utvikling, er å skape et system som kan gi tillitsverdier, og gi grunner til hvorfor AI-en er mindre sikker. For eksempel, genererer selskaper vanligvis poeng fra null til 100 for å reflektere sine egne AI-feil og etablere transparens med sine kunder. I fremtiden kan systemer gi forklaringer etterpå for hvorfor lyden var utfordrende ved å tilby mer metadata om lyden, som oppfattet støynivå eller en mindre forstått aksent.

Ekstra transparens vil føre til bedre menneskelig tilsyn over AI-trening og ytelse. Jo mer åpen vi er om hvor vi må forbedre oss, jo mer ansvarlig er vi for å iverksette disse forbedringene. For eksempel, kan en forsker ønske å vite hvorfor feil tekst ble utgangsdata så de kan mildne problemet, mens en transkriptør kan ønske bevis for hvorfor tale-gjenkjenning feilaktig tolket innputt for å hjelpe med deres vurdering av dens gyldighet. Å holde mennesker i løkken kan mildne noen av de mest åpenbare problemene som oppstår når AI går ukontrollert. Det kan også påskynde tiden det tar for AI å fange sine feil, forbedre og til slutt korrigere seg i sanntid.

AI har evnen til å forbedre folks liv, men bare hvis mennesker bygger det for å produsere riktig. Vi må holde ikke bare disse systemene ansvarlige, men også menneskene bak innovasjonen. AI-systemer i fremtiden forventes å følge prinsippene som er fastsatt av mennesker, og bare da vil vi ha et system som folk stoler på. Det er på tide å legge grunnarbeidet og strebe etter disse prinsippene nå, mens det fortsatt er mennesker som tjener oss selv.