Forklarlighed kan løse enhver branche’s AI-problem: Mangel på gennemsigtighed

Af: Migüel Jetté, VP of R&D Speech, Rev.

I sine tidlige stadier kunne AI måske hvile på laurelerne af nytten. Det var okay for maskinlæring at lære langsomt og opretholde en uigennemskuelig proces, hvor AI’s beregning var umulig for den gennemsnitlige forbruger at gennemtrænge. Det ændrer sig. Da flere brancher som sundhedssektoren, finanssektoren og retssystemet begynder at udnytte AI på måder, der kan have reel indvirkning på folks liv, vil flere mennesker vide, hvordan algoritmerne bruges, hvordan dataene indhentes, og hvor præcise deres evner er. Hvis virksomheder vil forblive i frontlinjen for innovation i deres markeder, har de brug for at stole på AI, som deres publikum vil stole på. AI-forklarlighed er den afgørende ingrediens til at dykke dette forhold.

AI-forklarlighed adskiller sig fra standard AI-procedurer, fordi den tilbyder mennesker en måde at forstå, hvordan maskinlæringsalgoritmerne skaber output. Forklarlig AI er et system, der kan give mennesker mulige resultater og svagheder. Det er et maskinlæringsystem, der kan opfylde det menneskelige ønske om retfærdighed, ansvarlighed og respekt for privatliv. Forklarlig AI er afgørende for virksomheder at bygge tillid hos forbrugerne.

Da AI udvikler sig, har AI-udbydere brug for at forstå, at den sorte kasse ikke kan. Sorte kasse-modeller er oprettet direkte fra data og ofte kan ikke engang udvikleren, der skabte algoritmen, identificere, hvad der drev maskinens læring. Men den samvittighedsfulde forbruger vil ikke engagere sig med noget så uigennemskueligt, at det ikke kan holdes ansvarligt. Mennesker vil vide, hvordan en AI-algoritme når til et bestemt resultat uden mysteriet om indhentede data og kontrolleret output, især når AI’s fejltagelser ofte skyldes maskinbias. Da AI bliver mere avanceret, vil mennesker have adgang til maskinlæringsprocessen for at forstå, hvordan algoritmen nåede til sit bestemte resultat. Ledere i hver branche må forstå, at mennesker snart ikke længere vil foretrække denne adgang, men kræve den som et nødvendigt niveau af gennemsigtighed.

Talegenkendelsessystemer som taleaktiverede assistenter, transkriptionsteknologi og andre tjenester, der konverterer menneskesprog til tekst, er især ramt af bias. Når tjenesten bruges til sikkerhedsforanstaltninger, kan fejl på grund af accenter, en persons alder eller baggrund være alvorlige fejl, så problemet må tages alvorligt. Talegenkendelse kan bruges effektivt i politiets bodycams, for eksempel, til automatisk at optage og transkribere interaktioner – og holde en optagelse, der, hvis den er transkriberet korrekt, kunne redde liv. Praksis med forklarlig AI vil kræve, at AI ikke blot afhænger af købte datasæt, men søger at forstå karakteristikkerne af den indkommende lyd, der kan bidrage til fejl, hvis nogen findes. Hvad er den akustiske profil? Er der støj i baggrunden? Er taleren fra et ikke-engelsktalende land eller fra en generation, der bruger en vokabular, som AI endnu ikke har lært? Maskinlæring har brug for at være proaktiv i at lære hurtigere og kan starte med at indsamle data, der kan tackle disse variabler.

Nødvendigheden bliver mere og mere tydelig, men vejen til at implementere denne metode vil ikke altid have en let løsning. Den traditionelle løsning på problemet er at tilføje mere data, men en mere sofistikeret løsning vil være nødvendig, især når de købte datasæt, mange virksomheder bruger, er indbygget fordrejet. Dette skyldes, at det historisk set har været svært at forklare en bestemt beslutning, der er truffet af AI, og det skyldes kompleksiteten af de end-to-end-modeller. Men vi kan nu, og vi kan starte med at spørge, hvordan mennesker tabte tillid til AI fra starten.

Uundgåeligt vil AI begå fejl. Virksomheder har brug for at bygge modeller, der er bevidste om potentielle svagheder, identificere, hvornår og hvor problemerne opstår, og skabe løsninger for at bygge stærkere AI-modeller:

1. Når noget går galt, har udviklere brug for at forklare, hvad der skete, og udvikle en umiddelbar plan for at forbedre modellen for at mindske fremtidige, lignende fejl.
2. For at maskinen kan vide, om den havde ret eller forkert, har videnskabsmænd brug for at oprette en feedback-løkke, så AI kan lære af sine svagheder og udvikle sig.
3. En anden måde for talegenkendelse at bygge tillid, mens AI stadig forbedres, er at oprette et system, der kan give tillidsscore, og give grunde til, hvorfor AI er mindre tillidsfuld. For eksempel genererer virksomheder typisk score fra 0 til 100 for at reflektere deres egen AI’s fejl og etablere gennemsigtighed med deres kunder. I fremtiden kan systemer give efterfølgende forklaringer til, hvorfor lyden var udfordrende ved at tilbyde mere metadata om lyden, såsom opfattet støjeniveau eller en mindre forstået accent.

Yderligere gennemsigtighed vil resultere i bedre menneskelig oversigt over AI-træning og -præstation. Jo mere åbne vi er om, hvor vi har brug for at forbedre, jo mere ansvarlige er vi for at tage handling på disse forbedringer. For eksempel kan en forsker ønske at vide, hvorfor fejlagtig tekst blev produceret, så de kan afhjælpe problemet, mens en transkriptionsassistent kan ønske bevis for, hvorfor talegenkendelse misfortolkede input for at hjælpe med deres vurdering af dets gyldighed. At holde mennesker i løkken kan afhjælpe nogle af de mest åbenlyse problemer, der opstår, når AI bliver utilpasset. Det kan også accelerere den tid, der er nødvendig for AI at fange sine fejl, forbedre og korrigere sig selv i realtid.

AI har evnerne til at forbedre folks liv, men kun hvis mennesker bygger det til at fungere korrekt. Vi har brug for at holde ikke kun disse systemer ansvarlige, men også de mennesker bag innovationen. AI-systemer i fremtiden forventes at overholde de principper, der er fastsat af mennesker, og kun dengang vil vi have et system, som mennesker stoler på. Det er tid at lægge grundstenen og stræbe efter disse principper nu, mens det endnu er mennesker, der serverer os selv.