AI-forskere udvikler hurtig metode til beregning af tillidsinterval, rapportering om, når modellen ikke skal betros

Forskere fra MIT har nylig udviklet en teknik, der giver dybe neurale netværksmodeller mulighed for hurtigt at beregne tillidsniveauer, hvilket kan hjælpe datavidenskabsfolk og andre AI-brugere med at vide, hvornår de kan stole på modellens forudsigelser.

AI-systemer baseret på kunstige neurale netværk er ansvarlige for flere og flere beslutninger i disse dage, herunder mange beslutninger, der involverer menneskers sundhed og sikkerhed. På grund af dette bør neurale netværk have en metode til at estimere tilliden til deres udgang, så datavidenskabsfolk kan se, hvor pålidelige deres forudsigelser er. For nylig designede et hold af forskere fra Harvard og MIT en hurtig måde for neurale netværk at generere en indikation af en modells tillid sammen med dens forudsigelser.

Dybe neurale modeller er blevet mere og mere avancerede over det sidste årti og kan nu let overgå mennesker i opgaver med dataklassificering. Dybe neurale modeller bruges i fag, hvor menneskers sundhed og sikkerhed kan være i fare, hvis de fejler, f.eks. i kørende selvstændige køretøjer og diagnostisering af medicinske tilstande fra scanninger. I disse tilfælde er det ikke nok, at en model er 99% nøjagtig, for de 1% af gangene, hvor modellen fejler, kan have katastrofale følger. Derfor er der brug for en måde, hvorpå datavidenskabsfolk kan afgøre, hvor pålidelig en given forudsigelse er.

Der er en håndfuld måder, hvorpå et tillidsinterval kan genereres sammen med neurale netværksforudsigelser, men traditionelle metoder til at estimere usikkerhed for et neuralt netværk er ret langsomme og computermæssigt dyre. Neurale netværk kan være utrolig store og komplekse, fyldt med milliarder af parametre. Bare at generere forudsigelser kan være computermæssigt dyrt og tage en betydelig mængde tid, og at generere et tillidsniveau for forudsigelserne tager endnu længere tid. De fleste tidligere metoder til at kvantificere usikkerhed har afhængigt af sampling eller kørsel af et netværk igen og igen for at få en estimat af dets tillid. Dette er ikke altid muligt for anvendelser, der kræver højhastighedstrafik.

Ifølge MIT News leder Alexander Amini det kombinerede forskerhold fra MIT og Harvard, og ifølge Amini accelererer metoden, som deres forskere har udviklet, processen med at generere usikkerhedsestimater ved hjælp af en teknik kaldet “dyb evidensregression”. Amini forklarede via MIT, at datavidenskabsfolk kræver både højhastighedsmodeller og pålidelige estimater af usikkerhed, så uværdige modeller kan afsløres. For at bevare både modellens hastighed og generere et usikkerhedsestimat designede forskerne en måde at estimere usikkerhed fra kun en enkelt kørsel af modellen.

Forskerne designede neuralt netværksmodel på en måde, så en sandsynlighedsfordeling blev genereret sammen med hver beslutning. Netværket fastholdt beviser for sine beslutninger under træningsprocessen og genererede en sandsynlighedsfordeling baseret på beviserne. Den evidensbaserede fordeling repræsenterer modellens tillid, og den repræsenterer usikkerhed for både modellens endelige beslutning og den oprindelige inddata. At fange usikkerhed for både inddata og beslutninger er vigtigt, da reduktion af usikkerhed afhænger af at kende usikkerhedens kilde.

Forskerne testede deres usikkerhedsestimatteknik ved at anvende den på en computerseingsopgave. Efter at modellen var trænet på en række billeder, genererede den både forudsigelser og usikkerhedsestimater. Netværket projicerede korrekt høj usikkerhed for tilfælde, hvor den forkerte forudsigelse blev lavet. “Det var meget kalibreret til fejlene, som netværket laver, hvilket vi mener var en af de vigtigste ting ved at bedømme kvaliteten af en ny usikkerhedsestimator,” sagde Amini om modellens testresultater.

Forskerholdet gennemførte yderligere tests med deres netværksarkitektur. For at stressteste teknikken testede de også data på “udenfor-distribution”-data, datasæt bestående af objekter, som netværket aldrig havde set før. Som forventet rapporterede netværket højere usikkerhed for disse usete objekter. Når det var trænet på indendørs miljøer, viste netværket høj usikkerhed, når det blev testet på billeder fra udendørs miljøer. Testene viste, at netværket kunne fremhæve, når dens beslutninger var underlagt høj usikkerhed og ikke burde betros i visse højrisikosituationer.

Forskerholdet rapporterede endda, at netværket kunne skelne, når billeder var blevet manipuleret. Når forskerholdet ændrede billeder med modstandsnøj, markerede netværket de ændrede billeder med høje usikkerhedsestimater, på trods af at effekten var for subtil til at være synlig for det gennemsnitlige menneskelige øje.

Hvis teknikken viser sig at være pålidelig, kan dyb evidensregression forbedre sikkerheden for AI-modeller generelt. Ifølge Amini kan dyb evidensregression hjælpe mennesker med at træffe omhyggelige beslutninger, når de bruger AI-modeller i risikofyldte situationer. Ifølge Amini via MIT News:

“Vi begynder at se mange flere af disse [neurale netværks]modeller komme ud af forskningslaboratoriet og ind i den virkelige verden, ind i situationer, der berører mennesker med potentielt livstruende konsekvenser. Enhver bruger af metoden, enten det er en læge eller en person i passagersædet på et køretøj, skal være klar over enhver risiko eller usikkerhed forbundet med den beslutning.”