AI-forskere utvikler rask metode for å beregne konfidensintervaller, rapporterer når modellen ikke burde være tillitsfull

Forskere fra MIT har nylig utviklet en teknikk som gjør det mulig for dyptlæringsnettverksmodeller å raskt beregne konfidensnivåer, noe som kan hjelpe dataforskere og andre AI-brukere å vite når de kan stole på forutsagnene som modellen gir.

AI-systemer basert på kunstige nevralt nettverk er ansvarlige for flere og flere beslutninger i disse dager, inkludert mange beslutninger som involverer menneskers helse og sikkerhet. På grunn av dette bør nevralt nettverk ha en metode for å estimere konfidensen i sine utdata, slik at dataforskere kan si hvor tillitsfulle forutsagnene er. Nylig designet et team av forskere fra Harvard og MIT en rask måte for nevralt nettverk å generere en indikasjon av en modells konfidens sammen med sine forutsagn.

Dyptlæringsmodeller har blitt mer og mer sofistikerte over de siste ti årene, og nå kan de lett overstige mennesker på dataklassifiseringsoppgaver. Dyptlæringsmodeller brukes i felt hvor menneskers helse og sikkerhet kan være i fare hvis de feiler, som å kjøre selvstyrte kjøretøy og diagnostisere medisinske tilstander fra skanninger. I disse tilfellene er det ikke nok at en modell er 99% nøyaktig, de 1% av gangene modellen feiler, har potensialet til å føre til katastrofe. Derfor må det finnes en måte for dataforskere å bestemme hvor tillitsfulle forutsagnene er.

Det finnes noen måter å generere konfidensintervaller sammen med nevralt nettverks forutsagn, men tradisjonelle metoder for å estimere usikkerhet for et nevralt nettverk er ganske langsomme og komputasjonskrevende. Nevralt nettverk kan være usedvanlig store og komplekse, fylt med milliarder av parametre. Bare å generere forutsagn kan være komputasjonskrevende og ta en betydelig mengde tid, og å generere en konfidensnivå for forutsagnene tar enda lenger. De fleste tidligere metoder for å kvantifisere usikkerhet har avhengt av stikprøving eller å kjøre nettverket om og om igjen for å få en estimat av dens konfidens. Dette er ikke alltid mulig for applikasjoner som krever høyhastighets-trafikk.

Ifølge MIT News, leder Alexander Amini den kombinerte gruppen av forskere fra MIT og Harvard, og ifølge Amini akselererer metoden utviklet av deres forskere prosessen med å generere usikkerhetsestimater ved å bruke en teknikk kalt “dypt bevisregresjon”. Amini forklarte via MIT at dataforskere trenger både høyhastighetsmodeller og pålitelige estimater av usikkerhet så de kan skille ut upålitelige modeller. For å bevare både modellens hastighet og generere et usikkerhetsestimat, designet forskerne en måte å estimere usikkerhet fra bare en enkelt kjøring av modellen.

Forskerne designet nevralt nettverksmodellen slik at en probabilistisk distribusjon ble generert sammen med hver beslutning. Nettverket holder på bevis for sine beslutninger under treningprosessen, og genererer en sannsynlighetsfordeling basert på beviset. Bevisfordelingen representerer modellens konfidens, og den representerer usikkerhet både for modellens endelige beslutning og det opprinnelige inndata. Å fange usikkerhet for både inndata og beslutninger er viktig, da reduksjon av usikkerhet avhenger av å kjenne til kilden til usikkerheten.

Forskerne testet sin usikkerhetsEstimat-teknikk ved å bruke den på en datavisjonsoppgave. Etter at modellen var trent på en rekke bilder, genererte den både forutsagn og usikkerhetsEstimater. Nettverket projiserte riktig høy usikkerhet for eksempler hvor feil forutsagn ble gjort. “Det var veldig kalibrert til feilene nettverket gjorde, som vi tror var en av de viktigste tingene i å vurdere kvaliteten på en ny usikkerhetsEstimat,” sa Amini om modellens testresultater.

Forskingsteamet gjennomførte flere tester med sin nettverksarkitektur. For å strekke-teste tekniken, testet de også dataene på “utenfor-distribusjons”-data, datasamlinger bestående av objekter nettverket aldri hadde sett før. Som forventet, rapporterte nettverket høyere usikkerhet for disse ukjente objektene. Når de var trent på innendørs-miljøer, viste nettverket høy usikkerhet når de ble testet på bilder fra utendørs-miljøer. Testene viste at nettverket kunne highlighte når dens beslutninger var underlagt høy usikkerhet og ikke burde være tillitsfulle i visse, høyrisikosituasjoner.

Forskingsteamet rapporterte også at nettverket kunne skille når bilder var blitt forfalsket. Når forskningsteamet endret bilder med motstridende støy, merket nettverket de nyendrede bildene med høye usikkerhetsEstimater, til tross for at effekten var for subtil til å være synlig for det gjennomsnittlige menneskelige observatøren.

Hvis tekniken viser seg å være pålitelig, kan dypt bevisregresjon forbedre sikkerheten til AI-modeller generelt. Ifølge Amini kan dypt bevisregresjon hjelpe mennesker med å ta forsiktige beslutninger når de bruker AI-modeller i risikofylte situasjoner. Som Amini forklarte via MIT News:

“Vi begynner å se mer og mer av disse [nevralt nettverks] modellene dryppe ut av forskningslaboratoriet og inn i den virkelige verden, inn i situasjoner som berører mennesker med potensielt livstruende konsekvenser. Enhver bruker av metoden, enten det er en lege eller en person i passasjersetet i et kjøretøy, må være klar over enhver risiko eller usikkerhet forbundet med den beslutningen.”