Forskningslag har som mål å skape forklarbar AI for ikke-spredning av atomvåpen og atom sikkerhet

Forskere fra Pacific Northwest National Laboratory (PNNL) prøver å gjøre AI forklarbar for formålet med ikke-spredning av atomvåpen og nasjonal sikkerhet. Målet er å gjøre beslutninger returnert av AI-modeller transparente for alle beslutninger som involverer atom sikkerhet.

Mer oppmerksomhet enn noensinne blir nå gitt til viktigheten av forklarbar AI-modeller, i et forsøk på å løse “black box”-problemet med maskinlæring. AI-modeller blir ofte betrodd å ta komplekse beslutninger selv når de som er ansvarlige for å utføre disse beslutningene ikke forstår grunnlaget for disse beslutningene. Jo høyere potensialet for katastrofe og fare disse beslutningene tas i, jo viktigere er det at grunnlaget for disse beslutningene er transparent.

Det kan ikke være nødvendig å forstå grunnlaget for klassifiseringer hvis en AI-applikasjon gjør noe så enkelt som å kategorisere bilder av frukt, men for tilfeller som involverer atomvåpen eller produksjon av atommateriale, er det bedre å åpne “black box”-en som ligger under AI som brukes i disse scenariene.

PNNL-forskere arbeider med å gjøre AI forklarbar ved hjelp av en rekke nye tekniker. Disse forskerne arbeider sammen med Department of Energy’s National Nuclear Security Administration (NNSA)’s Office of Defense Nuclear Nonproliferation Research and Development (DNN R&D). DNN R&D er ansvarlig for overvåkingen av USAs evne til å overvåke og detektere produksjon av atommateriale, utvikling av atomvåpen og detonering av atomvåpen over hele verden.

Med tanke på hvor høye risikene er når det gjelder spørsmål relatert til ikke-spredning av atomvåpen, er det kritisk å vite hvordan en AI-system når frem til sine konklusjoner om disse spørsmålene. Angie Sheffield er en senior programleder i DNN R&D. Ifølge Sheffield kan det ofte være vanskelig å inkorporere nye teknologier som AI-modeller i tradisjonelle vitenskapelige teknikker og rammeverk, men prosessen med å inkorporere AI i disse systemene kan gjøres lettere ved å designe nye måter å samhandle mer effektivt med disse systemene. Sheffield argumenterer for at forskerne bør skape verktøy som gjør det mulig for utviklere å forstå hvordan disse sofistikerte teknikkene opererer.

Den relative mangel på data som involverer atom-eksplosjoner og utvikling av atomvåpen betyr at forklarbar AI er enda viktigere. Trening av AI-modeller i dette rommet resulterer i modeller som kan være mindre pålitelige på grunn av hvor lite data det er sammenlignet med en oppgave som ansiktsgjenkjenning. Som en følge av dette må hver enkelt steg i prosessen som modellen bruker til å ta en beslutning være inspisert.

Mark Greaves, en forsker ved PNNL, forklarte at risikoen som er innebygget i spredning av atomvåpen krever et system som kan informere mennesker om hvorfor en bestemt beslutning er valgt.

Som Greaves forklarte via EurekaAlert:

“Hvis et AI-system gir en feilaktig sannsynlighet for om en nasjon besitter et atomvåpen, er det et problem av en annen skala helt. Så vårt system må i det minste produsere forklaringer så mennesker kan sjekke konklusjonene og bruke sin egen ekspertise til å korrigere for AI-treningsgap som skyldes sparsomheten av data.”

Som Sheffield forklarte, har PNNL to styrker som vil hjelpe dem med å løse dette problemet. Først og fremst har PNNL betydelig erfaring i AI-feltet. I tillegg har teamet betydelig domenekunnskap når det gjelder atommateriale og våpen. PNNL-teamet forstår spørsmål som prosessering av plutonium og typene signaler som er unike for utvikling av atomvåpen. Kombinasjonen av AI-erfaring, nasjonal sikkerhetserfaring og atom-domenekunnskap betyr at PNNL er unikt godt egnet til å håndtere spørsmål relatert til atom-nasjonal sikkerhet og AI.