Forskningshold sigter mod at skabe forklarlig AI til ikke-spredning af kernevåben og kernesikkerhed

Forskere fra Pacific Northwest National Laboratory (PNNL) forsøger at gøre AI forklarlig til formålet med ikke-spredning af kernevåben og national sikkerhed. Målet er at gøre beslutninger returneret af AI-modeller gennemsigtige for enhver beslutning, der involverer kernesikkerhed.

Der er mere opmærksomhed end nogensinde tidligere på vigtigheden af forklarlige AI-modeller, i et forsøg på at løse “black box”-problemet med maskinel læring. AI-modeller tillids til at træffe komplekse beslutninger, selv når de ansvarlige for at udføre disse beslutninger ikke forstår rationalet bag disse beslutninger. Jo højere potentialet for katastrofe og fare, disse beslutninger træffes i, desto vigtigere er det, at rationalet bag disse beslutninger er gennemsigtigt.

Det kan ikke være nødvendigt at forstå rationalet bag klassificeringer, hvis en AI-anvendelse udfører noget så enkelt som at kategorisere billeder af frugt, men i tilfælde, der involverer kernevåben eller produktion af kerne materiale, er det bedre at åbne “black box”-æsken under den anvendte AI i disse scenarier.

PNNL-forskere arbejder på at gøre AI forklarlig ved hjælp af en række nye teknikker. Disse forskere arbejder sammen med Department of Energy’s National Nuclear Security Administration (NNSA)’s Office of Defense Nuclear Nonproliferation Research and Development (DNN R&D). DNN R&D er ansvarlig for overvågningen af USA’s evne til at overvåge og opdage produktionen af kerne materiale, udviklingen af kernevåben og detonationen af kernevåben over hele verden.

Da risikoen er så høj, når det kommer til spørgsmål om ikke-spredning af kernevåben, er det kritisk at vide, hvordan en AI-system når til sine konklusioner om disse spørgsmål. Angie Sheffield er en senior program manager i DNN R&D. Ifølge Sheffield kan det ofte være svært at integrere nye teknologier som AI-modeller i traditionelle videnskabelige teknikker og rammer, men processen med at integrere AI i disse systemer kan gøres lettere ved at designe nye måder at interagere mere effektivt med disse systemer. Sheffield argumenterer for, at forskere skal skabe værktøjer, der giver udviklere mulighed for at forstå, hvordan disse avancerede teknikker fungerer.

Den relative mangel på data om kerneeksplosioner og udvikling af kernevåben betyder, at forklarlig AI er endnu mere vigtig. Træning af AI-modeller i dette område resulterer i modeller, der kan være mindre pålidelige på grund af den relativt liden mængde data i forhold til en opgave som ansigtsgenkendelse. Derfor skal hver enkelt trin i processen, som modellen bruger til at træffe en beslutning, være gennemgangen.

Mark Greaves, en forsker ved PNNL, forklarede, at risikoen ved kernevåben-spredning kræver et system, der kan informere mennesker om, hvorfor en given beslutning er valgt.

Som Greaves forklarede via EurekaAlert:

“Hvis et AI-system giver en fejlbeslutning om, hvorvidt en nation besidder et kernevåben, er det et problem af en anden skala. Så vores system skal i hvert fald producere forklaringer, så mennesker kan kontrollere dens konklusioner og bruge deres egen ekspertise til at korrigere for AI-træningslukninger forårsaget af data-mangelen.”

Som Sheffield forklarede, har PNNL to styrker, der vil hjælpe dem med at løse dette problem. Først har PNNL omfattende erfaring inden for AI-området. Desuden har holdet betydelig domæne-kendskab, når det kommer til kerne materiale og våben. PNNL-holdet forstår spørgsmål som bearbejdningen af plutonium og de typer af signaler, der er unikke for udviklingen af kernevåben. Kombinationen af AI-erfaring, national sikkerheds-erfaring og kerne-domæne-kendskab betyder, at PNNL er unikt egnet til at håndtere spørgsmål om kerne-national sikkerhed og AI.