Forskningsgrupp strävar efter att skapa förklarlig AI för kärnkraftsnonproliferation och kärnkraftssäkerhet

Forskare från Pacific Northwest National Laboratory (PNNL) försöker göra AI förklarlig för ändamålet med kärnkraftsnonproliferation och nationell säkerhet. Målet är att göra de beslut som returneras av AI-modeller transparenta för alla beslut som involverar kärnkraftssäkerhet.

Mer uppmärksamhet än någonsin ägnas åt vikten av förklarliga AI-modeller, i ett försök att lösa “black box”-problemet med maskinlärning. AI-modeller litar ofta på att fatta komplexa beslut även när de som är ansvariga för att verkställa dessa beslut inte förstår resonemanget bakom besluten. Ju större potential för katastrof och fara som dessa beslut fattas i, desto viktigare är det att resonemanget bakom besluten är transparent.

Det kan inte vara nödvändigt att förstå resonemanget bakom klassificeringar om en AI-tillämpning gör något så enkelt som att kategorisera bilder av frukt, men för fall som involverar kärnvapen eller produktion av kärnmaterial, är det bättre att öppna den “black box” som ligger till grund för den AI som används i dessa scenarier.

PNNL-forskare arbetar för att göra AI förklarlig med hjälp av en mängd nya tekniker. Dessa forskare arbetar tillsammans med USA:s energidepartements National Nuclear Security Administration (NNSA):s kontor för försvarsrelaterad kärnkraftsnonproliferationsforskning och utveckling (DNN R&D). DNN R&D ansvarar för tillsynen av USA:s förmåga att övervaka och upptäcka produktion av kärnmaterial, utveckling av kärnvapen och detonation av kärnvapen runt om i världen.

Med tanke på de höga riskerna som är förknippade med frågor relaterade till kärnkraftsnonproliferation, är det kritiskt att veta hur en AI-system når sina slutsatser om dessa frågor. Angie Sheffield är en senior programledare på DNN R&D. Enligt Sheffield kan det ofta vara svårt att införa nya tekniker som AI-modeller i traditionella vetenskapliga metoder och ramverk, men processen att införa AI i dessa system kan underlättas genom att utforma nya sätt att interagera mer effektivt med dessa system. Sheffield hävdar att forskare bör skapa verktyg som möjliggör för utvecklare att förstå hur dessa sofistikerade tekniker fungerar.

Den relativa bristen på data som rör kärnvapenexplosioner och utveckling av kärnvapen innebär att förklarlig AI är ännu viktigare. Att träna AI-modeller i detta område resulterar i modeller som kan vara mindre tillförlitliga på grund av den relativt låga mängden data som finns tillgänglig jämfört med en uppgift som ansiktsigenkänning. Som ett resultat måste varje steg i processen som modellen använder för att fatta ett beslut vara inspekterbart.

Mark Greaves, en forskare på PNNL, förklarade att riskerna som är förknippade med kärnkraftsproliferation kräver ett system som kan informera människor om varför ett visst svar har valts.

Som Greaves förklarade via EurekaAlert:

“Om ett AI-system ger en felaktig sannolikhet för att en nation besitter ett kärnvapen, är det ett problem av en helt annan skala. Så vårt system måste åtminstone producera förklaringar så att människor kan kontrollera dess slutsatser och använda sin egen expertis för att korrigera för AI-träningsgap som orsakas av bristen på data.”

Som Sheffield förklarade har PNNL två styrkor som kommer att hjälpa dem att lösa detta problem. Först har PNNL omfattande erfarenhet inom AI-området. Dessutom har teamet betydande domänkunskap när det gäller kärnmaterial och vapen. PNNL-teamet förstår frågor som bearbetning av plutonium och de typer av signaler som är unika för utveckling av kärnvapen. Kombinationen av AI-erfarenhet, nationell säkerhetserfarenhet och kärnkraftsdomänkunskap innebär att PNNL är unikt lämpat att hantera frågor som rör kärnkraftsnationell säkerhet och AI.