Team di ricerca mira a creare Intelligenza Artificiale spiegabile per la non proliferazione nucleare e la sicurezza nucleare

I ricercatori del Pacific Northwest National Laboratory (PNNL) stanno cercando di rendere l’Intelligenza Artificiale spiegabile per gli scopi della non proliferazione nucleare e della sicurezza nazionale. L’obiettivo è quello di rendere le decisioni restituite dai modelli di Intelligenza Artificiale trasparenti per qualsiasi decisione che coinvolga la sicurezza nucleare.

Maggior attenzione che mai viene dedicata all’importanza dei modelli di Intelligenza Artificiale spiegabili, nel tentativo di risolvere il problema della “scatola nera” dell’apprendimento automatico. I modelli di Intelligenza Artificiale sono spesso considerati attendibili per prendere decisioni complesse anche quando coloro che sono responsabili dell’esecuzione di tali decisioni non comprendono la logica alla base di tali decisioni. Maggiore è il potenziale per catastrofi e pericoli che tali decisioni comportano, più è importante che la logica alla base di tali decisioni sia trasparente.

Potrebbe non essere necessario comprendere il ragionamento alla base delle classificazioni se un’applicazione di Intelligenza Artificiale sta facendo qualcosa di semplice come categorizzare immagini di frutta, ma per casi che coinvolgono armi nucleari o produzione di materiale nucleare, è meglio aprire la scatola nera sottostante all’Intelligenza Artificiale impiegata in questi scenari.

I ricercatori del PNNL stanno lavorando per rendere l’Intelligenza Artificiale spiegabile utilizzando una varietà di nuove tecniche. Questi ricercatori stanno lavorando a fianco dell’Ufficio di Ricerca e Sviluppo per la Difesa della Non Proliferazione Nucleare (DNN R&D) dell’Amministrazione per la Sicurezza Nucleare Nazionale (NNSA) del Dipartimento dell’Energia. Il DNN R&D è responsabile della supervisione della capacità degli Stati Uniti di monitorare e rilevare la produzione di materiale nucleare, lo sviluppo di armi nucleari e l’esplosione di armi nucleari in tutto il mondo.

Data l’elevata rischiosità delle questioni relative alla non proliferazione nucleare, è fondamentale sapere come un sistema di Intelligenza Artificiale raggiunge le sue conclusioni su tali questioni. Angie Sheffield è un manager senior del programma presso il DNN R&D. Secondo Sheffield, può essere difficile incorporare nuove tecnologie come i modelli di Intelligenza Artificiale nelle tecniche e nei quadri scientifici tradizionali, ma il processo di incorporazione dell’Intelligenza Artificiale in questi sistemi può essere reso più facile progettando nuovi modi di interagire più efficacemente con questi sistemi. Sheffield sostiene che i ricercatori dovrebbero creare strumenti che consentano agli sviluppatori di comprendere come funzionano queste tecniche sofisticate.

La relativa scarsità di dati relativi a esplosioni nucleari e sviluppo di armi nucleari significa che l’Intelligenza Artificiale spiegabile è ancora più importante. L’addestramento dei modelli di Intelligenza Artificiale in questo settore comporta la creazione di modelli che potrebbero essere meno affidabili a causa della scarsità di dati rispetto a un compito come il riconoscimento facciale. Di conseguenza, ogni passaggio del processo utilizzato dal modello per prendere una decisione deve essere ispezionabile.

Mark Greaves, un ricercatore del PNNL, ha spiegato che i rischi inerenti alla proliferazione nucleare richiedono un sistema che possa informare le persone sul perché una determinata risposta è stata selezionata.

Come ha spiegato Greaves via EurekaAlert:

“Se un sistema di Intelligenza Artificiale produce una probabilità errata sul fatto che una nazione possieda un’arma nucleare, si tratta di un problema di tutt’altra scala. Quindi il nostro sistema deve almeno produrre spiegazioni in modo che gli esseri umani possano verificare le sue conclusioni e utilizzare la loro esperienza per correggere le lacune di addestramento dell’Intelligenza Artificiale causate dalla scarsità di dati”.

Come spiegato da Sheffield, il PNNL ha due punti di forza che lo aiuteranno a risolvere questo problema. In primo luogo, il PNNL ha una notevole esperienza nel campo dell’Intelligenza Artificiale. Inoltre, il team ha una significativa conoscenza del dominio quando si tratta di materiali nucleari e armi. Il team del PNNL comprende questioni come l’elaborazione del plutonio e i tipi di segnali unici per lo sviluppo di armi nucleari. La combinazione di esperienza nell’Intelligenza Artificiale, esperienza nella sicurezza nazionale e conoscenza del dominio nucleare significa che il PNNL è unico nel gestire questioni di sicurezza nucleare nazionale e Intelligenza Artificiale.