Echipa de cercetare își propune să creeze inteligență artificială explicabilă pentru neproliferare nucleară și securitate nucleară

Cercetătorii de la Pacific Northwest National Laboratory (PNNL) încearcă să facă inteligența artificială explicabilă pentru scopurile neproliferării nucleare și securității naționale. Obiectivul este de a face deciziile luate de modelele de inteligență artificială transparente pentru orice decizie care implică securitatea nucleară.

Se acordă mai multă atenție decât oricând importanței modelelor de inteligență artificială explicabile, într-un efort de a rezolva problema “cutiei negre” a învățării automate. Modelele de inteligență artificială sunt adesea încredințate să ia decizii complexe, chiar și atunci când cei responsabili de executarea acestor decizii nu înțeleg rațiunea din spatele lor. Cu cât potențialul de catastrofă și pericol este mai mare, cu atât mai important este ca rațiunea din spatele deciziilor să fie transparentă.

Nu este nevoie să înțelegem rațiunea din spatele clasificărilor dacă o aplicație de inteligență artificială face ceva atât de simplu ca să clasifice imagini de fructe, dar în cazurile care implică arme nucleare sau producția de material nuclear, este mai bine să deschidem cutia neagră care stă la baza inteligenței artificiale utilizate în aceste scenarii.

Oamenii de știință de la PNNL lucrează la crearea de inteligență artificială explicabilă utilizând o varietate de tehnici noi. Cercetătorii lucrează alături de Biroul de Cercetare și Dezvoltare pentru Neproliferare Nucleară Apărare (DNN R&D) din cadrul Administrației Naționale de Securitate Nucleară a Departamentului de Energie (NNSA). DNN R&D este responsabilă cu supravegherea capacității Statelor Unite de a monitoriza și detecta producția de material nuclear, dezvoltarea armelor nucleare și detonarea armelor nucleare în întreaga lume.

Având în vedere riscurile foarte mari care sunt implicate în problemele legate de neproliferarea nucleară, este critic să știm cum ajunge un sistem de inteligență artificială la concluziile sale despre aceste probleme. Angie Sheffield este manager de program senior la DNN R&D. Conform lui Sheffield, adesea poate fi dificil să se incorporeze tehnologii noi, cum ar fi modelele de inteligență artificială, în tehnici și cadre științifice tradiționale, dar procesul de incorporare a inteligenței artificiale în aceste sisteme poate fi facilitat prin proiectarea unor modalități noi de interacțiune mai eficientă cu aceste sisteme. Sheffield susține că cercetătorii ar trebui să creeze instrumente care să permită dezvoltatorilor să înțeleagă cum funcționează aceste tehnici sofisticate.

Lipsa relativă de date care implică explozii nucleare și dezvoltarea armelor nucleare înseamnă că inteligența artificială explicabilă este și mai importantă. Antrenarea modelelor de inteligență artificială în acest spațiu duce la modele care pot fi mai puțin fiabile datorită lipsei de date comparative cu o sarcină precum recunoașterea fețelor. Ca urmare, fiecare etapă a procesului utilizat de model pentru a lua o decizie trebuie să fie inspectabilă.

Mark Greaves, cercetător la PNNL, a explicat că riscurile inerente neproliferării nucleare impun un sistem care să poată informa oamenii despre de ce a fost selectat un anumit răspuns.

După cum a explicat Greaves prin EurekaAlert:

„Dacă un sistem de inteligență artificială oferă o probabilitate greșită despre faptul că o țară posedă o armă nucleară, aceasta este o problemă de o scară cu totul diferită. Așadar, sistemul nostru trebuie să producă cel puțin explicații astfel încât oamenii să poată verifica concluziile sale și să utilizeze propria expertiză pentru a corecta lacunele antrenamentului inteligenței artificiale cauzate de lipsa de date.”

Conform lui Sheffield, PNNL are două puncte forte care îi vor ajuta să rezolve această problemă. În primul rând, PNNL are o experiență semnificativă în domeniul inteligenței artificiale. În plus, echipa are cunoștințe de specialitate semnificative în ceea ce privește materialele nucleare și armele. Echipa PNNL înțelege probleme precum prelucrarea plutoniului și tipurile de semnale unice dezvoltării armelor nucleare. Combinația de experiență în inteligență artificială, experiență în securitate națională și cunoștințe de specialitate nucleară înseamnă că PNNL este unic poziționat pentru a face față problemelor de securitate națională nucleară și inteligență artificială.