Tutkimusryhmä pyrkii luomaan selitettävän tekoälyä ydinaseiden leviämisen estämiseksi ja ydin turvallisuuden parantamiseksi

Tutkijat Pacific Northwest National Laboratory (PNNL) yrittävät tehdä tekoälystä selitettävän ydinaseiden leviämisen estämiseksi ja kansallisen turvallisuuden parantamiseksi. Tavoitteena on tehdä tekoälymallien antamat päätökset avoimiksi kaikissa ydin turvallisuutta koskevissa päätöksissä.

Enemmän kuin koskaan aiemmin kiinnitetään huomiota selitettävien tekoälymallien tärkeyteen pyrkimyksessä ratkaista “musta laatikko” -ongelma koneoppimisessa. Tekoälymallit luotetaan usein tekemään monimutkaisia päätöksiä, vaikka niiden toteuttamisesta vastaavat eivät ymmärrä päätösten taustalla olevia perusteita. Mitä suuremmat katastrofin ja vaaran mahdollisuudet ovat, sitä tärkeämpää on, että päätösten taustalla olevat perusteet ovat avoimia.

Ei välttämättä ole tarpeen ymmärtää luokitteluun liittyvää päättelyä, jos tekoälysovellus tekee jotain yksinkertaista, kuten kuvien luokittelua, mutta tapauksissa, jotka liittyvät ydinaseisiin tai ydinmateriaalin tuotantoon, on parempi avata “musta laatikko”, joka liittyy tekoälyyn näissä tilanteissa.

PNNL:n tutkijat työskentelevät tekoälyn selitettävyyden parantamiseksi uusien tekniikoiden avulla. Tutkijat työskentelevät yhteistyössä Yhdysvaltain energiaministeriön National Nuclear Security Administration (NNSA) -viraston puolustusministeriön ydinaseiden leviämisen estämiseen liittyvän tutkimuksen ja kehitystyön toimiston (DNN R&D) kanssa. DNN R&D vastaa Yhdysvaltain kyvystä valvoa ja havaita ydinmateriaalin tuotantoa, ydinaseiden kehittämistä ja ydinaseiden räjähtämistä maailmanlaajuisesti.

Ydinaseiden leviämisen estämiseen liittyvien riskien vuoksi on erittäin tärkeää tietää, miten tekoälyjärjestelmä saa päätelmiinsä. Angie Sheffield on vanhempi ohjelmajohtaja DNN R&D:ssä. Sheffieldin mukaan uusien teknologioiden, kuten tekoälymallien, sisällyttäminen perinteisiin tieteellisiin menetelmiin ja kehyksiin voi olla haasteellista, mutta prosessia voidaan helpottaa suunnittelemalla uusia tapoja vuorovaikuttaa näiden järjestelmien kanssa. Sheffield väittää, että tutkijoiden tulisi luoda työkaluja, jotka mahdollistavat kehittäjien ymmärtää, miten nämä monimutkaiset tekniikat toimivat.

Ydinräjähdysten ja ydinaseiden kehittämisen liittyvän datan niukkuus tekee selitettävän tekoälyn entistä tärkeämmäksi. Tekoälymallien kouluttaminen tässä tilanteessa johtaa malleihin, jotka saattavat olla vähemmän luotettavia johtuen datan vähäisyydestä verrattuna tehtäviin, kuten kasvojen tunnistamiseen. Tämän seurauksena jokainen tekoälymallin päätöksentekoprosessin vaihe on tarkasteltava.

Mark Greaves, PNNL:n tutkija, selitti, että ydinaseiden leviämisen sisältämät riskit vaativat järjestelmää, joka voi kertoa ihmisille, miksi tietty vastaus on valittu.

Greaves selitti EurekaAlertin kautta:

“Jos tekoälyjärjestelmä antaa virheellisen todennäköisyyden siitä, onko valtiolla ydinase, se on eri mittaluokan ongelma. Joten järjestelmämme on tuotettava selityksiä, jotta ihmiset voivat tarkistaa sen johtopäätökset ja käyttää omaa asiantuntemustaan korjata tekoälykoulutuksen aukkoja, jotka johtuvat datan niukkuudesta.”

Sheffieldin mukaan PNNL:llä on kaksi vahvuuksia, jotka auttavat ratkaisemaan tämän ongelman. Ensinnäkin PNNL:llä on merkittävä kokemus tekoälyalalla. Lisäksi tiimiellä on merkittävää osaamista ydinmateriaaleihin ja -aseisiin liittyvissä asioissa. PNNL-tiimi ymmärtää asioita, kuten plutoniumin käsittelyä ja ydinaseiden kehittämiseen liittyviä signaaleja. Tekoälykokemuksen, kansallisen turvallisuuden kokemuksen ja ydinalueen osaamisen yhdistelmä merkitsee, että PNNL on ainutlaatuinen ratkaisemaan ydin kansallisen turvallisuuden ja tekoälyyn liittyviä asioita.