Дослідницька команда має на меті створити пояснюваний штучний інтелект для ядерної нерозповсюдження та ядерної безпеки

Дослідники з Pacific Northwest National Laboratory (PNNL) намагаються зробити штучний інтелект пояснюваним для цілей ядерної нерозповсюдження та національної безпеки. Метою є зробити рішення, повернуті моделями штучного інтелекту, прозорими для будь-якого рішення, пов’язаного з ядерною безпекою.

Нині більше уваги, ніж будь-коли, приділяється важливості пояснюваних моделей штучного інтелекту, у спробі вирішити проблему “чорної скриньки” машинного навчання. Моделі штучного інтелекту часто довіряються для прийняття складних рішень, навіть якщо ті, хто відповідає за виконання цих рішень, не розуміють підстав цих рішень. Чим вищий потенціал катастрофи та небезпеки цих рішень, тим важливіше, щоб підстави цих рішень були прозорими.

Можливо, не потрібно розуміти підстав класифікації, якщо застосунок штучного інтелекту робить щось так просте, як категоризація зображень фруктів, але для випадків, пов’язаних з ядерними зброєю або виробництвом ядерного матеріалу, краще відкрити “чорну скриньку”, що лежить в основі штучного інтелекту, використовуваного в цих сценаріях.

Учені PNNL працюють над створенням пояснюваних моделей штучного інтелекту за допомогою різноманітних нових технік. Ці дослідники працюють разом з Управлінням оборони ядерної нерозповсюдження та досліджень і розвитку Національної адміністрації ядерної безпеки Міністерства енергетики США (DNN R&D). DNN R&D відповідає за нагляд за можливостями США щодо моніторингу та виявлення виробництва ядерного матеріалу, розробки ядерної зброї та детонації ядерної зброї по всьому світу.

Враховуючи високий рівень ризиків, пов’язаних з питаннями ядерної нерозповсюдження, критично важливо знати, як система штучного інтелекту приймає свої висновки щодо цих питань. Енджі Шеффілд – старший менеджер програми в DNN R&D. За словами Шеффілд, часто буває складно інтегрувати нові технології, такі як моделі штучного інтелекту, до традиційних наукових технік і рамок, але процес інтеграції штучного інтелекту до цих систем можна полегшити, розробивши нові способи взаємодії з цими системами. Шеффілд стверджує, що дослідники повинні створити інструменти, які дозволять розробникам зрозуміти, як працюють ці складні техніки.

Відносна нестача даних, пов’язаних з ядерними вибухами та розробкою ядерної зброї, означає, що пояснюваний штучний інтелект ще важливіший. Навчання моделей штучного інтелекту в цьому просторі призводить до моделей, які можуть бути менш надійними через відносну нестачу даних порівняно з завданням, таким як розпізнавання облич.

Марк Грейвз, дослідник PNNL, пояснив, що ризики, властиві ядерній нерозповсюдженні, вимагають системи, яка може інформувати людей про причини вибору певної відповіді.

Як пояснив Грейвз через EurekaAlert:

“Якщо система штучного інтелекту видає помилкову ймовірність щодо того, чи володіє країна ядерною зброєю, це проблема зовсім іншого масштабу. Тому наша система повинна至少 надавати пояснення, щоб люди могли перевірити її висновки та використовувати свій власний досвід для виправлення пробілів у навчанні штучного інтелекту, викликаних нестачею даних”.

Як пояснила Шеффілд, PNNL має дві сильні сторони, які допоможуть їм вирішити цю проблему. По-перше, PNNL має значний досвід у сфері штучного інтелекту. Крім того, команда має значні знання в галузі ядерних матеріалів та зброї. Команда PNNL розуміє питання, пов’язані з обробкою плутонію та типами сигналів, властивих розробці ядерної зброї. Комбінація досвіду штучного інтелекту, національної безпеки та знань у галузі ядерної безпеки означає, що PNNL унікально підходить для розгляду питань ядерної національної безпеки та штучного інтелекту.