Zespół badawczy dąży do stworzenia wyjaśnialnego AI dla nieproliferacji i bezpieczeństwa jądrowego

Badacze z Pacific Northwest National Laboratory (PNNL) próbują uczynić AI wyjaśnialnym dla celów nieproliferacji i bezpieczeństwa jądrowego. Celem jest uczynienie decyzji podjętych przez modele AI przejrzystymi dla każdej decyzji dotyczącej bezpieczeństwa jądrowego.

Większa niż kiedykolwiek uwaga jest poświęcana ważności modeli AI, które można wyjaśnić, w celu rozwiązania problemu “czarnej skrzynki” uczenia maszynowego. Modele AI są często ufań, aby podejmowały skomplikowane decyzje, nawet jeśli osoby odpowiedzialne za wykonanie tych decyzji nie rozumieją uzasadnienia tych decyzji. Im większe jest potencjalne niebezpieczeństwo i katastrofa, tym bardziej ważne jest, aby uzasadnienie tych decyzji było przejrzyste.

Może nie być konieczne zrozumienie powodów klasyfikacji, jeśli aplikacja AI wykonuje coś tak prostej jak klasyfikacja obrazów owoców, ale w przypadku broni jądrowych lub produkcji materiałów jądrowych lepiej jest otworzyć “czarną skrzynkę” podstawową AI zastosowaną w tych scenariuszach.

Naukowcy z PNNL pracują nad uczynieniem AI wyjaśnialnym przy użyciu różnych nowych technik. Ci badacze pracują wraz z Departamentem Energii, Narodową Administracją Bezpieczeństwa Jądrowego (NNSA) oraz Biurem Badań i Rozwoju Obrony przeciw Proliferacji Jądrowej (DNN R&D). DNN R&D jest odpowiedzialne za nadzór nad możliwościami Stanów Zjednoczonych w zakresie monitorowania i wykrywania produkcji materiałów jądrowych, rozwoju broni jądrowych oraz detonacji broni jądrowych na całym świecie.

Biorąc pod uwagę, jak wysokie są ryzyka związane z kwestiami nieproliferacji jądrowej, jest krytyczne, aby wiedzieć, jak system AI dochodzi do swoich wniosków na temat tych kwestii. Angie Sheffield jest starszym menedżerem programu w DNN R&D. Według Sheffielda często może być trudno włączyć nowe technologie, takie jak modele AI, do tradycyjnych naukowych technik i ram, ale proces włączania AI do tych systemów może być ułatwiony przez tworzenie nowych sposobów skutecznego współdziałania z tymi systemami. Sheffield twierdzi, że badacze powinni tworzyć narzędzia, które umożliwiają deweloperom zrozumienie, jak działają te zaawansowane techniki.

Względna rzadkość danych dotyczących wybuchów jądrowych i rozwoju broni jądrowej oznacza, że AI wyjaśnialne są jeszcze bardziej ważne. Uczanie modeli AI w tym obszarze prowadzi do modeli, które mogą być mniej niezawodne ze względu na niewielką ilość danych w porównaniu z zadaniem takim jak rozpoznawanie twarzy. W związku z tym każdy krok procesu używanego przez model do podjęcia decyzji musi być możliwy do zbadania.

Mark Greaves, badacz w PNNL, wyjaśnił, że ryzyka związane z proliferacją jądrową wymagają systemu, który może poinformować ludzi, dlaczego dana odpowiedź została wybrana.

Jak wyjaśnił Greaves za pośrednictwem EurekaAlert:

„Jeśli system AI podaje błędną prawdopodobieństwo, że dany kraj posiada broń jądrową, to jest to problem o zupełnie innym wymiarze. Dlatego nasz system musi przynajmniej generować wyjaśnienia, aby ludzie mogli sprawdzić jego wnioski i użyć swojej własnej wiedzy, aby skorygować luki w szkoleniu AI spowodowane rzadkością danych.”

Jak wyjaśniła Sheffield, PNNL ma dwie siły, które pomogą im rozwiązać ten problem. Po pierwsze, PNNL ma znaczną wiedzę w dziedzinie AI. Dodatkowo, zespół ma znaczącą wiedzę w dziedzinie materiałów jądrowych i broni. Zespół PNNL rozumie kwestie takie jak przetwarzanie plutonu i rodzaje sygnałów unikalnych dla rozwoju broni jądrowych. Połączenie doświadczenia w AI, doświadczenia w dziedzinie bezpieczeństwa narodowego oraz wiedzy w dziedzinie jądrowej oznacza, że PNNL jest wyjątkowo dobrze przygotowany do zajmowania się kwestiami bezpieczeństwa jądrowego i AI.