Forschungsteam zielt darauf ab, erklärbares KI für nukleare Nichtverbreitung und nukleare Sicherheit zu erstellen

Forscher des Pacific Northwest National Laboratory (PNNL) versuchen, KI für die Zwecke der nuklearen Nichtverbreitung und nationalen Sicherheit erklärbar zu machen. Das Ziel ist es, die Entscheidungen, die von KI-Modellen zurückgegeben werden, für jede Entscheidung, die die nukleare Sicherheit betrifft, transparent zu machen.

Mehr Aufmerksamkeit als je zuvor wird der Bedeutung von erklärbarer KI-Modellen gewidmet, um das “Black-Box”-Problem des maschinellen Lernens zu lösen. KI-Modelle werden oft vertraut, um komplexe Entscheidungen zu treffen, auch wenn diejenigen, die für die Ausführung dieser Entscheidungen verantwortlich sind, die Gründe hinter diesen Entscheidungen nicht verstehen. Je höher das Potenzial für Katastrophen und Gefahren ist, desto wichtiger ist es, dass die Gründe hinter diesen Entscheidungen transparent sind.

Es ist möglicherweise nicht notwendig, die Gründe hinter Klassifizierungen zu verstehen, wenn eine KI-Anwendung etwas so Einfaches wie das Kategorisieren von Bildern von Früchten tut, aber in Fällen, die nukleare Waffen oder die Produktion von nuklearem Material betreffen, ist es besser, die Black-Box-Technologie, die der KI in diesen Szenarien zugrunde liegt, zu öffnen.

PNNL-Wissenschaftler arbeiten daran, KI mithilfe neuer Techniken erklärbar zu machen. Diese Forscher arbeiten gemeinsam mit dem Office of Defense Nuclear Nonproliferation Research and Development (DNN R&D) der National Nuclear Security Administration (NNSA) des Department of Energy. Die DNN R&D ist für die Überwachung der Fähigkeit der Vereinigten Staaten verantwortlich, die Produktion von nuklearem Material, die Entwicklung von nuklearen Waffen und die Detonation von nuklearen Waffen auf der ganzen Welt zu überwachen.

Angesichts der hohen Risiken, die mit Fragen im Zusammenhang mit nuklearer Nichtverbreitung verbunden sind, ist es kritisch, zu wissen, wie ein KI-System zu seinen Schlussfolgerungen über diese Fragen gelangt. Angie Sheffield ist eine Senior-Programm-Managerin bei DNN R&D. Laut Sheffield kann es oft schwierig sein, neue Technologien wie KI-Modelle in traditionelle wissenschaftliche Techniken und Rahmenbedingungen zu integrieren, aber der Prozess der Integration von KI in diese Systeme kann erleichtert werden, indem neue Wege der Interaktion mit diesen Systemen entwickelt werden. Sheffield argumentiert, dass Forscher Werkzeuge entwickeln sollten, die es Entwicklern ermöglichen, zu verstehen, wie diese komplexen Techniken funktionieren.

Die relative Knappheit von Daten über nukleare Explosionen und die Entwicklung von nuklearen Waffen bedeutet, dass erklärbares KI noch wichtiger ist. Die Schulung von KI-Modellen in diesem Bereich führt zu Modellen, die aufgrund der relativen Knappheit der Daten weniger zuverlässig sein können als bei einer Aufgabe wie der Gesichtserkennung. Als Ergebnis muss jeder Schritt des Prozesses, den das Modell verwendet, um eine Entscheidung zu treffen, überprüfbar sein.

Mark Greaves, ein Forscher bei PNNL, erklärte, dass die Risiken, die mit der nuklearen Proliferation verbunden sind, ein System erfordern, das Menschen über die Gründe informiert, warum eine bestimmte Antwort ausgewählt wurde.

Wie Greaves über EurekaAlert erklärte:

„Wenn ein KI-System eine falsche Wahrscheinlichkeit über die Frage, ob eine Nation eine nukleare Waffe besitzt, liefert, ist das ein Problem einer ganz anderen Größenordnung. Unser System muss daher zumindest Erklärungen liefern, damit Menschen die Schlussfolgerungen des Systems überprüfen und ihre eigene Expertise nutzen können, um Lücken in der KI-Schulung aufgrund der Knappheit der Daten zu korrigieren.“

Wie Sheffield erklärte, hat PNNL zwei Stärken, die dazu beitragen werden, dieses Problem zu lösen. Erstens hat PNNL umfangreiche Erfahrungen im Bereich KI. Zweitens verfügt das Team über erhebliche Kenntnisse im Bereich nukleare Materialien und Waffen. Das PNNL-Team versteht Fragen wie die Verarbeitung von Plutonium und die Arten von Signalen, die für die Entwicklung von nuklearen Waffen einzigartig sind. Die Kombination von KI-Erfahrung, Erfahrung in der nationalen Sicherheit und Kenntnissen im Bereich nukleare Materialien bedeutet, dass PNNL einzigartig geeignet ist, um Fragen der nuklearen nationalen Sicherheit und KI zu behandeln.