核兵器の不拡散と核セキュリティのための説明可能なAIを作成することを目指す研究チーム

パシフィック・ノースウエスト・ナショナル研究所（PNNL）の研究者は、核兵器の不拡散と国家安全保障のために、AIを説明可能なものにすることを目指しています。AIモデルが核セキュリティに関わる決定を下す際に、その決定の根拠が透明性を持つようにすることが目標です。

説明可能なAIモデルへの注目は、機械学習の「ブラックボックス」問題を解決するために、以前より強まっています。AIモデルは、決定を下す責任者がその根拠を理解していない場合でも、複雑な決定を下すことがよくあります。決定が下される状況の危険性やカタストロフの可能性が高い場合、決定の根拠が透明性を持つことが重要です。

果物の画像を分類するような単純なタスクの場合、分類の根拠を理解する必要はないかもしれませんが、核兵器や核物質の生産に関わる場合、AIが使用される根拠を明らかにすることが重要です。

PNNLの科学者は、新しい技術を使用してAIを説明可能にすることを目指しています。これらの研究者は、エネルギー省の国立核セキュリティ局（NNSA）の核兵器の不拡散と研究開発事務局（DNN R&D）と協力しています。DNN R&Dは、核物質の生産、核兵器の開発、核兵器の爆発を監視および検出するための米国の能力を監督する責任があります。

核兵器の不拡散に関わる問題は非常にリスクが高いため、AIシステムがどのように結論に達するかを理解することが重要です。エンジェル・シェフィールドは、DNN R&Dのシニア・プログラム・マネージャーです。シェフィールドによると、新しい技術を従来の科学技術やフレームワークに組み込むことは難しいことがありますが、システムとのやり取りをより効果的に行う新しい方法を設計することで、AIをこれらのシステムに組み込むプロセスを容易にすることができます。シェフィールドは、研究者がこれらの高度な技術がどのように機能するかを理解できるツールを作成するべきだと主張しています。

核爆発や核兵器の開発に関するデータは希少であるため、説明可能なAIはより重要です。この分野でのAIモデルのトレーニングは、データが限られているため、モデルが信頼性を欠く可能性があります。したがって、モデルが決定を下す際のプロセスを検査することが重要です。

マーク・グレイブスは、PNNLの研究者です。グレイブスによると、核兵器の不拡散のリスクは、AIシステムがなぜ特定の答えを選択したかを説明できるシステムを必要とします。

グレイブスは、EurekaAlertを通じて次のように説明しています。

「AIシステムが核兵器の存在について誤った確率を示した場合、それはまったく別の問題です。したがって、私たちのシステムは、人間がAIの結論を確認し、データの希少性によって生じるAIトレーニングのギャップを自らの専門知識を使用して修正できるように、説明を提供する必要があります。」

シェフィールドによると、PNNLには、この問題を解決するために2つの強みがあります。まず、PNNLにはAI分野での豊富な経験があります。さらに、チームには核物質や核兵器に関するドメイン知識があります。PNNLチームは、プルトニウムの処理や核兵器の開発に特有の信号などの問題を理解しています。AIの経験、国家安全保障の経験、核ドメインの知識の組み合わせにより、PNNLは核国家安全保障とAIの問題に対処するために独自に適しています。