研究团队旨在为核不扩散和核安全创造可解释的AI

来自太平洋西北国家实验室（PNNL）的研究人员正在尝试使AI变得可解释，以用于核不扩散和国家安全的目的。目标是使AI模型的决策变得透明，尤其是在涉及核安全的决策中。

人们比以往任何时候都更加重视可解释的AI模型的重要性，试图解决机器学习的“黑盒子”问题。AI模型通常被信任来做出复杂的决策，即使那些负责执行这些决策的人并不理解这些决策背后的理由。在灾难和危险的可能性更高的决策中，理解这些决策背后的理由变得更加重要。

如果AI应用程序只是对水果图像进行分类，那么可能不需要理解分类背后的理由，但是在涉及核武器或核材料生产的案例中，打开AI背后的“黑盒子”变得更加重要。

PNNL科学家正在使用各种新技术来使AI变得可解释。这些研究人员与美国能源部的国防核不扩散研究与开发办公室（DNN R&D）合作。DNN R&D负责监督美国监测和检测核材料生产、核武器开发和全球核武器爆炸的能力。

鉴于核不扩散问题的风险很高，了解AI系统如何得出这些问题的结论至关重要。安吉·谢菲尔德（Angie Sheffield）是DNN R&D的高级计划经理。根据谢菲尔德的说法，通常很难将新技术如AI模型整合到传统的科学技术和框架中，但通过设计新的与这些系统交互的方式，可以使整合AI到这些系统的过程变得更容易。谢菲尔德认为，研究人员应该创建工具，以便开发人员能够理解这些复杂技术的工作原理。

涉及核爆炸和核武器开发的数据相对稀缺，这使得可解释的AI变得更加重要。在这个领域训练AI模型可能会导致模型的可靠性降低，因为数据相对于面部识别等任务来说非常少。因此，模型用来做出决定的每一步都需要被检查。

马克·格雷夫斯（Mark Greaves），PNNL的一名研究人员，解释说，核扩散的风险需要一个能够告知人们为什么选择某个答案的系统。

如格雷夫斯通过EurekaAlert所述：

“如果AI系统对一个国家是否拥有核武器的概率给出错误的结果，那将是一个完全不同规模的问题。因此，我们的系统必须至少提供解释，以便人类可以检查其结论并使用自己的专业知识来纠正AI训练中的空白，空白是由数据稀缺造成的。”

如谢菲尔德所解释的，PNNL有两个优势将有助于解决这个问题。首先，PNNL在AI领域有丰富的经验。另外，团队在核材料和核武器方面有着重要的领域知识。PNNL团队理解诸如钚的加工和核武器开发的独特信号等问题。AI经验、国家安全经验和核领域知识的结合意味着PNNL非常适合处理核国家安全和AI的问题。