핵 비확산 및 핵 안보를 위한 설명 가능한 AI 개발을 목표로 하는 연구 팀

퍼시픽 노스웨스트 국립 연구소(PNNL)의 연구자들은 핵 비확산 및 국가 안보를 위한 목적으로 AI를 설명 가능한 형태로 만들고자 한다. 핵 안보와 관련된 결정에 대한 투명성을 제공하는 것이 목표이다.

설명 가능한 AI 모델의 중요성에 대한 관심이 이전보다 더 높아지고 있다. 이는 기계 학습의 “블랙 박스” 문제를 해결하기 위한 시도이다. AI 모델은 종종 복잡한 결정에 대한 책임이 있는 사람들조차 그 결정의 근거를 이해하지 못하는 경우에도 결정에 대한 신뢰를 받는다. 그 결정의 결과가 더 위험하고 더 많은 피해를 초래할 수 있는 경우, 그 결정의 근거를 투명하게 하는 것이 더 중요하다.

과일 이미지를 분류하는 것과 같은 단순한 작업을 수행하는 AI 애플리케이션의 경우, 분류의 근거를 이해할 필요는 없을 수 있다. 그러나 핵 武器 또는 핵 물질 생산과 관련된 경우, 사용된 AI의 블랙 박스를 열어 근거를 이해하는 것이 더 중요하다.

PNNL 과학자들은 다양한 새로운 기술을 사용하여 AI를 설명 가능한 형태로 만들고 있다. 이 연구자들은 미국 에너지부의 국방 핵 비확산 연구 개발 사무소(DNN R&D)와 함께 일하고 있다. DNN R&D는 미국의 핵 물질 생산, 핵 武器 개발, 핵 武器 폭발 감시 및 탐지를 책임지고 있다.

핵 비확산과 관련된 문제는 매우 높은 위험을 수반한다. 이러한 문제에 대한 AI 시스템의 결정을 이해하는 것이 중요하다. DNN R&D의 시니어 프로그램 매니저인 앵기 셰필드(Angie Sheffield)에 따르면, 새로운 기술을 전통적인 과학적 기법과 프레임워크에 통합하는 것은 어려울 수 있다. 그러나 이러한 시스템과 더 효과적으로 상호 작용할 수 있는 새로운 방법을 설계함으로써 AI를 이러한 시스템에 통합하는 과정을 더 쉽게 만들 수 있다. 셰필드는 연구자들이 이러한 복잡한 기술이 어떻게 작동하는지 이해할 수 있는 도구를 개발해야 한다고 주장한다.

핵 폭발과 핵 武器 개발에 대한 데이터의 상대적인 부족은 설명 가능한 AI가 더 중요하게 만든다. 이 영역에서 AI 모델을 훈련시키면, 데이터의 부족으로 인해 모델의 신뢰성이 낮아질 수 있다. 따라서 모델이 결정에 도달하는 과정의 모든 단계를 검사할 수 있어야 한다.

PNNL의 연구자 마크 그레이브스(Mark Greaves)는 핵 확산의 내재된 위험으로 인해 왜 특정答案이 선택되었는지에 대한 정보를 제공할 수 있는 시스템이 필요하다고 설명했다.

그레이브스는 유레카 얼럿(EurekaAlert)을 통해 다음과 같이 설명했다.

“AI 시스템이 핵 武器를 보유한 국가에 대한 잘못된 확률을 제공한다면, 그것은 전혀 다른 규모의 문제이다. 따라서 우리의 시스템은 최소한 설명을 제공하여 인간이 그 결론을 검사하고 AI 훈련의 격차를 보완할 수 있어야 한다.”

셰필드에 따르면, PNNL은 두 가지 강점을 가지고 있다. 첫째, PNNL은 AI 분야에서 상당한 경험을 가지고 있다. 둘째, 팀은 핵 물질과 武器에 대한 상당한 도메인 지식을 가지고 있다. PNNL 팀은 플루토늄의 처리와 핵 武器 개발에 특有的 신호와 같은 문제를 이해한다. AI 경험, 국가 안보 경험, 핵 도메인 지식의 조합은 PNNL이 핵 국가 안보와 AI 문제를 처리하기에 유일하게 적합한 조건을 제공한다.