Nhóm Nghiên cứu Nhằm Tạo Ra Trí Tuệ Nhân Tạo Có Thể Giải Thích Cho Phòng Ngừa Và An Ninh Hạt Nhân

Những nhà nghiên cứu từ Phòng thí nghiệm Quốc gia Northwest Pacific (PNNL) đang cố gắng làm cho trí tuệ nhân tạo (AI) trở nên có thể giải thích được cho mục đích phòng ngừa và an ninh hạt nhân. Mục tiêu là làm cho các quyết định được trả về bởi các mô hình AI trở nên minh bạch cho bất kỳ quyết định nào liên quan đến an ninh hạt nhân.

Chú ý hơn bao giờ hết đang được dành cho tầm quan trọng của các mô hình AI có thể giải thích được, trong nỗ lực giải quyết vấn đề “hộp đen” của học máy. Các mô hình AI thường được tin cậy để đưa ra các quyết định phức tạp ngay cả khi những người chịu trách nhiệm thực hiện các quyết định đó không hiểu rõ lý do đằng sau những quyết định đó. Khi tiềm năng cho thảm họa và nguy hiểm mà những quyết định đó được đưa ra càng cao, thì càng quan trọng để lý do đằng sau những quyết định đó trở nên minh bạch.

Không cần thiết phải hiểu rõ lý do đằng sau việc phân loại nếu một ứng dụng AI chỉ làm việc đơn giản như phân loại hình ảnh của trái cây, nhưng trong trường hợp liên quan đến vũ khí hạt nhân hoặc sản xuất vật liệu hạt nhân, thì tốt hơn nên mở “hộp đen” cơ bản của AI được sử dụng trong những tình huống này.

Các nhà khoa học tại PNNL đang làm việc để làm cho AI trở nên có thể giải thích được bằng cách sử dụng nhiều kỹ thuật mới. Những nhà nghiên cứu này đang làm việc cùng với Văn phòng Nghiên cứu và Phát triển Phòng ngừa Hạt nhân Quốc phòng (DNN R&D) thuộc Bộ Năng lượng Hoa Kỳ. DNN R&D chịu trách nhiệm giám sát khả năng của Hoa Kỳ trong việc theo dõi và phát hiện sản xuất vật liệu hạt nhân, phát triển vũ khí hạt nhân và kích nổ vũ khí hạt nhân trên toàn cầu.

Đưa ra những rủi ro cao khi liên quan đến các vấn đề liên quan đến phòng ngừa hạt nhân, điều quan trọng là phải biết chính xác làm thế nào một hệ thống AI đạt được kết luận về những vấn đề này. Angie Sheffield là một giám đốc chương trình cao cấp tại DNN R&D. Theo Sheffield, thường rất khó để kết hợp các công nghệ mới như mô hình AI vào các kỹ thuật và khuôn khổ khoa học truyền thống, nhưng quá trình kết hợp AI vào những hệ thống này có thể được thực hiện dễ dàng hơn bằng cách thiết kế những cách thức mới để tương tác hiệu quả hơn với những hệ thống này. Sheffield cho rằng các nhà nghiên cứu nên tạo ra các công cụ cho phép các nhà phát triển hiểu rõ cách thức những kỹ thuật tinh vi này hoạt động.

Sự khan hiếm tương đối của dữ liệu liên quan đến vụ nổ hạt nhân và phát triển vũ khí hạt nhân có nghĩa là AI có thể giải thích được càng quan trọng. Việc đào tạo mô hình AI trong không gian này dẫn đến các mô hình có thể ít đáng tin cậy do sự thiếu dữ liệu so với một nhiệm vụ như nhận diện khuôn mặt. Do đó, mỗi bước của quá trình được sử dụng bởi mô hình để đưa ra quyết định cần phải được kiểm tra.

Mark Greaves, một nhà nghiên cứu tại PNNL, giải thích rằng những rủi ro vốn có trong sự phổ biến hạt nhân đòi hỏi một hệ thống có thể thông báo cho mọi người về lý do tại sao một câu trả lời nhất định đã được chọn.

Giải thích bởi Greaves qua EurekaAlert:

“Nếu một hệ thống AI cho ra một xác suất sai về việc một quốc gia có vũ khí hạt nhân, đó là một vấn đề với quy mô hoàn toàn khác. Vì vậy, hệ thống của chúng tôi ít nhất phải tạo ra những lời giải thích để con người có thể kiểm tra kết luận của nó và sử dụng chuyên môn của họ để sửa chữa những khoảng trống trong đào tạo AI do sự thiếu dữ liệu.”

Giải thích bởi Sheffield, PNNL có hai điểm mạnh sẽ giúp họ giải quyết vấn đề này. Đầu tiên, PNNL có kinh nghiệm đáng kể trong lĩnh vực AI. Ngoài ra, đội ngũ này có kiến thức đáng kể về lĩnh vực hạt nhân và vũ khí. Đội ngũ PNNL hiểu rõ các vấn đề như việc xử lý plutonium và các tín hiệu đặc trưng của việc phát triển vũ khí hạt nhân. Sự kết hợp giữa kinh nghiệm AI, kinh nghiệm an ninh quốc gia và kiến thức lĩnh vực hạt nhân có nghĩa là PNNL đặc biệt phù hợp để xử lý các vấn đề an ninh quốc gia hạt nhân và AI.