ทีมวิจัยมุ่งพัฒนา AI ที่อธิบายได้สำหรับการป้องกันการแพร่กระจายและการรักษาความปลอดภัยของนิวเคลียร์

นักวิจัยจาก Pacific Northwest National Laboratory (PNNL) กำลังพยายามทำให้ AI อธิบายได้สำหรับวัตถุประสงค์ของการป้องกันการแพร่กระจายและการรักษาความปลอดภัยของนิวเคลียร์ เป้าหมายคือการทำให้การตัดสินใจที่ได้รับจากโมเดล AI เป็นไปอย่างโปร่งใสสำหรับการตัดสินใจใดๆ ที่เกี่ยวข้องกับการรักษาความปลอดภัยของนิวเคลียร์

ความสนใจที่เพิ่มขึ้นกว่าเดิมกำลังถูกจ่ายให้กับความสำคัญของโมเดล AI ที่อธิบายได้ ในความพยายามที่จะแก้ปัญหา “กล่องดำ” ของการเรียนรู้ของเครื่อง โมเดล AI มักถูกไว้วางใจให้ตัดสินใจที่ซับซ้อนแม้ว่าผู้ที่รับผิดชอบในการดำเนินการตามการตัดสินใจเหล่านั้นไม่เข้าใจเหตุผลเบื้องหลังการตัดสินใจเหล่านั้น ความเสี่ยงและอันตรายที่สูงขึ้นในการตัดสินใจเหล่านั้น ทำให้เหตุผลเบื้องหลังการตัดสินใจเหล่านั้นเป็นไปอย่างโปร่งใส

อาจไม่จำเป็นต้องเข้าใจเหตุผลเบื้องหลังการจำแนกประเภทหากแอปพลิเคชัน AI ทำสิ่งที่ง่ายๆ เช่น จำแนกประเภทภาพของผลไม้ แต่สำหรับกรณีที่เกี่ยวข้องกับอาวุธนิวเคลียร์หรือการผลิตวัสดุนิวเคลียร์ จะดีกว่าที่จะเปิด “กล่องดำ” ที่ซ่อนอยู่ภายใต้ AI ที่ใช้ในสถานการณ์เหล่านี้

นักวิทยาศาสตร์จาก PNNL กำลังทำงานเพื่อทำให้ AI อธิบายได้โดยใช้เทคนิคใหม่ๆ นักวิจัยเหล่านี้ทำงานร่วมกับสำนักงานการวิจัยและพัฒนาเพื่อป้องกันการแพร่กระจายของนิวเคลียร์ (DNN R&D) ของสำนักงานพลังงานปรมาณูแห่งชาติ (NNSA) ของกระทรวงพลังงานสหรัฐฯ DNN R&D มีความรับผิดชอบในการดูแลความสามารถของสหรัฐฯ ในการตรวจสอบและตรวจจับการผลิตวัสดุนิวเคลียร์ การพัฒนาอาวุธนิวเคลียร์ และการระเบิดของอาวุธนิวเคลียร์ทั่วโลก

เมื่อพิจารณาถึงความเสี่ยงที่สูงในการเกี่ยวข้องกับการป้องกันการแพร่กระจายของนิวเคลียร์ เป็นสิ่งสำคัญที่จะต้องทราบว่าระบบ AI ตัดสินใจอย่างไรเกี่ยวกับปัญหาเหล่านี้ แองจี เชฟฟิลด์ เป็นผู้จัดการโปรแกรมอาวุโสที่ DNN R&D ตามที่เชฟฟิลด์กล่าวว่า มักจะยากที่จะรวมเทคโนโลยีใหม่ๆ เช่น โมเดล AI เข้ากับเทคนิคและกรอบการทำงานทางวิทยาศาสตร์แบบดั้งเดิม แต่กระบวนการรวม AI เข้ากับระบบเหล่านี้สามารถทำให้ง่ายขึ้นโดยการออกแบบวิธีการโต้ตอบที่มีประสิทธิภาพมากขึ้น เชฟฟิลด์ให้เหตุผลว่านักวิจัยควรสร้างเครื่องมือที่ช่วยให้นักพัฒนาทราบว่าเทคนิคที่ซับซ้อนที่ใช้ทำงานอย่างไร

การขาดแคลนข้อมูลที่เกี่ยวข้องกับการระเบิดนิวเคลียร์และการพัฒนาอาวุธนิวเคลียร์ทำให้ AI ที่อธิบายได้เป็นสิ่งสำคัญ การฝึกอบรมโมเดล AI ในพื้นที่นี้ส่งผลให้ได้โมเดลที่อาจไม่น่าเชื่อถือเนื่องจากขาดข้อมูล ดังนั้น ทุกขั้นตอนของกระบวนการที่โมเดลใช้ในการตัดสินใจจึงต้องสามารถตรวจสอบได้

มาร์ก เกรฟส์ นักวิจัยจาก PNNL อธิบายว่าความเสี่ยงในการแพร่กระจายของนิวเคลียร์กำหนดให้ต้องมีระบบที่สามารถแจ้งให้ผู้คนทราบว่าเหตุใดจึงเลือกคำตอบใดคำตอบหนึ่ง

ตามที่เกรฟส์อธิบายผ่าน EurekaAlert:

“หากระบบ AI ให้ความน่าจะเป็นที่ผิดเกี่ยวกับการที่ประเทศใดประเทศหนึ่งมีอาวุธนิวเคลียร์ นั่นคือปัญหาในระดับที่แตกต่างโดยสิ้นเชิง ดังนั้น ระบบของเราต้องสร้างคำอธิบายเพื่อให้มนุษย์สามารถตรวจสอบผลลัพธ์และใช้ความเชี่ยวชาญของตนเองในการแก้ไขช่องว่างในการฝึกอบรม AI ที่เกิดจากขาดข้อมูล”

ตามที่เชฟฟิลด์อธิบาย PNNL มีจุดแข็งสองประการที่จะช่วยให้พวกเขาแก้ปัญหานี้ได้ ประการแรก PNNL มีประสบการณ์ที่สำคัญในด้าน AI ประการสอง ทีมมีความรู้ในด้านนิวเคลียร์และอาวุธนิวเคลียร์ ทีม PNNL เข้าใจปัญหาเช่นการประมวลผลพลูโตเนียมและประเภทสัญญาณที่เป็นเอกลักษณ์ของการพัฒนาอาวุธนิวเคลียร์ การผสมผสานประสบการณ์ AI ประสบการณ์ด้านความมั่นคงแห่งชาติ และความรู้ในด้านนิวเคลียร์หมายความว่า PNNL มีความเหมาะสมอย่างยิ่งในการจัดการกับเรื่องความมั่นคงแห่งชาติและ AI ของนิวเคลียร์