Tim Peneliti Berusaha Membuat AI yang Dapat Dijelaskan untuk Non-Proliferasi Nuklir dan Keamanan Nuklir

Peneliti dari Pacific Northwest National Laboratory (PNNL) berusaha membuat AI yang dapat dijelaskan untuk tujuan non-proliferasi nuklir dan keamanan nasional. Tujuan mereka adalah membuat keputusan yang dihasilkan oleh model AI transparan untuk setiap keputusan yang melibatkan keamanan nuklir.

Perhatian yang lebih besar daripada sebelumnya sedang diberikan pada pentingnya model AI yang dapat dijelaskan, dalam upaya untuk memecahkan “masalah kotak hitam” dari pembelajaran mesin. Model AI sering dipercaya untuk membuat keputusan yang kompleks bahkan ketika mereka yang bertanggung jawab untuk melaksanakan keputusan tersebut tidak memahami alasan di balik keputusan tersebut. Semakin tinggi potensi bencana dan bahaya yang dihadapi, semakin penting untuk membuat alasan di balik keputusan tersebut transparan.

Mungkin tidak perlu memahami alasan di balik klasifikasi jika aplikasi AI melakukan sesuatu yang sederhana seperti mengklasifikasikan gambar buah, tetapi untuk kasus yang melibatkan senjata nuklir atau produksi bahan nuklir, lebih baik membuka “kotak hitam” yang mendasari AI yang digunakan dalam skenario tersebut.

Ilmuwan PNNL bekerja untuk membuat AI yang dapat dijelaskan menggunakan berbagai teknik baru. Mereka bekerja bersama dengan Kantor Penelitian dan Pengembangan Non-Proliferasi Nuklir Pertahanan (DNN R&D) dari Administrasi Keamanan Nuklir Nasional Departemen Energi (NNSA). DNN R&D bertanggung jawab untuk mengawasi kemampuan Amerika Serikat untuk memantau dan mendeteksi produksi bahan nuklir, pengembangan senjata nuklir, dan peledakan senjata nuklir di seluruh dunia.

Mengingat risiko yang sangat tinggi dalam masalah yang terkait dengan non-proliferasi nuklir, sangat penting untuk mengetahui bagaimana sistem AI mencapai kesimpulan tentang masalah tersebut. Angie Sheffield adalah manajer program senior di DNN R&D. Menurut Sheffield, seringkali sulit untuk mengintegrasikan teknologi baru seperti model AI ke dalam teknik dan kerangka ilmiah tradisional, tetapi proses integrasi AI ke dalam sistem tersebut dapat dibuat lebih mudah dengan merancang cara baru untuk berinteraksi dengan sistem tersebut lebih efektif. Sheffield berpendapat bahwa peneliti harus membuat alat yang memungkinkan pengembang untuk memahami bagaimana teknik yang canggih tersebut bekerja.

Kelangkaan relatif data yang melibatkan ledakan nuklir dan pengembangan senjata nuklir berarti bahwa AI yang dapat dijelaskan semakin penting. Pelatihan model AI dalam ruang ini menghasilkan model yang mungkin kurang dapat diandalkan karena sedikitnya data yang tersedia dibandingkan dengan tugas seperti pengenalan wajah. Oleh karena itu, setiap langkah proses yang digunakan oleh model untuk membuat keputusan harus dapat diperiksa.

Mark Greaves, seorang peneliti di PNNL, menjelaskan bahwa risiko yang melekat dalam proliferasi nuklir memerlukan sistem yang dapat memberitahu orang tentang mengapa jawaban tertentu telah dipilih.

Sebagaimana Greaves menjelaskan melalui EurekaAlert:

“Jika sistem AI menghasilkan probabilitas yang salah tentang apakah sebuah negara memiliki senjata nuklir, itu adalah masalah skala yang berbeda. Jadi, sistem kita harus setidaknya menghasilkan penjelasan sehingga manusia dapat memeriksa kesimpulan dan menggunakan keahlian mereka sendiri untuk memperbaiki kesenjangan pelatihan AI yang disebabkan oleh kelangkaan data.”

Sebagaimana dijelaskan oleh Sheffield, PNNL memiliki dua kekuatan yang akan membantu mereka memecahkan masalah ini. Pertama, PNNL memiliki pengalaman yang signifikan di bidang AI. Kedua, tim memiliki pengetahuan domain yang signifikan ketika datang ke bahan nuklir dan senjata. Tim PNNL memahami masalah seperti pengolahan plutonium dan jenis sinyal yang unik untuk pengembangan senjata nuklir. Kombinasi pengalaman AI, pengalaman keamanan nasional, dan pengetahuan domain nuklir berarti bahwa PNNL sangat cocok untuk menangani masalah keamanan nasional nuklir dan AI.