Nükleer Nonproliferasyon ve Nükleer Güvenlik için Açıklanabilir AI Oluşturmayı Hedefleyen Araştırma Ekibi

Pacific Northwest National Laboratory (PNNL) araştırmacıları, nükleer nonproliferasyon ve ulusal güvenlik amacıyla AI’yi açıklanabilir hale getirmeye çalışıyorlar. Hedef, nükleer güvenlik ile ilgili herhangi bir karar için AI modellerinin verdiği kararların şeffaf olmasını sağlamak.

Açıklanabilir AI modellerinin önemi, “kara kutu” problemine çözüm bulma çabaları kapsamında daha önce hiç olmadığı kadar dikkat çekiyor. AI modelleri, souvent karmaşık kararlar almak için güveniliyor, ancak bu kararların arkasındaki mantığı anlamayanlar tarafından bu kararlar uygulanıyor. Bu kararların alınabileceği felaket ve tehlike potansiyeli ne kadar yüksekse, bu kararların arkasındaki mantığın şeffaf olması o kadar önemli oluyor.

Meyve resimlerini kategorize eden bir AI uygulaması için sınıflandırma nedenlerini anlamak gerekli olmayabilir, ancak nükleer silahlar veya nükleer malzeme üretimi ile ilgili durumlarda, kullanılan AI’nin altındaki “kara kutuyu” açmak daha iyi olur.

PNNL bilim insanları, yeni teknikler kullanarak AI’yi açıklanabilir hale getirmeye çalışıyorlar. Bu araştırmacılar, Enerji Bakanlığı’nın Ulusal Nükleer Güvenlik İdaresi (NNSA)’nin Savunma Nükleer Nonproliferasyon Araştırma ve Geliştirme Ofisi (DNN R&D) ile birlikte çalışıyorlar. DNN R&D, ABD’nin nükleer malzeme üretimi, nükleer silah geliştirme ve nükleer silah patlatma faaliyetlerini izleme ve tespit etme yeteneklerinin denetimini yürütüyor.

Nükleer nonproliferasyon ile ilgili konularda riskler ne kadar yüksekse, bir AI sisteminin bu konularda nasıl kararlar aldığını bilmek o kadar kritik oluyor. DNN R&D’de kıdemli program yöneticisi olan Angie Sheffield, geleneksel bilimsel tekniklere ve çerçevelere yeni teknolojileri gibi AI modellerini entegre etmek souvent zor olabileceğini, ancak bu sistemlerle daha etkili bir şekilde etkileşim kurmak için yeni yollar tasarlayarak bu süreci kolaylaştırabileceğini belirtiyor. Sheffield, araştırmacıların bu gelişmiş tekniklerin nasıl çalıştığını anlamalarına olanak tanıyan araçlar oluşturmaları gerektiğini savunuyor.

Nükleer patlamalar ve nükleer silah geliştirme ile ilgili verilerin göreceli olarak az olması, açıklanabilir AI’nin daha da önemli hale gelmesini sağlıyor. Bu alanda AI modellerini eğitme sonucunda, diğer görevlere kıyasla daha az güvenilir modeller ortaya çıkabiliyor. Dolayısıyla, modelin bir karar verme sürecinde her adımının incelenmesi gerekiyor.

PNNL’de araştırmacı olan Mark Greaves, nükleer proliferasyonun doğası gereği, insanların neden belirli bir cevabı seçildiğini anlatabilen bir sistem gerektiğini açıkladı.

Greaves, EurekaAlert aracılığıyla şunları söyledi:

“Bir AI sistemi, bir ülkenin nükleer silah sahibi olup olmadığını yanlış bir olasılık verirse, bu tamamen farklı bir ölçekte bir sorun olur. Bu nedenle sistemimiz, insanların AI’nin sonuçlarını kontrol edebilmesi ve AI eğitimi sırasında veri azlığından kaynaklanan boşlukları kendi uzmanlıklarıyla düzeltmeleri için açıklamalar üretmeli.”

Sheffield’in açıkladığı üzere, PNNL iki önemli avantajı var. İlk olarak, PNNL AI alanında önemli deneyime sahip. Ayrıca, ekip nükleer malzemeler ve silahlar konusunda önemli alan bilgisine sahip. PNNL ekibi, plütonyum işleme gibi konuları ve nükleer silah geliştirme ile ilgili özel sinyalleri anlıyor. AI deneyimi, ulusal güvenlik deneyimi ve nükleer alan bilgisinin birleşmesi, PNNL’yi nükleer ulusal güvenlik ve AI konularını ele almak için benzersiz bir şekilde konumlandırıyor.