Araştırma Ekibi Sinir Ağlarını Karşılaştırmak İçin Yeni Bir Yaklaşım Geliştirdi

Los Alamos Ulusal Laboratuvarı’ndaki bir araştırma ekibi, sinir ağlarını karşılaştırmak için yeni bir yaklaşım geliştirdi. Ekibe göre, bu yeni yaklaşım yapay zeka (AI) “kara kutusuna” bakıyor ve sinir ağı davranışını anlamalarına yardımcı oluyor. Desenleri veri setleri içinde tanıyan sinir ağları, yüz tanıma sistemleri ve otonom araçlar gibi geniş bir uygulama yelpazesinde kullanılıyor.

Ekibin makalesi, “Eğer Birini Eğittinizse Hepsini Eğittiniz: Mimariler Arası Benzerlik Dayanıklılıkla Artıyor”, Yapay Zekada Belirsizlik Konferansı’nda sunuldu.

Haydn Jones, Los Alamos’taki İleri Siber Sistemler Araştırma grubunda bir araştırmacı ve araştırma makalesinin baş yazarı.

Sinir Ağlarını Daha İyi Anlamak

“Yapay zeka araştırma topluluğu, sinir ağlarının ne yaptığını her zaman tam olarak anlamıyor; bize iyi sonuçlar veriyor, ama nasıl veya neden yaptıklarını bilmiyoruz” dedi Jones. “Yeni yöntemimiz sinir ağlarını karşılaştırmada daha iyi bir iş çıkarıyor, bu da yapay zeka arkasındaki matematiği daha iyi anlamak için kritik bir adımdır.”

Yeni araştırma, uzmanların dayanıklı sinir ağlarının davranışını anlamalarına da yardımcı olacak.

Sinir ağları yüksek performanslı olsa da, aynı zamanda kırılganlardır. Koşullardaki küçük değişiklikler, örneğin bir otonom araç tarafından işlenen kısmen kapalı dur işaretleri, sinir ağı tarafından yanlış tanımlanmasına neden olabilir. Bu, aracın asla durmamasına ve tehlikeli olmasına neden olabilir.

Sinir Ağlarının Çekişmeli Eğitimi

Araştırmacılar, ağların dayanıklılığını artırmanın yollarını inceleyerek bu tür sinir ağlarını geliştirmeyi amaçladı. Yaklaşımlardan biri, eğitim sırasında ağlara “saldırmak”: araştırmacılar kasıtlı olarak sapmalar ekliyor ve yapay zekayı bunları görmezden gelecek şekilde eğitiyor. Çekişmeli eğitim olarak adlandırılan bu süreç, ağların kandırılmasını zorlaştırıyor.

Ekip, yeni ağ benzerliği ölçüsünü çekişmeli eğitimden geçirilmiş sinir ağlarına uyguladı. Saldırının büyüklüğü arttıkça, ağ mimarisi ne olursa olsun, çekişmeli eğitimin bilgisayarlı görü alanındaki sinir ağlarını benzer veri temsillerine yakınsattığını görünce şaşırdılar.

“Sinir ağlarını çekişmeli saldırılara dayanıklı olacak şekilde eğittiğimizde, aynı şeyleri yapmaya başladıklarını gördük” dedi Jones.

Uzmanlar sinir ağları için mükemmel mimariyi daha önce de aramıştı. Ancak yeni bulgular, çekişmeli eğitimin boşluğu önemli ölçüde kapattığını gösteriyor, bu da yapay zeka araştırma topluluğunun bu kadar çok yeni mimariyi incelemeye gerek duymayabileceği anlamına geliyor, çünkü çekişmeli eğitimin farklı mimarileri benzer çözümlere yakınsattığı artık biliniyor.

“Dayanıklı sinir ağlarının birbirlerine benzer olduklarını bulmak, dayanıklı AI’ın gerçekten nasıl çalışabileceğini anlamamızı kolaylaştırıyor” dedi Jones. “Hatta insanlarda ve diğer hayvanlarda algının nasıl oluştuğuna dair ipuçları bile keşfedebiliriz.”