Araştırmacılar Sinir Ağlarını Karşılaştırmak için Yeni Bir Yaklaşım Geliştirdi

Los Alamos Ulusal Laboratuvarı’ndaki bir araştırma ekibi, sinir ağlarını karşılaştırmak için yeni bir yaklaşım geliştirdi. Ekibe göre, bu yeni yaklaşım yapay zeka (AI) “kara kutusuna” bakıyor ve sinir ağı davranışını anlamalarına yardımcı oluyor. Desenleri veri setleri içinde tanıyan sinir ağları, yüz tanıma sistemleri ve otonom araçlar gibi geniş bir uygulama yelpazesinde kullanılıyor.

Ekibin makalesi, “Eğer Birini Eğittinizse Hepsini Eğittiniz: Arası Mimarilik Benzerliği Dayanıklılıkla Artıyor”, Belirsizlikte Yapay Zeka Konferansı’nda sunuldu.

Haydn Jones, Los Alamos’taki İleri Siber Sistemler Araştırma grubunda bir araştırmacı ve araştırma makalesinin baş yazarı.

Sinir Ağlarını Daha İyi Anlamak

“Yapay zeka araştırma topluluğu, sinir ağlarının ne yaptığını tam olarak anlamıyor; bize iyi sonuçlar veriyor, ama nasıl veya neden yaptıklarını bilmiyoruz” dedi Jones. “Yeni yöntemimiz sinir ağlarını karşılaştırmada daha iyi bir iş çıkarıyor, bu da yapay zeka arkasındaki matematiği daha iyi anlamak için kritik bir adımdır.”

Yeni araştırma, uzmanların dayanıklı sinir ağlarının davranışını anlamalarına da yardımcı olacak.

Sinir ağları yüksek performanslı olsa da, aynı zamanda kırılganlardır. Koşullardaki küçük değişiklikler, örneğin bir otonom araç tarafından işlenen kısmen kapalı dur işaretleri, sinir ağı tarafından yanlış tanımlanmasına neden olabilir. Bu, aracın asla durmamasına ve tehlikeli olmasına neden olabilir.

Adversarial Eğitim Sinir Ağları

Araştırmacılar, bu tür sinir ağlarını geliştirmek için ağ dayanıklılığını iyileştirmek için yollar aradılar. Yaklaşımlardan biri, ağları eğitim sürecinde “saldırmak” içerir, burada araştırmacılar kasıtlı olarak anormallikler tanıtıyor ve AI’ı bunları görmezden gelmeye çalışıyor. Süreç, adversarial eğitim olarak adlandırılıyor ve ağların kandırılmasını daha zor hale getiriyor.

Ekibin, adversarial eğitimli sinir ağlarına yeni ağ benzerliği ölçüsünü uyguladı. Ağ mimarisi ne olursa olsun, saldırı büyüklüğü arttıkça, bilgisayar görüşü alanında sinir ağlarının benzer veri temsillerine yaklaştığını keşfettiler.

“Dayanıklı sinir ağlarını birbirlerine benzer olduklarını bulduk” dedi Jones.

Bu, uzmanların sinir ağları için mükemmel mimariyi aramaya çalıştıkları ilk kez değil. Ancak yeni bulgular, adversarial eğitimin boşluğu önemli ölçüde kapattığını gösteriyor, bu da yapay zeka araştırma topluluğunun artık yeni mimariler keşfetmeye gerek duymayabileceği anlamına geliyor, çünkü adversarial eğitimin diverse mimarilere benzer çözümlere yol açtığı artık biliniyor.

“Dayanıklı sinir ağlarının birbirlerine benzer olduklarını bulmak, dayanıklı AI’ın gerçekten nasıl çalışabileceğini anlamamızı kolaylaştırıyor” dedi Jones. “Hatta insanların ve diğer hayvanların algı nasıl oluştuğuna dair ipuçları keşfediyoruz.”