Ekip Sinir Ağlarını Karşılaştırma Yaklaşımı Geliştiriyor

Los Alamos Ulusal Laboratuvarı'ndaki bir araştırma ekibi, sinir ağlarını karşılaştırmak için yeni bir yaklaşım geliştirdi. Ekibe göre, bu yeni yaklaşım yapay zekanın (AI) "kara kutusuna" bakıyor ve sinir ağı davranışını anlamalarına yardımcı oluyor. Veri kümelerindeki kalıpları tanıyan sinir ağları, yüz tanıma sistemleri ve otonom araçlar gibi çok çeşitli uygulamalar için kullanılır. 

Ekip bildirilerini sundu, “Birini Eğittiyseniz Hepsini Eğitmişsinizdir: Sağlamlık Arttıkça Mimariler Arası Benzerlik ArtarYapay Zekada Belirsizlik Konferansı'nda. 

Haydn Jones, Los Alamos'taki Siber Sistemlerde İleri Araştırma grubunda araştırmacı ve araştırma makalesinin baş yazarıdır. 

Sinir Ağlarını Daha İyi Anlamak 

“Yapay zeka araştırma topluluğu, sinir ağlarının ne yaptığına dair tam bir anlayışa sahip olmayabilir; bize iyi sonuçlar veriyorlar ama nasıl ve neden olduğunu bilmiyoruz,” dedi Jones. "Yeni yöntemimiz, yapay zekanın arkasındaki matematiği daha iyi anlamak için çok önemli bir adım olan sinir ağlarını karşılaştırma konusunda daha iyi bir iş çıkarıyor. 

Yeni araştırma, uzmanların sağlam sinir ağlarının davranışını anlamalarına yardımcı olmada da rol oynayacak. 

Sinir ağları yüksek performanslı olmakla birlikte aynı zamanda kırılgandır. Otonom bir araç tarafından işlenen kısmen kapalı bir dur işareti gibi koşullardaki küçük değişiklikler, sinir ağının işareti yanlış tanımlamasına neden olabilir. Bu, asla durmayacağı anlamına gelir ki bu da tehlikeli olabilir. 

Rakip Eğitim Sinir Ağları

Araştırmacılar, ağ sağlamlığını iyileştirmenin yollarına bakarak bu tür sinir ağlarını iyileştirmeye koyuldu. Yaklaşımlardan biri, eğitim süreçleri sırasında ağlara "saldırmayı" içerir; burada araştırmacılar, yapay zekayı onları görmezden gelmesi için eğitirken kasıtlı olarak sapmalar getirir. Rakip eğitim olarak adlandırılan süreç, ağların kandırılmasını zorlaştırıyor. 

Ekip, yeni ağ benzerliği ölçümünü rakip olarak eğitilmiş sinir ağlarına uyguladı. Saldırının büyüklüğü arttıkça, çekişmeli eğitimin, bilgisayar görüşü alanındaki sinir ağlarının, ağ mimarisi ne olursa olsun, benzer veri temsillerine yakınlaşmasına neden olduğunu bulduklarında şaşırdılar. 

Jones, "Sinir ağlarını düşman saldırılarına karşı sağlam olacak şekilde eğittiğimizde, aynı şeyleri yapmaya başladıklarını bulduk" dedi. 

Bu, uzmanların sinir ağları için mükemmel mimariyi bulmaya çalıştıkları ilk sefer değil. Bununla birlikte, yeni bulgular, çekişmeli eğitimin getirilmesinin boşluğu önemli ölçüde kapattığını gösteriyor; bu da, çekişmeli eğitimin farklı mimarilerin benzer çözümlere yaklaşmasına neden olduğu artık bilindiği için yapay zeka araştırma topluluğunun çok fazla yeni mimariyi keşfetmesine gerek kalmayabileceği anlamına geliyor. 

Jones, "Güçlü sinir ağlarının birbirine benzer olduğunu bularak, sağlam yapay zekanın gerçekte ne kadar çalışabileceğini anlamayı kolaylaştırıyoruz" dedi. "İnsanlarda ve diğer hayvanlarda algının nasıl oluştuğuna dair ipuçlarını bile açığa çıkarıyor olabiliriz."