Araştırmacılar Veri Kümesi Önyargısını Aşmak için Nörobilimcilere Bakıyorlar

MIT, Harvard Üniversitesi ve Fujitsu, Ltd.’de bir araştırma ekibi, bir makine öğrenimi modelinin veri kümesi önyargısını nasıl aşabileceğini araştırdı. Sanal bir sinir ağı nesneleri tanıyabilmesi için nasıl eğitileceğini incelemek amacıyla nörobilim yaklaşımını kullandılar.

Araştırma Nature Machine Intelligence‘de yayınlandı.

Eğitim Verilerindeki Çeşitlilik

Çalışmanın sonuçları, eğitim verilerindeki çeşitliliğin bir sinir ağının önyargıyı aşabilmesi üzerinde etkili olduğunu gösterdi. Ancak, veri çeşitliliği aynı zamanda ağın performansını olumsuz etkileyebilir. Araştırmacılar ayrıca, bir sinir ağının eğitilme şeklinin de önyargılı bir veri kümesini aşabilmesi üzerinde etkili olduğunu gösterdi.

Xavier Boix, Beyin ve Bilişsel Bilimler Bölümü (BCS) ve Beyinler, Zihinler ve Makineler Merkezi (CBMM)’nde araştırma bilimcisi ve makalenin kıdemli yazarı.

“Bir sinir ağı veri kümesi önyargısını aşabilir, bu cesaret verici. Ancak buradaki asıl nokta, veri çeşitliliğini dikkate almamız gerektiği. Sadece çok miktarda ham veri toplamak bizi bir yere götürmeyecek. Veri kümelerini tasarimlerken çok dikkatli olmamız gerekiyor,” diyor Boix.

Ekibin yeni yaklaşımı geliştirmek için nörobilimcinin zihniyetini benimsedi. Boix’e göre, deneylerde genellikle kontrol edilen veri kümeleri kullanılır, bu nedenle ekip farklı nesnelerin çeşitli pozlarda resimlerini içeren veri kümeleri oluşturdu. Ardından, bazı veri kümelerinin diğerlerinden daha çeşitli olmasını sağlamak için kombinasyonları kontrol ettiler. Bir veri kümesindeki nesnelerin sadece bir görüş açısından resimlerini gösteren daha az resim varsa, o veri kümesi daha az çeşitliliktedir.

Araştırmacılar bu veri kümelerini aldı ve bir sinir ağını resim sınıflandırma için eğitti. Ardından, ağı, eğitim sırasında görmediği görüş açılarından nesneleri tanıyabilme yeteneğini incelediler.

Daha çeşitli veri kümelerinin ağı, yeni görüntüler veya görüş açılarını daha iyi genellemesine olanak tanıdığını ve bu önyargıyı aşmak için kritik olduğunu buldular.

“Ama daha fazla veri çeşitliliği her zaman daha iyi değil; burada bir gerilim var. Sinir ağı, daha önce görmediği şeyleri tanıyabilme yeteneği arttıkça, daha önce gördüğü şeyleri tanıyabilme yeteneği azalacak,” diyor Boix.

Sanal Sinir Ağlarını Eğitme Yöntemleri

Ekibin ayrıca, her görev için ayrı ayrı eğitilen bir modelin, her iki görevi birlikte eğitilen bir modele kıyasla önyargıyı aşmada daha başarılı olduğunu buldu.

“Sonuçlar gerçekten şaşırtıcıydı. Aslında, bu deneyimi ilk yaptığımızda, bir hata olduğunu düşündük. Gerçekten bir sonuç olduğunu anlamamız birkaç hafta sürdü,” diye devam ediyor Boix.

Daha derin bir analiz, bu süreçte nöron uzmanlaşmasının rol aldığını gösterdi. Bir sanal sinir ağı, resimlerde nesneleri tanıyabilmeyi öğrendiğinde, iki tür nöron ortaya çıkıyor. Bir nöron nesne kategorisini tanıyabilmeye, diğer nöron ise görüş açısını tanıyabilmeye uzmanlaşıyor.

Uzmanlaşmış nöronlar, ağın ayrı ayrı görevler için eğitildiğinde daha belirgin hale geliyor. Ancak, bir ağ aynı anda her iki görevi gerçekleştirmek için eğitildiğinde, bazı nöronlar zayıflıyor. Bu, onların bir görevde uzmanlaşmadıkları ve karışıklığa daha yatkın oldukları anlamına geliyor.

“Ama şimdi sonraki soru, bu nöronlar nasıl ortaya çıktı? Sanal sinir ağını eğitiyorsunuz ve onlar öğrenme sürecinden ortaya çıkıyorlar. Ağın mimarisine bu tür nöronları dahil etmesini kimse söylemedi. Bu gerçekten ilginç bir şey,” diyor Boix.

Araştırmacılar, bu soruyu gelecekteki çalışmalarında araştırmaya çalışacaklar ve yeni yaklaşımı daha karmaşık görevlere uygulamaya çalışacaklar.