Araştırmacılar Veri Kümesi Önyargısını Aşmak için Nörobilimcilere Bakıyorlar

MIT, Harvard Üniversitesi ve Fujitsu, Ltd.’de bir araştırma ekibi, bir makine öğrenimi modelinin veri kümesi önyargısını nasıl aşabileceğini araştırdı. Eğitim verilerinin, yapay bir sinir ağının daha önce hiç görmediği nesneleri tanımayı öğrenip öğrenememesini nasıl etkilediğini incelemek için nörobilimsel bir yaklaşım kullandılar.

Araştırma Nature Machine Intelligence‘de yayınlandı.

Eğitim Verilerindeki Çeşitlilik

Çalışmanın sonuçları, eğitim verilerindeki çeşitliliğin bir sinir ağının önyargıyı aşabilmesi üzerinde etkili olduğunu gösterdi. Ancak, veri çeşitliliği aynı zamanda ağın performansını olumsuz etkileyebilir. Araştırmacılar ayrıca, bir sinir ağının eğitilme şeklinin de önyargılı bir veri kümesini aşabilmesi üzerinde etkili olduğunu gösterdi.

Xavier Boix, Beyin ve Bilişsel Bilimler Bölümü (BCS) ve Beyinler, Zihinler ve Makineler Merkezi (CBMM)’nde araştırma bilimcisi ve makalenin kıdemli yazarı.

“Bir sinir ağı veri kümesi önyargısını aşabilir, bu cesaret verici. Ancak buradaki asıl nokta, veri çeşitliliğini dikkate almamız gerektiği. Sadece çok miktarda ham veri toplamak bizi bir yere götürmeyecek. Veri kümelerini tasarlarken çok dikkatli olmamız gerekiyor,” diyor Boix.

Ekip yeni yaklaşımı geliştirmek için nörobilimcinin zihniyetini benimsedi. Boix’e göre, deneylerde genellikle kontrol edilen veri kümeleri kullanılır, bu nedenle ekip farklı nesnelerin çeşitli pozlarda resimlerini içeren veri kümeleri oluşturdu. Ardından, bazı veri kümelerinin diğerlerinden daha çeşitli olmasını sağlamak için kombinasyonları kontrol ettiler. Nesneleri yalnızca tek bir bakış açısından gösteren çok sayıda görüntü içeren bir veri kümesi daha az çeşitlidir. Nesneleri birden çok bakış açısından gösteren çok sayıda görüntü içeren bir veri kümesi ise daha çeşitlidir.

Araştırmacılar bu veri kümelerini aldı ve bir sinir ağını resim sınıflandırma için eğitti. Ardından, ağı, eğitim sırasında görmediği görüş açılarından nesneleri tanıyabilme yeteneğini incelediler.

Daha çeşitli veri kümelerinin ağı, yeni görüntüler veya görüş açılarını daha iyi genellemesine olanak tanıdığını ve bu önyargıyı aşmak için kritik olduğunu buldular.

“Ama daha fazla veri çeşitliliği her zaman daha iyi değil; burada bir gerilim var. Sinir ağı, daha önce görmediği şeyleri tanıyabilme yeteneği arttıkça, daha önce gördüğü şeyleri tanıyabilme yeteneği azalacak,” diyor Boix.

Yapay Sinir Ağlarını Eğitme Yöntemleri

Ekip ayrıca, her görev için ayrı ayrı eğitilen bir modelin, her iki görevi birlikte eğitilen bir modele kıyasla önyargıyı aşmada daha başarılı olduğunu buldu.

“Sonuçlar gerçekten şaşırtıcıydı. Aslında, bu deneyi ilk yaptığımızda, bir hata olduğunu düşündük. Sonuç o kadar beklenmedikti ki bunun gerçek bir sonuç olduğunu anlamamız birkaç hafta sürdü,” diye devam ediyor Boix.

Daha derin bir analiz, bu süreçte nöron uzmanlaşmasının rol aldığını gösterdi. Bir yapay sinir ağı, resimlerde nesneleri tanıyabilmeyi öğrendiğinde, iki tür nöron ortaya çıkıyor. Bir nöron nesne kategorisini tanıyabilmeye, diğer nöron ise görüş açısını tanıyabilmeye uzmanlaşıyor.

Uzmanlaşmış nöronlar, ağın ayrı ayrı görevler için eğitildiğinde daha belirgin hale geliyor. Ancak, bir ağ aynı anda her iki görevi gerçekleştirmek için eğitildiğinde, bazı nöronlar zayıflıyor. Bu, onların bir görevde uzmanlaşmadıkları ve karışıklığa daha yatkın oldukları anlamına geliyor.

“Ama şimdi sonraki soru, bu nöronlar nasıl ortaya çıktı? Yapay sinir ağını eğitiyorsunuz ve onlar öğrenme sürecinden ortaya çıkıyorlar. Ağın mimarisine bu tür nöronları dahil etmesini kimse söylemedi. Bu gerçekten ilginç bir şey,” diyor Boix.

Araştırmacılar, bu soruyu gelecekteki çalışmalarında araştırmaya çalışacaklar ve yeni yaklaşımı daha karmaşık görevlere uygulamaya çalışacaklar.