Araştırmacılar, Veri Kümesi Önyargısının Üstesinden Gelmek İçin Sinirbilimcilere Bakıyor

MIT, Harvard Üniversitesi ve Fujitsu, Ltd.'deki bir araştırma ekibi, bir makine öğrenimi modelinin veri kümesi yanlılığının üstesinden nasıl gelebileceğini araştırdı. Bir yapay sinir ağının hiç görmediği nesneleri tanımayı öğrenip öğrenemeyeceğini eğitim verilerinin nasıl etkilediğini incelemek için bir nörobilim yaklaşımına güvendiler. 

Araştırma yayınlandı Doğa Makine Zekası. 

Eğitim Verilerindeki Çeşitlilik

Çalışmanın sonuçları, eğitim verilerindeki çeşitliliğin, bir sinir ağının önyargının üstesinden gelip gelemeyeceğini etkilediğini gösterdi. Ancak, veri çeşitliliğinin de ağın performansı üzerinde olumsuz bir etkisi olabilir. Araştırmacılar ayrıca, bir sinir ağının eğitilme şeklinin, önyargılı bir veri kümesinin üstesinden gelip gelemeyeceğini de etkileyebileceğini gösterdi. 

Xavier Boix, Beyin ve Bilişsel Bilimler Bölümü'nde (BCS) ve Beyinler, Zihinler ve Makineler Merkezi'nde (CBMM) araştırma bilimcisidir. Aynı zamanda makalenin kıdemli yazarıdır. 

"Bir sinir ağı, cesaret verici olan veri kümesi yanlılığının üstesinden gelebilir. Ancak buradaki ana çıkarım, veri çeşitliliğini hesaba katmamız gerektiğidir. Bir ton ham veri toplarsanız bunun sizi bir yere götüreceğini düşünmeyi bırakmalıyız. İlk etapta veri setlerini nasıl tasarladığımız konusunda çok dikkatli olmamız gerekiyor,” diyor Boix.

Ekip, yeni yaklaşımı geliştirmek için bir sinirbilimcinin zihnini benimsedi. Boix'e göre, deneylerde kontrollü veri kümelerinin kullanılması yaygındır, bu nedenle ekip, farklı nesnelerin çeşitli pozlardaki görüntülerini içeren veri kümeleri oluşturdu. Daha sonra bazı veri kümelerinin diğerlerinden daha çeşitli olması için kombinasyonları kontrol ettiler. Nesneleri yalnızca bir bakış açısından gösteren daha fazla görüntüye sahip bir veri kümesi daha az çeşitliliğe sahipken, nesneleri birden çok bakış açısından gösteren daha fazla görüntüye sahip bir veri kümesi daha çeşitlidir. 

Araştırmacılar bu veri kümelerini aldı ve bunları görüntü sınıflandırması için bir sinir ağı eğitmek için kullandı. Daha sonra, eğitim sırasında ağın görmediği bakış açılarından nesneleri belirlemede ne kadar iyi olduğunu incelediler. 

Daha çeşitli veri kümelerinin ağın yeni görüntüleri veya bakış açılarını daha iyi genelleştirmesine izin verdiğini ve bunun önyargının üstesinden gelmek için çok önemli olduğunu buldular. 

“Ancak daha fazla veri çeşitliliği her zaman daha iyi değildir; burada bir gerginlik var. Sinir ağı görmediği yeni şeyleri tanımakta daha iyi hale geldiğinde, daha önce görmüş olduğu şeyleri tanıması zorlaşacaktır” diyor Boix.

Yapay Sinir Ağlarını Eğitim Yöntemleri

Ekip ayrıca, her görev için ayrı ayrı eğitilen bir modelin, her iki görev için birlikte eğitilen bir modele kıyasla önyargının üstesinden daha iyi gelebildiğini de buldu. 

"Sonuçlar gerçekten çarpıcıydı. Aslında, bu deneyi ilk yaptığımızda bunun bir böcek olduğunu düşündük. Bunun gerçek bir sonuç olduğunu anlamamız birkaç haftamızı aldı çünkü çok beklenmedikti,” diye devam ediyor Boix.

Daha derin analiz, nöron uzmanlaşmasının bu sürece dahil olduğunu ortaya çıkardı. Sinir ağı, görüntülerdeki nesneleri tanımak üzere eğitildiğinde, iki tür nöron ortaya çıkar. Bir nöron, nesne kategorisini tanıma konusunda uzmanlaşırken, diğeri bakış açısını tanıma konusunda uzmanlaşmıştır. 

Ağ, görevleri ayrı ayrı gerçekleştirmek için eğitildiğinde, özel nöronlar daha belirgin hale gelir. Ancak, bir ağ her iki görevi aynı anda tamamlamak üzere eğitildiğinde, bazı nöronlar seyrelir. Bu, tek bir görevde uzmanlaşmadıkları ve kafalarının karışma ihtimalinin daha yüksek olduğu anlamına gelir. 

"Fakat şimdi sıradaki soru şu: Bu nöronlar oraya nasıl ulaştı? Sinir ağını eğitiyorsunuz ve öğrenme sürecinden çıkıyorlar. Hiç kimse ağa mimarisine bu tür nöronları dahil etmesini söylemedi. Büyüleyici olan da bu,” diyor Boix.

Araştırmacılar, gelecekteki çalışmalarında bu soruyu keşfetmeye ve yeni yaklaşımı daha karmaşık görevlere uygulamaya çalışacaklar.