Bilgisayar Görme Modellerini Gerçek Görüntüler Yerine Rastgele Gürültü İle Eğitmek

MIT Bilgisayar Bilimi ve Yapay Zeka Laboratuvarı’ndan (CSAIL) araştırmacılar, bilgisayar görme modellerini eğitmek için bilgisayar görme veri setlerinde rastgele gürültü görüntülerini kullanma deneyleri yapmış ve bunun yerine çöp üretmesi beklenirken, yöntem şaşırtıcı bir şekilde etkili olduğunu bulmuşlardır:

Deneyden elde edilen üretken modeller, performanslarına göre sıralanmıştır. Kaynak: https://openreview.net/pdf?id=RQUl8gZnN7O

Popüler bilgisayar görme mimarilerine “görme çöpü” beslenmesi performansının bu şekilde olması beklenmez. Yukarıdaki resmin sağ tarafında, siyah sütunlar, dört “gerçek” veri seti için (Imagenet-100’de) doğruluk puanlarını temsil etmektedir. Öncesinde bulunan “rastgele gürültü” veri setleri (çeşitli renklerde, üst sol köşede görüldüğü gibi) bunu eşleştiremese de, bunlar neredeyse tümü saygın üst ve alt sınırlar (kırmızı çizgiler) içinde doğruluk için bulunmaktadır.

Bu anlamda “doğruluk” bir sonucun mutlaka bir yüz, bir kilise, bir pizza veya ilgi duyulan herhangi bir özel alan için görüntü sentezleme sistemi oluşturmak istediği gibi bir şey anlamına gelmez, Örneğin, bir Üretken Karşıt Ağ veya bir kodlayıcı/çözücü çerçeve.

Bunun yerine, CSAIL modellerinin görüntü verisinden türetilen genel olarak uygulanabilir merkezi “gerçekler” elde ettiğini gösterir; bu görüntü verisi o kadar yapılandırılmamış görünmektedir ki, bunu sağlamaya yeterli olmayacağı düşünülür.

Çeşitlilik Vs. Doğalcılık

Bu sonuçlar, aşırı uyarlama nedeniyle de oluşmamıştır: Open Review’de yazarlar ve inceleyiciler arasındaki canlı tartışma, görsel olarak çeşitli veri setlerinden (örneğin “ölü yapraklar”, “fraktaller” ve “yordamsal gürültü” – aşağıdaki resme bakınız) farklı içerikleri birleştirerek bir eğitim veri setine eklemenin aslında bu deneylerde doğruluğu artırabileceğini göstermektedir.

Bu, “çeşitlilik”nin “doğalcılık”tan daha önemli olabileceği anlamına gelen yeni bir “alt-uyarlama” türü olduğunu öne sürmektedir.

Deneyde kullanılan farklı türdeki rastgele görüntü veri setlerini etkileşimli olarak görüntülemek için proje sayfası. Kaynak: https://mbaradad.github.io/learning_with_noise/

Araştırmacıların elde ettiği sonuçlar, görüntü tabanlı sinir ağları ile onlara her yıl alarm veren miktarlarda atılan “gerçek dünya” görüntüleri arasındaki temel ilişkiyi sorgulamaktadır ve bu, büyük ölçekli görüntü veri setlerini elde etme, düzenleme ve diğer şekilde idare etme ihtiyacının sonunda gereksiz olabileceğini ima etmektedir. Yazarlar şunları belirtmektedir:

‘Mevcut görme sistemleri devasa veri setleriyle eğitilir ve bu veri setleri maliyetler getirir: düzenleme pahalıdır, insan önyargılarını miras alır ve gizlilik ve kullanım hakları konusunda endişeler vardır. Bu maliyetleri karşılamak için, daha ucuz veri kaynaklarından öğrenme ilgisi artmıştır, Örneğin, etiketlenmemiş görüntüler.’

‘Bu çalışmada, bir adım daha ileri gidiyor ve gerçek görüntü veri setlerini tamamen ortadan kaldırarak, yordamsal gürültü süreçlerinden öğrenmeyi soruyoruz.’

‘‘Görme sistemleri için iyi sentetik veri oluşturmak için iki ana özellik belirledik: 1) doğalcılık, 2) çeşitlilik. İlginç olan, en doğal veri her zaman en iyi veri değildir, çünkü doğalcılık çeşitlilik maliyetine mal olabilir.’

‘Gerçek veri setlerinin faydalı olabileceği gerçeği şaşırtıcı değildir ve büyük ölçekli gerçek verilerin değerini gösterir. Ancak, bizim bulduğumuz şey, verinin gerçekten önemli olanın “gerçek” olması değil, “doğal” olmasıdır, yani gerçek veri setlerinin belirli yapısal özelliklerini yakalaması gerekir.’

‘Bu özelliklerin birçoğu basit gürültü modellerinde yakalanabilir.’

Yazarların kullandığı çeşitli ‘rastgele görüntü’ veri setlerinden elde edilen öznitelik görselleştirmeleri, 3. ve 5. (son) konvolüsyonel katmanları kapsar. Burada kullanılan yöntem, 2017’de Google AI araştırmalarında belirtilen yöntemle aynıdır.

Makale, 35. Sinir Bilgi İşleme Sistemleri Konferansı’nda (NeurIPS 2021) sunulmuş ve altı CSAIL araştırmacısı tarafından eşit katkıda bulunularak yazılmıştır.

Çalışma, NeurIPS 2021’de vurgulu seçim için oy birliği ile önerilmiştir ve hakemler tarafından “bilimsel bir đột破” ve “harika bir çalışma alanı” olarak nitelendirilmiştir.

Araştırmacılar makalelerinde şunları belirtmektedir:

‘Görme temsillerini başarılı bir şekilde eğitebilen veri setleri tasarlayabildiğimizi gösterdik. Bu makalenin, daha yapılandırılmış gürültü üretebilen yeni üretken modellerin geliştirilmesini teşvik edeceğini umuyoruz, böylece çeşitli görsel görevlerde daha yüksek performans elde edilebilir. ‘

‘ImageNet ön eğitime elde edilen performansı eşleştirmek mümkün olabilir mi? Belki de belirli bir görev için büyük bir eğitim veri seti yoksa, en iyi ön eğitim, ImageNet gibi standart bir gerçek veri setini kullanmak olmayabilir.’