Araştırmacılar Bilgisayarla Görüde Önyargıyla Mücadele Etmek İçin Yeni Bir Araç Geliştirdi

Yapay zeka (AI) alanında ortaya çıkan son sorunlardan biri bilgisayar görüşündeki önyargıdır. Pek çok uzman artık yapay zeka sistemlerinde önyargıyı keşfediyor ve bu da mahkeme salonu cezalandırma programları gibi çeşitli farklı uygulamalarda çarpık sonuçlara yol açıyor.

Princeton Üniversitesi'nden gelen en yeni gelişmeyle, bu sorunlardan bazılarını düzeltmeye yönelik büyük bir çaba var. Kurumdaki araştırmacılar, AI sistemlerini eğitmek için kullanılan görüntülerdeki potansiyel önyargıları işaretleyebilen yeni bir araç yarattı. 

MKS iş 24 Ağustos'ta sanal Avrupa Bilgisayarla Görme Konferansı'nda sunuldu. 

AI Sistemlerinde Önyargı

Mevcut yapay zeka sistemlerinde bulunan yanlılığın ana nedenlerinden biri, genellikle çevrimiçi kaynaklardan gelen büyük görüntü kümeleri üzerinde eğitilmiş olmalarıdır. Bu görüntüler basmakalıp olabilir ve bilgisayar görüşünü geliştirmeye yöneldiklerinde, sonuç kasıtsız olarak etkilenen modeller olabilir. Bilgisayar görüşü, bilgisayarların insanları, nesneleri ve eylemleri tanımlamasını sağlayan şeydir. 

Araştırmacılar tarafından geliştirilen araç açık kaynak kodludur ve görsel veri setlerindeki potansiyel yanlılıkları otomatik olarak ortaya çıkarabilmektedir. Görüntü kümeleri bilgisayarla görme modellerini eğitmek için kullanılmadan önce harekete geçerek çalışır ve yetersiz temsil ve klişeleri çevreleyen sorunlar, bir etkiye neden olmadan önce giderilebilir. 

REVISE

Yeni araca REVISE adı verilir ve bir veri kümesindeki olası yanlılıkları belirlemek için istatistiksel yöntemlere dayanır. Nesne tabanlı, cinsiyet tabanlı ve coğrafya tabanlı olmak üzere üç alana odaklanır. 

REVISE tamamen otomatiktir ve kullanıcının daha fazla kontrole sahip olabilmesi için veri seti görüntülerini filtrelemeyi ve dengelemeyi içeren önceki yöntemler üzerine kurulmuştur. 

Yeni araç, bir veri kümesindeki içeriği analiz etmek için mevcut görüntü ek açıklamalarına ve ölçümlerine dayanır. Mevcut ek açıklamalardan bazıları, görüntüler için nesne sayısını ve menşe ülkeleri içerir. 

REVISE, aracın çalışmasına ilişkin bir örnekte hem insan hem de çiçek resimlerinin cinsiyete göre nasıl farklı olduğunu gösterdi. Erkeklerin törenlerde veya toplantılarda çiçeklerle görünme olasılığı daha yüksekti ve kadınların resimlerde veya sahnelenen senaryolarda çiçeklerle görünme olasılığı daha yüksekti.

Olga Russaskovsky, bilgisayar bilimi yardımcı doçenti ve Visual AI Lab'ın baş araştırmacısıdır. Makale, yüksek lisans öğrencisi Angelina Wang ve bilgisayar bilimi doçenti Arvind Narayanan ile birlikte yazılmıştır.

Russaskovsky, araç tutarsızlıkları belirledikten sonra, "o zaman bunun tamamen zararsız bir gerçek mi yoksa daha derin bir şey mi olduğu sorusu var ve bunu otomatikleştirmek çok zor" dedi. 

Yetersiz Temsil Edilen veya Yanlış Temsil Edilen Bölgeler

Dünyanın dört bir yanındaki çeşitli bölgeler, bilgisayarlı görü veri setlerinde yeterince temsil edilmemektedir ve bu, yapay zeka sistemlerinde önyargıya yol açabilir. Bulgulardan biri, önemli ölçüde daha fazla sayıda görüntünün ABD ve Avrupa ülkelerinden gelmesiydi. REVISE ayrıca, dünyanın diğer yerlerinden gelen görüntülerin yerel dilde resim alt yazıları olmadığını, yani birçoğunun bir turistin bir ulusa bakış açısından gelebileceğini ortaya çıkardı. 

Russaskovsky, "...bu coğrafya analizi, nesne tanımanın hala oldukça önyargılı ve dışlayıcı olabileceğini ve farklı bölgeleri ve insanları eşit olmayan bir şekilde etkileyebileceğini gösteriyor," diye devam etti. 

Wang, "Bilgisayar bilimlerindeki veri kümesi toplama uygulamaları yakın zamana kadar bu kadar kapsamlı bir şekilde incelenmemişti," dedi. Görüntü toplama söz konusu olduğunda, "internetten derleniyorlar ve insanlar görüntülerinin [veri kümelerinde] kullanıldığını her zaman fark etmiyorlar. Daha çeşitli insan gruplarından görüntü toplamalıyız, ancak bunu yaparken de görüntüleri saygılı bir şekilde topladığımızdan emin olmalıyız."

Vicente Ordonez-Roman, Virginia Üniversitesi'nde bilgisayar bilimi alanında yardımcı doçenttir. 

Ordonez-Roman, "Araçlar ve karşılaştırmalı değerlendirmeler önemli bir adımdır... Bunlar, bu önyargıları boru hattının başlarında yakalamamıza ve problem kurulumumuzu ve varsayımlarımızın yanı sıra veri toplama uygulamalarımızı yeniden düşünmemize izin veriyor" dedi. "Bilgisayar görüşünde, stereotiplerin temsili ve yayılmasıyla ilgili bazı özel zorluklar var. Princeton Visual AI Lab tarafından yapılanlar gibi çalışmalar, bu sorunlardan bazılarının aydınlatılmasına ve bilgisayarlı görü topluluğunun dikkatine sunulmasına yardımcı oluyor ve bunları azaltmak için stratejiler sunuyor."

Araştırmacılar tarafından geliştirilen yeni araç, AI sistemlerinde mevcut olan önyargıyı gidermeye yardımcı olacak önemli bir adımdır. Sistemler ilerledikçe ve daha karmaşık hale geldikçe çok daha zor hale geleceğinden, şimdi bu sorunları çözme zamanı.