Araştırmacılar Bilgisayarlı Görmedeki Önyargıları Ortadan Kaldırmak için Yeni bir Araç Geliştirdiler

Yapay zeka (AI) alanında ortaya çıkan son sorunlardan biri, bilgisayar görme中的 önyargıdır. Birçok uzman, çeşitli uygulamalarda çarpık sonuçlara yol açan AI sistemlerindeki önyargıları keşfetmektedir.

Bu sorunları çözmek için büyük bir çaba sarf edilmektedir ve en son gelişme Princeton Üniversitesi’nden gelmiştir. Araştırmacılar, AI sistemlerini eğitmek için kullanılan görüntülerdeki olası önyargıları saptayabilen bir araç geliştirdiler.

Bu çalışma 24 Ağustos’ta sanal Avrupa Bilgisayarlı Görme Konferansı’nda sunuldu.

AI Sistemlerindeki Önyargı

AI sistemlerindeki önyargının ana nedenlerinden biri, bu sistemlerin genellikle çevrimiçi kaynaklardan gelen büyük görüntü kümeleriyle eğitilmesidir. Bu görüntüler stereotip olabilir ve bilgisayar görme geliştirilirken, sonuç istemeden etkilenmiş olabilir. Bilgisayarlı görme, bilgisayarların insanları, nesneleri ve eylemleri tanımlamasını sağlar.

Araştırmacılar tarafından geliştirilen araç, açık kaynaklıdır ve görsel veri kümelerindeki olası önyargıları otomatik olarak ortaya çıkarabilir. Bilgisayarlı görme modellerini eğitmek için kullanılan görüntü kümeleri kullanılmadan önce harekete geçer ve temsil edilmeyen veya stereotip sorunları giderilebilir.

REVISE

Yeni araç, REVISE olarak adlandırılmıştır ve istatistiksel yöntemler kullanarak veri kümesindeki olası önyargıları tanımlar. Nesne tabanlı, cinsiyet tabanlı ve coğrafya tabanlı olmak üzere üç alana odaklanır.

REVISE tamamen otomatiktir ve daha önce veri kümesi görüntülerini filtreleme ve dengeleme yöntemlerine dayanmaktadır.

Yeni araç, mevcut görüntü açıklamaları ve ölçümlerini kullanarak veri kümesinin içeriğini analiz eder. Bu açıklamalar arasında nesne sayısı ve görüntülerin köken ülkeleri bulunur.

Araç çalışırken, REVISE’nin insan ve çiçek görüntülerinin cinsiyete göre farklı olduğunu gösterdiği bir örnek vardır. Erkekler, törenlerde veya toplantılarda çiçeklerle birlikte daha çok görünürken, kadınlar, resimlerde veya sahnelenmiş senaryolarda çiçeklerle birlikte daha çok görünür.

Olga Russaskovsky, bilgisayar bilimi yardımcı profesörü ve Görsel AI Laboratuvarı’nın baş araştırmacısıdır. Makale, lisansüstü öğrenci Angelina Wang ve bilgisayar bilimi yardımcı profesörü Arvind Narayanan ile birlikte yazılmıştır.

Araç, tutarsızlıkları belirledikten sonra, “sonra bunun tamamen masum bir gerçek olup olmadığını veya daha derin bir şey olup olmadığını sorgulamak gerekir ve bu çok zor bir otomatikleştirme işidir” dedi Russaskovsky.

Temsil Edilmeyen veya Yanlış Temsil Edilen Bölgeler

Bilgisayarlı görme veri kümelerinde çeşitli bölgeler temsil edilmemektedir ve bu, AI sistemlerinde önyargıya yol açabilir. Bir bulgu, ABD ve Avrupa ülkelerinden çok daha fazla görüntünün geldiğini göstermektedir. REVISE ayrıca, diğer bölgelerden gelen görüntülerin genellikle yerel dilde resim açıklamalarına sahip olmadığını, birçok görüntünün bir turistin ülke görüşünden geldiğini ortaya çıkarmıştır.

“Bu coğrafi analiz, nesne tanımanın hala oldukça önyargılı ve dışlayıcı olabileceğini ve farklı bölgeleri ve insanları eşitsiz bir şekilde etkileyebileceğini göstermektedir” dedi Russaskovsky.

“Bilgisayar bilimi alanında veri kümesi toplama uygulamaları yakın zamanda kadar çok iyi incelenmemiştir” dedi Wang. Görüntü toplama konusunda, “çevrimiçi kaynaklardan toplanır ve insanlar her zaman görüntülerinin veri kümelerinde kullanıldığının farkında değildir. Daha çeşitli insan gruplarından görüntüler toplamak gerekir, ancak bunu yaparken görüntüleri saygılı bir şekilde aldığımızdan emin olmalıyız.”

Vicente Ordonez-Roman, Virginia Üniversitesi’nde bilgisayar bilimi yardımcı profesörüdür.

“Araçlar ve testler önemli bir adımdır… bunlar, önyargıları daha erken aşamada yakalamamızı ve problem kurulumumuzu ve varsayımlarımızı yeniden düşünmemizi sağlar” dedi Ordonez-Roman. “Bilgisayarlı görmede temsil ve stereotip propagasyonu ile ilgili belirli zorluklar vardır. Princeton Görsel AI Laboratuvarı gibi çalışmalar, bu sorunlara dikkat çekmekte ve bunları hafifletmek için stratejiler sunmaktadır.”

Araştırmacılar tarafından geliştirilen yeni araç, AI sistemlerindeki önyargıyı gidermek için önemli bir adımdır. Şimdi bu sorunları çözmek için doğru zamandır, çünkü sistemler ilerledikçe ve daha karmaşık hale geldikçe bu sorunları çözme işi çok daha zor olacaktır.