İnsan Görsel İşlemeyle Eşleşmeyen AI Modelleri

York Üniversitesi’nden yapılan bir yeni çalışma, derin konvolüsyonel sinir ağlarının (DCNN’ler) configüratif şekil algılaması kullanarak insan görsel işlemeyle eşleşmediğini gösteriyor. Çalışmanın ortak yazarı Profesör James Elder’e göre, bu durum AI uygulamaları için ciddi ve tehlikeli gerçek dünya sonuçlarına sahip olabilir.

“Derin öğrenme modellerinin insan şekil algılamasının configüratif doğasını yakalayamadığı” başlıklı yeni çalışma, Cell Press dergisinde yayınlandı.

Bu çalışma, Elder tarafından yürütüldü ve York Üniversitesi’nin İnsan ve Bilgisayar Görme Araştırma Kürsüsü ile AI ve Toplum Merkezi’nin eş direktörü olarak görev yaptı. Ayrıca, York Üniversitesi’nde asistan psikoloji profesörü ve eski VISTA postdoc araştırma görevlisi olan Profesör Nicholas Baker ile işbirliği içinde gerçekleştirildi.

Yeni Görsel Stimüller “Frankensteins”

Araştırmacılar, insan beyni ve DCNN’lerin holistik, configüratif nesne özelliklerini işleme şeklini keşfetmelerine yardımcı olan “Frankensteins” olarak adlandırılan yeni görsel stimüllere başvurdu.

“Frankensteins, basitçe parçalara ayrılmış ve yanlış bir şekilde yeniden birleştirilmiş nesnelerdir” diyor Elder. “Bu nedenle, doğru yerel özelliklere sahipler, ancak yanlış yerlerde.”

Çalışma, DCNN’lerin Frankensteins tarafından karıştırılmadığını, bu da configüratif nesne özelliklerine duyarsızlık olduğunu ortaya koydu.

“Sonuçlarımız, derin AI modellerinin neden belirli koşullar altında başarısız olduğunu açıklar ve beyindeki görsel işleme anlaşılması için nesne tanıma ötesinde görevleri dikkate almamız gerektiğini gösterir” diye devam ediyor Elder. “Bu derin modeller, karmaşık tanıma görevlerini çözerken ‘kısayollar’ alır. Bu kısayollar çoğu durumda işe yarayabilir, ancak bazı gerçek dünya AI uygulamalarında tehlikeli olabilir.”

Resim: York Üniversitesi

Gerçek Dünya Sonuçları

Elder, bu uygulamalardan birinin trafik video güvenlik sistemleri olduğunu söylüyor.

“Karmaşık bir trafik sahnesindeki nesneler – araçlar, bisikletler ve yayalar – birbirlerini engeller ve sürücünün gözüne ayrılmış parçalar olarak gelir” diyor. “Beyin, bu parçaları doğru şekilde gruplamak zorundadır, böylece nesnelerin doğru kategorilerini ve konumlarını belirleyebilir. Yalnızca bireysel parçaları algılayabilen bir AI sistemi, trafik güvenliği izleme görevinde başarısız olacaktır, potansiyel olarak savunmasız yol kullanıcılarını yanlış anlar.”

Araştırmacılara göre, ağları daha beyin benzeri hale getirmeyi ve mimariyi değiştirmeyi amaçlayan değişiklikler, configüratif işleme đạtılmasına ulaşmadı. Hiçbir ağ, insan nesne yargılarını deneme başına doğru şekilde tahmin edemedi.

“İnsan configüratif duyarlılığını eşleştirmek için, ağların nesne tanıma ötesinde daha geniş bir nesne görevi çözmeyi öğrenmesi gerektiğini düşünüyoruz” diyor Elder.