Yapay zeka modelleri ve platformları
İnsan Görsel İşlemeyle Eşleşmeyen AI Modelleri
Öne çıkan noktalarYapay zeka görüş modelleri, insan algısının aksine bütünsel nesne şekillerini…
Daha fazla göster
- Yapay zeka görüş modelleri, insan algısının aksine bütünsel nesne şekillerini kavramakta başarısız oluyor.
- Bu kusur, trafik güvenliği gibi gerçek uygulamalarda riskleri tehlikeli şekilde yanlış okumaya yol açabilir.
- Basit tanımanın ötesinde, daha geniş görevler üzerinde ağları eğitmek gerekli olabilir.
York Üniversitesi’nden yapılan bir yeni çalışma, derin konvolüsyonel sinir ağlarının (DCNN’ler) configüratif şekil algılaması kullanarak insan görsel işlemeyle eşleşmediğini gösteriyor. Çalışmanın ortak yazarı Profesör James Elder’e göre, bu durum AI uygulamaları için ciddi ve tehlikeli gerçek dünya sonuçlarına sahip olabilir.
“Derin öğrenme modelleri insan şekil algısının konfigüral doğasını kavrayamıyor” başlıklı yeni çalışma, Cell Press’in iScience dergisinde yayımlandı.
Bu ortak araştırmada Elder, York Üniversitesi’nin İnsan ve Bilgisayar Görmesi Araştırma Kürsüsü’nü yürütmesinin yanı sıra üniversitenin AI ve Toplum Merkezi’nin eş direktörlüğünü de üstleniyordu. Ayrıca, York Üniversitesi’nde asistan psikoloji profesörü ve eski VISTA postdoc araştırma görevlisi olan Profesör Nicholas Baker ile işbirliği içinde gerçekleştirildi.
Yeni Görsel Stimüller “Frankensteins”
Araştırmacılar, insan beyni ve DCNN’lerin holistik, configüratif nesne özelliklerini işleme şeklini keşfetmelerine yardımcı olan “Frankensteins” olarak adlandırılan yeni görsel stimüllere başvurdu.
“Frankensteins, basitçe parçalara ayrılmış ve yanlış bir şekilde yeniden birleştirilmiş nesnelerdir” diyor Elder. “Bu nedenle, doğru yerel özelliklere sahipler, ancak yanlış yerlerde.”
Çalışma, insan görsel sisteminin aksine DCNN’lerin Frankensteins tarafından şaşırtılmadığını, bu da configüratif nesne özelliklerine duyarsızlık olduğunu ortaya koydu.
“Sonuçlarımız, derin AI modellerinin neden belirli koşullar altında başarısız olduğunu açıklar ve beyindeki görsel işleme anlaşılması için nesne tanıma ötesinde görevleri dikkate almamız gerektiğini gösterir” diye devam ediyor Elder. “Bu derin modeller, karmaşık tanıma görevlerini çözerken ‘kısayollar’ alır. Bu kısayollar birçok durumda işe yarayabilir, ancak şu anda sanayi ve kamu ortaklarımızla geliştirdiğimiz bazı gerçek dünya AI uygulamalarında tehlikeli olabilir.”

Resim: York Üniversitesi
Gerçek Dünya Sonuçları
Elder, bu uygulamalardan birinin trafik video güvenlik sistemleri olduğunu söylüyor.
“Karmaşık bir trafik sahnesindeki nesneler – araçlar, bisikletler ve yayalar – birbirlerini engeller ve sürücünün gözüne ayrılmış parçalar olarak gelir” diyor. “Beyin, bu parçaları doğru şekilde gruplamak zorundadır, böylece nesnelerin doğru kategorilerini ve konumlarını belirleyebilir. Yalnızca bireysel parçaları algılayabilen bir AI sistemi, trafik güvenliği izleme görevinde başarısız olacaktır, potansiyel olarak savunmasız yol kullanıcılarının karşılaştığı riskleri yanlış değerlendirebilir.”
Araştırmacılara göre, ağları beyne daha çok benzetmek amacıyla eğitim ve mimaride yapılan değişiklikler konfigüral işleme sağlayamadı. Hiçbir ağ, insan nesne yargılarını deneme başına doğru şekilde tahmin edemedi.
“İnsan configüratif duyarlılığını eşleştirmek için, ağların kategori tanımanın ötesinde daha geniş bir nesne görevi yelpazesini çözmeyi öğrenmesi gerektiğini düşünüyoruz” diyor Elder.












