Çalışma, Yapay Zeka Modellerinin İnsan Görsel İşlemesiyle Eşleşmediğini Gösteriyor

York Üniversitesi'nden yapılan yeni bir araştırma, derin evrişimli sinir ağlarının (DCNN'ler), yapısal şekil algısı kullanarak insan görsel işlemesiyle eşleşmediğini gösteriyor. Araştırmanın ortak yazarı Profesör James Elder'a göre, bunun yapay zeka uygulamaları için gerçek dünyada ciddi ve tehlikeli sonuçları olabilir. 

“ başlıklı yeni çalışmaDerin öğrenme modelleri, insan şekli algısının yapısal doğasını yakalayamıyor” Cell Press dergisinde yayınlandı iBilim. 

Bu, İnsan ve Bilgisayar Görüşü alanında York Araştırma Kürsüsü'nün yanı sıra York Yapay Zeka ve Toplum Merkezi'nin Eş Direktör pozisyonunu elinde bulunduran Elder ile yardımcı psikoloji profesörü ve eski VISTA olan Profesör Nicholas Baker'ın ortak çalışmasıydı. York'ta doktora sonrası araştırmacı.

Yeni Görsel Uyaranlar “Frankensteinlar” 

Ekip, hem insan beyninin hem de DCNN'lerin bütüncül, yapısal nesne özelliklerini nasıl işlediğini keşfetmelerine yardımcı olan "Frankenstein'lar" olarak adlandırılan yeni görsel uyaranlara güvendi. 

Elder, "Frankenstein'lar basitçe parçalara ayrılmış ve yanlış bir şekilde bir araya getirilmiş nesnelerdir" diyor. "Sonuç olarak, tüm doğru yerel özelliklere sahipler, ancak yanlış yerlerdeler." 

Çalışma, DCNN'lerin insan görsel sistemi gibi Frankenstein'lar tarafından karıştırılmadığını buldu. Bu, yapılandırma nesnesi özelliklerine duyarsızlığı ortaya çıkarır. 

Elder, "Sonuçlarımız, derin AI modellerinin belirli koşullar altında neden başarısız olduğunu açıklıyor ve beyindeki görsel işlemeyi anlamak için nesneleri tanımanın ötesinde görevleri dikkate alma ihtiyacına işaret ediyor" diye devam ediyor. "Bu derin modeller, karmaşık tanıma görevlerini çözerken 'kısayollar' kullanma eğilimindedir. Bu kısayollar çoğu durumda işe yarasa da, şu anda endüstri ve devlet ortaklarımızla birlikte üzerinde çalıştığımız bazı gerçek dünyadaki yapay zeka uygulamalarında tehlikeli olabilir."

Resim: York Üniversitesi

Gerçek Dünya Etkileri

Elder, bu uygulamalardan birinin de trafik görüntülü güvenlik sistemleri olduğunu söylüyor. 

"Yoğun bir trafik ortamındaki nesneler -araçlar, bisikletler ve yayalar- birbirini engeller ve bir sürücünün gözüne bağlantısız parçalar yığını olarak gelir" diyor. "Beynin, nesnelerin doğru kategorilerini ve konumlarını belirlemek için bu parçaları doğru bir şekilde gruplandırması gerekiyor. Yalnızca parçaları ayrı ayrı algılayabilen trafik güvenliği izleme için bir AI sistemi, bu görevde başarısız olacak ve savunmasız yol kullanıcılarına yönelik riskleri potansiyel olarak yanlış anlayacaktır." 

Araştırmacılar ayrıca, ağları daha beyin benzeri hale getirmeyi amaçlayan eğitim ve mimaride yapılan değişikliklerin, yapılandırma işlemeyi başaramadığını söylüyor. Ağların hiçbiri, deneme deneme insan nesne yargılarını doğru bir şekilde tahmin edemez. 

Elder, "İnsanın yapılandırma duyarlılığını eşleştirmek için ağların, kategori tanımanın ötesinde daha geniş bir nesne görevleri yelpazesini çözmek üzere eğitilmesi gerektiğini düşünüyoruz."