Anderson’un Açısı
Bilinçdışı Derin Sahtecilik Algılama Becerilerimiz Gelecekteki Otomatik Sistemleri Güçlü Kılabilir

Öne çıkan noktalarEEG verileri, bilinçli olarak ayırt edemedikleri durumlarda bile izleyicilerin gerçek…
Daha fazla göster
- EEG verileri, bilinçli olarak ayırt edemedikleri durumlarda bile izleyicilerin gerçek ve sahte yüzleri ayırt edebilen bilinçaltı sinirsel sinyalleri ortaya koyuyor.
- Çalışma, daha iyi doğruluk için derin sahte algılayıcıların öznel insan yargıları yerine beyin aktivitesi üzerinde eğitilmesini öneriyor.
- Katılımcılar gerçek yüzlerin %69'unu sahte olarak yanlış tanımladı; bu, derin sahte tespiti için bilinçli algının güvenilmezliğini vurguluyor.
Avustralya’dan yapılan yeni bir araştırmaya göre, beynimiz, görüntülerin gerçekten gerçek olduğuna inandığımız halde, sofistike derin sahtecilikleri tanımada usta.
Bu bulgu, ayrıca, insanların nöral tepkilerini derin sahtecilik yüzlerine (belirttikleri görüşler yerine) kullanarak otomatik derin sahtecilik algılama sistemlerini eğitebileceğimiz olasılığını da ima ediyor. Bu sistemler, görüntülerin derin sahtecilik özelliklerini, görüntünün gerçekliği hakkında yapılan yanlış tahminlerden değil, yüz tanıma için kullanılan içgüdüsel algılama mekanizmalarımızdan öğrenecektir.
‘[B]eynin gerçek ve gerçekçi yüzler arasındaki farkı ‘tanıyabildiği’ halde, gözlemciler bunları bilinçli olarak ayırt edemez. Beyin tepkisi ile davranış arasındaki ayrışmaya ilişkin bulgularımız; sahte yüz algısını nasıl araştırdığımız, sahte görüntü tanıma hakkında hangi soruları sorduğumuz ve sahte görüntülerin kötüye kullanımına karşı koruyucu standartları nasıl oluşturabileceğimiz açısından önem taşımaktadır.’
Sonuçlar, insanların yanlış görüntülere nasıl tepki verdiğini değerlendirmek için tasarlanan testlerin turunda ortaya çıktı. Bu testler, açıkça sahte yüzler, arabalar, iç mekanlar ve ters yüzler gibi görüntüleri içeriyordu.

Deneylerin çeşitli iterasyonları ve yaklaşımları, iki katılımcı grubunun bir görüntüyü ‘sahte’ veya ‘gerçek’ olarak sınıflandırması gereken bir dizi testi içerir. İlk tur Amazon Mechanical Turk üzerinde 200 gönüllüyle yapılırken, ikinci turda daha az sayıda gönüllü EEG cihazlarına bağlı olarak testleri yanıtlamıştır. Kaynak: https://tijl.github.io/tijl-grootswagers-pdf/Moshel_et_al_-_2022_-_Are_you_for_real_Decoding_realistic_AI-generated_.pdf
Makalede iddia edildiği gibi:
‘Sonuçlarımız, gözlemcilerin yalnızca kısa bir bakışta sahte yüzleri tespit edebiliyor olabileceğini gösteriyor. Ancak gerçek yüzleri sahte yüzlerden ayırt etmekte daha fazla zorlanıyorlar ve bazı durumlarda sahte yüzleri gerçek yüzlerden daha gerçek olarak görüyorlar. ‘
‘Ancak zaman çözümlü EEG ve çok değişkenli desen sınıflandırma yöntemleri kullanarak, gerçek yüzleri gerçekdışı ve gerçekçi yüzlerden ayırmanın mümkün olduğunu bulduk. ‘
‘Gerçekçi yüzler için davranış ve nöral tepkiler arasındaki bu ayrılık, sahte yüz algısı hakkında önemli yeni kanıtlar sağlıyor ve GAN tarafından oluşturulan yüzlerin giderek daha gerçekçi hale gelen sınıfı hakkında da önemli sonuçlar içeriyor.’
Makale, bu çalışmanın uygulamalı siber güvenlik alanında çeşitli sonuçları olabileceğini ve derin sahtecilik öğrenme sınıflandırıcılarının geliştirilmesinin, EEG kayıtlarından alınan bilinçdışı tepkilere dayalı olarak yapılmasının, izleyicinin görüntünün gerçekliğine dair bilinçli değerlendirmesine dayanmaktan daha uygun olabileceğini öne sürüyor.
Yazarlar yorumluyor*:
‘Bu, prosopagnozi olan bireylerin, yüzleri davranışsal olarak tanıyamadıkları veya tanımakta zorlandıkları halde, tanıdık yüzlere tanımadıkları yüzlere kıyasla daha güçlü otonom tepkiler göstermelerine benzer.’
‘Benzer şekilde, bu çalışmada, gerçek ve gerçekçi yüzler arasındaki farkı nöral aktiviteden doğru bir şekilde kodlayabildiğimiz halde, gözlemciler bunu davranışsal olarak yapamadılar. Aslında, gözlemciler gerçek yüzlerin %69’unu sahte olarak tanımladılar.’
Yeni çalışma Are you for real? Decoding realistic AI-generated faces from neural activity adlı bir makale ve Sydney Üniversitesi, Macquarie Üniversitesi, Batı Sydney Üniversitesi ve Queensland Üniversitesi’nden dört araştırmacının ortak çalışmasıdır.
Veri
Sonuçlar, insanların açıkça yanlış, hiper-gerçekçi (ancak hâlâ sahte) ve gerçek görüntüleri ayırt etme yeteneğinin iki test turunda gerçekleştirilen daha geniş bir incelemesinden ortaya çıktı.
Araştırmacılar, NVIDIA tarafından paylaşılan Generative Adversarial Networks (GANs) tarafından oluşturulan görüntüleri kullandılar.

NVIDIA tarafından sağlanan GAN tarafından oluşturulan insan yüzü görüntüleri. Kaynak: https://drive.google.com/drive/folders/1EDYEYR3IB71-5BbTARQkhg73leVB9tam
Veriler, 25 yüz, araba ve yatak odası gibi görüntüleri, ‘gerçekdışı’ dan ‘gerçekçi’ ye kadar çeşitli seviyelerde içeriyordu. Yüz karşılaştırması için (yani uygun, sahte olmayan karşılaştırma materyali için), yazarlar NVIDIA’nin Flickr-Faces-HQ (FFHQ) veri setinin kaynak verilerini kullandılar. Diğer senaryoların karşılaştırması için, LSUN veri setinden materyal kullandılar.
Görüntüler, sonunda test konusuna ya doğru ya da ters olarak sunuldu ve çeşitli sıklıklarda sunuldu, tüm görüntüler 256×256 piksel olarak yeniden boyutlandırıldı.
Tüm materyal toplandıktan sonra, testler için 450 stimulus görüntüsü toplandı.
Testler
Testler, ilk olarak jsPsych kullanarak pavlovia.org’da online olarak gerçekleştirildi, 200 katılımcı çeşitli alt kümeleri değerlendirdi. Görüntüler 200 ms süreyle gösterildi, ardından bir boş ekran görüntülendi ve gözlemci görüntünün ‘sahte’ veya ‘gerçek’ olduğunu belirleyene kadar devam etti. Her görüntü yalnızca bir kez sunuldu ve tüm test 3-5 dakika sürdü.
İkinci ve daha açıklayıcı tur, EEG monitörlerine bağlı olarak yapılan yüz yüze testleri içeriyordu ve Psychopy2 platformunda sunuldu. Yirmi dizinin her biri 40 görüntü içeriyordu ve tüm test verisi boyunca 18.000 görüntü sunuldu.
Toplanan EEG verileri MATLAB ve CoSMoMVPA araç kutusuyla, birini dışarıda bırakmalı çapraz doğrulama şeması ve Doğrusal Ayırma Analizi (LDA) kullanılarak çözümlendi.
LDA sınıflandırıcı, sahte stimuluslere beyin tepkisini gözlemcinin kendi görüşünden ayırt edebilen bileşendi.
Sonuçlar
Araştırmacılar, EEG test konusunun gerçek ve sahte yüzleri ayırt edebileceğini görmek istediler, sonuçları topladılar ve işlediler, katılımcıların gerçek yüzleri gerçekdışı yüzlerden kolayca ayırt edebildiklerini, ancak gerçekçi, GAN tarafından oluşturulan sahte yüzleri tanımlamada zorluk çektiklerini buldular. Görüntünün ters çevrilip çevrilmediği önemli bir fark yaratmadı.

İkinci turda gerçek ve sentetik olarak üretilen yüzlerin davranışsal ayırt edilebilirliği.
Ancak EEG verileri farklı bir hikaye anlattı.
Makalede şöyle denildi:
‘Gözlemcilerin gerçek ve sahte yüzleri ayırt etmekte zorlandıkları ve yüzleri gereğinden fazla sahte olarak sınıflandırdıkları halde, EEG verileri bu ayrımla ilgili, gerçekçi ve gerçekdışı yüzler arasında anlamlı ölçüde farklılaşan sinyal bilgilerini içeriyordu ve bu sinyal nispeten kısa bir işleme aşamasıyla sınırlı görünüyordu.’

Burada EEG doğruluğunun ve ilgili kişilerin görüşlerinin (yani yüz görüntülerinin sahte olup olmadığına ilişkin) uyumsuzluğu, EEG kayıtlarının insanların algıladığından daha doğru olduğunu gösteriyor.
Araştırmacılar, gözlemcilerin bilinçli olarak sahte yüzleri tanımlamada zorluk çekebileceklerini, ancak bu yüzlerin insan görsel sisteminde ayrı temsilasyonlara sahip olduğunu belirtiyorlar.
Bulunan bu ayrılık, araştırmacıları gelecekteki güvenlik mekanizmaları için bulgularının olası uygulamaları hakkında spekülasyon yapmaya yöneltti:
‘Uygulamalı bir ortamda, siber güvenlik veya Derin Sahtecilik gibi, gerçekçi yüzlerin algılanma yeteneğini incelemek, davranışsal performansa odaklanmak yerine nörogörüntüleme verilerine uygulanan makine öğrenimi sınıflandırıcıları kullanmak daha uygun olabilir.’
Sonuç olarak:
‘Sahte yüz algısı için beyin ve davranış arasındaki ayrılığı anlamak, yapay olarak oluşturulan bilgilerin potansiyel olarak zararlı ve evrensel yayılmasıyla başa çıkmamızın yolunda pratik sonuçlar doğuracaktır.’
* Metin içindeki kaynak atıflarını hiperbağlantılara dönüştürdüm.
İlk olarak 11 Temmuz 2022’de yayımlandı.













