Bilinçdışı Derin Sahtecilik Algılama Becerilerimiz Gelecekteki Otomatik Sistemleri Güçlü Kılabilir

Avustralya’dan yapılan yeni bir araştırmaya göre, beynimiz, görüntülerin gerçekten gerçek olduğuna inandığımız halde, sofistike derin sahtecilikleri tanımada usta.

Bu bulgu, ayrıca, insanların nöral tepkilerini derin sahtecilik yüzlerine (görme açısından değil, beyin aktivitesine dayalı olarak) kullanarak otomatik derin sahtecilik algılama sistemlerini eğitebileceğimiz olasılığını da ima ediyor. Bu sistemler, görüntülerin derin sahtecilik özelliklerini, görüntünün gerçekliği hakkında yapılan yanlış tahminlerden değil, yüz tanıma için kullanılan içgüdüsel algılama mekanizmalarımızdan öğrenecektir.

‘[B]eynin gerçek ve gerçekçi yüzler arasındaki farkı ‘tanıyabildiği’ halde, gözlemciler bunları bilinçli olarak ayırt edemez. Sahte yüz algısı, araştırma yöntemleri ve koruyucu standartlar üzerindeki bulgularımız, davranış ve beyin tepkisi arasındaki ayrılığın önemli sonuçları vardır.’

Sonuçlar, insanların yanlış görüntülere nasıl tepki verdiğini değerlendirmek için tasarlanan testlerin turunda ortaya çıktı. Bu testler, açıkça sahte yüzler, arabalar, iç mekanlar ve ters yüzler gibi görüntüleri içeriyordu.

Deneylerin çeşitli iterasyonları ve yaklaşımları, iki grup test konusunun bir görüntüyü ‘sahte’ veya ‘gerçek’ olarak sınıflandırması gereken bir dizi testi içerir. Kaynak: https://tijl.github.io/tijl-grootswagers-pdf/Moshel_et_al_-_2022_-_Are_you_for_real_Decoding_realistic_AI-generated_.pdf

Makalede iddia edildiği gibi:

‘Sonuçlarımız, gözlemcilerin yalnızca kısa bir bakışta sahte yüzleri tespit edebileceğini gösteriyor. Ancak gerçek yüzleri sahte yüzlerden ayırt etmekte daha fazla zorlanıyorlar ve bazı durumlarda sahte yüzleri gerçek yüzlerden daha gerçek olarak görüyorlar. ‘

‘Ancak zaman çözümlü EEG ve çok değişkenli desen sınıflandırma yöntemleri kullanarak, gerçek yüzleri gerçekdışı ve gerçekçi yüzlerden ayırmanın mümkün olduğunu bulduk. ‘

‘Gerçekçi yüzler için davranış ve nöral tepkiler arasındaki bu ayrılık, sahte yüz algısı hakkında önemli yeni kanıtlar sağlıyor ve GAN tarafından oluşturulan yüzlerin gerçekçi sınıfı hakkında da önemli sonuçlar içeriyor.’

Makale, bu çalışmanın uygulamalı siber güvenlik alanında several sonuçları olabileceğini ve derin sahtecilik öğrenme sınıflandırıcılarının geliştirilmesinin, EEG kayıtlarından alınan bilinçdışı tepkilere dayalı olarak yapılmasının daha uygun olabileceğini öne sürüyor.

Yazarlar yorumluyor*:

‘Bu, prosopagnozi olan bireylerin, yüzleri davranışsal olarak tanıyamadıkları veya tanımakta zorlandıkları halde, tanıdık yüzlere yabancı yüzlerden daha güçlü otomatik tepkiler göstermelerine benzer.’

‘Benzer şekilde, bu çalışmada, gerçek ve gerçekçi yüzler arasındaki farkı nöral aktiviteden doğru bir şekilde kodlayabildiğimiz halde, gözlemciler bunu davranışsal olarak yapamadılar. Aslında, gözlemciler gerçek yüzlerin %69’unu sahte olarak tanımladılar.’

Yeni çalışma Are you for real? Decoding realistic AI-generated faces from neural activity adlı bir makale ve Sydney Üniversitesi, Macquarie Üniversitesi, Batı Sydney Üniversitesi ve Queensland Üniversitesi’nden dört araştırmacının ortak çalışmasıdır.

Veri

Sonuçlar, insanların açıkça yanlış, hiper-gerçekçi (ancak masih yanlış) ve gerçek görüntüleri ayırt etme yeteneğinin daha geniş bir incelemesinden ortaya çıktı.

Araştırmacılar, NVIDIA tarafından paylaşılan Generative Adversarial Networks (GANs) tarafından oluşturulan görüntüleri kullandılar.

NVIDIA tarafından sağlanan GAN tarafından oluşturulan insan yüzü görüntüleri. Kaynak: https://drive.google.com/drive/folders/1EDYEYR3IB71-5BbTARQkhg73leVB9tam

Veriler, 25 yüz, araba ve yatak odası gibi görüntüleri, ‘gerçekdışı’ dan ‘gerçekçi’ ye kadar çeşitli seviyelerde içeriyordu. Yüz karşılaştırması için (yani uygun olmayan sahte materyal için), yazarlar NVIDIA’nin Flickr-Faces-HQ (FFHQ) veri setinin kaynak verilerini kullandılar. Diğer senaryoların karşılaştırması için, LSUN veri setinden materyal kullandılar.

Görüntüler, sonunda test konusuna ya doğru ya da ters olarak sunuldu ve çeşitli sıklıklarda sunuldu, tüm görüntüler 256×256 piksel olarak yeniden boyutlandırıldı.

Tüm materyal toplandıktan sonra, testler için 450 stimulus görüntüsü toplandı.

Test verilerinin temsilcisi örnekleri.

Testler

Testler, ilk olarak jsPsych kullanarak pavlovia.org’da online olarak gerçekleştirildi, 200 katılımcı çeşitli alt kümeleri değerlendirdi. Görüntüler 200 ms süreyle gösterildi, ardından bir boş ekran görüntülendi ve gözlemci görüntünün ‘sahte’ veya ‘gerçek’ olduğunu belirleyene kadar devam etti. Her görüntü yalnızca bir kez sunuldu ve tüm test 3-5 dakika sürdü.

İkinci ve daha açıklayıcı tur, EEG monitörlerine bağlı olarak yapılan yüz yüze testleri içeriyordu ve Psychopy2 platformunda sunuldu. Her birinden 20 diziden oluşan her biri 40 görüntü içeriyordu ve tüm test verisi boyunca 18.000 görüntü sunuldu.

Toplanan EEG verileri, MATLAB ile CoSMoMVPA araç kutusu kullanılarak, Lineer Discriminant Analysis (LDA) altında bir leave-one-out cross-validation şemasıyla解码 edildi.

LDA sınıflandırıcı, sahte stimuluslere beyin tepkisini gözlemcinin kendi görüşünden ayırt edebilen bileşendi.

Sonuçlar

Araştırmacılar, EEG test konusunun gerçek ve sahte yüzleri ayırt edebileceğini görmek istediler, sonuçları topladılar ve işlediler, katılımcıların gerçek yüzleri gerçekdışı yüzlerden kolayca ayırt edebildiklerini, ancak gerçekçi, GAN tarafından oluşturulan sahte yüzleri tanımlamada zorluk çektiklerini buldular. Görüntünün ters çevrilip çevrilmediği önemli bir fark yaratmadı.

İkinci turda gerçek ve sentetik olarak üretilen yüzlerin davranışsal ayırt edilebilirliği.

Ancak EEG verileri farklı bir hikaye anlattı.

Makalede şöyle denildi:

‘Gözlemcilerin gerçek ve sahte yüzleri ayırt etmekte zorlandıkları ve sahte yüzleri över-sınıflandırdıkları halde, EEG verileri bu ayrımı anlamlı bir şekilde farklılaştıran sinyal bilgilerini içeriyordu ve bu sinyal nispeten kısa bir işleme aşamasıyla sınırlı görünüyordu.’

Burada EEG doğruluğunun ve ilgili kişilerin görüşlerinin (yani yüz görüntülerinin sahte olup olmadığına ilişkin) uyumsuzluğu, EEG kayıtlarının insanların algıladığından daha doğru olduğunu gösteriyor.

Araştırmacılar, gözlemcilerin bilinçli olarak sahte yüzleri tanımlamada zorluk çekebileceklerini, ancak bu yüzlerin insan görsel sisteminde ayrı temsilasyonlara sahip olduğunu belirtiyorlar.

Bulunan bu ayrılık, araştırmacıları gelecekteki güvenlik mekanizmaları için bulgularının olası uygulamaları hakkında spekülasyon yapmaya yöneltti:

‘Uygulamalı bir ortamda, siber güvenlik veya Derin Sahtecilik gibi, gerçekçi yüzlerin algılanma yeteneğini incelemek, davranışsal performansa odaklanmak yerine nörogörüntüleme verilerine uygulanan makine öğrenimi sınıflandırıcıları kullanmak daha uygun olabilir.’

Sonuç olarak:

‘Sahte yüz algısı için beyin ve davranış arasındaki ayrılığı anlamak, yapay olarak oluşturulan bilgilerin potansiyel olarak zararlı ve evrensel yayılmasıyla başa çıkmamızın yolunda pratik sonuçlar doğuracaktır.’

* İçsel alıntılara bağlantıları ekledim.

İlk olarak 11 Temmuz 2022’de yayımlandı.