GOTCHA– Canlı Derin Sahtecilik için Bir CAPTCHA Sistemi

New York Üniversitesi’nden yeni bir araştırma, yakın zamanda kendimizi doğrulamak için bir ‘sarhoşluk testi’ gibi bir şey yapmamız gerekebileceğini öne sürüyor. Bu, bir video konferans gibi hassas bir video görüşmesi başlamadan önce ourselves’i doğrulamak için gerekebilir. Örneğin, iş ile ilgili bir video konferans veya diğer herhangi bir hassas senaryo olabilir. Bu senaryolarda sahtekarların gerçek zamanlı derin sahtecilik akışı yazılımını kullanmaları mümkündür.

GOTCHA’da video görüşmesi senaryolarına uygulanan bazı aktif ve pasif zorluklar. Kullanıcı, bu zorluklara uymak ve geçmek zorundadır, ayrıca ‘pasif’ yöntemler (potansiyel bir derin sahtecilik sistemini aşırı yüklemek gibi) kullanılır ve bunlar üzerinde katılımcının hiçbir etkisi yoktur. Kaynak: http://export.arxiv.org/pdf/2210.06186

Önerilen sistem GOTCHA olarak adlandırılmıştır. Bu, son 10-15 yıl içinde web taramada artan bir engel haline gelen CAPTCHA sistemlerine bir ödündür. CAPTCHA sistemlerinde, otomatik sistemler kullanıcıya, makinelerin kötü olduğu görevleri yerine getirmesini ister, Örneğin, hayvanları tanımlamak veya karışık metni çözmek (ve ironik olarak, bu zorluklar sık sık kullanıcıyı ücretsiz bir AMT tarzı outsourced annotator haline getirir).

Aslında, GOTCHA, Ağustos 2022 DF-Captcha makalesini genişletir. Bu makale, ilk olarak bir video görüşmesinde karşıdaki kişinin kimliğini kanıtlamak için birkaç görsel anlamsal engel atlama önerisini içerir.

Ben Gurion Üniversitesi’nden Ağustos 2022 makalesi, bir kullanıcı için çeşitli etkileşimli testler önerir. Örneğin, yüzünü kapamak veya cildini sıkıştırmak gibi görevler. Bu görevler, iyi eğitilmiş canlı derin sahtecilik sistemleri tarafından öngörülmemiş veya fotogerçekçi bir şekilde başa çıkılamayabilir. Kaynak: https://arxiv.org/pdf/2208.08524.pdf

Önemli olarak, GOTCHA, ‘pasif’ yöntemleri bir dizi önerilen teste ekler. Bu yöntemler arasında, kullanıcıların yüzüne gerçek olmayan öğeler eklemek ve çerçeve üzerinden geçen sistemi aşırı yüklemek bulunur. Ancak, yalnızca kullanıcıya tepki veren görevler, özel izinler olmadan yerel sistemine erişim olmadan değerlendirilebilir.

Makaleden, GOTCHA’daki arayan ve sistem arasındaki etkileşimin bir illüstrasyonu. Noktalı çizgiler karar akışlarını gösterir.

Araştırmacılar, sistemlerini 47 katılımcıdan oluşan yeni bir veri setinde test ettiler. Her katılımcı, GOTCHA’dan 13 zorluğu gerçekleştirdi. Araştırmacılar, çerçeveli sahtecilik içeriğinde ‘sürekli ve ölçülebilir’ bir azalma olduğunu iddia ederler. Bu, yerel sistemi, sahteciliği açıkça ortaya çıkarmak için zorlar.

The new paper is titled Gotcha: A Challenge-Response System for Real-Time Deepfake Detection (the system’s name is capitalized in the body but not the title of the publication, though it is not an acronym).

Çeşitli Zorluklar

Genel olarak, Ben Gurion makalesine uygun olarak, kullanıcıya yönelik gerçek zorluklar birkaç görev türüne ayrılmıştır.

For occlusion, the user is required either to obscure their face with their hand, or with other objects, or to present their face at an angle that is not likely to have been trained into a deepfake model (usually because of a lack of training data for ‘odd’ poses – see range of images in the first illustration above).

Besides actions that the user may perform themselves in accordance with instructions, GOTCHA can superimpose random facial cutouts, stickers and augmented reality filters, in order to ‘corrupt’ the face-stream that a local trained deepfake model may be expecting, causing it to fail. As indicated before, though this is a ‘passive’ process for the user, it is an intrusive one for the software, which needs to be able to intervene directly in the end-correspondent’s stream.

Next, the user may be required to pose their face into unusual facial expressions that are likely to either be absent or under-represented in any training dataset, causing a lowering of quality of the deepfaked output (image ‘b’, second column from left, in the first illustration above).

As part of this strand of tests, the user may be required to read out text or make conversation that is designed to challenge a local live deepfaking system, which may not have trained an adequate range of phonemes or other types of mouth data to a level where it can reconstruct accurate lip movement under such scrutiny.

Finally (and this one would seem to challenge the acting talents of the end correspondent), in this category, the user may be asked to perform a micro-expression’ – a short and involuntary facial expression that belies an emotion. Of this, the paper says ‘[it] usually lasts 0.5-4.0 seconds, and is difficult to fake’.

Though the paper does not describe how to extract a micro-expression, logic suggests that the only way to do it is to create an apposite emotion in the end user, perhaps with some kind of startling content presented to them as part of the test’s routine.

Yüz Distorsiyonu, Aydınlatma ve Beklenmedik Konuklar

Ek olarak, Ağustos makalesinin önerilerine uygun olarak, yeni çalışma, son kullanıcıya yüz distorsiyonu ve manipülasyonları gerçekleştirmesini ister. Örneğin, parmağını yanağına bastırmak, yüzüne veya saçına temas etmek ve diğer hareketler gibi. Bu hareketler, mevcut canlı derin sahtecilik sistemlerinin iyi bir şekilde ele alamayacağı marjinal eylemlerdir.

Gülümseme, ancak bu ‘depressed face’ yerel bir canlı derin sahtecilik sistemi tarafından iyi bir şekilde tercüme edilmez.

Ayrıca, son kullanıcı, aydınlatma koşullarını değiştirmesi istenebilir. Çünkü, bir derin sahtecilik modelinin eğitimi, standart video konferans aydınlatma durumlarına veya hatta aramanın gerçekleştiği aydınlatma koşullarına optimize edilmiş olabilir.

Örneğin, son kullanıcı, cep telefonunun fenerini yüzüne tutması veya aydınlatmayı başka bir şekilde değiştirmesi istenebilir. Bu, yerel bir derin sahtecilik sistemini zorlayacaktır.

Canlı derin sahtecilik sistemleri, beklenmedik aydınlatma koşullarıyla zorlanabilir – ve hatta akışta beklenenden daha fazla kişiyle zorlanabilir.

Sistem, yerel kullanıcı akışına müdahale edebilir ve beklenmedik desenler ekleyebilir. Bu, derin sahtecilik algoritmasının simülasyonu sürdürme yeteneğini bozabilir.

Ayrıca, sistem, beklenmedik yüzler ekleyebilir. Bu, yerel bir derin sahtecilik sisteminin dikkatini dağıtabilir veya hatta tüm yüzleri derin sahtecilik yapmaya çalışabilir.

Steganografi ve Aşırı Yüklenme

GOTCHA, ayrıca UC San Diego tarafından Nisan ayında önerilen bir yaklaşımı içerir. Bu yaklaşım, bir mesajı kullanıcıların yerel video akışına şifreler. Derin sahtecilik rutinleri, bu mesajı tamamen yok edecektir. Bu, kimlik doğrulama hatasına yol açacaktır.

Nisan 2022’de University of California San Diego ve San Diego State University’den bir makale, bir kullanıcının video akışına şifrelenmiş bir mesaj göndererek kimlik doğrulamasını belirleme yöntemini gösterir. Kaynak: https://arxiv.org/pdf/2204.01960.pdf

GOTCHA, ayrıca yerel sistemi aşırı yükleyebilir. Sistem, akışı çoğaltabilir ve yerel sisteme ‘aşırı’ veri sunabilir. Bu, bir yerel derin sahtecilik sisteminin çoğaltma hatasına yol açacaktır.

Sistem, ayrıca bir dizi test içerir. Örneğin, bir akıllı telefon tabanlı muhatap, telefonunu ters çevirmesi istenebilir. Bu, bir yerel derin sahtecilik sistemini bozabilir.

Bu gibi şeyler, ancak yerel akışa müdahale yetkisi verildiğinde çalışabilir.

Pratiklik

Makale, bu tür testlerin son kullanıcıyı nasıl rahatsız edebileceğini veya nasıl bir şekilde engelleyebileceğini kısaca ele alır. Örneğin, kullanıcıya, testler için gerekli nesneleri el altında bulundurması istenebilir.

Ayrıca, güçlü muhataplara test rutinlerine uymalarını sağlamak zor olabilir. Bir CEO ile video konferansında, yazarlar şöyle diyor:

‘Kullanıcı dostluğu burada önemli olabilir, bu nedenle informal veya boş zorluklar (yüz distorsiyonu veya ifadeler gibi) uygun olmayabilir. Dış fiziksel nesneleri gerektiren zorluklar arzu edilmez. Bağlam burada uygun şekilde değiştirilir ve GOTCHA, zorluk setini buna göre uyarlar.’

Veri ve Testler

GOTCHA, dört yerel canlı derin sahtecilik sistemi ile test edilmiştir. Bu sistemler arasında, iki varyantı bulunan popüler otokodlayıcı derin sahtecilik oluşturucu DeepFaceLab (‘DFL’) bulunur.

Sistemler, DFL’nin hafif bir şekilde eğitilmiş bir sürümü ve 2 milyondan fazla iterasyona sahip daha đầy đủ bir sürümüdür. Ayrıca, Latent Image Animator (LIA) ve Face Swapping Generative Adversarial Network (FSGAN) de dahil edilmiştir.

Veri olarak, araştırmacılar 47 kullanıcıdan oluşan bir video klip veri setini topladılar. Her kullanıcı, GOTCHA’dan 13 aktif zorluğu gerçekleştirdi. Araştırmacılar, bu verilerin gelecekte kamuoyuna açıklanacağını belirtiyorlar.

Anomalileri tespit etmek için, insan gözlemcileri veya algoritmalar kullanılabilir. Algoritmik seçenek için, sistem FaceForensics veri setinden 600 yüz ile eğitilmiştir. Regresyon kaybı fonksiyonu olarak Learned Perceptual Image Patch Similarity (LPIPS) kullanılmıştır. Sınıflandırıcı, ikili cross-entropy ile eğitilmiştir. EigenCam, dedektörün ağırlıklarını görselleştirmek için kullanılmıştır.

GOTCHA testlerinin birincil sonuçları.

Araştırmacılar, dört sistem boyunca tüm testlerin tam kaskadında, en düşük anomali sayısını ve şiddeti, daha fazla eğitilmiş DFL dağıtımı elde etti. Daha az eğitilmiş sürüm, özellikle kompleks dudak hareketlerini yeniden oluşturmada zorluk yaşadı. FSGAN, iki DFL sürümü arasında orta bir konumda yer aldı. LIA, görev için tamamen yetersizdi. Araştırmacılar, LIA’nın gerçek bir dağıtımda başarısız olacağına inanıyorlar.

İlk olarak 17 Ekim 2022’de yayınlandı.