GOTCHA– Sistem CAPTCHA untuk Live Deepfakes

Penelitian baru dari New York University menambahkan pada indikasi yang semakin meningkat bahwa kita mungkin segera harus mengambil “tes mabuk” setara untuk memverifikasi diri kita sendiri sebelum memulai panggilan video yang sensitif – seperti konferensi video terkait pekerjaan, atau skenario lain yang mungkin menarik penipu menggunakan perangkat lunak streaming deepfake waktu nyata.

Beberapa tantangan aktif dan pasif yang diterapkan pada skenario panggilan video di GOTCHA. Pengguna harus mematuhi dan lulus tantangan, sementara metode ‘pasif’ tambahan (seperti mencoba membebani sistem deepfake potensial) digunakan yang tidak dipengaruhi oleh partisipan. Sumber: http://export.arxiv.org/pdf/2210.06186

Sistem yang diusulkan ini bernama GOTCHA – sebuah penghormatan kepada sistem CAPTCHA yang telah menjadi hambatan yang semakin meningkat dalam browsing web selama 10-15 tahun terakhir, di mana sistem otomatis meminta pengguna untuk melakukan tugas yang mesin sulit lakukan, seperti mengidentifikasi hewan atau memecahkan teks yang kabur (dan, ironisnya, tantangan ini sering membuat pengguna menjadi annotator outsourced gaya AMT secara gratis).

Pada intinya, GOTCHA memperluas kertas Agustus 2022 DF-Captcha dari Ben-Gurion University, yang pertama kali mengusulkan membuat orang di ujung lain panggilan melompat melalui beberapa lingkaran semantik visual untuk membuktikan keaslian mereka.

Kertas Agustus 2022 dari Ben Gurion University pertama kali mengusulkan serangkaian tes interaktif untuk pengguna, termasuk menutupi wajah mereka, atau bahkan menekan kulit mereka – tugas yang bahkan sistem deepfake waktu nyata yang terlatih dengan baik mungkin tidak telah memprediksi atau dapat menangani dengan fotorealistik. Sumber: https://arxiv.org/pdf/2208.08524.pdf

Yang patut dicatat, GOTCHA menambahkan metodologi ‘pasif’ ke dalam ‘kaskade’ tes yang diusulkan, termasuk superimposisi elemen tidak nyata di atas wajah pengguna, dan ‘pembebanan’ bingkai yang melewati sistem sumber. Namun, hanya tugas yang responsif pengguna yang dapat dievaluasi tanpa izin khusus untuk mengakses sistem lokal pengguna – yang, kemungkinan besar, akan datang dalam bentuk modul lokal atau add-on untuk sistem populer seperti Skype dan Zoom, atau bahkan dalam bentuk perangkat lunak khusus yang dirancang untuk membasmi penipu.

Dari kertas, ilustrasi interaksi antara pemanggil dan sistem di GOTCHA, dengan garis putus-putus sebagai aliran keputusan.

Peneliti memvalidasi sistem pada dataset baru yang berisi lebih dari 2,5 juta bingkai video dari 47 partisipan, masing-masing melakukan 13 tantangan dari GOTCHA. Mereka mengklaim bahwa kerangka ini menyebabkan ‘pengurangan konsisten dan terukur’ dalam kualitas konten deepfake untuk pengguna penipu, membebani sistem lokal sampai artefak yang jelas terlihat oleh mata manusia (meskipun GOTCHA juga mengandung beberapa metode analisis algoritmik yang lebih halus).

Kertas baru ini berjudul Gotcha: Sistem Tanggapan-Tantangan untuk Deteksi Deepfake Waktu Nyata (nama sistem ini ditulis dengan huruf besar dalam tubuh, tetapi tidak dalam judul publikasi, meskipun itu bukan singkatan).

Rangkaian Tantangan

Sebagian besar sesuai dengan kertas Ben Gurion, tantangan yang dihadapi pengguna dibagi menjadi beberapa jenis tugas.

Untuk oklusi, pengguna diminta untuk menutupi wajah mereka dengan tangan mereka, atau dengan objek lain, atau untuk mempresentasikan wajah mereka pada sudut yang tidak mungkin telah dilatih ke dalam model deepfake (biasanya karena kurangnya data pelatihan untuk pose ‘aneh’ – lihat kisaran gambar di ilustrasi pertama di atas).

Selain tindakan yang dapat dilakukan pengguna sendiri sesuai dengan instruksi, GOTCHA dapat menumpangkan potongan wajah acak, stiker, dan filter realitas tambahan, untuk ‘merusak’ aliran wajah yang mungkin diharapkan oleh model deepfake lokal, menyebabkannya gagal. Seperti yang ditunjukkan sebelumnya, meskipun ini adalah proses ‘pasif’ untuk pengguna, itu adalah proses yang invasif untuk perangkat lunak, yang perlu dapat mengintervensi langsung dalam aliran koresponden.

Berikutnya, pengguna mungkin diminta untuk memposisikan wajah mereka ke dalam ekspresi wajah yang tidak biasa yang kemungkinan besar tidak ada atau kurang dalam dataset pelatihan, menyebabkan penurunan kualitas output deepfake (gambar ‘b’, kolom kedua dari kiri, di ilustrasi pertama di atas).

Sebagai bagian dari strand tes ini, pengguna mungkin diminta untuk membaca teks atau membuat percakapan yang dirancang untuk menantang sistem deepfake waktu nyata lokal, yang mungkin tidak memiliki rangkaian fonem atau jenis data mulut lain yang cukup untuk merekonstruksi gerakan bibir yang akurat di bawah pengawasan seperti itu.

Akhirnya (dan ini tampaknya menantang bakat akting koresponden), dalam kategori ini, pengguna mungkin diminta untuk melakukan ‘ekspresi mikro’ – ekspresi wajah singkat dan tidak disengaja yang mengungkapkan emosi. Dari kertas ini, dikatakan ‘[itu] biasanya berlangsung 0,5-4,0 detik, dan sulit untuk dipalsukan’.

Meskipun kertas ini tidak menjelaskan bagaimana mengekstrak ekspresi mikro, logika menunjukkan bahwa satu-satunya cara untuk melakukannya adalah dengan menciptakan emosi yang sesuai pada pengguna akhir, mungkin dengan beberapa konten yang mengejutkan yang disajikan kepada mereka sebagai bagian dari rutinitas tes.

Distorsi Wajah, Pencahayaan, dan Tamu Tak Terduga

Selain itu, sejalan dengan saran dari kertas Agustus, pekerjaan baru ini mengusulkan meminta pengguna akhir untuk melakukan distorsi wajah dan manipulasi yang tidak biasa, seperti menekan jari mereka ke pipi mereka, berinteraksi dengan wajah dan/atau rambut mereka, dan melakukan gerakan lain yang tidak mungkin dapat ditangani dengan baik oleh sistem deepfake waktu nyata saat ini, karena ini adalah tindakan marginal – bahkan jika mereka hadir dalam dataset pelatihan, reproduksi mereka kemungkinan akan memiliki kualitas yang rendah, sejalan dengan data ‘outlier’ lainnya.

Senyum, tetapi ‘wajah tertekan’ ini tidak diterjemahkan dengan baik oleh sistem deepfake waktu nyata lokal.

Tantangan tambahan terletak pada perubahan kondisi pencahayaan di mana pengguna akhir berada, karena memungkinkan bahwa pelatihan model deepfake telah dioptimalkan untuk situasi pencahayaan video konferensi standar, atau bahkan kondisi pencahayaan yang tepat yang digunakan dalam panggilan.

Oleh karena itu, pengguna mungkin diminta untuk menyinari wajah mereka dengan senter ponsel mereka, atau dengan cara lain mengubah pencahayaan (dan perlu dicatat bahwa pendekatan ini adalah proposisi sentral dari kertas deteksi deepfake video lain yang diterbitkan musim panas ini).

Sistem deepfake waktu nyata ditantang oleh pencahayaan yang tidak terduga – dan bahkan oleh beberapa orang dalam aliran, di mana mereka mengharapkan hanya satu individu.

Dalam kasus sistem yang diusulkan memiliki kemampuan untuk mengintervensi aliran pengguna lokal (yang dicurigai mengandung deepfake perantara), menambahkan pola yang tidak terduga (lihat kolom tengah di gambar atas) dapat mengompromikan kemampuan algoritma deepfake untuk mempertahankan simulasi.

Selain itu, meskipun tidak masuk akal untuk mengharapkan koresponden untuk memiliki orang tambahan di tangan untuk membantu mengotentikasi mereka, sistem dapat menyelipkan wajah tambahan (gambar paling kanan di atas), dan melihat apakah sistem deepfake lokal membuat kesalahan dengan beralih perhatian – atau bahkan mencoba membuat deepfake semua orang (sistem deepfake autoencoder tidak memiliki kemampuan pengenalan identitas yang dapat mempertahankan fokus pada satu individu dalam skenario ini).

Steganografi dan Pembebanan

GOTCHA juga menggabungkan pendekatan yang pertama kali diusulkan oleh UC San Diego pada April tahun ini, dan yang menggunakan steganografi untuk mengenkripsi pesan ke dalam aliran video pengguna lokal. Rutinitas deepfake akan menghancurkan pesan ini, menyebabkan kegagalan autentikasi.

Dari kertas April 2022 dari University of California San Diego, dan San Diego State University, metode untuk menentukan identitas asli dengan melihat apakah sinyal steganografik yang dikirim ke aliran video pengguna bertahan dalam loop lokal yang utuh – jika tidak, maka mungkin ada kecurangan deepfake. Sumber: https://arxiv.org/pdf/2204.01960.pdf

Selain itu, GOTCHA dapat membebani sistem lokal (dengan akses dan izin), dengan menduplikasi aliran dan menyajikan ‘data berlebih’ ke sistem lokal, yang dirancang untuk menyebabkan kegagalan replikasi dalam sistem deepfake lokal.

Sistem ini mengandung tes lebih lanjut (lihat kertas untuk detail), termasuk tantangan, dalam kasus koresponden berbasis smartphone, untuk membalik ponsel mereka, yang akan mengganggu sistem deepfake lokal:

Lagi, hal seperti ini hanya akan berfungsi dengan kasus penggunaan yang kuat, di mana pengguna dipaksa untuk memberikan akses lokal ke aliran, dan tidak dapat diimplementasikan dengan evaluasi pasif sederhana dari video pengguna, tidak seperti tes interaktif (seperti menekan jari ke wajah).

Praktis

Kertas ini menyentuh singkat tentang sejauh mana tes seperti ini mungkin mengganggu pengguna akhir, atau menyebabkan ketidaknyamanan – misalnya, dengan memaksa pengguna untuk memiliki beberapa objek yang mungkin diperlukan untuk tes.

Ini juga mengakui bahwa mungkin sulit untuk mendapatkan koresponden kuat untuk mematuhi rutinitas pengujian. Dalam hal koresponden video dengan CEO, penulis menyatakan:

‘Kemudahan penggunaan mungkin menjadi kunci di sini, sehingga tantangan informal atau tidak serius (seperti distorsi wajah atau ekspresi) mungkin tidak sesuai. Tantangan yang menggunakan artikel fisik eksternal mungkin tidak diinginkan. Konteks di sini dimodifikasi secara tepat dan GOTCHA menyesuaikan rangkaian tantangannya.’

Data dan Tes

GOTCHA diuji melawan empat strain sistem deepfake waktu nyata lokal, termasuk dua variasi dari pembuat deepfake autoencoder yang sangat populer DeepFaceLab (‘DFL’, meskipun, secara mengejutkan, kertas ini tidak menyebutkan DeepFaceLive, yang telah, sejak Agustus 2021, implementasi ‘waktu nyata’ dari DeepFaceLab, dan tampaknya sumber daya awal yang paling mungkin untuk penipu potensial).

Empat sistem ini adalah DFL yang dilatih ‘ringan’ pada orang non-terkenal yang berpartisipasi dalam tes, dan selebriti; DFL yang dilatih lebih banyak, hingga 2m+ iterasi atau langkah, di mana satu akan mengharapkan model yang jauh lebih performant; Latent Image Animator (LIA); dan Face Swapping Generative Adversarial Network (FSGAN).

Untuk data, peneliti merekam dan mengkurasi klip video yang disebutkan, yang menampilkan 47 pengguna melakukan 13 tantangan aktif, dengan setiap pengguna menghasilkan sekitar 5-6 menit video 1080p pada 60fps. Penulis menyatakan bahwa data ini akhirnya akan dirilis secara publik.

Deteksi anomali dapat dilakukan oleh pengamat manusia atau secara algoritmik. Untuk opsi terakhir, sistem ini dilatih pada 600 wajah dari dataset FaceForensics. Fungsi kerugian regresi adalah Learned Perceptual Image Patch Similarity (LPIPS) yang kuat, sementara binary cross-entropy digunakan untuk melatih klasifikasi. EigenCam digunakan untuk visualisasi bobot detektor.

Hasil utama dari tes untuk GOTCHA.

Peneliti menemukan bahwa untuk keseluruhan kaskade tes di seluruh empat sistem, jumlah dan tingkat anomali (yaitu, artefak yang akan mengungkapkan kehadiran sistem deepfake) terendah diperoleh oleh distribusi DFL yang lebih terlatih. Versi yang kurang terlatih bergelut untuk merekonstruksi gerakan bibir yang kompleks (yang hanya menempati sedikit bingkai, tetapi yang menerima perhatian manusia yang tinggi), sementara FSGAN menempati tanah tengah antara dua versi DFL, dan LIA terbukti tidak memadai untuk tugas, dengan peneliti berpendapat bahwa LIA akan gagal dalam penerapan nyata.

Dipublikasikan pertama kali pada 17 Oktober 2022.