Filter Kecantikan Adalah Alat Serangan Deepfake yang Potensial

Filter kecantikan sekarang tidak hanya menyembunyikan bintik-bintik: mereka juga dapat membantu deepfakes dan face morphs untuk melewati sistem deteksi. Sebuah studi baru menunjukkan bahwa bahkan efek smoothing yang halus dapat membingungkan detektor AI, membuat gambar palsu terlihat nyata dan gambar nyata terlihat palsu. Jika tren ini terus berlanjut, filter kecantikan mungkin akan menghadapi pembatasan dalam konteks yang berisiko tinggi, dari kontrol perbatasan hingga panggilan video perusahaan.

Dalam sebuah kolaborasi akademis tahun 2024 antara Spanyol dan Italia, para peneliti melaporkan bahwa 90% wanita berusia 18-30 tahun menggunakan filter kecantikan sebelum memposting gambar di media sosial. Dalam hal ini, filter kecantikan adalah metode algoritmik atau AI-aided untuk mengubah penampilan wajah sehingga terlihat lebih baik daripada aslinya:

Dari studi 2024: contoh wajah wanita (kiri) dan pria (kanan) sebelum dan sesudah filtering kecantikan. Filter tersebut mengubah fitur seperti warna kulit, mata, hidung, bibir, dagu, dan pipi untuk meningkatkan daya tarik. Source: https://arxiv.org/pdf/2407.11981

Filter seperti itu juga tersedia secara luas sebagai fungsi bawaan atau tambahan dalam sistem video populer seperti Snapchat dan Zoom, menawarkan kemampuan untuk menghaluskan kulit “tidak sempurna” dan bahkan mengubah usia subjek, hingga titik di mana identitas dapat dikatakan berubah secara signifikan:

Klik untuk memutar: tiga wanita mematikan filter ‘pemercantik’ video, menunjukkan seberapa besar fisik mereka berubah oleh algoritma atau AI. Source: https://www.youtube.com/watch?v=gtCpea_5qxw

Fenomena ini tampaknya mencapai titik jenuh segera setelah teknologi menjadi relatif matang; sebuah studi tahun 2020 dari City University of London mengungkapkan bahwa 90% pengguna Snapchat muda di Amerika Serikat, Prancis, dan Inggris menggunakan filter dalam aplikasi mereka, sementara Meta melaporkan bahwa lebih dari 600 juta orang muda telah menggunakan filter di Facebook atau Instagram.

Menggali dampak negatif filter tersebut pada kesehatan mental, sebuah laporan Psychology Today mengulangi bahwa dari mereka yang dipelajari, 90% wanita muda, dengan usia rata-rata 20, baik menggunakan filter atau mengedit foto mereka. Filter paling populer adalah yang digunakan untuk meratakan warna kulit; memberikan penampilan yang terbakar; memutihkan gigi; dan bahkan mengurangi ukuran tubuh.

Face Off

Seiring filter wajah akan mendapat manfaat dari revolusi tahun 2025 dalam sintesis video, dan lebih umum dari minat yang sedang berlangsung dalam sektor penelitian ini, seberapa jauh kita dapat “menciptakan kembali” atau membayangkan diri kita sendiri dalam panggilan video langsung semakin menggesek komunitas keamanan yang khawatir tentang teknik video deepfake yang curang atau kriminal.

Satu masalah adalah bahwa serangkaian “tes mudah” yang dikembangkan dalam beberapa tahun terakhir untuk mengungkapkan deepfaker video, yang mungkin mencari untuk menipu sejumlah besar uang dalam konteks perusahaan, menjadi kurang efektif seiring berjalannya waktu karena kelemahan ini diperhitungkan dalam data pelatihan dan pada saat inferensi:

Klik untuk memutar: tiga atau empat tahun yang lalu, menggelengkan tangan di depan wajah deepfake adalah tes yang dapat diandalkan untuk panggilan video, tetapi kita dapat melihat bahwa upaya yang gigih dari seperti TikTok membuat deepfake masuk ke dalam “tells” klasik. Sources: Ibid dan https://archive.is/mofRV#wavehands

Lebih kritis, penggunaan luas filter kecantikan yang mengubah/mengubah wajah membingungkan air bagi generasi baru detektor deepfake yang ditugaskan untuk menjaga penipu keluar dari panggilan video ruang rapat, dan menjauh dari korban potensial penipuan “penculikan” dan “penipu”.

Lebih mudah untuk membuat deepfake yang meyakinkan, baik foto atau video, jika resolusi gambar rendah atau gambar tersebut rusak, karena sistem pemalsuan yang mendasarinya dapat menyembunyikan kelemahannya di balik apa yang tampak seperti masalah koneksi atau masalah platform.

Pada dasarnya, filter kecantikan paling populer menghilangkan beberapa bahan yang paling berguna dalam mengidentifikasi video deepfake, seperti tekstur kulit dan area wajah lainnya – dan layak dipertimbangkan bahwa semakin tua wajah, semakin banyak detail yang mungkin dimilikinya, dan oleh karena itu penggunaan filter kecantikan anti-penuaan mungkin merupakan godaan khusus dalam kasus seperti itu.

Jika tampilan bebas detail seperti ‘android’ adalah mode, detektor deepfake mungkin kekurangan bahan yang mereka butuhkan untuk membedakan antara gambar dan video orang yang nyata dan palsu. Source: https://www.instagram.com/reel/DMyGerPtTPF/?hl=en

Makalah Royal Society pada akhir 2024 Apa yang cantik masih baik: efek halo kecantikan di era filter kecantikan mengkonfirmasi bahwa penggunaan filter secara universal meningkatkan daya tarik umum di kedua jenis kelamin (meskipun daya tarik yang meningkat cenderung menurunkan perkiraan inteligensi pada wanita yang difilter kecantikan).

Oleh karena itu, adil untuk mengatakan bahwa ini adalah teknologi yang populer; bahwa itu berhasil; dan bahwa itu akan menjadi kejutan budaya jika tiba-tiba menjadi subjek pembatasan keamanan, atau dilarang dalam konteks yang beragam.

Namun, dalam periode di mana video deepfake mengancam untuk menjadi tidak dapat dibedakan dari peserta video yang asli, baik dalam penampilan maupun ucapan, memungkinkan bahwa “kebisingan global” dari filter kecantikan mungkin perlu diminimalkan di masa depan, karena alasan keamanan.

Smooth Criminals

Masalah ini telah diselidiki baru-baru ini dalam sebuah makalah baru dari Universitas Cagliari di Italia, berjudul Keindahan Menipu: Mengevaluasi Dampak Filter Kecantikan pada Deteksi Serangan Deepfake dan Morphing.

Dalam studi baru, para peneliti menerapkan filter kecantikan pada wajah dari dua dataset benchmark, dan menguji beberapa detektor deepfake dan serangan morphing pada gambar asli dan yang diubah.

Hampir dalam semua kasus, akurasi deteksi menurun setelah pemercantikan; penurunan yang paling dramatis terjadi ketika filter menghaluskan kerutan, mencerahkan warna kulit, atau mengubah fitur wajah secara halus. Perubahan ini menghilangkan atau mengubah sinyal yang model deteksi andalkan.

Sebagai contoh, model terbaik pada MorphDB kehilangan lebih dari 9% akurasi setelah filtering, dan masalah ini bertahan di seluruh arsitektur deteksi, menunjukkan bahwa sistem saat ini tidak tahan terhadap perbaikan kosmetik yang umum.

Para penulis menyimpulkan:

‘Filter pemercantikan pose ancaman terhadap integritas autentikasi biometrik dan sistem analisis forensik, membuat deteksi deepfake dan serangan morphing yang kuat dalam kondisi seperti itu menjadi tantangan terbuka yang kritis.

‘Pekerjaan masa depan harus memprioritaskan pengembangan sistem deteksi manipulasi digital yang tahan terhadap perubahan halus, nyata-dunia, baik itu disengaja atau tidak, untuk memastikan pengenalan identitas yang andal dan verifikasi konten dalam konteks sehari-hari dan keamanan-kritis.’

Metode dan Data

Untuk mengevaluasi bagaimana filter kecantikan mempengaruhi deteksi deepfake dan serangan morphing, para peneliti menerapkan filter halus progresif dan menguji hasilnya pada dua jaringan saraf konvolusional (CNN) yang terkait erat dengan masalah target: AlexNet dan VGG19.

Masing-masing dari dua dataset benchmark yang diuji berisi contoh manipulasi wajah yang sesuai. Yang pertama adalah CelebDF, sebuah benchmark video skala besar yang menampilkan 590 klip nyata dan 5.639 klip palsu yang dibuat melalui teknik pertukaran wajah yang canggih. Koleksi ini menawarkan berbagai kondisi pencahayaan, pose kepala, dan ekspresi alami di seluruh 59 individu, membuatnya sangat cocok untuk mengevaluasi ketahanan detektor deepfake dalam skenario media nyata:

Contoh gambar wajah yang terkena, dari CelebDF. Source: https://github.com/yuezunli/celeb-deepfakeforensics

Yang kedua adalah AMSL (pendaftaran diperlukan), sebuah dataset serangan morphing yang dibangun dari koleksi Face Research Lab London Face Research Lab London, yang berisi wajah asli dan wajah yang digabungkan secara sintetis. Dataset ini mencakup ekspresi netral dan tersenyum dari 102 subjek, dan dirancang untuk mencerminkan tantangan realistis untuk sistem autentikasi biometrik yang digunakan dalam konteks seperti kontrol perbatasan.

Gambar dari dataset asli Face Research Lab London (FRLL) yang digunakan dalam AMSL. Source: https://figshare.com/articles/dataset/Face_Research_Lab_London_Set/5047666?file=8541955

Masing-masing jaringan dilatih pada 80% dari dataset deepfake atau morphing, dengan 20% sisanya digunakan untuk validasi. Untuk menguji ketahanan terhadap pemercantikan, para peneliti kemudian menerapkan filter halus progresif pada gambar uji, meningkatkan radius blur dari 3% hingga 5% dari tinggi wajah:

Contoh wajah dari dataset CelebDF (atas) dan AMSL (bawah), sebelum dan sesudah penerapan filter kecantikan berbasis halus. Radius filter dikalibrasi relatif terhadap tinggi wajah, dengan c = 3% dan c = 5% menghasilkan efek yang semakin kuat.

Terhadap metrik, masing-masing model dievaluasi menggunakan Tingkat Kesalahan yang Sama (EER) pada sampel uji asli dan yang diperindah. Analisis ini juga melaporkan Tingkat Kesalahan Klasifikasi Presentasi yang Sah (BPCER), atau tingkat positif palsu, dan Tingkat Kesalahan Klasifikasi Presentasi Serangan (APCER), atau tingkat negatif palsu, menggunakan ambang batas yang ditetapkan pada data asli.

Gambar wajah yang dimorf dari dataset AMSL.

Untuk lebih menilai kinerja, Area Under the ROC Curve (AUC) dan distribusi skor untuk gambar nyata dan palsu diperiksa.

Uji

Dalam hasil deteksi deepfake, kedua jaringan menunjukkan peningkatan Tingkat Kesalahan yang Sama seiring dengan peningkatan intensitas pemercantikan. EER AlexNet meningkat dari 22,3% pada gambar asli hingga 28,1% pada tingkat penghalusan tertinggi, sementara EER VGG19 meningkat dari 30,2% hingga 35,2%. Penurunan kinerja mengikuti pola yang berbeda dalam masing-masing kasus;

Hasil deteksi deepfake pada dataset CelebDF menggunakan AlexNet dan VGG19. Kedua model diuji pada gambar asli dan yang diperindah dengan tingkat penghalusan yang meningkat. Metrik yang ditampilkan termasuk Tingkat Kesalahan yang Sama (EER), Tingkat Kesalahan Klasifikasi Presentasi yang Sah (BPCER), dan Tingkat Kesalahan Klasifikasi Presentasi Serangan (APCER), menggunakan ambang batas yang ditetapkan dari set uji asli. Akurasi deteksi menurun seiring dengan peningkatan intensitas pemercantikan, meskipun pola degradasi berbeda antara arsitektur.

Seiring dengan peningkatan pemercantikan, AlexNet menjadi lebih cenderung untuk menganggap wajah nyata sebagai palsu, seperti yang ditunjukkan oleh kenaikan stabil dalam tingkat positif palsu (BPCER). VGG19, di sisi lain, sebagian besar berjuang untuk menangkap deepfakes itu sendiri, dengan tingkat negatif palsu (APCER) yang meningkat. Kedua model merespons filter dengan cara yang berbeda, menunjukkan bahwa bahkan arsitektur yang terkenal dapat gagal dengan cara yang berbeda ketika dihadapkan pada perubahan kosmetik.

Untuk lebih memahami hasil ini, para peneliti menerapkan filter pemercantikan secara terpisah pada gambar nyata dan palsu dan mengukur dampaknya pada kinerja deteksi. Pecahan ini, seperti yang ditunjukkan dalam tabel hasil di bawah, menjelaskan sumber kerentanan masing-masing model:

Akurasi deteksi untuk AlexNet dan VGG19 di bawah pemercantikan sebagian pada dataset CelebDF. Tabel melaporkan tiga skenario: nyata yang diperindah vs palsu yang diperindah (F-Real vs F-Fake); nyata yang diperindah vs palsu asli (F-Real vs O-Fake); dan nyata asli vs palsu yang diperindah (O-Real vs F-Fake), dengan penurunan akurasi yang menunjukkan kinerja detektor yang berkurang. AlexNet paling terpengaruh ketika gambar nyata diperindah, sementara VGG19 berjuang paling banyak ketika pemercantikan diterapkan pada gambar palsu.

Untuk AlexNet, kinerja deteksi menurun ketika gambar nyata diperindah, tetapi meningkat ketika hanya gambar palsu yang dihaluskan. Untuk VGG19, kinerja sedikit meningkat dengan gambar nyata yang diperindah tetapi memburuk ketika deepfakes diperindah. Dalam semua kasus, pemercantikan yang lebih kuat mengurangi akurasi.

Plot kotak menunjukkan distribusi skor output dari AlexNet dan VGG19 pada sampel nyata dan palsu dari dataset CelebDF, di bawah tingkat pemercantikan yang meningkat. Seiring dengan intensifikasi penghalusan, distribusi skor untuk gambar nyata dan palsu menjadi kurang dapat dibedakan, menunjukkan keandalan deteksi yang berkurang. AlexNet menjadi kurang yakin dalam mengidentifikasi wajah nyata, sementara VGG19 menjadi lebih cenderung untuk mengklasifikasikan yang palsu secara salah.

Pemercantikan membuat skor output AlexNet lebih seragam di seluruh sampel nyata dan palsu, sementara VGG19 menunjukkan penyebaran yang lebih besar dalam masing-masing kelas. Meskipun efek yang berbeda pada variabilitas skor, kedua model kehilangan akurasi. Untuk AlexNet, skor untuk wajah nyata bergeser lebih dekat ke skor deepfakes. Untuk VGG19, skor untuk gambar nyata dan palsu mulai tumpang tindih, mengurangi kemampuan model untuk membedakannya.

Makalah tersebut menyatakan:

‘Hasil ini memiliki implikasi penting dan menunjukkan bahwa perlu mempertimbangkan penggunaan filter pemercantikan dalam deteksi deepfake, karena filter tersebut dapat memiliki dampak yang tidak terduga pada kinerja. Khususnya, arsitektur yang berbeda merespons manipulasi wajah dengan cara yang berbeda, bahkan jika manipulasi tersebut tidak dimaksudkan untuk menipu.

‘Sebagai contoh, berdasarkan detektor deepfake tertentu, filter pemercantikan dapat secara signifikan mengubah output, membuat gambar nyata diidentifikasi sebagai palsu dan, lebih kritis, memungkinkan deepfakes untuk menipu deteksi.

‘Oleh karena itu, perlu fokus pada pengembangan detektor yang lebih tahan terhadap perubahan halus, tidak hanya perubahan yang dimaksudkan untuk menipu, yang dapat berfungsi sebagai samaran untuk manipulasi deepfake yang berbahaya.’

Dalam skenario serangan morphing, sebuah gambar sintetis dibuat dengan menggabungkan fitur wajah dari dua individu. Gambar ini digunakan untuk menipu sistem pengenalan wajah, memungkinkan kedua identitas sumber untuk diotentikasi sebagai orang yang sama. Serangan seperti itu dianggap sangat relevan dalam pengaturan keamanan, di mana sistem biometrik dapat tertipu untuk menerima gambar yang dimorf sebagai identifikasi resmi.

Tabel di atas menunjukkan hasil deteksi serangan morphing pada gambar AMSL sebelum dan sesudah pemercantikan, dengan kedua jaringan menunjukkan peningkatan kesalahan yang tajam seiring dengan peningkatan intensitas penghalusan.

Dalam skenario serangan morphing, kinerja menurun lebih tajam daripada dalam deteksi deepfake. EER AlexNet meningkat dari 27,6% hingga 41,2%, dan EER VGG19 dari 19,0% hingga 37,3%, didorong terutama oleh positif palsu: wajah asli yang diklasifikasikan sebagai morf. Dengan radius penghalusan 3%, tingkat positif palsu VGG19 mencapai 90%.

Polanya ini bertahan ketika filter diterapkan secara selektif. Menghaluskan wajah nyata merusak deteksi, sementara menghaluskan hanya wajah yang dimorf meningkatkan hasil. Seiring dengan intensifikasi penghalusan, kedua jaringan menunjukkan penurunan pemisahan antara skor nyata dan palsu, dengan VGG19 menjadi tidak stabil.

Temuan ini, menurut para penulis, menunjukkan bahwa filter kecantikan dapat membantu morf untuk menghindari deteksi lebih efektif daripada deepfakes, meningkatkan kekhawatiran keamanan.

Contoh sebagian (karena keterbatasan ruang) bagaimana pemercantikan minimal (radius penghalusan 3%) mengubah klasifikasi AlexNet. Di sebelah kiri, gambar nyata diklasifikasikan sebagai serangan setelah filtering, dan di sebelah kanan, gambar yang dimorf diklasifikasikan sebagai bonafit setelah filtering.

Akhirnya, para peneliti menemukan bahwa bahkan filter pemercantikan yang ringan dapat secara signifikan merusak kinerja detektor deepfake dan morfing yang canggih.

Dampaknya bervariasi menurut arsitektur, dengan AlexNet menunjukkan penurunan bertahap, dan VGG19 runtuh di bawah filtering minimal. Karena filter seperti itu umum dan tidak secara inheren berbahaya, kemampuan mereka untuk menyembunyikan serangan menimbulkan, menurut para penulis, ancaman praktis, terutama dalam sistem biometrik. Makalah tersebut menekankan kebutuhan akan model deteksi yang lebih tahan terhadap manipulasi gambar yang halus.

Kesimpulan

Alasan mengapa mungkin sulit untuk melatih sistem deteksi deepfake yang dapat mengabaikan filter kecantikan adalah kurangnya bahan kontras; pada akhirnya, versi “diperindah” adalah yang paling banyak disebarkan, dan, tidak seperti video yang kita sematkan sebelumnya sebagai ilustrasi, sangat jarang sebuah gambar “sebelum” diterapkan.

Satu hambatan lain adalah bahwa banyak filter melakukan hal yang sama seperti operasi pengompresan saat menyimpan gambar atau mengompresi video (yang menguntungkan penyedia bandwidth, selain menjadi perawatan kulit digital bagi mereka yang menggunakan filter).

Sektor penelitian deteksi deepfake sudah terlibat dalam mengatasi contoh degradasi gambar nyata karena masalah seperti kamera berkualitas rendah, kompresi berlebihan, atau koneksi jaringan yang tidak stabil – semua kondisi tersebut secara langsung menguntungkan penipu deepfake yang terpaksa berusaha lebih keras dalam skenario kualitas tinggi, resolusi tinggi.

Apakah filter kecantikan akhirnya akan terancam sebagai ancaman keamanan tampaknya akan tergantung pada seberapa jauh mereka membuktikan diri sebagai hambatan bagi metode penyaringan deepfake, atau berakhir sebagai semacam de facto firewall yang lebih menguntungkan penjahat daripada mereka yang melawannya.

Publikasi pertama kali pada hari Rabu, 24 September 2025