Menggunakan ‘Probabilitas’ sebagai Metrik Deteksi Deepfake

Jika video dan audio yang dihasilkan AI cukup baik, detektor deepfake berbasis artefak visual atau sinyal tradisional lainnya tidak akan berfungsi lagi. Namun, mengingat seberapa jarang orang menyimpang dari perilaku yang dapat diprediksi, mungkin ‘probabilitas’ dapat diadopsi lebih dalam sebagai sinyal apakah video atau rumor berita kemungkinan besar benar.

Opini Pada awal tahun 1990-an, mantan pemain sepak bola Inggris yang dihormati dan komentator olahraga TV David Icke secara santai mengungkapkan dalam sebuah acara obrolan bahwa dia adalah ‘anak Tuhan’ – sebuah pengungkapan aneh dan tidak terduga yang akan berkembang selama beberapa dekade berikutnya menjadi teori konspirasi yang persisten dan elaborate conspiracy theory tentang sebuah kabal global rahasia dan kuat dari ‘orang reptil’.

Dengan adopsi internet yang masih beberapa tahun lagi, dan munculnya media sosial bahkan lebih jauh di masa depan, kesadaran yang sangat besar antara ketenaran Icke dan sifat pengungkapan barunya memiliki dampak yang mendalam pada masyarakat Inggris – tidak hanya karena kurangnya konteks, atau jenis persiapan untuk pivot besar ini, dari seorang kepribadian olahraga yang terkenal dan mapan.

Lebih dari dua puluh tahun kemudian, sebuah strain yang lebih gelap dari kejutan sosial ini terjadi, ketika pembawa acara TV anak-anak dan kampanye amal yang dicintai Jimmy Savile ditemukan secara anumerta sebagai pelaku kejahatan seksual berantai seumur hidup yang menggunakan citra publiknya yang baik untuk memfasilitasi kejahatannya.

Investigasi polisi Operasi Yewtree kemudian akan mengungkap banyak lebih selebriti Inggris dengan sejarah kejahatan seksual yang panjang; kemudian, penuntutan Harvey Weinstein akan menyebabkan penemuan serupa tentang pelaku kejahatan seksual selebriti di AS, yang berkembang menjadi gerakan #metoo, dan menjadi bagian permanen dari budaya Amerika dalam acara seperti The Morning Show. Berita ‘kejutan’ tampaknya sedang mengembangkan template baru – yang akhirnya akan diadopsi oleh penyerang deepfake.

Akhir dari Deteksi Deepfake ‘Tradisional’?

Bahkan jika media sosial dan AI ada di sekitar tahun 1990-an, tidak ada sistem prediktif di dunia yang bisa memprediksi pengungkapan Icke dalam acara obrolan, yang (seperti yang saya ingat dengan baik) tidak ada yang mengisyaratkan dalam tahun-tahun sebelumnya.

Namun, jika AI ada, mungkin akan membutuhkan waktu untuk meyakinkan audiens yang lebih luas bahwa pernyataan Icke tidak merupakan produk Google Veo 3, atau salah satu kerangka kerja deepfake audio/video hyper-real baru.

Hanya dalam 6-12 bulan terakhir metode deepfake AI telah menjadi cukup efektif untuk memenuhi tahun-tahun peringatan media tentang interferensi pemilu deepfake, dan cukup mampu untuk menghasilkan noda reputasi cepat yang tidak benar, namun sulit dihilangkan dalam budaya yang semakin percaya.

Sampai saat ini, output video AI biasanya masih belum mencapai realisme sebenarnya, terbatas oleh hambatan teknis dan semakin polar oleh kesenjangan yang semakin melebar antara model Barat yang restriktif dan rilis sumber terbuka Tiongkok yang tidak disensori^**.

Namun, saya menyadari bahwa dalam literatur penelitian, ada kemajuan yang mendekati perang dingin ini, misalnya dalam makalah baru Performance Decay in Deepfake Detection^†:

‘[Kami] menganggap bahwa video deepfake akan terus mengandung fitur yang dapat dipelajari mesin yang secara andal membedakannya dari video asli. Ketika kemampuan AI generatif terus berkembang pesat, asumsi ini mungkin akan runtuh.

‘Dalam skenario seperti itu, watermarking dan metode pelacakan provenance lainnya akan menawarkan satu-satunya jalan untuk mempertahankan kepercayaan pada media digital.’

Namun, makalah yang sama mengakui bahwa solusi berbasis provenance seperti Content Authenticity Initiative (dan banyak penelitian kecil penawaran selama 7-8 tahun terakhir) memerlukan adopsi yang sangat luas sehingga tidak realistis; dan makalah itu berakhir dengan catatan umum tentang mundur, jika tidak kekalahan.

Jika metode deteksi deepfake audio-visual dikeluarkan oleh AI generatif, dan adopsi global skema watermarking atau provenance yang intrusif gagal karena hambatan logistik yang beragam, apa fitur pusat yang umum dapat menggantikan mereka sebagai indikator output yang mungkin dipalsukan? Atau apakah kita harus menyerah diri pada dunia di mana semua media dipertanyakan, dan Liar’s Dividend berlaku?

Grafik Pengetahuan

Tampaknya sudah waktunya untuk lebih dalam memanfaatkan probabilitas dan kemungkinan dari ‘peristiwa yang dilaporkan’ sebagai karakteristik sinyal dalam deteksi deepfake. Selanjutnya, karena sistem AI generatif video dan audio semakin konvergen, mungkin juga waktunya bagi penelitian terpisah tentang ‘berita palsu’ (sebagai peristiwa naratif berbasis teks) dan gambar/video palsu untuk konvergen juga.

Probabilitas metrik deepfake tidak sama dengan RAG-aided verifikasi fakta, di mana model AI dapat membawa hasil pencarian web saat ini untuk memperoleh pengetahuan tentang peristiwa yang terjadi setelah tanggal pemotongan, dan/atau untuk membenarkan klaimnya.

Sebaliknya, itu akan melakukan prediksi berdasarkan tren statistik yang umum, yang diperoleh dari pola sejarah yang sesuai dengan pertanyaan saat ini.

Dalam arti ini, metode probabilitas lebih dekat dengan analisis statistik daripada pendekatan modern lainnya dalam adegan pembelajaran mesin saat ini.

Walaupun sebelumnya gerhana oleh pendekatan era Transformer yang lebih modern, grafik pengetahuan sedang membuat comeback di ruang Perusahaan, dan tampaknya disesuaikan dengan potensi penerapan metrik ‘probabilitas’ dalam deteksi deepfake.

Grafik pengetahuan yang disederhanakan yang menggambarkan bagaimana orang, tempat, karya seni, dan peristiwa dapat dihubungkan melalui hubungan yang diberi label, memungkinkan mesin untuk berpikir tentang entitas dunia nyata dan koneksi mereka. Sumber

Grafik pengetahuan adalah cara untuk mengatur informasi dengan memetakan hal-hal dunia nyata seperti orang, perusahaan, peristiwa, atau ide menjadi jaringan fakta yang terhubung.

Setiap sub-entitas adalah node, dan link antara mereka (edge) menjelaskan bagaimana mereka terkait. Misalnya, ‘Microsoft’ (node) mungkin dihubungkan dengan ‘OpenAI’ (node lain) oleh edge yang mengatakan ‘adalah klien dari’. Koneksi ini sering disimpan dalam database grafik dan mengikuti struktur subjek-predikat-objek, seperti ‘Microsoft adalah klien dari OpenAI’.

Memori Persisten

Satu studi Tiongkok dari September tahun ini mengusulkan metode pelatihan-bebas yang menggunakan penalaran grafik untuk mendeteksi inkonsistensi halus dalam deepfake multimodal.

Sebagai gantinya menghasilkan rasional atau fine-tuning model besar, sistem ini mengambil pasangan gambar-teks, membangun grafik kesamaan, dan menskor koneksi, untuk mengambil contoh yang paling relevan, dan ini membimbing penilaian model tanpa kebutuhan pelatihan baru:

Gambaran kerangka kerja GASP-ICL, yang meningkatkan deteksi deepfake dengan menggabungkan pemilihan sampel berbasis grafik dengan pembelajaran kontekstual, memungkinkan model visi-bahasa yang beku untuk mengklasifikasikan pasangan gambar/teks sebagai asli atau palsu, tanpa pelatihan atau fine-tuning.  Source

Ini mungkin merupakan pekerjaan terdekat, setidaknya yang telah saya temukan, untuk pendekatan ‘terinformasi’ dan sadar sejarah untuk evaluasi dan verifikasi output media baru. Sebagian besar, pendekatan visi komputer terus menganalisis gambar (termasuk bingkai video dan anomali temporal yang mencakup beberapa bingkai) sementara kerangka kerja deteksi ‘berita palsu’ terus menekankan data berbasis teks, bahkan dalam proyek multimodal.

Fitur Creep

Tantangan sistem prediktif seperti ini adalah cakupan pengawasan yang mungkin diperlukan untuk membuat pendekatan ini sepenuhnya berfungsi – setidaknya di luar analisis selebriti dan tokoh publik, untuk siapa data yang dapat diakses secara gratis sudah ada.

Mungkin strand penelitian saat ini yang paling mirip adalah bidang pre-crime, yang melabeli sinyal intelijen multimodal yang beragam sebagai ‘curiga’, dan mempresentasikan diri sebagai boneka AI yang takut dalam acara seperti Jonathan Nolan’s Person of Interest (2011-2016), dan Steven Spielberg’s Minority Report (2002).

Walaupun sistem pengawasan Person of Interest-style yang rakus akan menghasilkan hasil optimal, tidak mungkin saat ini bahwa budaya Barat bisa menyetujui tingkat intrusif pribadi yang diberlakukan oleh jaringan internal Tiongkok terhadap warganya.

Oleh karena itu, dalam hal berita palsu tentang non-selebriti, hanya lembaga pemerintah seperti polisi (serta kantor pendaftaran kelahiran dan kematian dan kantor pajak) yang memiliki informasi sejarah yang cukup untuk memandu probabilitas dalam alur kerja berbasis grafik; dan bahkan mereka memerlukan kehendak, kapasitas, legislasi, dan sumber daya gaya CCCP untuk memasukkan warga biasa dalam cakupan dan analisis mereka (yaitu, di luar titik data yang biasa tapi wajib seperti nomor paspor dan pendaftaran mobil).

Skor Probabilitas

Tampaknya kemungkinan bahwa sistem seperti ini akan efektif hanya terbatas pada kasus penggunaan deepfake yang paling jelas (saat ini)^†††: destabilisasi (deepfake yang didukung negara); pornografi selebriti dan ‘tidak dikenal’ (yang dapat dianggap sebagai tindakan jahat, meskipun kasus terakhir cenderung menarik perhatian media yang lebih dalam); penipuan (termasuk audio/video deepfakes yang dirancang untuk melakukan ‘pencurian identitas’); dan pembunuhan karakter politik.

Sistem berbasis pengetahuan akan memerlukan skala probabilitas untuk berbagai peristiwa yang mungkin. Pada satu ujung spektrum, kelemahan manusia yang dipertanyakan seperti manajemen keuangan yang dipertanyakan, perselingkuhan, kecanduan, ketidaksabaran, dll.; pada ujung lainnya… mengungkapkan bahwa Anda adalah anak Tuhan dalam acara TV langsung (atau peristiwa dengan skala dan dampak serupa).

Even dalam kasus terakhir, faktor sejarah pribadi untuk setiap individu akan menimbang hasil probabilitas: seorang tokoh politik terkemuka yang telah mempublikasikan kontroversi dalam masalah yang kontroversial (seperti kebenaran pendaratan bulan 1960/70-an) untuk mendapatkan modal dengan pemilih yang semakin ‘alternatif’-diberitahu mungkin akan mendapatkan status wildcard tambahan dalam rutinitas verifikasi, dibandingkan dengan rekan-rekan mereka yang lebih sabar.

Dalam kasus pornografi selebriti, ada konteks dunia nyata yang cukup (yaitu, kebocoran foto selebriti 2012, antara lain – insiden yang cukup jarang) untuk menghasilkan dividen Liar’s Dividend yang moderat dalam konteks tertentu; namun, karena insiden outlier ini cenderung beroperasi sebagai pengecualian yang membuktikan aturan, sebagian besar video pornografi selebriti berbasis difusi saat ini akan dianggap sangat ‘tidak mungkin’ (meskipun ini tidak menyelesaikan masalah penggunaan identitas orang untuk tujuan tersebut).

Dalam hal gangguan nasional, ada kekayaan data statistik yang cukup untuk membantu dalam menilai probabilitas ‘laporan bencana’. Bahkan dalam sejarah kuno, peristiwa yang tampaknya ‘tiba-tiba’ seperti letusan gunung berapi Vesuvius yang tidak teridentifikasi pada 79 Masehi telah diprediksi, jika Anda memperhatikan cukup; dan selain ketersediaan berbagai umpan pemerintah dan NGO, kemampuan AI yang berkembang untuk mengeluarkan struktur dari data mentah dapat menyediakan konteks sejarah tambahan untuk skor probabilitas.

Kesimpulan

Bahkan sistem prediktif yang diimplementasikan dengan baik tidak dapat menghitung kebetulan, tindakan Tuhan, kejadian aneh, atau peristiwa jahat yang direncanakan tanpa pengawasan.

Lebih lanjut, volume dan kedalaman data yang diperlukan, untuk menyediakan cakupan juga untuk orang-orang non-terkenal, akan menjadi titik politis yang sulit – setidaknya, untuk saat ini.

Namun, pilihan tampaknya semakin sempit; analisis berbasis visi diposisikan untuk gagal menghadapi AI generatif yang ditingkatkan, sementara skema verifikasi dan provenance membawa beban utang teknis yang menghambat, dan gesekan terhadap adopsi. Ini membuat solusi seperti Content Authenticity Initiative, dan sistem Metaphysic Pro yang belum terpenuhi, sulit untuk dipopulerkan.

Dalam penggunaan yang luas, sistem berbasis RAG hanya dapat menentukan apakah sumber otoritas mendukung klaim yang tidak diverifikasi; dan karena banyak berita besar (benar) muncul tanpa konteks sebelumnya, kurangnya substansi dari sumber otoritas tidak selalu bermakna.

Nilai mereka mungkin terbukti lebih besar jika mereka dapat membentuk bagian dari ekosistem data yang lebih luas yang berkaitan dengan hal yang paling sulit ditemukan oleh bentuk AI saat ini – konteks sejarah.

* Tidak boleh disalahartikan dengan autoencoder awal yang debut pada 2017 dan kemudian digantikan oleh pendekatan yang lebih unggul.

^† https://arxiv.org/abs/2511.07009

^** Yang biasanya dapat berjalan secara gratis pada PC rumah yang lebih kuat, bukan hanya tersedia melalui API yang dikendalikan seperti ChatGPT dan seri Veo.

^††† Menghilangkan penggunaan hiburan yang sah, seperti efek visual profesional dalam produksi film dan TV.

Pertama kali diterbitkan pada hari Kamis, 13 November 2025