‘Olabilirlik’ Kullanarak Derin Sahtecilik Algılama Metriği

Eğer AI tarafından oluşturulan video ve ses đủ iyi olursa, geleneksel sinyallere dayalı derin sahtecilik dedektörleri artık çalışmayacaktır. Ancak insanlar öngörülebilir davranışlardan nadiren sapmalarına rağmen, belki de ‘olabilirlik’ daha derin bir şekilde bir video veya haber söylentisinin doğru olma olasılığı olarak benimsenebilir.

Görüş 1990’ların başlarında, saygın eski İngiliz futbolcu ve TV spor yorumcusu David Icke sohbet şovunda kendisinin ‘Tanrının oğlu’ olduğunu açıkladı – bu, sonraki on yıllarda gelişen ve elaborate komplo teorisi hakkında bir gizli ve güçlü küresel ‘kertenkele insanları’ kabilesi.

İnternet benimsemesi hala birkaç yıl uzakta ve sosyal medyanın ortaya çıkması daha da uzakta iken, Icke’nin ünlülüğü ile yeni fikirlerinin doğası arasındaki büyük uyumsuzluk, özellikle de bu büyük değişimin hiçbir bağlamı veya hazırlığı olmadan, İngiliz halkı üzerinde derin bir etkiye sahipti.

Yirmi yılı aşkın bir süre sonra, benzer ancak çok daha karanlık bir toplumsal şok yaşandı, sevilen hayırsever kampanyacı ve çocuk TV sunucusu Jimmy Savile’nin ölümünden sonra sürekli ve açgözlü bir yaşam boyu cinsel suçlu olduğu ve suçlarını işlemek için kamu imajını kullandığı ortaya çıktı.

Sonraki Operation Yewtree polisi soruşturması, birçok daha UK ünlüsünün cinsel suçlarla ilgili uzun geçmişlerini ortaya çıkaracaktı; daha sonra Harvey Weinstein’in yargılanması, ABD’de benzer şekilde ünlü cinsel suçluların keşfedilmesine yol açacaktı, #metoo hareketine dönüşecek ve The Morning Show gibi çıkışlarla kalıcı olarak Amerikan kültürüne yerleşecekti. ‘Şok’ haberleri, sonunda derin sahtecilik saldırganları tarafından benimsenen yeni ve ani bir şablon geliştiriyordu.

Geleneksel Derin Sahtecilik Algılamanın Sonu mu?

Eğer sosyal medya ve AI 90’ların başlarında olsaydı, dünyanın hiçbir öngörme sistemi Icke’nin sohbet şovundaki açıklamalarını önceden göremezdi, ki ben de hatırladığım kadarıyla bu olay, önceki yıllarda hiç önceden haber verilmemişti.

Ancak AI olsaydı, belki de daha geniş bir kitleyi Icke’nin açıklamalarının Google Veo 3 veya yeni nesil hiper-gerçek ses/görüntü derin sahtecilik çerçevelerinden birinin ürünü olmadığına ikna etmek biraz zaman alacaktı.

Yalnızca son 6-12 ayda AI derin sahtecilik yöntemleri, medya tarafından yıllarca önce haber verilen derin sahtecilik seçim müdahalesi hakkında ve hızlı-strike itibarsızlaştırma lekeleri oluşturmak için yeterli ve yetenekli hale geldi.

Bugüne kadar, AI video çıktısı genellikle gerçekçilikten uzak, teknik engeller tarafından sınırlı ve giderek daha fazla Batılı modellerle Çin’in sansürsüz açık kaynak yayınları arasındaki uçurum tarafından kutuplaşıyor^**.

Bununla birlikte, araştırma literatüründe, örneğin yeni Derin Sahtecilik Algılama Performans Çöküşü^† adlı makalede, bu soğuk savaşın yaklaşan bir teslimiyetini görüyorum:

‘[Biz] derin sahtecilik videolarının, makine tarafından öğrenilebilen özellikler içereceğini varsayıyoruz. Bunlar, gerçek videolardan güvenilir bir şekilde ayırt edilebilir. Derin sahtecilik videoları, generatif AI’nin yetenekleri hızla ilerlemeye devam ettikçe, bu varsayım muhtemelen bozulacaktır.

‘Bu senaryoda, watermarking ve diğer köken izleme yöntemleri, dijital medyada güveni korumak için tek çare olacaktır.’

Ancak aynı makale, Adobe liderliğindeki İçerik Orijinallik Girişimi (ve son 7-8 yılın daha küçük araştırma çalışmaları ve sunumları) gibi köken tabanlı çözümlerin, gerçekçi olmayan bir şekilde yaygın benimsenmeyi gerektireceğini kabul ediyor; ve makale, genel olarak geri çekilme, eğer değilse yenilgi notuyla sona eriyor.

Eğer ses-görüntü derin sahtecilik algılama yöntemleri, generatif AI tarafından aşılırsa ve küresel olarak bir watermarking veya köken şemasının benimsenmesi, çeşitli lojistik engellerde başarısız olursa, potansiyel olarak sahte çıktıların göstergesi olarak geleneksel sinyallerin yerini alabilecek ortak bir merkezi özellik nedir? Ya da tüm medyanın şüpheli olduğu ve Yalancının Kazancı hakim olursa kendimizi böyle bir dünyaya mahkum etmek zorunda mıyız?

Bilgi Grafikleri

Görünüyor ki, ‘bildirilen olaylar’ın olabilirlik ve inandırıcılık özelliklerini daha derinlemesine derin sahtecilik algılamada bir sinyal olarak kullanma zamanı geldi. Ayrıca, ses ve video generatif AI sistemlerinin giderek daha fazla birleşmesi nedeniyle, ‘sahte haber’ (metin tabanlı bir olay olarak) ve sahte görüntü/videnin ayrı araştırma dallarının da benzer şekilde birleşmesi gerekiyor.

Bir olabilirlik derin sahtecilik metriği, RAG destekli gerçeklik doğrulama ile aynı şey değildir, burada bir AI modeli, olayların kendi kesme tarihinden sonra meydana gelen olaylar hakkında bilgi edinmek için güncel web sonuçlarını getirebilir ve/veya iddialarını doğrulayabilir.

Bunun yerine, genel olarak belirleyici istatistiksel eğilimlere dayalı tahminler yapacaktır, bu eğilimler, mevcut sorgulamaya uygun tarihi kalıplardan elde edilir.

Bu anlamda, bir olasılık yöntemi, modern makine öğrenimi sahnesindeki daha modern yaklaşımlardan daha çok istatistiksel analizye yakındır.

Önceki olarak modern Transformers-dönemi yaklaşımlar tarafından geride bırakılan bilgi grafikleri, Enterprise alanında bir tür geri dönüş yapıyor gibi görünüyor ve ‘olabilirlik’ metriklerinin derin sahtecilik algılamada potansiyel olarak dağıtımına uygun görünüyor.

İnsanlar, yerler, sanat eserleri ve olayların etiketli ilişkilerle bağlantılı olarak bağlandığı şekilde basitleştirilmiş bir bilgi grafiği, makinelerin gerçek dünya varlıkları ve bağlantıları üzerinde akıl yürütmelerine olanak tanır. Kaynak

Bilgi grafiği, gerçek dünya nesnelerini, zoals insanlar, şirketler, olaylar veya fikirleri, bağlı gerçekler ağı olarak organize etmenin bir yoludur.

Her alt varlık bir düğüm, ve aralarındaki bağlantılar (kenarlar) nasıl ilişkili olduklarını açıklar. Örneğin, ‘Microsoft’ (bir düğüm) ‘OpenAI’ (başka bir düğüm) ile ‘müştür’ kenarı ile bağlantılı olabilir. Bu bağlantılar genellikle grafik veritabanlarında saklanır ve özne-predikat-nesne yapısını takip eder, zoals ‘Microsoft OpenAI’nin müşterisidir’.

Kalıcı Bellek

Bu yılın Eylül ayında yapılan bir Çin çalışması, grafik tabanlı akıl yürütme kullanarak çok modlu derin sahteciliklerdeki ince tutarsızlıkları tespit etmek için eğitim gerektirmeyen bir yöntem önerdi.

Bunun yerine, nedenler oluşturma veya büyük modelleri ayarlamak, sistem görüntü-metin çiftlerini alır, bir benzerlik grafiği oluşturur ve bağlantılar puanlar, en ilgili örnekleri almak ve modelin yargısını yeni eğitim gerektirmeden yönlendirmek için.

GASP-ICL çerçevesinin bir özeti, derin sahtecilik algılamasını, grafik tabanlı örnek seçimini bağlam içi öğrenme ile birleştirerek geliştirir, dondurulmuş bir görüntüleme-dil modelinin, eğitim veya ayarlamasız olarak görüntü/metin çiftlerini gerçek veya sahte olarak sınıflandırmasına olanak tanır.  Kaynak

Bu, benim karşıma çıkan, ‘bilgilendirilmiş’ ve tarih bilincine sahip bir medya çıktısı değerlendirme ve doğrulama yaklaşımına en yakın çalışmadır. Büyük ölçüde, bilgisayar vizyonu yaklaşımları hala görüntüleri (video ve zaman içinde oluşan anormallikleri de dahil olmak üzere) analiz ederken, ‘sahte haber’ algılama çerçeveleri hala metin tabanlı verileri vurgulamaya devam etmektedir.

Özellik Sızıntısı

Bu tür bir öngörme sisteminin zorluğu, özellikle ünlü kişiler ve kamu figürleri için zaten mevcut olan serbestçe erişilebilen veriler dışında, tam performanslı olması için gerekli olabilecek gözetim kapsamındadır.

Muhtemelen, mevcut en benzer araştırma alanı, suç öncesi alanıdır, bu alan çeşitli çok modlu istihbarat sinyallerini ‘şüpheli’ olarak etiketler ve Person of Interest (2011-2016) ve Minority Report (2002) gibi çıkışlarda kendini bir AI korkuluk olarak sunar.

Bir Person of Interest tarzı bir omnivorous gözetim sistemi optimal sonuçlar üretecektir, ancak şu anda Batı kültürünün, Çin’in vatandaşlarına uyguladığı düzeyde kişisel müdahaleyi onaylaması muhtemel değildir.

Dolayısıyla, ünlü olmayan kişilerin potansiyel sahte haberleri ile ilgili olarak, yalnızca hükümet ajansları gibi polis (doğum ve ölüm kayıtları ve vergi daireleri gibi) yeterli tarihi bilgiye sahip olacaktır ve bunları analizleri ve kapsamlarına dahil etmek için CCCP tarzı irade, kapasite, yasalar ve kaynaklara ihtiyaç duyacaklardır (yani, sadece basit ancak zorunlu veri noktaları gibi pasaport numaraları ve araba kayıtları ötesinde).

Olasılık Puanlaması

Görünüyor ki, böyle bir sistemin potansiyel etkinliği, derin sahtecilik içeriğinin (devlet destekli derin sahtecilikler); ünlü ve bilinmeyen pornografik derin sahtecikler (her ikisi de kötü niyetli olarak kabul edilebilir, ancak latter case daha derin medya endişesi çekiyor); sahtekarlık (ses/görüntü derin sahtecikleri de dahil olmak üzere); ve siyasi karakter suikastı gibi en açık (mevcut) kullanım durumlarına sınırlı olacaktır.

Bir bilgi tabanlı sistem, çeşitli olası olaylar için bir olasılık ölçeğine ihtiyaç duyacaktır. Spektrumun bir ucunda, insanlardaki yaygın zayıf noktalar gibi finansal yönetim, sadakatsizlik, bağımlılık, düşüncesizlik vb.; diğer ucunda… canlı TV sohbet şovunda ‘Tanrının oğlu’ olduğunu açıklamak (veya benzer ölçekte ve etkiye sahip olaylar).

Even in the latter case, personal historical factors for any one individual would weight the probability outcome: a prominent political figure who has publicly equivocated in controversial matters (such as the veracity of the 1960s/70s lunar landings) to gain capital with an increasingly ‘alternatively’-informed electorate, might gain additional wildcard status in verification routines, compared to their more staid peers.

In terms of celebrity porn, there is adequate real-world context (i.e., the 2012 celebrity photo leaks, among other – fairly rare – incidents) to generate a moderate Liar’s Dividend, in certain contexts; but since these outlier incidents tend to operate as exceptions proving the rule, most of the current crop of diffusion-based celebrity porn videos would be deemed extremely ‘improbable’ (though this does not solve the issue of the appropriation of people’s identities for such purposes).

In terms of national disruption, there is a considerable wealth of statistical data that can aid in assessing the probabilities of ‘disastrous’ reports. Even in ancient history, apparently ‘out-of-the-blue’ events such as the eruption of the unidentified volcano Vesuvius in 79ad were presaged, if you had paid enough attention; and besides the availability of a plethora of government and NGO-backed feeds, AI’s evolving capacity to extract structure from raw data can provide additional historical context for probability scoring.

SONUÇ

Even a well-implemented predictive system of this kind could not account for random chance, acts of God, freak occurrences, or for malicious events concocted away from all oversight.

Further, the sheer volume and depth of data needed, in order to provide coverage also for non-famous people, would be a political stumbling point – at least, for the moment.

However, the choices seem to be narrowing; vision-based analysis is poised to fail in the face of improved generative AI, while verification and provenance schemes carry an impeding burden of technical debt, and friction against adoption. This makes solutions such as the Content Authenticity Initiative, and the unfulfilled Metaphysic.ai face-copyrighting system Metaphysic Pro, challenging to popularize.

In their broadest usage, RAG-based systems can only determine if an authority source backs up an unverified claim; and since many big (true) news stories emerge without prior context, a lack of substantiation from authority sources is not necessarily meaningful.

Their value may prove greater if they can form part of a larger data ecosystem concerned with the one thing that most current forms of AI find challenging – historical context.

* Not to be confused with the early autoencoder outings that debuted in 2017 and would eventually be supplanted by superior approaches.

^† https://arxiv.org/abs/2511.07009

^** Which can usually run freely on more powerful home PCs, instead of only being available via gate-kept APIs such as ChatGPT and the Veo series.

^††† Omitting legitimate entertainment uses, such as professional visual effects in movie and TV productions.

First published Thursday, 13 Kasım 2025