Het gebruik van ‘waarschijnlijkheid’ als metriek voor deepfake-detectie

Als AI-gegenereerde video’s en audio goed genoeg worden, zullen deepfake-detectoren op basis van visuele artefacten of andere traditionele signalen niet langer werken. Maar gezien hoe zelden mensen afwijken van voorspelbaar gedrag, kan ‘waarschijnlijkheid’ misschien dieper worden geadopteerd als signaal of een video of nieuwsgerucht waarschijnlijk waar is.

Opinie In het begin van de jaren negentig onthulde de gerespecteerde voormalige Britse voetballer en tv-sportcommentator David Icke nonchalant in een praatprogramma dat hij ‘de zoon van God’ was – een bizarre en onverwachte onthulling die zich in de daaropvolgende decennia zou ontwikkelen tot een persistente en uitgebreide complottheorie over een geheime en machtige mondiale cabal van ‘hagedismensen’.

Met internetadoptie nog een aantal jaar weg en de komst van sociale media nog verder in de toekomst, had de grote dissonantie tussen Ickes bekendheid en de aard van zijn nieuwe inzichten een diepe impact op het Britse publiek – niet in de laatste plaats vanwege het volledige gebrek aan context of enige vorm van voorbereiding op deze massive pivot, van een bekende en gevestigde sportpersoonlijkheid.

Meer dan twintig jaar later vond een soortgelijke en veel donkerdere vorm van deze maatschappelijke schok plaats, toen de geliefde campagnevoerder voor een goed doel en kindertelevisiepresentator Jimmy Savile postuum werd ontdekt als een seriële en roofzuchtige levenslange seksuele delinquent die zijn onschuldige openbare imago had gebruikt om zijn misdaden te faciliteren.

Het daaropvolgende Operation Yewtree-politieonderzoek zou veel meer Britse beroemdheden met een lange geschiedenis van seksuele delicten blootleggen; later zou de vervolging van Harvey Weinstein leiden tot een soortgelijke ontdekking van beroemde seksuele delinquenten in de VS, wat zou uitgroeien tot de #metoo-beweging en permanent zou worden opgenomen in de Amerikaanse cultuur in uitingsvormen zoals The Morning Show. ‘Schokkend’ nieuws leek een nieuwe en abrupte sjabloon te ontwikkelen – een die uiteindelijk zou worden overgenomen door deepfake-aanvallers.

Het einde van ‘traditionele’ deepfake-detectie?

Zelfs als sociale media en AI in de vroege jaren negentig hadden bestaan, had geen enkel voorspellingsysteem ter wereld Ickes chatshow-onthullingen kunnen voorzien, die (zoals ik me goed herinner) op geen enkele manier werden aangekondigd in de jaren die aan het evenement voorafgingen.

Maar toen AI beschikbaar was, had het misschien enige tijd geduurd om een breder publiek te overtuigen dat Ickes verklaringen niet het product waren van Google Veo 3, of een van de nieuwe generatie hyper-reële audio/video deepfake-kaders.

Het is pas in de afgelopen 6-12 maanden dat AI-deepfake-methoden effectief genoeg zijn geworden om jaren van media-doomsaying over deepfake-verkiezingsinmenging te vervullen, en capabel genoeg om de soort snelle reputatieschade te genereren die onwaar is, maar moeilijk te verwijderen in een steeds geloviger wordende cultuur.

Tot nu toe valt AI-video-uitvoer typisch kort van echte realisme, beperkt door technische hindernissen en steeds meer gepolariseerd door een groeiende kloof tussen restrictieve westerse modellen en China’s ongecensureerde open source-releases^**.

Desondanks merk ik steeds vaker in de onderzoeksliteratuur een aanstormende concessie van deze Koude Oorlog, bijvoorbeeld in het nieuwe artikel Performance Decay in Deepfake Detection^†:

‘[We] gaan ervan uit dat deepfake-video’s machine-leerbare kenmerken zullen blijven bevatten die ze betrouwbaar onderscheiden van echte video’s. Naarmate de capaciteiten van generatieve AI snel vooruitgaan, kan deze veronderstelling wel eens instorten.

‘In een dergelijk scenario zullen watermarking en andere provenance-trackingmethoden de enige mogelijkheid bieden om vertrouwen in digitale media te behouden.’

Echter, hetzelfde artikel erkent dat provenance-gebaseerde oplossingen zoals de door Adobe geleide Content Authenticity Initiative (en de vele kleinere onderzoeks aanbod van de afgelopen 7-8 jaar) een zo brede adoptie vereisen dat het onrealistisch is; en het artikel eindigt met een algemene noot van terugtrekking, zo niet nederlaag.

Als audiovisuele deepfake-detectiemethoden worden overtroffen door generatieve AI, en wereldwijde adoptie van een indringende watermarking- of provenance-scheme strandt op de diverse logistieke hindernissen, wat is dan het gemeenschappelijke centrale kenmerk dat hen kan vervangen als indicatoren van potentieel vervalste output? Of moeten we ons neerleggen bij een wereld waarin alle media twijfelachtig is, en de Liar’s Dividend prevaleert?

Kennisgrafieken

Het lijkt tijd om dieper waarschijnlijkheid en waarschijnlijkheid van ‘gerapporteerde gebeurtenissen’ te gebruiken als signaalkarakteristiek in deepfake-detectie. Bovendien, aangezien video- en audio-generatieve AI-systemen steeds meer convergeren, kan het ook tijd zijn voor de afzonderlijke onderzoekslijnen van ‘nepnieuws’ (als een tekstgebaseerde narratieve gebeurtenis) en nepbeelden/video om soortgelijk te convergeren.

Een waarschijnlijkheid-deepfake-metriek is niet hetzelfde als RAG-ondersteunde feitverificatie, waarbij een AI-model actuele webresultaten kan opzoeken om kennis te krijgen van gebeurtenissen die plaatsvinden na zijn eigen cut-off datum, en/of om zijn claims te bevestigen.

Het zou voorspellingen doen op basis van algemeen indicatieve statistische trends, afgeleid van historische patronen die overeenkomen met een huidige vraag.

In deze zin is een waarschijnlijkheidsmethode dichter bij statistische analyse dan moderne benaderingen in de huidige machine learning-scene.

Hoewel eerder overschaduwd door modernere Transformers-era-benaderingen, maken kennisgrafieken een soort comeback in de Enterprise-ruimte, en lijken aangepast aan de potentiële inzet van ‘waarschijnlijkheid’-metrieken in deepfake-detectie.

Een vereenvoudigde kennisgraaf die laat zien hoe mensen, plaatsen, kunstwerken en gebeurtenissen kunnen worden verbonden door gelabelde relaties, waardoor machines kunnen redeneren over echte entiteiten en hun verbindingen. Bron

Een kennisgraaf is een manier om informatie te organiseren door echte dingen zoals mensen, bedrijven, gebeurtenissen of ideeën te koppelen aan een netwerk van verbonden feiten.

Elk subentiteit is een knooppunt, en de links ertussen (randen) beschrijven hoe ze verwant zijn. Bijvoorbeeld, ‘Microsoft’ (een knooppunt) kan worden gekoppeld aan ‘OpenAI’ (een ander knooppunt) door een rand die zegt ‘is een klant van’. Deze verbindingen worden vaak opgeslagen in grafische databases en volgen een onderwerp-predikaat-objectstructuur, zoals ‘Microsoft is een klant van OpenAI’.

Volhoudende geheugen

Een Chinees onderzoek uit september van dit jaar stelde een trainingsvrije methode voor die grafische redenering gebruikt om subtiele inconsistenties in multimodale deepfakes te detecteren.

In plaats van rationales te genereren of grote modellen te fijn afstemmen, bouwt het systeem beeld-tekstparen, maakt een overeenkomstigheidsgraaf en scoort verbindingen, om de meest relevante voorbeelden op te halen, en deze leiden het oordeel van het model zonder de noodzaak van nieuwe training:

Overzicht van het GASP-ICL-kader, dat deepfake-detectie verbetert door grafische steekproefselectie te combineren met in-context leren, waardoor een bevroren visie-taalmodel beeld-/tekstparen als echt of nep kan classificeren zonder training of fijne afstemming.  Bron

Dit is waarschijnlijk het dichtstbijzijnde werk, en zeker dat ik ben tegengekomen, bij een ‘geïnformeerd’ en historisch bewust benadering van de evaluatie en verificatie van nieuwe media-uitvoer. Voor het grootste deel analyseren computer visie-benaderingen afbeeldingen (inclusief frames van video’s en temporele anomalieën die meerdere frames omvatten) terwijl ‘nepnieuws’-detectie-kaders tekstgebaseerde gegevens blijven benadrukken, zelfs in multimodale projecten.

Functie-creep

De uitdaging van een voorspellend systeem van deze soort is de omvang van de surveillance die nodig kan zijn om de aanpak volledig te laten functioneren – tenminste voorbij de analyse van beroemdheden en openbare figuren, voor wie vrij toegankelijke gegevens al bestaan.

Waarschijnlijk is het meest soortgelijke huidige onderzoekslijn het veld van pre-crime, dat diverse multimodale intelligentiesignalen labelt als ‘verdacht’, en zich presenteert als een standvastige AI-schrikdraad in uitingsvormen zoals Jonathan Nolans Person of Interest (2011-2016), en Steven Spielbergs Minority Report (2002).

Terwijl een Person of Interest-achtig alomvattend surveillancesysteem optimale resultaten zou opleveren, is het op dit moment onwaarschijnlijk dat de westerse cultuur de mate van persoonlijke indringing zou kunnen sanctioneren die China’s interne netwerken opleggen aan hun burgers.

Daarom, met betrekking tot potentieel nepnieuws over non-beroemdheden, zouden alleen overheidsinstanties zoals de politie (evenals geboorte- en overlijdensregisters en belastingkantoren) voldoende pertinente historische informatie hebben om waarschijnlijkheden in een grafische workflow te informeren; en zelfs zij zouden een CCCP-stijl wil, capaciteit, wetgeving en middelen nodig hebben om gewone burgers in hun dekking en analyses op te nemen (d.w.z. voorbij banale maar verplichte gegevenspunten zoals paspoortnummers en autoregistraties).

Waarschijnlijkheidsscore

Het lijkt waarschijnlijk dat de potentiële effectiviteit van een systeem van deze soort zou worden beperkt tot de meest voor de hand liggende (huidige) gebruikscases voor deepfake-inhoud: destabilisatie (staatsgesteunde deepfakes); beroemdheden en ‘onbekende’ pornodeepfakes (die beide als kwaadwillig kunnen worden beschouwd, hoewel het laatste geval de neiging heeft om diepere media-aandacht te trekken); fraude (inclusief audio-/video-deepfakes die zijn ontworpen om ‘impersonatie-overvallen’ uit te voeren); en politieke karaktermoord.

Een kennisgebaseerd systeem zou een schaal van waarschijnlijkheden nodig hebben voor een diversiteit van mogelijke gebeurtenissen. Aan de ene kant van het spectrum, gewone menselijke tekortkomingen zoals twijfelachtig financieel beheer, ontrouw, verslaving, onvoorzichtigheid, enz.; aan de andere kant… het onthullen dat je de zoon van God bent in een live tv-praatprogramma (of gebeurtenissen van vergelijkbare omvang en impact).

Selfs in het laatste geval zouden persoonlijke historische factoren voor een individu de waarschijnlijkheidsuitkomst wegen: een prominente politieke figuur die openlijk heeft geëquivoceerd in omstreden kwesties (zoals de waarheid van de maanlandingen in de jaren zestig en zeventig) om kapitaal te verwerven bij een steeds meer ‘alternatief’-geïnformeerde kiezer, kan extra wildcard-status krijgen in verificatieroutines, in vergelijking met zijn meer ingetogen collega’s.

In het geval van beroemdhedenporno is er voldoende werkelijke context (d.w.z. de 2012 beroemdhedenfoto-lekken, onder andere – vrij zeldzame – incidenten) om een matige Liar’s Dividend te genereren, in bepaalde contexten; maar aangezien deze outlier-incidenten de neiging hebben om als uitzonderingen te functioneren die de regel bewijzen, zouden de meeste van de huidige generatie van diffusie-gebaseerde beroemdhedenporno-video’s extreem ‘onwaarschijnlijk’ worden geacht (hoewel dit het probleem van de toe-eigening van mensen’s identiteiten voor dergelijke doeleinden niet oplost).

In termen van nationale verstoring is er een aanzienlijke hoeveelheid statistische gegevens die kan helpen bij het bepalen van de waarschijnlijkheden van ‘rampzalige’ rapporten. Zelfs in de oudheid, leek het plotselinge uitbarsten van de ongeïdentificeerde vulkaan Vesuvius in 79 na Christus, te zijn voorafgegaan, als je maar genoeg aandacht had besteed; en naast de beschikbaarheid van een overvloed aan overheids- en NGO-ondersteunde feeds, kan de evoluerende capaciteit van AI om structuur te extraheren uit ruwe gegevens additionele historische context voor waarschijnlijkheidsscore bieden.

Conclusie

Zelfs een goed geïmplementeerd voorspellend systeem van deze soort kan geen rekening houden met toeval, goddelijke tussenkomst, freak-gebeurtenissen of met kwaadwillige gebeurtenissen die buiten alle toezicht om zijn geconstrueerd.

Verder zou de enorme hoeveelheid en diepte van gegevens die nodig zijn om ook gewone mensen te dekken, een politiek struikelpunt vormen – tenminste, voorlopig.

Desondanks lijken de keuzes te krimpen; visiegebaseerde analyse staat op het punt te falen in het licht van verbeterde generatieve AI, terwijl verificatie- en provenance-schemes een belastende last van technische schuld en wrijving tegen adoptie met zich meebrengen. Dit maakt oplossingen zoals de Content Authenticity Initiative en het onvoltooide Metaphysic.ai-gezichtscopyrightsysteem Metaphysic Pro uitdagend om te populariseren.

In hun breedste gebruik kunnen RAG-gebaseerde systemen alleen bepalen of een autoriteitsbron een onverifieerde claim ondersteunt; en aangezien veel grote (ware) nieuwsverhalen verschijnen zonder voorafgaande context, is een gebrek aan ondersteuning van autoriteitsbronnen niet noodzakelijkerwijs betekenisvol.

Hun waarde kan groter blijken als ze deel kunnen uitmaken van een grotere data-ecosysteem dat zich bezighoudt met het enige dat de meeste vormen van AI moeilijk vinden – historische context.

* Niet te verwarren met de vroege autoencoder-uitingen die in 2017 debuteerden en uiteindelijk zouden worden vervangen door superieure benaderingen.

^† https://arxiv.org/abs/2511.07009

^** Die meestal vrij kunnen worden uitgevoerd op krachtigere thuis-pc’s, in plaats van alleen beschikbaar te zijn via gate-gehouden API’s zoals ChatGPT en de Veo-serie.

^††† Legitieme entertainment-gebruiken uitsluitend, zoals professionele visuele effecten in film- en tv-producties.

Eerst gepubliceerd op donderdag 13 november 2025