Användning av “sannolikhet” som en mätmetod för upptäckt av deepfakes

Om AI-genererad video och ljud blir tillräckligt bra, kommer deepfake-detektorer baserade på visuella artefakter eller andra traditionella signaler inte att fungera längre. Men med tanke på hur sällan människor avviker från förutsägbar beteende, kanske “sannolikhet” kan antas som en signal för om en video eller en nyhetsrykte troligen är sann.

Åsikt I början av 1990-talet avslöjade den respekterade före detta brittiska fotbollsspelaren och TV-sportkommentatorn David Icke oväntat i en chattshow att han var “Guds son” – en bisarr och oväntad avslöjande som skulle utvecklas under de följande decennierna till en bestående och omfattande konspirations-teori om en hemlig och mäktig global kabals “ödla-människor”.

Med internet-användning fortfarande flera år bort, och sociala medier ännu längre in i framtiden, hade den renodlade dissonansen mellan Ickes berömmelse och naturen på hans nya insikter en djup inverkan på den brittiska allmänheten – inte minst på grund av den fullständiga bristen på kontext eller någon form av förberedelse för denna massiva vändning, från en välkänd och etablerad idrottspersonlighet.

Mer än tjugo år senare inträffade en liknande och mycket mörkare variant av denna samhälleliga chock, när den älskade välgörenhets-kampanjören och barn-TV-värden Jimmy Savile postumt befanns vara en seriell och rovlysten livslång sexförbrytare som hade använt sin oskuldsfulla offentliga bild för att underlätta sina brott.

Den efterföljande Operation Yewtree-utredningen skulle avslöja många fler brittiska kändisar med långa historier av sexbrott; senare skulle Harvey Weinsteins åtal leda till en liknande upptäckt av kändis-sexförbrytare i USA, vilket skulle utvecklas till #metoo-rörelsen och permanent integreras i amerikansk kultur i exempel som The Morning Show. “Chock”-nyheter tycktes utveckla en ny och abrupt mall – en som skulle bli antagen av deepfake-angripare.

Slutet för “traditionell” upptäckt av deepfakes?

Även om sociala medier och AI hade funnits på 1990-talet, kunde ingen förutsägelsesystem i världen ha förutsett Ickes chatt-show-avslöjanden, som (som jag väl minns) inte alls var förutsagda i åren som ledde upp till händelsen.

Men om AI hade funnits, kanske det hade tagit lite tid att övertyga en bredare publik om att Ickes uttalanden inte var produkten av Google Veo 3 eller någon annan av de nya hyperrealistiska ljud- och video-deepfake-ramverken.

Det är först under de senaste 6-12 månaderna som AI-deepfake-metoder har blivit tillräckligt effektiva för att uppfylla års medie-doom-saying om deepfake-valinterferens, och kapabla att generera den typ av snabb-stöt-reputationsfläck som är falsk, men svår att utplåna i en alltmer lättlurad kultur.

Hittills har AI-video-utdata vanligtvis fallit kort av sann realism, begränsad av tekniska hinder och alltmer polariserad av ett växande gap mellan restriktiva västerländska modeller och Kinas ocensurerade öppna källkods-releaser^**.

Trots detta märker jag alltmer i forskningslitteraturen en överhängande eftergift av denna kalla kriget, till exempel i den nya artikeln Performance Decay in Deepfake Detection^†:

‘[Vi] antar att deepfake-videor kommer att fortsätta innehålla maskinlärande funktioner som tillförlitligt skiljer dem från äkta videor. När generativ AI:s förmågor fortsätter att utvecklas snabbt, kan denna antagande mycket väl brytas ned.

‘I ett sådant scenario kommer vattenstämpel och andra bevisbaserade spårningsmetoder att erbjuda den enda återvändsgränden för att upprätthålla förtroendet för digitala medier.’

Men samma artikel medger att bevisbaserade lösningar som Content Authenticity Initiative (och de många mindre forsknings erbjudanden under de senaste 7-8 åren) kräver en sådan omfattande antagande att det är orealistiskt; och artikeln slutar på en allmän not om reträtt, om inte nederlag.

Om audio-visuella deepfake-detektionsmetoder utvecklas av generativ AI, och global antagande av en intrusiv vattenstämpel eller bevisbaserad schema faller på de diversa logistiska hinder, vad är den gemensamma centrala funktionen som kan ersätta dem som indikatorer på potentiellt falskt utdata? Eller måste vi resignera oss till en värld där all media är i tvivel, och Lögnens dividend råder?

Kunskapsgrafer

Det verkar vara dags att mer djupt utnyttja sannolikhet och sannolikhetsbedömning av “rapporterade händelser” som en signal-egenskap i upptäckt av deepfakes. Dessutom, eftersom video- och ljud-generativ AI-system alltmer konvergerar, kan det också vara dags för de separata forskningssträngarna av “falska nyheter” (som en textbaserad berättelse-händelse) och falska bilder/video att likaså konvergera.

En sannolikhet-mätmetod för deepfakes är inte samma sak som RAG-baserad fakta-verifiering, där en AI-modell kan hämta in aktuella webbresultat för att få kunskap om händelser som inträffar efter dess egen avstämningsdatum, och/eller för att styrka dess påståenden.

I stället skulle den utföra förutsägelser baserade på allmänt indikativa statistiska trender, som härrör från historiska mönster som överensstämmer med en aktuell förfrågan.

På detta sätt är en sannolikhet-metod närmare statistisk analys än mer moderna trådar i den nuvarande maskinlärnings-scenen.

Även om de tidigare överträffats av mer moderna Transformers-era-ansatser, kunskapsgrafer gör en sorts comeback i företags-världen, och verkar anpassade för den potentiella distributionen av “sannolikhet”-mätmetoder i upptäckt av deepfakes.

En förenklad kunskapsgraf som visar hur människor, platser, konstverk och händelser kan kopplas samman genom märkta relationer, vilket möjliggör för maskiner att resonera över verkliga entiteter och deras anslutningar. Källa

En kunskapsgraf är ett sätt att organisera information genom att kartlägga verkliga saker som människor, företag, händelser eller idéer till ett nätverk av sammanhängande fakta.

Varje under-entitet är en nod, och länkarna mellan dem (kanter) beskriver hur de relaterar till varandra. Till exempel kan “Microsoft ” (en nod) vara länkad till “OpenAI” (en annan nod) av en kant som säger “är en kund till”. Dessa anslutningar är ofta lagrade i graf-databaser och följer en subjekt-predikat-objekt-struktur, som “Microsoft är en kund till OpenAI”.

Beständig minne

En kinesisk studie från september i år föreslog en träningsfri metod som använder graf-baserad resonemang för att upptäcka subtila inkonsekvenser i multimodala deepfakes.

I stället för att generera rationella eller finjustera stora modeller, hämtar systemet bild-text-par, bygger en likhetsgraf och poängsätter anslutningar, för att hämta de mest relevanta exemplen, och dessa vägleder modellens bedömning utan behov av ny utbildning:

En översikt av GASP-ICL-ramverket, som förbättrar upptäckt av deepfakes genom att kombinera graf-baserad exempelval med in-context-lärande, vilket tillåter en frusen vision-språk-modell att klassificera bild/text-par som äkta eller falska, utan utbildning eller finjustering.  Source

Detta är troligen det närmaste arbetet, som jag har stött på, till en “informerad” och historie-medveten ansats för utvärdering och verifiering av ny media-utdata. För det mesta fortsätter dator-vision-ansatser att analysera bilder (inklusive ramar av videor och temporala anomalier som omfattar flera ramar) medan “falska nyheter”-detektions-ramverk fortsätter att betona text-baserad data, även i multimodala projekt.

Funktionell kyrka

Utmaningen med ett prediktivt system av detta slag är omfattningen av övervakning som kan vara nödvändig för att göra ansatsen fullt utvecklad – åtminstone bortom analysen av kändisar och offentliga personer, för vilka fritt tillgängliga data redan finns.

Troligen är den mest liknande nuvarande forskningssträngen inom området pre-crime, som märker diverse multimodala intelligens-signal som “misstänkta”, och presenterar sig som en AI-skräckfågel i exempel som Jonathan Nolans Person of Interest (2011-2016), och Steven Spielbergs Minority Report (2002).

Medan ett Person of Interest-liknande allomfattande övervakningssystem skulle producera optimala resultat, är det osannolikt att västerländsk kultur kan sanktionera den nivå av personlig intrusivitet som Kinas interna nätverk påtvingar sina medborgare.

Därför, i fråga om potentiellt falska nyheter om icke-kändisar, endast myndigheter som polisen (samt födelse- och döds-registren och skattemyndigheter) skulle ha tillräckligt med relevant historisk information för att informera sannolikheter i en graf-baserad arbetsflöde; och även de skulle behöva CCCP-stil, vilja, kapacitet, lagstiftning och resurser för att inkludera vanliga medborgare i sin täckning och analyser (dvs. bortom banala men obligatoriska datapunkter som passnummer och bilregistreringar).

Sannolikhetspoäng

Det verkar troligt att den potentiella effektiviteten av ett system av detta slag skulle begränsas till de mest uppenbara (nuvarande) användningsfallen för deepfake-innehåll: destabilisering (stats-stödda deepfakes); kändis- och “okänd” porr-deepfakes (som båda kan anses vara elaka, även om den senare fallet tenderar att dra till sig djupare medie-oro); bedrägeri (inklusive ljud- och video-deepfakes som är utformade för att utföra ‘impersonation-rån’); och politisk karaktär-mord.

En kunskaps-baserad system skulle behöva en skala av sannolikheter för en mångfald av möjliga händelser. I ena änden av spektrum, vanliga mänskliga svagheter som tveksamma finansiella ledningar, otrohet, beroende, oaktsamhet, etc.; i den andra… att avslöja att man är Guds son i en live-TV-chattshow (eller händelser av liknande skala och inverkan).

Även i det senare fallet, personliga historiska faktorer för en enskild individ skulle väga sannolikhets-resultatet: en framstående politisk figur som offentligt har tvivlat på kontroversiella frågor (såsom sanningen om 1960- och 70-talets månlandningar) för att vinna kapital med en alltmer ‘alternativt’-informerad väljarkår, kan få extra wildcard-status i verifierings-rutiner, jämfört med sina mer återhållsamma kollegor.

I fallet med kändis-porr, finns det tillräckligt med verkliga sammanhang (dvs. 2012 års kändis-foto-läckor, bland andra – ganska sällsynta – incidenter) för att generera en måttlig Lögnens dividend, i vissa sammanhang; men eftersom dessa outlier-incidenter tenderar att fungera som undantag som bekräftar regeln, skulle de flesta av de nuvarande kändis-porr-videorna med diffusion-baserad teknik anses vara extremt “osannolika” (även om detta inte löser problemet med appropriering av människors identiteter för sådana ändamål).

I fråga om nationell störning, finns det en betydande mängd statistisk data som kan hjälpa till att bedöma sannolikheten för “katastrofala” rapporter. Även i forntiden, tycktes “out-of-the-blue”-händelser som vulkanen Vesuvius utbrott 79 e.Kr. vara förutsagda, om man hade uppmärksammat; och förutom tillgängligheten av en mängd olika regerings- och NGO-backade flöden, kan AI:s utvecklande förmåga att extrahera struktur från rådata ge ytterligare historisk kontext för sannolikhets-poäng.

Slutsats

Även ett välgenomfört prediktivt system av detta slag kunde inte förklara slumpmässiga händelser, gudomliga ingripanden, ovanliga händelser eller elaka händelser som konstruerats utanför all övervakning.

Dessutom skulle den renodlade volymen och djupet av data som behövs, för att ge täckning även för icke-kända personer, vara en politisk hämsko – åtminstone för tillfället.

Men valet verkar vara att minska; vision-baserad analys är på väg att misslyckas inför den förbättrade generativa AI:n, medan verifierings- och bevisbaserade scheman bär en hämmande börda av teknisk skuld, och friktion mot antagande. Detta gör lösningar som Content Authenticity Initiative och det outvecklade Metaphysic.ai ansikts-upphovsrätts-system Metaphysic Pro utmanande att popularisera.

I sin bredaste användning kan RAG-baserade system endast bestämma om en auktoritativ källa stöder ett overifierat påstående; och eftersom många stora (sanna) nyhets-historier uppkommer utan föregående sammanhang, är bristen på stöd från auktoritativa källor inte nödvändigtvis meningsfull.

Deras värde kan visa sig vara större om de kan bilda en del av en större data-ekosystem som är inriktat på den ena sak som de flesta former av AI har svårt att hantera – historisk kontext.

* Inte att förväxlas med de tidiga autoencoder-utgåvorna som debuterade 2017 och skulle så småningom ersättas av överlägsna ansatser.

^† https://arxiv.org/abs/2511.07009

^** Det kan vanligtvis köras fritt på kraftfulla hem-datorer, i stället för att endast vara tillgängligt via gate-kept API:er som ChatGPT och Veo-serien.

^††† Uteslutande legitima underhållnings-användningar, såsom professionella visuella effekter i film- och TV-produktioner.

Publicerad första gången torsdag, 13 november 2025