Bruk av ‘sannsynlighet’ som en metode for å oppdage deepfakes

Hvis AI-generert video og lyd blir gode nok, vil deepfake-detektorer basert på visuelle artefakter eller andre tradisjonelle signaler ikke fungere lenger. Men gitt hvor sjelden mennesker avviker fra forutsigbar atferd, kan kanskje ‘sannsynlighet’ bli tatt i bruk som en signal for om en video eller en nyhet er sannsynlig å være sann.

Mening I begynnelsen av 1990-årene avslørte den respekterte tidligere britiske fotballspilleren og TV-sportkommentatoren David Icke uventet på en pratshow at han var ‘Guds sønn’ – en merkelig og uventet avsløring som ville utvikle seg over de neste tiårene til en varig og omfattende konspirasjonsteori om en hemmelig og mektig global elite av ‘firer-folk’.

Med internett-tilgang fortsatt noen år unna, og oppkomsten av sosiale medier enda lenger frem i tid, hadde den rene dissonansen mellom Ickes berømmelse og naturen til hans nye innsikt en dyptgående effekt på den britiske allmennheten – ikke minst på grunn av fullstendig manglende kontekst eller noen type forberedelse for denne massive vendingen, fra en velkjent og etablert sportspersonlighet.

Mer enn tjue år senere skjedde en lignende og mye mørkere variant av denne sosiale sjokkreaksjonen, da den elskede veldedighetsaktivisten og barne-tv-verten Jimmy Savile ble posthumt funnet å være en seriøs og rapacious livslang sex-forbryter som hadde brukt sin fromme offentlige bilde til å fasilitere sine forbrytelser.

Den påfølgende Operation Yewtree-politietterforskningen ville avdekke mange flere britiske kjendiser med lange historier av seksuelle overgrep; senere ville Harvey Weinsteins rettssak føre til en lignende oppdagelse av kjendis-sexforbrytere i USA, og utvikle seg til #metoo-bevegelsen, og bli en del av amerikansk kultur i utgaver som The Morning Show. ‘Sjokk’-nyheter syntes å utvikle en ny og brå template – en som til slutt ville bli tatt i bruk av deepfake-angripere.

Slutten på ‘tradisjonell’ deepfake-oppdaging?

Selv om sosiale medier og AI hadde vært til stede i begynnelsen av 1990-årene, ville ingen prediktivt system i verden ha kunnet forutse Ickes pratshow-avsløringer, som (som jeg godt husker) ikke var noen gang forutsett i årene før hendelsen.

Men hvis AI hadde vært til stede, ville det kanskje tatt noen tid å overbevise en bredere publikum om at Ickes erklæringer ikke var produktet av Google Veo 3, eller en annen av de nye hyper-realistiske audio/visuelle deepfake-rammeverkene.

Det er først i løpet av de siste 6-12 månedene at AI-deepfake-metodene har blitt effektive nok til å innfri år med medie-doom-saying om deepfake-valginterferens, og kapable nok til å generere den type rask-strike-reputasjonsflekk som er usann, men vanskelig å utradere i en stadig mer troende kultur.

Til nå faller AI-videoutgang typisk kort av sanntro, begrenset av tekniske hindringer og stadig mer polarisert av en økende gap mellom restriktive vestlige modeller og Kinas usensurerte åpne kilde-utgaver^**.

Likevel, jeg merker stadig mer i forskningslitteraturen en nærmende konsesjon av denne kalde krigen, for eksempel i den nye artikkelen Performance Decay in Deepfake Detection^†:

‘[Vi] antar at deepfake-videoklipp vil fortsatt inneholde maskinlærte trekk som pålitelig skiller dem fra ekte videoer. Ettersom generative AI-kapasiteter fortsetter å utvikle seg raskt, kan denne antagelsen godt bryte sammen.

‘I en slik situasjon vil vannmerking og andre proveniens-sporingsmetoder være den eneste utveien for å opprettholde tillit til digital media.’

Men samme artikkel innrømmer at proveniens-baserte løsninger som Content Authenticity Initiative (og de mange mindre forsknings tilbud fra de siste 7-8 årene) krever så vidt utbredt adopsjon at det er urealistisk; og artikkelen ender på en generell note om tilbaketrekning, hvis ikke nederlag.

Hvis audio-visuelle deepfake-oppdagingsmetoder utvikles av generative AI, og global adopsjon av en intrusiv vannmerking eller proveniensordning faller på de diverse logistiske hindrene, hva er da en felles sentral egenskap som kan erstatte dem som indikatorer for potensielt falskt utgang? Eller må vi resignere oss til en verden hvor all media er i tvil, og Liar’s Dividend hersker?

Kunnskapsgrafer

Det ser ut til å være på tide å utnytte sannsynlighet og sannsynlighet av ‘rapporterte hendelser’ som en signal-egenskap i deepfake-oppdaging. Videre, siden video- og audio-generative AI-systemer stadig konvergerer, kan det også være på tide for de separate forskningsstrådene ‘falske nyheter’ (som en tekst-basert narrativ hendelse) og falske bilder/video å konvergere.

En sannsynlighet-deepfake-metrik er ikke det samme som RAG-assistent fakta-verifisering, hvor en AI-modell kan hente inn nåværende web-resultater for å få kunnskap om hendelser som skjer etter sin egen kunnskaps-kutoff-dato, og/eller for å bekrefte sine påstander.

Rather, ville det utføre prediksjoner basert på generelt indikative statistiske trekk, avledet fra historiske mønster som samsvarer med en nåværende undersøkelse.

I denne forstand er en sannsynlighet-metode nærmere statistisk analyse enn mer moderne tråder i den nåværende maskinlærings-scenen.

Skjønt tidligere overskygget av mer moderne Transformers-tilnærminger, kunnskapsgrafer gjør en slags comeback i bedriftsrommet, og ser ut til å være tilpasset potensiell utbredelse av ‘sannsynlighet’-metrikker i deepfake-oppdaging.

En forenklet kunnskapsgraf som viser hvordan mennesker, steder, kunstverk og hendelser kan kobles sammen gjennom merkte relasjoner, og muliggjør maskiner å resonnere over virkelige enheter og deres forbindelser. Kilde

En kunnskapsgraf er en måte å organisere informasjon ved å kartlegge virkelige ting som mennesker, selskaper, hendelser eller ideer inn i et nettverk av sammenhengende fakta.

Hver underenhet er en node, og lenkene mellom dem (kanter) beskriver hvordan de relaterer til hverandre. For eksempel kan ‘Microsoft’ (en node) være koblet til ‘OpenAI’ (en annen node) med en kant som sier ‘er en kunde av’. Disse forbindelsene lagres ofte i graf-databaser og følger en subjekt-predikat-objekt-struktur, som ‘Microsoft er en kunde av OpenAI’.

Varig minne

En kinesisk studie fra september i år foreslo en treningsfri metode som bruker graf-basert resonnement til å oppdage subtile inkonsistenser i multimodale deepfakes.

I stedet for å generere rasjonaliseringer eller fine-tune store modeller, henter systemet inn bilde-tekst-par, bygger en likhetsgraf, og scorer forbindelser, for å hente de mest relevante eksemplene, og disse guider modellens dømmekraft uten behov for ny trening:

En oversikt over GASP-ICL-rammeverket, som forbedrer deepfake-oppdaging ved å kombinere graf-basert eksempel-valg med kontekst-læring, og tillater en frozen visjon-språk-modell å klassifisere bilde/tekst-par som ekte eller falske, uten trening eller fine-tuning.  Kilde

Dette er sannsynligvis det nærmeste arbeidet, og det som har krysset min vei, til en ‘informert’ og historie-bevisst tilnærming til evaluering og verifisering av ny media-utgang. For det meste analyserer datavisjons-tilnærminger fortsatt bilder (inkludert rammeverk av videoer og temporale anomalier som omfatter flere rammeverk) mens ‘falske nyheter’-detektor-rammeverk fortsatt betoner tekst-basert data, selv i multimodale prosjekter.

Funksjonskryp

Ufordringen med et prediktivt system av denne typen er omfanget av overvåking som kan være nødvendig for å gjøre tilnærmingen fullt fungerende – minst utenfor analysen av kjendiser og offentlige personer, for hvem fritt tilgjengelig data allerede eksisterer.

Sannsynligvis er den mest lignende nåværende forskningsstråden feltet pre-crime, som merker diverse multimodale intelligens-signaler som ‘mistenkelige’, og presenterer seg som en AI-skrekkeløs i utgaver som Jonathan Nolans Person of Interest (2011-2016), og Steven Spielbergs Minority Report (2002).

En Person of Interest-lignende allomfattende overvåkningssystem ville produsere optimale resultater, men det er usannsynlig at vestlig kultur kan sanksjonere det nivået av personlig intrusivitet som Kinas interne nettverk påfører sine borgere.

Derfor, i forhold til potensielle falske nyheter om ikke-kjendiser, ville bare regjeringsbyråer som politiet (sammen med fødsels- og døds-registre og skattekontor) ha nok pertinente historiske informasjoner for å informere sannsynligheter i en graf-basert arbeidsflyt; og selv da ville de trenge CCCP-stil vil, kapasitet, lovgivning og ressurser for å inkludere gjennomsnittlige borgere i deres dekning og analyser (dvs. utover banale men obligatoriske datapunkter som passnummer og bilregistreringer).

Sannsynlighets-scoring

Det ser ut til å være sannsynlig at den potensielle effektiviteten av et system av denne typen ville være begrenset til de mest åpenbare (nåværende) bruksområdene for deepfake-innhold: destabilisering (stats-støttede deepfakes); kjendis- og ‘ukjent’ porn deepfakes (som begge kan betraktes som skadelige, selv om den siste typen tenderer å tiltrekke seg dypere medie-oppmerksomhet); svindel (inkludert audio/visuelle deepfakes designet for å utføre ‘impersonasjon-tyverier’); og politisk karakterdrap.

En kunnskaps-basert system ville trenge en skala av sannsynligheter for en mangfoldighet av mulige hendelser. På den ene enden av spekteret, vanlige menneskelige svakheter som tvilsom økonomisk forvaltning, utroskap, avhengighet, uforstand, osv.; på den andre enden… å avsløre at du er Guds sønn på en direktesendt TV-pratshow (eller hendelser av lignende skala og impakt).

Even i den siste hendelsen ville personlige historiske faktorer for enkeltpersoner veie sannsynlighets-resultatet: en fremtredende politisk skikkelse som offentlig har tvilt på kontroversielle spørsmål (slik som sannhetsverdien av månelandingene i 1960- og 70-årene) for å vinne kapital hos en stadig mer ‘alternativt’-informert velgermasse, kunne få ekstra wildcard-status i verifiseringsrutiner, sammenlignet med sine mer stille peers.

I tilfelle av kjendis-porn, er det nok virkelig kontekst (dvs. 2012-kjendis-foto-lekkasjer, blant andre – ganske sjeldne – hendelser) for å generere en moderat Liar’s Dividend, i visse sammenhenger; men siden disse outlier-hendelsene tenderer å fungere som unntak som bekrefter regelen, ville de fleste av de nåværende diffusjons-baserte kjendis-porn-videoklipp være meget ‘usannsynlige’ (selv om dette ikke løser problemet med åpropriering av menneskers identiteter for slike formål).

I forhold til nasjonal forstyrrelse, er det en betydelig mengde statistisk data som kan hjelpe med å vurdere sannsynligheten av ‘katastrofale’ rapporter. Even i oldtiden, syntes ‘ut-av-det-blu’ hendelser som vulkanen Vesuvius’ utbrudd i 79 e.Kr. å være forutsett, hvis man hadde vært nøye; og foruten tilgjengeligheten av en mengde regjerings- og NGO-støttede kanaler, kan AI sin evoluerende kapasitet til å utvinne struktur fra rå data gi ytterligere historisk kontekst for sannsynlighets-scoring.

Konklusjon

Selv en godt implementert prediktivt system av denne typen kunne ikke forklare tilfeldige hendelser, Guds inngripen, uventede hendelser eller malisøse hendelser konstruert utenfor all overvåking.

Further, den rene mengden og dybden av data som trengs for å gi dekning også for ikke-berømte personer, ville være et politisk hindringspunkt – minst for øyeblikket.

Likevel, valgene ser ut til å bli mindre; visjon-basert analyse er på vei til å feile i møte med bedret generativ AI, mens verifisering og proveniens-ordninger bærer en hindrende byrde av teknisk gjeld, og friksjon mot adopsjon. Dette gjør løsninger som Content Authenticity Initiative, og det utilgjengelige Metaphysic.ai ansikt-kopieringssystem Metaphysic Pro, utfordrende å popularisere.

I deres bredeste bruk, kan RAG-baserte systemer bare bestemme om en autoritativ kilde støtter opp en uverifisert påstand; og siden mange store (sanne) nyheter oppstår uten forutgående kontekst, er mangelen på støtte fra autoritative kilder ikke nødvendigvis meningsfull.

Deres verdi kan vise seg å være større hvis de kan danne en del av et større data-økosystem som omhandler det ene som de fleste nåværende former for AI finner utfordrende – historisk kontekst.

* Ikkje å forveksles med de tidlige autoencoder-utgavene som debuterte i 2017 og ville til slutt bli erstattet av overlegne tilnærminger.

^† https://arxiv.org/abs/2511.07009

^** Which can usually run freely on more powerful home PCs, instead of only being available via gate-kept APIs such as ChatGPT and the Veo series.

^††† Omitting legitimate entertainment uses, such as professional visual effects in movie and TV productions.

First published Thursday, 13. november 2025