Dybfejker og navigation i den nye æra af syntetisk medie

Husk “falske nyheder”? Begrebet er blevet brugt (og misbrugt) så meget, at det kan være svært at huske, hvad det oprindeligt henviser til. Men konceptet har en meget specifik oprindelse. For ti år siden begyndte journalister at varsle om en strøm af påståede “nyheds”-sider, der kastede falske, ofte utrolige påstande om politikere og kendisser. Mange kunne straks se, at disse sider var ulegitime.

Men mange flere manglede de kritiske redskaber til at genkende dette. Resultatet var de første tegn på en epistemologisk krise, der nu er ved at omfatte internettet – en krise, der har nået sit mest skræmmende udtryk med opkomsten af dybfejker.

I sammenligning med selv en ganske god dybfejk ser de “falske nyheds”-sider fra gamle dage tamme ud. Endnu værre er det, at selv de, der mener, de besidder relativt høje niveauer af mediekompetence, er i risiko for at blive narret. Syntetisk medie skabt med hjælp af dyb læring algoritmer og generativ AI har potentialet til at ødelægge fundamentet for vores samfund. Ifølge Deloitte kan de alene i år koste virksomheder mere end 250 millioner dollar gennem falske transaktioner og andre former for svindel. Samtidig har Verdensøkonomisk Forum kaldt dybfejker “en af de mest bekymringsvækkende former for brug af AI” og pegede på potentialet for “agenda-drevne, realtids AI-chatbots og avatare” til at facilitere nye former for ultra-personaliseret (og ultra-effektiv) manipulation.

Verdensøkonomisk Forums foreslåede respons på dette problem er en sund en: de fremhæver en “zero-trust mindset“, der bringer en vis skepsis til enhver møde med digitalt medie. Hvis vi ønsker at skelne mellem det ægte og det syntetiske fremover – især i immersive online-miljøer – vil en sådan mindset være stadig mere essentiel.

To tilgange til at bekæmpe dybfejk-krisen

At bekæmpe den udbredte desinformation, der er født af syntetisk medie, vil kræve, efter min mening, to distinkte tilgange.

Den første involverer verificering: at give en simpel måde for hverdags internettbrugere at bestemme, om videoen de ser, virkelig er ægte. Sådanne værktøjer er allerede udbredt i brancher som forsikring, hvor der er potentiale for dårlige aktører at indgive falske krav med hjælp af manipulerede videoer, fotografier og dokumenter. At demokratisere disse værktøjer – gøre dem gratis og let tilgængelige – er et afgørende første skridt i denne kamp, og vi ser allerede betydelig bevægelse på dette område.

Det andet skridt er mindre teknisk og derfor mere udfordrende: nemlig at øge bevidstheden og fremme kritisk tænkning. I kølvandet på den oprindelige “falske nyheder”-skandale i 2015 udarbejdede nonprofit-organisationer på tværs af landet mediekompetenceprogrammer og arbejdede for at sprede bedste praksis, ofte i samarbejde med lokale civile institutioner for at udvikle hverdagsborgeres evne til at spotte usandheder. Naturligvis er den gamle “falske nyheder” noget barnlig i forhold til de mest avancerede dybfejker, hvilket er grunden til, at vi må fordoble vores indsats på dette område og investere i uddannelse på alle niveauer.

Avancerede dybfejker kræver avanceret kritisk tænkning

Naturligvis var disse uddannelsesinitiativer noget lettere at gennemføre, da desinformationen i spørgsmålet var tekstbaseret. Med falske nyhedssider var tegnene på svindel ofte åbenlyse: dårlig webdesign, udbredte trykfejl, bizarre kilder. Med dybfejker er tegnene langt mere subtile – og ofte umulige at bemærke ved første øjekast.

Derfor har internettbrugere i alle aldre brug for at gen-uddanne sig selv til at undersøge digitalt video for dybfejk-indikatorer. Det betyder, at man skal være meget opmærksom på en række faktorer. For video kan det indebære usædvanligt udseende, uklare områder og skygger; unaturligt udseende ansigtsbevægelser og udtryk; for perfekte hudtoner; inkonsistente mønstre i tøj og bevægelser; lip-sync-fejl; og så videre. For lyd kan det indebære stemmer, der lyder for renligt (eller åbenlyst digitaliseret), mangel på en menneskelig følelse af emotionel tone, underlige talepatroner eller usædvanlige vendinger.

På kort sigt kan denne type selv-uddannelse være meget nyttig. Ved at spørge os selv, igen og igen, Er dette mistænkeligt?, skærper vi ikke blot vores evne til at opdage dybfejker, men også vores kritiske tænkning generelt. Det sagde, vi nærmer os hurtigt et punkt, hvor selv det bedst trænede øje ikke vil være i stand til at skelne mellem faktum og fiktion uden ydre hjælp. De visuelle tegn – de uregelmæssigheder, der er nævnt ovenfor – vil blive teknologisk glattet over, sådan at helt fabrikerede klip vil være umulige at skelne fra den ægte vare. Hvad vi vil være tilbage med, er vores situationsintuition – vores evne til at stille os selv spørgsmål som Ville en sådan politiker eller kendis virkelig sige det? Er indholdet af denne video plausibelt?

Det er i denne kontekst, at AI-detectionsplatforme bliver så essentielle. Når det blotte øje er blevet irrelevant til formålet at opdage dybfejker, kan disse platforme fungere som definitive garantier for virkeligheden – rækværk mod den epistemologiske afgrund. Når en video ser ægte ud, men alligevel virker mistænkeligt – som vil ske mere og mere ofte i de kommende måneder og år – kan disse platforme holde os fast i kendsgerningerne ved at bekræfte den grundlæggende sandhed i det, vi ser. Til sidst, med en sådan kraftfuld teknologi, er det eneste, der kan redde os, AI selv. Vi må bekæmpe ild med ild – det vil sige bruge god AI til at rodte ud af teknologiens værste misbrug.

Faktisk behøver erhvervelsen af disse færdigheder på ingen måde at være en kynisk eller negativ proces. At fremme en zero-trust mindset kan i stedet ses som en mulighed for at skærpe vores kritiske tænkning, intuition og bevidsthed. Ved at spørge os selv, igen og igen, visse nøgle-spørgsmål – Er dette fornuftigt? Er dette mistænkeligt? – højner vi vores evne til at konfrontere ikke blot falsk medie, men verden i bredere forstand. Hvis der er en sølvkant til dybfejk-æraen, er det dette. Vi bliver tvunget til at tænke for os selv og blive mere empiriske i vores daglige liv – og det kan kun være en god ting.