Deepfakes og navigation i den nye æra af syntetisk medie

Husk “falske nyheder”? Begrebet er blevet brugt (og misbrugt) så omfattende på dette tidspunkt, at det kan være svært at huske, hvad det oprindeligt henviser til. Men begrebet har en meget specifik oprindelse. For ti år siden begyndte journalister at varsle om en tilstrømning af påståede “nyheds”-sider, der kastede falske, ofte utrolige påstande om politikere og celebriteter. Mange kunne øjeblikkeligt se, at disse sider var ulegitime.

Men mange flere manglede de kritiske værktøjer til at genkende dette. Resultatet var de første tegn på en epistemologisk krise, der nu er ved at omfatte internettet – en krise, der har nået sit mest forfærdelige udtryk med opkomsten af deepfakes.

I sammenligning med selv en ganske god deepfake ser “falske nyheds”-siderne fra gamle dage tamme ud. Endnu værre er det, at selv de, der mener, de besidder relativt høje niveauer af mediekompetence, er i fare for at blive narret. Syntetisk medie, der er skabt med hjælp af dyb læring-algoritmer og generativ AI, har potentialet til at ødelægge fundamentet for vores samfund. Ifølge Deloitte kan de alene i år koste virksomheder mere end 250 millioner dollars gennem falske transaktioner og andre former for svindel. Imens har Verdensøkonomisk Forum kaldt deepfakes “en af de mest bekymringsvækkende brug af AI”, idet de peger på potentialet for “agenda-drevne, realtids-AI-chatbots og avatare” til at faciliterer nye former for ultra-personlig (og ultra-effektiv) manipulation.

Verdensøkonomisk Forums foreslåede respons på dette problem er en sund en: de fremhæver en “zero-trust mindset“, der bringer en vis skepsis til hver enkelt møde med digitalt medie. Hvis vi ønsker at skelne mellem det ægte og det syntetiske fremover – især i immersive online-miljøer – vil en sådan mindset være stadig mere essentiel.

To tilgange til at bekæmpe deepfake-krisen

At bekæmpe den udbredte desinformation, der er født af syntetisk medie, vil kræve, efter min mening, to distinkte tilgange.

Den første involverer verificering: at give en simpel måde for hverdags-internetbrugere at bestemme, om videoen de ser, virkelig er ægte. Sådanne værktøjer er allerede udbredt i brancher som forsikring, givet potentialet for dårlige aktører til at indgive falske krav med manipulation af videoer, fotografier og dokumenter. At demokratisere disse værktøjer – at gøre dem gratis og let tilgængelige – er et afgørende første skridt i denne kamp, og vi ser allerede betydelig bevægelse på dette område.

Det andet skridt er mindre teknisk og derfor mere udfordrende: nemlig at øge bevidstheden og fremme kritisk tænkning. I kølvandet på den oprindelige “falske nyheder”-skandale i 2015 udarbejdede nonprofit-organisationer på tværs af landet mediekompetence-programmer og arbejdede på at sprede bedste praksis, ofte i samarbejde med lokale civile institutioner for at udvikle hverdagsborgeres evne til at spotte usandheder. Selvfølgelig er gammeldags “falske nyheder” barnlege i forhold til de mest avancerede deepfakes, hvilket er hvorfor vi må fordoble vores anstrengelser på dette område og investere i uddannelse på alle niveauer.

Avancerede deepfakes kræver avanceret kritisk tænkning

Selvfølgelig var disse uddannelsesinitiativer noget lettere at igangsætte, da desinformationen i spørgsmål var tekstbaseret. Med falske nyhedssider var tegnene på svindel ofte åbenlyse: dårlig webdesign, udbredte trykfejl, bizarre kilder. Med deepfakes er tegnene langt mere subtile – og ofte umulige at bemærke ved første øjekast.

Herefter må internetbrugere af alle aldre effektivt genoptræne sig selv til at skærpe deres blik for digitale videoer efter deepfake-indikatorer. Det betyder, at man skal være opmærksom på en række faktorer. For video kan det indebære usædvanligt uklare områder og skygger; unaturligt udseende ansigtsbevægelser og udtryk; for perfekte hudtoner; inkonsistente mønstre i tøj og bevægelser; fejl i lip-sync; og så videre. For lyd kan det indebære stemmer, der lyder for renligt (eller åbenlyst digitaliseret), mangel på et menneskeligt følelsesudtryk, underlige talemoder eller usædvanlige formuleringer.

På kort sigt kan denne slags selvtræning være meget nyttig. Ved at spørge os selv, om og om igen, ser dette mistænkeligt ud?, skærper vi ikke blot vores evne til at opdage deepfakes, men også vores kritiske tænkning generelt. Det sagde, vi nærmer os hurtigt et punkt, hvor ikke engang det bedst trænede øje kan skelne mellem fakta og fiktion uden ydre hjælp. De visuelle tegn – de uregelmæssigheder, der er nævnt ovenfor – vil blive teknologisk glattet over, sådan at helt fabrikerede klip vil være umulige at skelne fra den ægte vare. Det, vi vil blive tilbage med, er vores situationsintuition – vores evne til at stille os selv spørgsmål som Ville en given politiker eller celebrity virkelig sige det? Er videoens indhold plausibelt?

Det er i denne kontekst, at AI-detectionsplatforme bliver så essentielle. Når det blotte øje er blevet irrelevant for deepfake-detektionsformål, kan disse platforme fungere som definitive garantier for virkeligheden – sikkerhedsforanstaltninger mod den epistemologiske afgrund. Når en video ser ægte ud, men alligevel virker mistænkeligt – som vil ske mere og mere ofte i de kommende måneder og år – kan disse platforme holde os grundet i fakta ved at bekræfte, hvad vi ser, er baseret på sandhed. I sidste ende, med en sådan kraftfuld teknologi, er det eneste, der kan redde os, AI selv. Vi må bekæmpe ild med ild – det vil sige at bruge god AI til at udrydde teknologiens værste misbrug.

Faktisk behøver erhvervelsen af disse færdigheder på ingen måde at være en cynisk eller negativ proces. At fremme en zero-trust mindset kan i stedet betragtes som en mulighed for at skærpe vores kritiske tænkning, intuition og bevidsthed. Ved at spørge os selv, om og om igen, visse nøglespørgsmål – Gør det mening? Er det mistænkeligt? – højner vi vores evne til at konfrontere ikke blot falsk medie, men verden i bred forstand. Hvis der er en sølvkant til deepfake-æraen, er det dette. Vi bliver tvunget til at tænke for os selv og blive mere empiriske i vores daglige liv – og det kan kun være en god ting.