Deepfakes och navigering i den nya eran av syntetisk media

Kom ihåg “falska nyheter”? Uttrycket har använts (och missbrukats) så omfattande vid det här laget att det kan vara svårt att komma ihåg vad det ursprungligen hänvisade till. Men begreppet har en mycket specifik ursprung. För tio år sedan började journalister varna för en tillströmning av påstådda “nyhets” sajter som slängde ur sig falska, ofta häpnadsväckande påståenden om politiker och kändisar. Många kunde omedelbart se att dessa sajter var illegitima.

Men många fler saknade de kritiska verktygen för att känna igen detta. Resultatet var de första rörelserna i en epistemologisk kris som nu kommer att omfamna internet – en som har nått sin mest skrämmande manifestation med uppkomsten av deepfakes.

Jämfört med även en någorlunda trovärdig deepfake verkar de “falska nyhets” sajterna från förr tamma. Värre än så, även de som tror att de besitter relativt höga nivåer av mediekunskap är i riskzonen att bli lurade. Syntetisk media skapad med hjälp av djupinlärningsalgoritmer och generativ AI har potentialen att förstöra grunderna för vårt samhälle. Enligt Deloitte kan de bara i år kosta företag mer än 250 miljoner dollar genom falska transaktioner och andra former av bedrägeri. Samtidigt har Världsekonomiskt forum kallat deepfakes “en av de mest oroväckande användningarna av AI”, och pekat på potentialen för “agenda-drivna, realtids-AI-chattbotar och avatarer” för att underlätta nya former av ultra-personlig (och ultra-effektiv) manipulation.

Världsekonomiskt forums föreslagna respons på detta problem är en rimlig en: de förespråkar en “noll-tillit-hållning“, en som bringar en viss skepsis till varje möte med digital media. Om vi vill skilja mellan det äkta och det syntetiska i framtiden – särskilt i immersiva online-miljöer – kommer en sådan hållning att bli alltmer nödvändig.

Två tillvägagångssätt för att bekämpa deepfake-krisen

Bekämpning av utbredd desinformation född av syntetisk media kommer att kräva, enligt min mening, två distinkta tillvägagångssätt.

Det första involverar verifikation: att tillhandahålla ett enkelt sätt för vanliga internetanvändare att avgöra om videon de tittar på verkligen är äkta. Sådana verktyg är redan vanliga i branscher som försäkring, med tanke på potentialen för illvilliga aktörer att lämna in falska anspråk med hjälp av manipulerade videor, foton och dokument. Att demokratisera dessa verktyg – att göra dem gratis och lättillgängliga – är ett avgörande första steg i denna kamp, och vi ser redan betydande rörelse på detta område.

Det andra steget är mindre tekniskt till sin natur, och därmed mer av en utmaning: nämligen, att öka medvetenheten och främja kritiska tänkande färdigheter. I kölvattnet av den ursprungliga “falska nyhets” skandalen, 2015, drog ideella organisationer över hela landet upp mediekompetensprogram och arbetade för att sprida bästa praxis, ofta i samarbete med lokala medborgarinstitutioner för att ge vanliga medborgare möjlighet att upptäcka osanningar. Naturligtvis är gammaldags “falska nyheter” barnlek jämfört med de mest avancerade deepfakes, vilket är varför vi behöver förnya våra ansträngningar på detta område och investera i utbildning på alla nivåer.

Avancerade deepfakes kräver avancerat kritiskt tänkande

Naturligtvis var dessa utbildningsinitiativ något lättare att genomföra när desinformationen i fråga var textbaserad. Med falska nyhets sajter var tecknen på bedrägeri ofta uppenbara: dålig webbdesign, utbredd stavfel, underlig källhänvisning. Med deepfakes är tecknen mycket mer subtila – och ofta omöjliga att märka vid första anblicken.

Därför behöver internetanvändare av alla åldrar effektivt omträna sig för att granska digital video för deepfake-indikatorer. Det innebär att man måste vara uppmärksam på en mängd faktorer. För video kan det innebära overkliga, suddiga områden och skuggor; onaturliga ansiktsrörelser och uttryck; alltför perfekta hudtoner; oförenliga mönster i kläder och rörelser; läppsynkfel; och så vidare. För ljud kan det innebära röster som låter alltför prydliga (eller uppenbart digitaliserade), brist på mänsklig känsla i tonfallet, underliga talvanor eller ovanliga fraseringar.

På kort sikt kan denna typ av självutbildning vara mycket användbar. Genom att ständigt fråga oss själva, Ser detta misstänkt ut?, skärper vi inte bara vår förmåga att upptäcka deepfakes utan också våra kritiska tänkande färdigheter i allmänhet. Det sägs att vi snabbt närmar oss en punkt där inte ens det bästa tränade ögat kommer att kunna skilja mellan faktum och fiktion utan yttre hjälp. De visuella tecknen – de oregelbundenheter som nämns ovan – kommer att tekniskt jämna ut, så att helt tillverkade klipp kommer att vara omöjliga att skilja från den äkta varan. Vad vi kommer att bli kvar med är vår situationsintuition – vår förmåga att ställa oss själva frågor som: Skulle en sådan politiker eller kändis verkligen säga så? Är innehållet i den här videon trovärdigt?

Det är i detta sammanhang som AI-upptäktplattformar blir så avgörande. När det nakna ögat har blivit irrelevanta för deepfake-upptäckt, kan dessa plattformar fungera som definitiva garantier för verkligheten – skyddsräcken mot den epistemologiska avgrunden. När en video ser ut att vara äkta men ändå verkar misstänkt – vilket kommer att inträffa allt oftare under de kommande månaderna och åren – kan dessa plattformar hålla oss förankrade i fakta genom att bekräfta den grundläggande sanningen i vad vi tittar på. Till slut, med en sådan kraftfull teknik, är den enda som kan rädda oss AI själv. Vi måste bekämpa eld med eld – vilket innebär att vi använder bra AI för att utrota teknikens värsta missbruk.

Verkligen, förvärvandet av dessa färdigheter behöver på inget sätt vara en cynisk eller negativ process. Att främja en noll-tillit-hållning kan istället ses som en möjlighet att skärpa din kritiska tänkande, intuition och medvetenhet. Genom att ständigt fråga dig själv, Ser detta ut att vara rimligt? Är detta misstänkt?, förbättrar du din förmåga att konfrontera inte bara falsk media utan världen i stort. Om det finns en silverlinning i deepfake-eran, är detta den. Vi tvingas att tänka för oss själva och att bli mer empiriska i våra dagliga liv – och det kan bara vara en bra sak.