Djupfalska och navigering i den nya eran av syntetisk media

Kommer du ihåg “falska nyheter”? Uttrycket har använts (och missbrukats) så mycket att det kan vara svårt att komma ihåg vad det ursprungligen hänvisade till. Men konceptet har en mycket specifik ursprung. För tio år sedan började journalister varna för en tillströmning av påstådda “nyhets” webbplatser som slängde falska, ofta överdrivna påståenden om politiker och kändisar. Många kunde omedelbart se att dessa webbplatser var illegitima.

Men många fler saknade de kritiska verktygen för att känna igen detta. Resultatet var de första rörelserna i en epistemologisk kris som nu hotar att översvämma internet – en som har nått sin mest skrämmande manifestation med uppkomsten av djupfalska.

Jämfört med till och med en medioker djupfalsk verkar de “falska nyhets” webbplatserna från förr tamma. Värre än så, även de som tror att de besitter relativt höga nivåer av medielitteracitet är i riskzonen att bli lurade. Syntetisk media skapad med hjälp av djupinlärningsalgoritmer och generativ AI har potentialen att förstöra grunderna för vårt samhälle. Enligt Deloitte kan de ensamma i år kosta företag mer än 250 miljoner dollar genom falska transaktioner och andra former av bedrägeri. Samtidigt har Världsekonomiskt forum kallat djupfalska “en av de mest oroväckande användningarna av AI”, och pekat på potentialen för “agenda-drivna, realtids-AI-chattbotar och avatarer” för att underlätta nya stammar av ultra-personlig (och ultra-effektiv) manipulation.

VEF:s föreslagna svar på detta problem är ett klokt ett: de förespråkar en “noll-tillit-hållning“, en som bringar en viss skepsis till varje möte med digital media. Om vi vill skilja mellan det äkta och det syntetiska i framtiden – särskilt i immersiva online-miljöer – kommer en sådan hållning att bli alltmer väsentlig.

Två tillvägagångssätt för att bekämpa djupfalsk-krisen

Att bekämpa den utbredda desinformationen som föds av syntetisk media kommer att kräva, enligt min åsikt, två distinkta tillvägagångssätt.

Det första involverar verifikation: att tillhandahålla ett enkelt sätt för vanliga internetanvändare att bestämma om videon de tittar på verkligen är äkta. Sådana verktyg är redan vanliga i branscher som försäkring, med tanke på potentialen för illvilliga aktörer att lämna in falska anspråk med hjälp av manipulerade videor, foton och dokument. Att demokratisera dessa verktyg – att göra dem gratis och lättillgängliga – är ett avgörande första steg i denna kamp, och vi ser redan betydande rörelse på detta område.

Det andra steget är mindre tekniskt till sin natur, och därmed mer av en utmaning: nämligen, att öka medvetenheten och främja kritiskt tänkande. I kölvattnet av den ursprungliga “falska nyheter”-skandalen, 2015, skapade ideella organisationer runt om i landet medielitteracitetsprogram och arbetade för att sprida bästa praxis, ofta i samarbete med lokala medborgarinstitutioner för att ge vanliga medborgare möjlighet att upptäcka lögn. Naturligtvis är gammaldags “falska nyheter” barnlek jämfört med de mest avancerade djupfalska, vilket är varför vi behöver fördubbla våra ansträngningar på detta område och investera i utbildning på alla nivåer.

Avancerade djupfalska kräver avancerat kritiskt tänkande

Naturligtvis var dessa utbildningsinitiativ något lättare att genomföra när desinformationen i fråga var textbaserad. Med falska nyhetswebbplatser var tecknen på bedrägeri ofta uppenbara: dålig webbdesign, utbredd stavning, underlig källhänvisning. Med djupfalska är tecknen mycket mer subtila – och ofta omöjliga att upptäcka vid första anblicken.

Därför behöver internetanvändare i alla åldrar effektivt omträna sig för att granska digital video för djupfalska-indikatorer. Det innebär att uppmärksamma en mängd faktorer. För video kan det innebära overkliga, suddiga områden och skuggor; onaturliga ansiktsrörelser och uttryck; alltför perfekta hudtoner; inkonsekventa mönster i kläder och rörelser; ljudsynkfel; och så vidare. För ljud kan det innebära röster som låter alltför rena (eller uppenbart digitaliserade), brist på mänsklig känsla, underliga talvanor eller ovanliga fraseringar.

På kort sikt kan denna typ av självträning vara mycket användbar. Genom att ständigt fråga oss själva, “Ser detta misstänkt ut?”, skärper vi inte bara vår förmåga att upptäcka djupfalska, utan också våra kritiska tänkande färdigheter i allmänhet. Det sägs att vi snabbt närmar oss en punkt där inte ens det bäst tränade ögat kommer att kunna skilja mellan faktum och fiktion utan yttre hjälp. De visuella tecknen – de oregelbundenheter som nämns ovan – kommer att tekniskt jämna ut, så att helt tillverkade klipp kommer att vara omöjliga att skilja från den äkta varan. Vad vi kommer att bli kvar med är vår situationsintuition – vår förmåga att ställa oss frågor som “Skulle en sådan politiker eller kändis verkligen säga det?” eller “Är innehållet i den här videon trovärdigt?”

Det är i detta sammanhang som AI-upptäcktsplattformar blir så väsentliga. När det blotta ögat har blivit irrelevant för djupfalsk-upptäckt, kan dessa plattformar fungera som definitiva garantier för verkligheten – skyddsräcken mot den epistemologiska avgrunden. När en video ser ut att vara äkta men ändå verkar misstänkt – vilket kommer att hända allt oftare i de kommande månaderna och åren – kan dessa plattformar hålla oss förankrade i fakta genom att bekräfta den grundläggande sanningen i allt vi ser. Till slut, med en sådan kraftfull teknologi, är den enda som kan rädda oss AI själv. Vi måste bekämpa eld med eld – vilket innebär att använda bra AI för att utrota teknikens värsta missbruk.

Verkligen, förvärvandet av dessa färdigheter behöver inte vara en cynisk eller negativ process. Att främja en noll-tillit-hållning kan istället ses som en möjlighet att skärpa din kritiska förmåga, intuition och medvetenhet. Genom att ständigt fråga dig själv, “Gör detta mening? Är detta misstänkt?” – du höjer din förmåga att konfrontera inte bara falsk media, utan världen i stort. Om det finns en silverlinning i djupfalsk-eran, är detta den. Vi tvingas att tänka för oss själva och bli mer empiriska i våra dagliga liv – och det kan bara vara en bra sak.