År 2024 kommer deepfakes att bli mainstream. Här är hur företag kan skydda sig

Sedan minst valet 2016, när oro för desinformation bröt ut i det allmänna medvetandet, har experter varnat för deepfakes. Konsekvenserna av denna teknik var – och förblir – skrämmande. Den obehindrade spridningen av hyperrealistiska syntetiska medier utgör ett hot mot alla – från politiker till vanliga människor. I en redan instabil miljö som kännetecknas av utbredd misstro, lovade deepfakes att ytterligare anstränga situationen.

Det visade sig att våra farhågor var för tidiga. Den tekniska expertis som krävdes för att faktiskt skapa deepfakes, kombinerat med deras ofta dåliga kvalitet, innebar att under de senaste två presidentvalscyklerna var de ett minimalt problem.

Men allt detta är på väg att förändras – förändras redan. Under de senaste två åren har generativ AI-teknik blivit allmän och radikalt förenklat processen att skapa deepfakes för den genomsnittlige konsumenten. Samma innovationer har avsevärt förbättrat kvaliteten på deepfakes, så att i en blindtest skulle de flesta människor inte kunna skilja en förfalskad video från den riktiga.

I år, särskilt, har vi börjat se tecken på hur denna teknik kan påverka samhället om man inte vidtar åtgärder för att bekämpa den. Förra året, till exempel, gick en AI-genererad bild av påven Franciskus som bar en ovanligt stilren rock viral, och togs av många för att vara äkta. Medan detta kan verka, på en nivå, som en oskyldig bit kul, avslöjar det den farliga kraften i dessa deepfakes och hur svårt det kan vara att stoppa desinformation när den väl börjat spridas. Vi kan förvänta oss att hitta långt mindre roliga – och långt farligare – exempel på denna typ av virala falsarier i månader och år framöver.

Av denna anledning är det absolut nödvändigt att organisationer av alla slag – från media till finans till regeringar till sociala medieplattformar – tar en proaktiv inställning till deepfake-detektion och innehållsautentifiering. En kultur av förtroende via skydd behöver etableras nu, innan en flodvåg av deepfakes kan tvätta bort vår gemensamma förståelse av verkligheten.

Att förstå hotet från deepfakes

Innan vi dyker in i vad organisationer kan göra för att bekämpa denna ökning av deepfakes, är det värt att förklara varför skyddverktyg är nödvändiga. Vanligtvis citerar de som är oroliga för deepfakes deras potentiella effekt på politik och samhälleligt förtroende. Dessa potentiella konsekvenser är extremt viktiga och bör inte försummas i något samtal om deepfakes. Men som det visar sig har denna teknik potentiellt ödesdigra effekter över hela den amerikanska ekonomin.

Ta till exempel försäkringar. Just nu uppgår den årliga försäkringsbedrägeriet i USA till 308,6 miljarder dollar – ett belopp som är ungefär en fjärdedel så stort som hela branschen. Samtidigt är de bakre operationerna i de flesta försäkringsbolag alltmer automatiserade, med 70% av standardkraven som förväntas vara beröringsfria till 2025. Detta innebär att beslut fattas alltmer med minimal mänsklig inblandning: självbetjäning i frontenden och AI-understödd automatisering i bakenden.

Ironiskt nog har den teknologi som har möjliggjort denna ökning av automatisering – dvs. maskinlärande och artificiell intelligens – också garanterat dess exploatering av illasinnade aktörer. Det är nu enklare än någonsin för den genomsnittlige personen att manipulera krav – till exempel genom att använda generativa AI-program som Dall-E, Midjourney eller Stable Diffusion för att göra en bil se mer skadad ut än den är. Redan finns det appar som är specifikt utformade för detta ändamål, som Dude Your Car!, som tillåter användare att konstgjort skapa bucklor i bilder av sina fordon.

Detsamma gäller för officiella dokument, som nu kan enkelt manipuleras – med fakturor, underwriting-värderingar och till och med signaturer justerade eller uppfunna i sin helhet. Detta är ett problem inte bara för försäkringsbolag utan över hela ekonomin. Det är ett problem för finansiella institutioner, som måste verifiera äktheten av en mängd olika dokument. Det är ett problem för återförsäljare, som kan få en klagomål om att en produkt anlände defekt, åtföljd av en förfalskad bild.

Företag kan inte fungera med denna grad av osäkerhet. En viss grad av bedrägeri är troligen alltid oundvikligt, men med deepfakes talar vi inte om bedrägeri i marginalen – vi talar om en potentiell epistemologisk katastrof där företag inte har något tydligt sätt att avgöra sanning från fiktion, och därmed förlorar miljarder av dollar på grund av denna förvirring.

Att bekämpa eld med eld: hur AI kan hjälpa

Så, vad kan göras för att bekämpa detta? Kanske inte oväntat ligger svaret i den teknologi som möjliggör deepfakes. Om vi vill stoppa denna plåga innan den får mer fart, måste vi bekämpa eld med eld. AI kan hjälpa till att generera deepfakes – men det kan också, tack och lov, hjälpa till att identifiera dem automatiskt och i stor skala.

Med hjälp av rätt AI-verktyg kan företag automatiskt avgöra om en given fotograf, video eller dokument har manipulerats. Genom att samla dussintals olika modeller för att identifiera falska identifieringar, kan AI automatiskt tala om för företag exakt om en given fotograf eller video är misstänkt. Liksom de verktyg som företag redan använder för att automatisera dagliga operationer, kan dessa verktyg köras i bakgrunden utan att belasta redan ansträngda personal eller ta tid från viktiga projekt.

Om och när en fotograf identifieras som möjligtvis ändrad, kan mänsklig personal varnas, och kan utvärdera problemet direkt, med hjälp av den information som tillhandahålls av AI. Med hjälp av djupanalys kan det tala om för företag varför det tror att en fotograf troligen har manipulerats – och peka på till exempel manuellt ändrade metadata, förekomsten av identiska bilder över hela webben, olika fotografiska oregelbundenheter, etc.

Ingenting av detta är till för att förminska de otroliga framstegen vi har sett i generativ AI-teknik under de senaste åren, som faktiskt har användbara och produktiva tillämpningar över hela branschen. Men den potens och enkelhet som denna framväxande teknik har, garanterar nästan dess exploatering av de som försöker manipulera organisationer, antingen för personlig vinning eller för att så splittring i samhället.

Organisationer kan ha det bästa av båda världar: produktivitetsfördelarna med AI utan de negativa effekterna av allmänna deepfakes. Men för att uppnå detta krävs en ny grad av vaksamhet, särskilt med tanke på att generativ AI:s utdata bara blir mer övertygande, detaljerad och livliknande för varje dag. Ju snabbare organisationer vänder sin uppmärksamhet till detta problem, desto snabbare kan de skörda de fulla fördelarna med en automatiserad värld.