2024 kommer Deepfakes att bli mainstream. Så här kan företag skydda sig själva

Åtminstone sedan valet 2016, när oron kring desinformation bröt upp i allmänhetens medvetande, har experter slagit larm om djupa förfalskningar. Implikationerna av denna teknik var – och förblir – skrämmande. Den okontrollerade spridningen av hyperrealistiska syntetiska medier utgör ett hot mot alla– från politiker till vanliga människor. I en brännbar miljö som redan kännetecknas av utbredd misstro, lovade deepfakes att bara elda upp lågorna ytterligare.

Det visade sig att våra farhågor var för tidigt. Det tekniska kunnande som krävs för att faktiskt göra djupförfalskningar, tillsammans med deras ofta dåliga kvalitet, gjorde att de under åtminstone de två senaste presidentvalscyklerna förblev ett minimalt bekymmer.

Men allt det är på väg att förändras - håller på att förändras redan. Under de senaste två åren har generativ AI-teknik kommit in i mainstream, vilket radikalt förenklar processen att skapa deepfakes för den genomsnittliga konsumenten. Samma innovationer har avsevärt höjt kvaliteten på djupförfalskningar, så att de flesta i ett blindtest inte skulle kunna skilja en manipulerad video från den äkta varan.

Särskilt i år har vi börjat se tecken på hur den här tekniken kan påverka samhället om man inte gör ansträngningar för att bekämpa den. Förra året, till exempel, ett AI-genererat foto av påven Franciskus iklädd en ovanligt snygg kappa blev viral, och ansågs av många vara autentiskt. Även om detta på ett sätt kan verka som ett oskyldigt skoj, avslöjar det den farliga kraften hos dessa djupförfalskningar och hur svårt det kan vara att tygla felinformation när den väl har börjat spridas. Vi kan förvänta oss att hitta betydligt mindre roliga – och betydligt farligare – exempel på den här typen av viral förfalskning under de kommande månaderna och åren.

Av denna anledning är det absolut nödvändigt att organisationer av alla slag – från media till finanser till regeringar till sociala medieplattformar – tar en proaktiv hållning mot deepfake-detektering och verifiering av innehållsäkthet. En kultur av förtroende via skyddsåtgärder måste etableras nu, innan en flodvåg av deepfakes kan tvätta bort vår gemensamma förståelse av verkligheten.

Förstå det deepfake hotet

Innan vi går in på vad organisationer kan göra för att bekämpa denna ökning av deepfakes är det värt att utveckla exakt varför skyddsverktyg är nödvändiga. Vanligtvis nämner de som är oroliga för deepfakes deras potentiella effekt på politik och samhällets förtroende. Dessa potentiella konsekvenser är oerhört viktiga och bör inte försummas i någon diskussion om deepfakes. Men det visar sig att uppkomsten av denna teknik har potentiellt allvarliga effekter på flera sektorer av den amerikanska ekonomin.

Ta försäkring, till exempel. Just nu uppgår årliga försäkringsbedrägerier i USA till upp till 308.6 miljarder dollar – en siffra som är ungefär en fjärdedel så stor som hela branschen. Samtidigt är back-end-verksamheten för de flesta försäkringsbolag alltmer automatiserad, med 70 % av standardanspråken som beräknas vara beröringsfria till 2025. Vad detta betyder är att besluten i allt högre grad fattas med minimal mänsklig inblandning: självbetjäning på front-end och AI-underlättad automatisering på baksidan.

Ironiskt nog har just den teknik som har möjliggjort denna ökning av automatisering – dvs maskininlärning och artificiell intelligens – garanterat att den utnyttjas av dåliga aktörer. Det är nu enklare än någonsin för den genomsnittliga personen att manipulera påståenden – till exempel genom att använda generativa AI-program som Dall-E, Midjourney eller Stable Diffusion för att få en bil att se mer skadad ut än den är. Redan finns appar speciellt för detta ändamål, som Dude Your Car!, som låter användare på konstgjord väg skapa bucklor i foton av sina fordon.

Detsamma gäller officiella dokument, som nu enkelt kan manipuleras – med fakturor, värderingar av försäkringsgivare och till och med signaturer som justeras eller uppfinns i stora mängder. Denna förmåga är ett problem inte bara för försäkringsbolag utan för hela ekonomin. Det är ett problem för finansinstitut, som måste verifiera äktheten hos en mängd olika dokument. Det är ett problem för återförsäljare, som kan få ett klagomål om att en produkt anlände defekt, åtföljt av en förfalskad bild.

Företag kan helt enkelt inte arbeta med denna grad av osäkerhet. En viss grad av bedrägeri är sannolikt alltid oundvikligt, men med djupförfalskningar talar vi inte om bedrägerier på marginalen – vi talar om en potentiell epistemologisk katastrof där företag inte har några tydliga sätt att avgöra sanningen från fiktion och slutar förlora miljarder dollar till denna förvirring.

Bekämpa eld med eld: hur AI kan hjälpa

Så vad kan man göra för att bekämpa detta? Kanske inte överraskande ligger svaret i själva tekniken som underlättar deepfakes. Om vi ​​vill stoppa detta gissel innan det tar mer fart, måste vi bekämpa eld med eld. AI kan hjälpa till att generera deepfakes – men det kan också, tack och lov, hjälpa till att identifiera dem automatiskt och i skala.

Med hjälp av rätt AI-verktyg kan företag automatiskt avgöra om ett visst fotografi, video eller dokument har manipulerats. Genom att ta dussintals olika modeller till uppgiften att falska identifiering, kan AI automatiskt tala om för företag exakt om ett visst fotografi eller video är misstänkt. Precis som de verktyg som företag redan använder för att automatisera den dagliga verksamheten, kan dessa verktyg köras i bakgrunden utan att belasta överansträngd personal eller ta tid från viktiga projekt.

Om och när ett fotografi identifieras som potentiellt förändrat, kan mänsklig personal sedan larmas och kan utvärdera problemet direkt, med hjälp av informationen från AI. Med hjälp av djupskanningsanalys kan den berätta för företag varför den tror att ett fotografi sannolikt har manipulerats - pekar till exempel på manuellt ändrad metadata, förekomsten av identiska bilder på webben, olika fotografiska oegentligheter, etc.

Inget av detta är avsett att förringa de otroliga framsteg vi har sett inom generativ AI-teknik under de senaste åren, vilken verkligen har användbara och produktiva tillämpningar inom olika branscher. Men själva styrkan – för att inte tala om enkelheten – hos denna framväxande teknik garanterar nästan att den missbrukas av dem som vill manipulera organisationer, vare sig det är för personlig vinning eller för att skapa samhällskaos.

Organisationer Kan få det bästa av två världar: produktivitetsfördelarna med AI utan nackdelarna med allestädes närvarande deepfakes. Men att göra det kräver en ny grad av vaksamhet, särskilt med tanke på att generativ AI:s resultat bara blir mer övertygande, detaljerade och verklighetstrogna för varje dag. Ju tidigare organisationer riktar sin uppmärksamhet mot detta problem, desto tidigare kan de skörda alla fördelar med en automatiserad värld.