Vad är Deepfakes?

Allt eftersom deepfakes blir lättare att skapa och mer vanliga, uppmärksammas de alltmer. Deepfakes har blivit en central punkt i diskussioner om AI-etik, desinformation, informationsöppenhet och internet, samt reglering. Det är viktigt att vara informerad om deepfakes och ha en intuitiv förståelse för vad de är. Den här artikeln kommer att förtydliga definitionen av en deepfake, undersöka deras användningsområden, diskutera hur deepfakes kan upptäckas och undersöka konsekvenserna av deepfakes för samhället.

Vad är Deepfakes?

Innan vi går vidare och diskuterar deepfakes ytterligare, kan det vara hjälpsamt att ta lite tid och förtydliga vad “deepfakes” egentligen är. Det finns en betydande mängd förvirring kring begreppet Deepfake, och ofta används termen felaktigt för alla förfalskade medier, oavsett om de är äkta deepfakes eller inte. För att kvalificera sig som en Deepfake måste det förfalskade mediet i fråga ha genererats med ett maskinlärandesystem, specifikt ett djupt neuronnät.

Den viktigaste ingrediensen i deepfakes är maskinlärande. Maskinlärande har gjort det möjligt för datorer att automatiskt generera video och ljud relativt snabbt och enkelt. Djupa neuronnät tränas på inspelningar av en verklig person för att nätverket ska lära sig hur människor ser ut och rör sig under målomgivningens miljöförhållanden. Det tränade nätverket används sedan på bilder av en annan person och kompletteras med ytterligare datorgrafiktekniker för att kombinera den nya personen med den ursprungliga inspelningen. En encoder-algoritm används för att bestämma likheterna mellan det ursprungliga ansiktet och målansiktet. När ansiktenas gemensamma drag har isolerats, används en andra AI-algoritm som kallas en decoder. Decodern undersöker de kodade (komprimerade) bilderna och rekonstruerar dem baserat på dragen i de ursprungliga bilderna. Två decoders används, en på den ursprungliga personens ansikte och den andra på målpersonens ansikte. För att bytet ska kunna göras, matas decodern som tränats på bilder av person X med bilder av person Y. Resultatet är att person Y:s ansikte rekonstrueras över person X:s ansiktsuttryck och orientering.

För närvarande tar det fortfarande en ganska lång tid att skapa en deepfake. Skaparen av den falska inspelningen måste tillbringa en lång tid med att manuellt justera modellens parametrar, eftersom underoptimala parametrar leder till märkbara ofullkomligheter och bildglitchar som avslöjar den falska inspelningens verkliga natur.

Även om det ofta antas att de flesta deepfakes skapas med en typ av neuronnät som kallas generativt adversariellt nätverk (GAN), skapas många (kanske de flesta) deepfakes som skapas idag inte med GAN:er. Medan GAN:er spelade en framträdande roll i skapandet av tidiga deepfakes, skapas de flesta deepfake-videor genom alternativa metoder, enligt Siwei Lyu från SUNY Buffalo.

Det kräver en oproportionerligt stor mängd träningsdata för att träna ett GAN, och GAN:er tar ofta mycket längre tid att rendera en bild jämfört med andra bildgenereringstekniker. GAN:er är också bättre på att generera statiska bilder än video, eftersom GAN:er har svårt att upprätthålla konsekvenser från bildruta till bildruta. Det är mycket vanligare att använda en encoder och flera decoders för att skapa deepfakes.

Vad används Deepfakes till?

Många av de deepfakes som finns på internet är pornografiska till sin natur. Enligt en undersökning som gjorts av Deeptrace, ett AI-företag, var cirka 95% av cirka 15 000 deepfake-videor som togs i september 2019 pornografiska till sin natur. En oroande konsekvens av denna faktum är att när tekniken blir lättare att använda, kan incidenter av falsk hämndporr öka.

Men inte alla deepfakes är pornografiska till sin natur. Det finns mer legitima användningsområden för deepfake-teknik. Ljud-deepfake-teknik kan hjälpa människor att sända sina vanliga röster efter att de har skadats eller förlorats på grund av sjukdom eller skada. Deepfakes kan också användas för att dölja ansiktena på personer som befinner sig i känsliga, potentiellt farliga situationer, samtidigt som deras läppar och uttryck kan läsas. Deepfake-teknik kan potentiellt användas för att förbättra dubbningen av utländska filmer, hjälpa till att reparera gamla och skadade medier och till och med skapa nya konststilar.

Icke-Video Deepfakes

Medan de flesta människor tänker på falska videor när de hör termen “deepfake”, är falska videor på inget sätt den enda typen av falskt medium som produceras med deepfake-teknik. Deepfake-teknik används för att skapa foto- och ljudfalsningar också. Som tidigare nämnts används GAN:er ofta för att generera falska bilder. Det är tänkbart att det har funnits många fall av falska LinkedIn- och Facebook (META ) -profiler som har profilbilder genererade med deepfake-algoritmer.

Det är möjligt att skapa ljud-deepfakes också. Djupa neuronnät tränas för att producera röstkloner/rösthudar av olika människor, inklusive kändisar och politiker. Ett berömt exempel på en ljud-Deepfake är när AI-företaget Dessa använde en AI-modell, som stöddes av icke-AI-algoritmer, för att återskapa rösten hos podcast-värden Joe Rogan.

Hur man upptäcker Deepfakes

När deepfakes blir alltmer sofistikerade, kommer det att bli svårare och svårare att skilja dem från äkta medier. För närvarande finns det några avslöjande tecken som människor kan leta efter för att fastställa om en video är en potentiell deepfake, som dålig lip-sync, onaturlig rörelse, flimrande runt ansiktets kanter och förvrängning av fina detaljer som hår, tänder eller reflektioner. Andra potentiella tecken på en deepfake inkluderar lägre kvalitet på vissa delar av samma video och oregelbundna blinkningar med ögonen.

Även om dessa tecken kan hjälpa en att upptäcka en deepfake just nu, kan den enda möjliga metoden för tillförlitlig deepfake-upptäckt vara andra typer av AI som tränats för att skilja på falska och äkta medier.

Artificiella intelligensföretag, inklusive många av de stora tech-företagen, forskar om metoder för att upptäcka deepfakes. Förra december startades en deepfake-upptäcktsutmaning, som stöddes av tre tech-jättar: Amazon (AMZN ), Facebook och Microsoft. Forskningsgrupper från hela världen arbetade med metoder för att upptäcka deepfakes, i tävling om att utveckla de bästa upptäcktsmetoderna. Andra grupper av forskare, som en grupp kombinerade forskare från Google (GOOGL ) och Jigsaw, arbetar på en typ av “ansiktsforensik” som kan upptäcka videor som har ändrats, gör sina dataset öppna och uppmuntrar andra att utveckla deepfake-upptäcktsmetoder. Det ovannämnda Dessa har arbetat med att finslipa deepfake-upptäcktsmetoder, i försök att säkerställa att upptäcktsmodellerna fungerar på deepfake-videor som finns ute på internet, snarare än bara på förkomponerade tränings- och testdataset, som det öppna dataset som Google tillhandahållit.

Det finns också andra strategier som undersöks för att hantera spridningen av deepfakes. Till exempel kan man kontrollera videor för överensstämmelse med andra informationskällor. Sökningar kan göras efter videor av händelser som potentiellt har tagits från andra vinklar, eller bakgrundsdetaljer i videon (som vädermönster och platser) kan kontrolleras för oförenligheter. Utöver detta kan ett Blockchain-online-ledger-system registrera videor när de skapas, för att hålla koll på deras ursprungliga ljud och bilder, så att derivatvideor alltid kan kontrolleras för manipulation.

Till slut är det viktigt att tillförlitliga metoder för att upptäcka deepfakes skapas och att dessa upptäcktsmetoder håller jämna steg med de senaste framstegen inom deepfake-teknik. Medan det är svårt att veta exakt vilka effekterna av deepfakes kommer att bli, kan desinformation potentiellt spridas och förstöra människors förtroende för samhället och institutionerna, om det inte finns tillförlitliga metoder för att upptäcka deepfakes (och andra former av falska medier).

Deepfakes konsekvenser

Vilka är farorna med att låta deepfakes spridas obehindrat?

En av de största problemen som deepfakes skapar just nu är icke-samtyckande pornografi, som skapas genom att kombinera människors ansikten med pornografiska videor och bilder. AI-etiker är oroliga för att deepfakes kommer att användas mer för att skapa falsk hämndporr. Utöver detta kan deepfakes användas för att mobba och skada ryktet hos i princip vem som helst, eftersom de kan användas för att placera människor i kontroversiella och komprometterande situationer.

Företag och cybersäkerhetsexperter har uttryckt oro över användningen av deepfakes för att underlätta bedrägerier, bedrägeri och utpressning. Påstås att deepfake-ljud använts för att övertyga anställda i ett företag att överföra pengar till bedragare

Det är möjligt att deepfakes kan ha skadliga effekter utöver de som nämns ovan. Deepfakes kan potentiellt urholka människors förtroende för medier i allmänhet och göra det svårt för människor att skilja på riktiga nyheter och falska nyheter. Om många videor på webben är falska, blir det lättare för regeringar, företag och andra enheter att ifrågasätta legitima kontroverser och oetiska metoder.

När det gäller regeringar kan deepfakes till och med utgöra hot mot demokratiens funktionssätt. Demokrati kräver att medborgare kan fatta informerade beslut om politiker baserat på tillförlitlig information. Desinformation undergräver demokratiska processer. Till exempel framträdde Gabons president, Ali Bongo, i en video som försökte lugna den gabonesiska allmänheten. Presidenten antogs ha varit sjuk under en lång period, och hans plötsliga framträdande i en trolig falsk video utlöste ett försök till statskupp. President Donald Trump hävdade att en ljudinspelning av honom som skryter om att gripa kvinnor av könsdelar var falsk, trots att han också beskrev det som “omklädningsrumssnack”. Prins Andrew hävdade att en bild som tillhandahållits av Emily Maitilis advokat var falsk, trots att advokaten insisterade på dess äkthet.

Till slut, medan det finns legitima användningsområden för deepfake-teknik, finns det många potentiella skador som kan uppstå från missbruk av den tekniken. Därför är det extremt viktigt att metoder för att fastställa medias äkthet skapas och underhålls.