Hvad er Deepfakes?

Da deepfakes bliver nemmere at lave og mere udbredte, bliver der betalt mere opmærksomhed til dem. Deepfakes er blevet centrum for diskussioner omkring AI-etik, misinformering, åbenhed af information og internet, og regulering. Det betaler sig at være informeret omkring deepfakes og at have en intuitiv forståelse af, hvad deepfakes er. Denne artikel vil klargøre definitionen af en deepfake, undersøge deres brugsområder, diskutere, hvordan deepfakes kan detekteres, og undersøge implikationerne af deepfakes for samfundet.

Hvad er Deepfakes?

Før vi går videre til at diskutere deepfakes yderligere, ville det være hjælpsomt at tage noget tid og klargøre hvad “deepfakes” faktisk er. Der er en betydelig mængde forvirring omkring begrebet Deepfake, og ofte bliver begrebet misbrugt til at beskrive enhver form for falsk medie, uanset om det er en ægte deepfake eller ej. For at kvalificere som en Deepfake, skal det falske medie i spørgsmålet være genereret med et machine-learning-system, specifikt et dybt neuralt netværk.

Nøgleingrediensen i deepfakes er machine learning. Machine learning har gjort det muligt for computere at automatisk generere video og lyd relativt hurtigt og let. Dybe neurale netværk trænes på optagelser af en rigtig person for at netværket kan lære, hvordan mennesker ser ud og bevæger sig under de målrettede miljøbetingelser. Det trænede netværk bruges herefter på billeder af en anden person og suppleres med yderligere computergrafik-teknikker for at kombinere den nye person med den originale optagelse. En encoder-algoritme bruges til at bestemme lighederne mellem det originale ansigt og målansigtet. Når de fælles træk på ansigterne er isoleret, bruges en anden AI-algoritme kaldet en decoder. Decoderen undersøger de kodede (komprimerede) billeder og genskaber dem på basis af trækkene i de originale billeder. To decodere bruges, en på det originale emnes ansigt og den anden på målpersonens ansigt. For at udskiftningen kan foretages, fodres decoderen, der er trænet på billeder af person X, med billeder af person Y. Resultatet er, at person Y’s ansigt genskabes over person X’s ansigtsudtryk og orientering.

For tiden tager det stadig en rimelig lang tid at lave en deepfake. Skaberen af den falske skal bruge lang tid på at justere parametrene i modellen manuelt, da underoptimale parametre vil føre til bemærkelsesværdige fejl og billedglitch, der afslører den falskes sande natur.

Selvom det ofte antages, at de fleste deepfakes er lavet med en type neuralt netværk kaldet et generativt adversarialt netværk (GAN), er det sandsynlig, at de fleste deepfakes, der skabes i dag, ikke afhænger af GAN’er. Selvom GAN’er spillede en fremtrædende rolle i skabelsen af de tidlige deepfakes, skabes de fleste deepfake-videoer i dag gennem alternative metoder, ifølge Siwei Lyu fra SUNY Buffalo.

Det kræver en disproportionsstort mængde træningsdata for at træne et GAN, og GAN’er tager ofte lang tid om at rendre et billede sammenlignet med andre billedgenereringsteknikker. GAN’er er også bedre til at generere statiske billeder end video, da GAN’er har svært ved at opretholde konsistens fra ramme til ramme. Det er langt mere almindeligt at bruge en encoder og multiple decodere til at skabe deepfakes.

Hvad bruges Deepfakes til?

Mange af de deepfakes, der findes online, er pornografiske af natur. Ifølge en undersøgelse udført af Deeptrace, et AI-firma, ud af en stikprøve på omkring 15.000 deepfake-videoer taget i september 2019, var omkring 95% af dem pornografiske af natur. En bekymrende implikation af denne faktum er, at når teknologien bliver nemmere at bruge, kan tilfælde af falsk hævnporne stige.

Men ikke alle deepfakes er pornografiske af natur. Der er mere legitime brugsområder for deepfake-teknologi. Audio-deepfake-teknologi kan hjælpe mennesker med at transmittere deres normale stemmer efter, at de er beskadiget eller tabt på grund af sygdom eller skade. Deepfakes kan også bruges til at skjule ansigterne på mennesker, der er i følsomme, potentielt farlige situationer, samtidig med at deres læber og ansigtsudtryk kan læses. Deepfake-teknologi kan potentielt bruges til at forbedre dubbingen af udenlandske film, hjælpe med reparation af gamle og beskadigede medier og endda skabe nye kunstformer.

Ikke-Video Deepfakes

Selvom de fleste mennesker tænker på falske videoer, når de hører begrebet “deepfake”, er falske videoer på ingen måde den eneste form for falsk medie, der produceres med deepfake-teknologi. Deepfake-teknologi bruges til at skabe foto- og audio-falskner. Som tidligere nævnt bruges GAN’er ofte til at generere falske billeder. Det er sandsynligt, at der har været mange tilfælde af falske LinkedIn- og Facebook (META ) -profiler, der har profilbilleder genereret med deepfake-algoritmer.

Det er muligt at skabe audio-deepfakes. Dybe neurale netværk trænes til at producere stemmekloner/stemmeskindsler af forskellige mennesker, herunder kendisser og politikere. Et berømt eksempel på en audio-deepfake er, da AI-virksomheden Dessa brugte en AI-model, understøttet af ikke-AI-algoritmer, til at genskabe stemmen fra podcast-værten Joe Rogan.

Hvordan kan man spotte Deepfakes?

Da deepfakes bliver mere og mere avancerede, vil det blive sværere og sværere at skelne dem fra ægte medier. For tiden er der nogle åbenlyse tegn, mennesker kan se efter for at fastslå, om en video er en potentiel deepfake, som dårlig lip-sync, unaturlig bevægelse, blinkende omkring kanten af ansigtet og forvrængning af fine detaljer som hår, tænder eller refleksioner. Andre potentielle tegn på en deepfake omfatter lavkvalitetsdele af den samme video og uregelmæssig blinken af øjnene.

Selvom disse tegn kan hjælpe en person med at spotte en deepfake lige nu, kan det være, at når deepfake-teknologien forbedres, den eneste mulighed for pålidelig deepfake-detektion kan være andre former for AI, der er trænet til at skelne mellem falske og ægte medier.

Kunstig intelligens-virksomheder, herunder mange af de store teknologivirksomheder, forsker i metoder til at detektere deepfakes. I sidste december startede en deepfake-detektionsudfordring, der blev støttet af tre teknologigiganter: Amazon (AMZN ), Facebook og Microsoft. Forskningshold fra hele verden arbejdede på metoder til at detektere deepfakes og konkurrerede om at udvikle de bedste detektionsmetoder. Andre grupper af forskere, som en gruppe af kombinerede forskere fra Google (GOOGL ) og Jigsaw, arbejder på en form for “ansigtsforensik”, der kan detektere videoer, der er blevet ændret, gør deres datasæt åbent tilgængelige og opmuntrer andre til at udvikle deepfake-detektionsmetoder. Den ovennævnte Dessa har arbejdet på at forfine deepfake-detektionsteknikker og forsøger at sikre, at detektionsmodellerne fungerer på deepfake-videoer, der findes på internettet, og ikke kun på forudkomponerede trænings- og testdatasæt, som det åbne datasæt, Google tilbød.

Der er også andre strategier, der undersøges for at tackle udbredelsen af deepfakes. For eksempel kan man kontrollere videoer for overensstemmelse med andre informationskilder. Søgninger kan udføres efter videooptagelser af begivenheder, der potentielt er taget fra andre vinkler, eller baggrundsdetaljer i videoen (som vejrforhold og lokaliteter) kan kontrolleres for inkonsistenser. Ud over dette kan en Blockchain-online-kladdebogssystem registrere videoer, når de først er skabt, og gemme deres originale lyd og billeder, således at afledte videoer altid kan kontrolleres for manipulation.

Til sidst er det vigtigt, at pålidelige metoder til at detektere deepfakes skabes, og at disse detektionsmetoder holder trit med de nyeste fremskridt i deepfake-teknologi. Selvom det er svært at vide, hvilke effekter deepfakes vil have, kan misinformering potentielt sprede sig og undergrave folks tillid til samfund og institutioner, hvis der ikke er pålidelige metoder til at detektere deepfakes (og andre former for falsk medie).

Implikationer af Deepfakes

Hvad er farerne ved at lade deepfakes udekontrolleret?

Et af de største problemer, deepfakes skaber i øjeblikket, er ikke-samtykkende pornografi, der er konstrueret ved at kombinere menneskers ansigter med pornografiske videoer og billeder. AI-etikere er bekymrede for, at deepfakes vil se mere brug i skabelsen af falsk hævnporne. Ud over dette kan deepfakes bruges til at mobbe og skade rygtet af stort set hvem som helst, da de kan bruges til at placere mennesker i kontroversielle og kompromitterende situationer.

Virksomheder og cybersikkerhedseksperter har udtrykt bekymring over brugen af deepfakes til at facilitere svindel, bedrageri og afpresning. Ifølge påstande er deepfake-lyd blevet brugt til at overbevise medarbejdere i en virksomhed om at overføre penge til svindlere

Det er muligt, at deepfakes kan have skadelige effekter, der går ud over dem, der er nævnt ovenfor. Deepfakes kan potentielt undergrave folks tillid til medier generelt og gøre det svært for folk at skelne mellem rigtig nyheder og falske nyheder. Hvis mange videoer på internettet er falske, bliver det lettere for regeringer, virksomheder og andre enheder at kaste tvivl på legitime kontroverser og uetiske praksisser.

Når det kommer til regeringer, kan deepfakes måske endda true driften af demokrati. Demokrati kræver, at borgere kan træffe informerede beslutninger om politikere baseret på pålidelig information. Misinformering undergraver demokratiske processer. For eksempel fremstod præsidenten for Gabon, Ali Bongo, i en video, der forsøgte at berolige den gabonske befolkning. Præsidenten var antaget at have været syg i lang tid, og hans pludselige fremtoning i en sandsynlig falsk video udløste et mislykket kup. Præsident Donald Trump hævdede, at en lydoptagelse af ham, der pralede af at gribe kvinder på kønsdelene, var falsk, selvom han også beskrev det som “omklædningsrumssnak”. Prins Andrew hævdede, at et billede leveret af Emily Maitilis’ advokat var falsk, selvom advokaten insisterede på dets ægthed.

Til sidst, selvom der er legitime brugsområder for deepfake-teknologi, er der mange potentielle skader, der kan opstå fra misbrug af teknologien. Derfor er det ekstremt vigtigt, at metoder til at bestemme ægthed af medier skabes og vedligeholdes.