Hva er Deepfakes?

Ettersom deepfakes blir enklere å lage og mer utbredt, blir det mer fokus på dem. Deepfakes har blitt et sentralt tema i diskusjoner om AI-etikk, desinformasjon, åpenhet om informasjon og internett, og regulering. Det er viktig å være informert om deepfakes og å ha en intuitiv forståelse av hva deepfakes er. Denne artikkelen vil forklare definisjonen av en deepfake, undersøke deres bruksområder, diskutere hvordan deepfakes kan påvises, og undersøke implikasjonene av deepfakes for samfunnet.

Hva er Deepfakes?

Før vi går videre med å diskutere deepfakes, er det nyttig å ta litt tid og forklare hva “deepfakes” faktisk er. Det er en betydelig mengde forvirring rundt begrepet Deepfake, og ofte brukes begrepet feil til å beskrive all falsk media, uavhengig av om det er en ekte deepfake eller ikke. For å kvalifisere som en Deepfake, må den falske medien være generert med et maskinlæringssystem, spesifikt et dypt neuralt nettverk.

Nøkkelingenrediensen i deepfakes er maskinlæring. Maskinlæring har gjort det mulig for datamaskiner å automatisk generere video og lyd relativt raskt og enkelt. Dype neurale nettverk er trent på opptak av en ekte person for at nettverket skal lære hvordan mennesker ser ut og beveger seg under målrettede miljøforhold. Det trente nettverket brukes deretter på bilder av en annen person og supplert med ytterligere datagrafiske teknikker for å kombinere den nye personen med den opprinnelige opptaken. En encoder-algoritme brukes til å bestemme likhetene mellom det opprinnelige ansiktet og målansiktet. Når de felles trekkene til ansiktene er isolert, brukes en annen AI-algoritme kalt en decoder. Dekoderen undersøker de kodete (komprimerte) bildene og rekonstruerer dem basert på trekkene i de opprinnelige bildene. To dekodere brukes, en på det opprinnelige subjektets ansikt og den andre på målpersonens ansikt. For å kunne bytte ut ansiktene, mates dekoderen som er trent på bilder av person X med bilder av person Y. Resultatet er at person Ys ansikt rekonstrueres over person Xs ansiktsuttrykk og orientering.

For tiden tar det fortsatt en del tid å lage en deepfake. Skaperen av den falske medien må bruke mye tid på å justere parametrene i modellen manuelt, da underoptimale parametre kan føre til merkbare feil og bildefeil som avslører den falske mediens sanne natur.

Selv om det ofte antas at de fleste deepfakes er laget med en type neuralt nettverk kalt generative adversarial network (GAN), er det faktisk mange (kanskje de fleste) deepfakes som er laget i dag som ikke bruker GANer. Mens GANer spilte en fremtredende rolle i skapelsen av tidlige deepfakes, er de fleste deepfake-videoer laget gjennom alternative metoder, ifølge Siwei Lyu fra SUNY Buffalo.

Det tar en ubetydelig mengde treningdata for å trene en GAN, og GANer tar ofte mye lenger tid å rendre et bilde sammenlignet med andre bildegenereringsteknikker. GANer er også bedre egnet for å generere statiske bilder enn video, da GANer har vanskeligheter med å opprettholde konsistens fra ramme til ramme. Det er mye vanligere å bruke en encoder og flere dekodere for å lage deepfakes.

Hva brukes Deepfakes til?

Mange av deepfakes som finnes på nettet er pornografisk av natur. Ifølge en undersøkelse utført av Deeptrace, et AI-selskap, var omtrent 95% av omtrent 15 000 deepfake-videoer tatt i september 2019 pornografisk av natur. En bekymringsverdig implikasjon av dette faktum er at når teknologien blir enklere å bruke, kan tilfeller av falsk hevn-porno øke.

Men ikke alle deepfakes er pornografisk av natur. Det finnes mer legitime bruksområder for deepfake-teknologi. Lyd-deepfake-teknologi kan hjelpe mennesker å kringkaste sine vanlige stemmer etter at de er skadet eller tapt på grunn av sykdom eller skade. Deepfakes kan også brukes til å skjule ansiktene til mennesker som er i sensitive, potensielt farlige situasjoner, samtidig som det tillater at deres lepper og uttrykk kan leses. Deepfake-teknologi kan potensielt brukes til å forbedre dubbingen av utenlandske filmer, hjelpe med reparasjon av gamle og skadde medier, og til og med skape nye kunstformer.

Ikke-Video Deepfakes

Mens de fleste mennesker tenker på falske videoer når de hører begrepet “deepfake”, er falske videoer på ingen måte den eneste typen falsk media som produseres med deepfake-teknologi. Deepfake-teknologi brukes til å lage foto- og lyd-falskner også. Som tidligere nevnt, brukes GANer ofte til å generere falske bilder. Det er tenkt at det har vært mange tilfeller av falske LinkedIn- og Facebook (META ) -profiler som har profilbilder generert med deepfake-algoritmer.

Det er mulig å lage lyd-deepfakes også. Dype neurale nettverk er trenet for å produsere stemme-kloner/stemme-huder av forskjellige mennesker, inkludert kjendiser og politikere. Et berømt eksempel på en lyd-Deepfake er når AI-selskapet Dessa brukte en AI-modell, støttet av ikke-AI-algoritmer, for å rekonstruere stemmen til podcast-verten Joe Rogan.

Hvordan å påvise Deepfakes

Ettersom deepfakes blir mer og mer sofistikerte, vil det bli vanskeligere og vanskeligere å skille dem fra ekte medier. For tiden finnes det enkelte tegn mennesker kan se etter for å fastslå om en video er en potensiell deepfake, som dårlig lip-syncing, unaturlig bevegelse, flimring rundt kanten av ansiktet, og forvrengning av fine detaljer som hår, tenner eller refleksjoner. Andre potensielle tegn på en deepfake inkluderer lavkvalitetsdelene av samme video, og uregelmessig blunking av øynene.

Selv om disse tegnene kan hjelpe en å påvise en deepfake for tiden, kan det være at den eneste muligheten for pålitelig deepfake-påvisning kan være andre typer AI som er trent for å skille fakes fra ekte medier.

Kunstig intelligens-selskaper, inkludert mange av de store teknologiselskapene, forsker på metoder for å påvise deepfakes. Forrige desember ble en deepfake-påvisningsutfordring startet, støttet av tre teknologigiganter: Amazon (AMZN ), Facebook og Microsoft. Forskningsgrupper fra hele verden arbeidet på metoder for å påvise deepfakes, og konkurrerte om å utvikle de beste påvisningsmetodene. Andre grupper av forskere, som en gruppe kombinerte forskere fra Google (GOOGL ) og Jigsaw, arbeider på en type “ansiktsforensikk” som kan påvise videoer som har blitt endret, gjør deres datasett åpne og oppmuntre andre til å utvikle deepfake-påvisningsmetoder. Den ovennevnte Dessa har arbeidet på å forbedre deepfake-påvisningsteknikkene, og prøver å sikre at påvisningsmodellene fungerer på deepfake-videoer funnet på nettet, i stedet for bare på forhåndskomponerte trening- og testdatasett, som det åpne datasett Google tilbød.

Det finnes også andre strategier som undersøkes for å håndtere spredningen av deepfakes. For eksempel kan videoer sjekkes for konsistens med andre informasjonskilder. Søk kan gjøres etter videoer av hendelser som potensielt er tatt fra andre vinkler, eller bakgrunnsdetaljer i videoen (som vær- og plasseringsmønster) kan sjekkes for inkonsistenser. Ut over dette kan en Blockchain-nettbasert registreringsystem registrere videoer når de først er laget, og holde deres opprinnelige lyd og bilder, så at avledede videoer alltid kan sjekkes for manipulasjon.

Til slutt er det viktig at pålitelige metoder for å påvise deepfakes blir utviklet, og at disse påvisningsmetodene holder tritt med de nyeste fremgangene i deepfake-teknologi. Mens det er vanskelig å vite eksakt hvilke effekter deepfakes vil ha, kan det være at hvis det ikke finnes pålitelige metoder for å påvise deepfakes (og andre former for falsk media), kan desinformasjon potensielt spre seg og underminere folks tillit til samfunnet og institusjonene.

Implikasjonene av Deepfakes

Hva er farene med å la deepfakes spre seg uhemmet?

En av de største problemene som deepfakes skaper for tiden er ikke-samtykkende pornografi, konstruert ved å kombinere menneskers ansikter med pornografiske videoer og bilder. AI-etikere er bekymret for at deepfakes vil bli brukt mer i skapelsen av falsk hevn-porno. Ut over dette kan deepfakes brukes til å mobbe og skade omdømmet til nesten hvem som helst, da de kan brukes til å plassere mennesker i kontroversielle og kompromitterende situasjoner.

Selskaper og cybersecurity-eksperter har uttrykt bekymring over bruken av deepfakes til å fasilitere svindel, bedrageri og utpressing. Ifølge påstander har deepfake-lyd blitt brukt til å overtale ansatte i et selskap til å overføre penger til svindlere

Det er mulig at deepfakes kan ha skadelige effekter utenfor de ovennevnte. Deepfakes kan potensielt undergrave folks tillit til media generelt, og gjøre det vanskeligere for folk å skille mellom ekte nyheter og falske nyheter. Hvis mange videoer på nettet er falske, blir det enklere for regjeringer, selskaper og andre enheter å kaste tvil på legitime kontroverser og uetiske praksiser.

Når det gjelder regjeringer, kan deepfakes til og med true driften av demokrati. Demokrati krever at borgere kan ta informerte beslutninger om politikere basert på pålitelig informasjon. Desinformasjon undergraver demokratiske prosesser. For eksempel dukket presidenten i Gabon, Ali Bongo, opp i en video som forsøkte å berolige den gabonske befolkningen. Presidenten antas å ha vært syk i lang tid, og hans plutselige opptreden i en sannsynlig falsk video utløste et forsøk på statskupp. President Donald Trump hevdet at en lydopptak av ham som pralte om å gripe kvinner ved kjønnsorganene var falsk, til tross for at han også beskrev det som “omklubbingsrom-snakk”. Prins Andrew hevdet at et bilde levert av Emily Maitilis’ advokat var falsk, til tross for at advokaten insisterte på dets ekthet.

Til slutt, mens det finnes legitime bruksområder for deepfake-teknologi, er det mange potensielle skader som kan oppstå fra misbruk av denne teknologien. Derfor er det ekstremt viktig at pålitelige metoder for å fastslå autentisiteten til media blir utviklet og vedlikeholdt.