Hvordan identifisere deepfake-videoer som en faktasjekker

Deepfakes er syntetisk media der en person erstatter en annen persons likhet med noen andre. De blir mer og mer vanlige på nettet, ofte spreder de desinformasjon rundt om i verden. Mens noen kan synes harmløse, kan andre ha ondsinnede hensikter, og det er derfor viktig for individer å skille sannheten fra digitalt fremstilt feilinformasjon.

Det er dessverre ikke alle som har tilgang til avansert programvare for å identifisere deepfake-videoer. Her er en titt på hvordan faktasjekkerne undersøker en video for å bestemme dens legitimitet og hvordan du kan bruke deres strategier selv.

1. Undersøk konteksten

Å undersøke konteksten hvor videoen presenteres er avgjørende. Dette innebærer å se på bakgrunnshistorien, settingen og om videoens hendelser stemmer overens med hva du vet er sant. Deepfakes slipper ofte her, presenterer innhold som ikke holder mot faktiske verdens fakta eller tidsplaner ved nærmere undersøkelse.

Et eksempel involverer en deepfake av Ukrainas president Volodymyr Zelenskyj. I mars 2022, en deepfake-video dukket opp på sosiale medier der Zelenskyj syntes å oppfordre ukrainske styrker til å legge ned våpnene og overgi seg til russiske styrker.

Ved nærmere undersøkelse, viste flere kontekstuelle hint at videoens uektehet. Den ukrainske regjeringens offisielle kanaler og Zelenskyj selv delte ikke denne meldingen. Dessuten stemte tiden og omstendighetene ikke overens med kjente fakta om Ukrainas holdning og militærstrategi. Videoens opphav var å demoralisere ukrainsk motstand og spre forvirring blant den internasjonale samfunnet som støtter Ukraina.

2. Sjekk kilden

Når du kommer over en video på nettet, sjekk kilden. Å forstå hvor en video kommer fra er avgjørende fordi hackere kan bruke den mot deg for å deployere en cyberangrep. Nylig 75% av cybersecurity-eksperter rapporterte en økning i cyberangrep, med 85% noterte bruken av generativ AI av ondsinnede individer.

Dette henger sammen med økningen i deepfake-videoer, og eksperter håndterer stadig flere sikkerhets hendelser som AI-generert innhold driver. Verifiser kilden ved å se hvor videoen opprinnelig kommer fra. En video som opprinnelig kommer fra en tvilsom kilde kan være en del av en større cyberangrepsstrategi.

Pålitelige kilder er mindre sannsynlig å spre deepfake-videoer, og de er derfor en tryggere valg for pålitelig informasjon. Sjekk alltid videoer med pålitelige nyhetskilder eller offisielle nettsider for å sikre at det du ser er ekte.

3. Søk etter inkonsistenser i ansiktsuttrykk

En av de avslørende tegnene på en deepfake er tilstedeværelsen av inkonsistenser i ansiktsuttrykk. Mens deepfake-teknologien har utviklet seg, har den ofte problemer med å etterlikne de sublime og komplekse bevegelsene som skjer naturlig når en person snakker eller uttrykker emosjoner. Du kan spore disse ved å se etter følgende inkonsistenser:

• Unaturlig blunking: Mennesker blunker i en jevn, naturlig mønster. Imidlertid kan deepfakes enten underrepresentere blunking eller overdrive det. For eksempel kan en deepfake vise en person som snakker i en lengre periode uten å blunk eller blunk for raskt.
• Lippsynk-feil: Når noen snakker i en video, kan deres leppbevegelser være feil. Se nøye til om leppene matcher lyden. I noen deepfakes er feilen subtil, men kan oppdages når man ser nærmere.
• Ansiktsuttrykk og emosjoner: Ekte menneskelige emosjoner er komplekse og reflekteres gjennom ansiktsbevegelser. Deepfakes kan ofte ikke fange dette, og det resulterer i stive, forsterkede eller ikke fullstendig samsvarende uttrykk. For eksempel kan en deepfake-video vise en person som smiler eller ser sur ut med mindre nuanser, eller den emosjonelle reaksjonen kan ikke matche samtalekonteksten.

4. Analyser lyden

Lyden kan også gi deg hint om hvorvidt en video er ekte eller falsk. Deepfake-teknologien prøver å etterlikne stemmer, men diskrepanser avslører ofte dem. For eksempel, merk deg kvaliteten og karakteristikkene til stemmen. Deepfakes kan høres robotiske eller flate i tale, eller de kan mangle de emosjonelle infleksjonene en ekte menneske ville uttrykke naturlig.

Bakgrunnsstøy og lydkvalitet kan også gi hint. En plutselig endring kan tyde på at deler av lyden er endret eller klippet sammen. Ekte videoer er vanligvis konsistente gjennom hele videoen.

5. Undersøk lys og skygge

Lys og skygge spiller en stor rolle i å avsløre en videos ekthet. Deepfake-teknologien har ofte problemer med å etterlikne hvordan lys samhandler med virkelige objekter, inkludert mennesker. Ved å se nøye på lys og skygge kan du spore flere ting som kan indikere om det er en deepfake.

I ekte videoer bør subjektets lys og omgivelser være konsistente. Deepfake-videoer kan vise uregelmessigheter, som at ansiktet er belyst forskjellig fra bakgrunnen. Hvis videoens retning eller lyskilde ikke har mening, kan det være et tegn på manipulering.

For det andre bør skyggene oppføre seg i henhold til lyskildene i scenen. I deepfakes kan skyggene være feil plassert eller ikke samsvare med andre objekter. Avvik i skyggens størrelse, retning og tilstedeværelse eller fravær av forventede skygger gir deg en helhetlig idé.

6. Sjekk for emosjonell manipulering

Deepfakes gjør mer enn å skape overbevisende løgner — mennesker designer dem ofte for å manipulere emosjoner og utløse reaksjoner. En viktig del av å identifisere slike innhold er å vurdere om det er ment å utløse en emosjonell reaksjon som kan skygge for rasjonell dømmekraft.

For eksempel, se på hendelsen der et AI-generert bilde av en bombe på Pentagon ble delt på Twitter X. Til tross for at det var fullstendig fabrikkert, førte bildets alarmerende natur til at det ble delt og utløste omfattende panikk. Som resultat en tap på 500 milliarder dollar i aksjemarkedet skjedde.

Deepfake-videoer kan utløse like mye panikk, spesielt når AI er involvert. Når du vurderer disse videoene, spør deg selv:

• Prøver innholdet å utløse en sterk emosjonell reaksjon, som frykt, sinne eller sjokk? Ekte nyhetskilder har som mål å informere, ikke å utløse.
• Stemmer innholdet overens med nåværende hendelser eller kjente fakta? Emosjonell manipulering ofte avhenger av å frakoble publikum fra rasjonell analyse.
• Rapporterer pålitelige kilder samme historie? Fravær av bekreftelse fra pålitelige nyhetskilder kan indikere at emosjonelt ladet innhold er fabrikkert.

7. Utnytt deepfake-oppdagerverktøy

Ettersom deepfakes blir mer avanserte, kan det å bare stole på menneskelig observasjon for å identifisere dem være utfordrende. Heldigvis er det tilgjengelig deepfake-oppdagerverktøy som bruker avansert teknologi for å skille mellom ekte og falske.

Disse verktøyene kan analysere videoer for inkonsistenser og avvik som ikke er synlige for det blotte øye. De utnytter AI og maskinlæring ved å bruke tale-vannmerking som en metode. Disse teknologiene er trent til å gjenkjenne vannmerkets plassering for å bestemme om lyden er blitt manipulert.

Microsoft (MSFT ) har utviklet et verktøy kalt Video Authenticator, som gir en tillits-score som indikerer sannsynligheten for en deepfake. Liksom startups og akademiske institusjoner utvikler og forbedrer teknologier for å holde tritt med utvikling av deepfakes.

Å oppdage deepfakes med suksess

Teknologien har en lys og en mørk side og utvikler seg konstant, så det er viktig å være skeptisk til det du ser på nettet. Når du møter en mistenkt deepfake, bruk dine sanser og verktøyene som er tilgjengelige. I tillegg, verifiser alltid hvor det opprinnelig kommer fra. Så lenge du holder deg oppdatert om de siste deepfake-nyhetene, vil din flid være avgjørende for å bevare sannheten i en tid med feilinformasjon.