Deepfakes og navigering i den nye æraen av syntetisk media

Husker du “falske nyheter”? Uttrykket har blitt brukt (og misbrukt) så omfattende på dette tidspunktet at det kan være vanskelig å huske hva det opprinnelig henviser til. Men konseptet har en svært spesifikk opprinnelse. For ti år siden begynte journalister å varsle om en strøm av påståtte “nyhets” nettsteder som kastet falske, ofte ubeskrivelige påstander om politikere og celebriteter. Mange kunne umiddelbart se at disse nettstedene var ugyldige.

Men mange flere manglet de kritiske verktøyene til å gjenkjenne dette. Resultatet var de første bevegelsene i en epistemologisk krise som nå kommer til å omfatte hele internettet – en krise som har nådd sitt mest skremmende manifest med oppblomstringen av deepfakes.

Nesten til og med en god deepfake, ser “falske nyheter”-nettstedene fra fortiden tamme ut. Verre enn det, selv de som tror seg å besitte relativt høye nivåer av mediekompetanse, er i fare for å bli lurt. Syntetisk media skapt med hjelp av dyptlæringsalgoritmer og generativ AI har potensialet til å herje med grunnlaget for vårt samfunn. Ifølge Deloitte, kan de alene i år koste bedrifter mer enn 250 millioner dollar gjennom falske transaksjoner og andre former for svindel. I mellomtiden har Verdens økonomiske forum kalt deepfakes “en av de mest bekymringsverdige bruksområdene for AI”, og peker på potensialet for “agenda-drevne, sanntids AI-chatbots og avatarer” til å fasilitere nye former for ultra-personlig (og ultra-effektiv) manipulering.

Verdens økonomiske forums foreslåtte respons på dette problemet er en fornuftig en: de fremmer en “zero-trust mindset“, en som bringer en viss skepsis til hver enkelt møte med digital media. Hvis vi ønsker å skille mellom det ekte og det syntetiske fremover – spesielt i immersive online-miljøer – vil en slik holdning være stadig mer essensiell.

To tilnærminger til å bekjempe deepfake-krisen

Bekjempelse av rampent desinformasjon født av syntetisk media, vil kreve, ifølge min mening, to distinkte tilnærminger.

Den første omfatter verifisering: å gi en enkel måte for hverdags internettbrukere til å bestemme om videoen de ser på, faktisk er ekte. Slike verktøy er allerede utbredt i industrier som forsikring, gitt potensialet for dårlige aktører til å sende inn falske krav støttet av manipulerte videoer, fotografier og dokumenter. Å demokratisere disse verktøyene – å gjøre dem gratis og enkle å få tilgang til – er et kritisk første skritt i denne kampen, og vi ser allerede betydelig bevegelse på dette fronten.

Det andre skrittet er mindre teknologisk i naturen, og derfor mer av en utfordring: nemlig å øke bevisstheten og fremme kritisk tenkning. I etterkant av den opprinnelige “falske nyheter”-skandalen, i 2015, tegnet nonprofit-organisasjoner over hele landet mediekompetanseprogrammer og arbeidet for å spre beste praksis, ofte i samarbeid med lokale sivile institusjoner for å gi vanlige borgere mulighet til å gjenkjenne usannheter. Selvfølgelig er gammeldags “falske nyheter” barnlek i forhold til de mest avanserte deepfakes, hvilket er hvorfor vi må fordoble våre anstrengelser på dette fronten og investere i utdanning på alle nivåer.

Avanserte deepfakes krever avansert kritisk tenkning

Selvfølgelig var disse utdannelsesinitiativene noe lettere å iverksette når desinformasjonen i spørsmål var tekstbasert. Med falske nyheter-nettsteder var tegnene på svindel ofte åpenbare: dårlig nettside-design, rampete skrivefeil, merkelige kilder. Med deepfakes er tegnene mye mer subtile – og ofte umulige å merke med det blotte øye.

Derfor må internettbrukere av alle aldre effektivt om-trenere seg selv til å skråpe digitalt video for deepfake-indikatorer. Det betyr å være svært oppmerksom på en rekke faktorer. For video, kan det bety uvirkelige, uklare områder og skygge; unaturlig utseende ansiktsbevegelser og uttrykk; for perfekte hudtoner; inkonsistente mønster i klær og bevegelser; feil i lippsynkronisering; og så videre. For lyd, kan det bety stemmer som er for renholdige (eller åpenbart digitalisert), mangel på et menneskelig følelsesuttrykk, merkelige tale-mønster eller uvanlige formuleringer.

På kort sikt kan denne type selv-trening være svært nyttig. Ved å spørre oss selv, om og om igjen, Er dette mistenkelig?, skjerper vi ikke bare vår evne til å gjenkjenne deepfakes, men også vår kritiske tenkning generelt. Det blir sagt, vi nærmer oss raskt et punkt hvor ikke engang det beste trente øye vil kunne skille mellom fakta og fiksjon uten ytre hjelp. De visuelle tegnene – de uregelmessighetene nevnt ovenfor – vil bli teknologisk glattet over, slik at helt fabrikkerte klipp vil være umulige å skille fra den ekte varen. Det vi vil bli igjen med, er vår situasjonelle intuisjon – vår evne til å spørre oss selv spørsmål som Ville en slik og slik politiker eller celebrity virkelig si det? Er innholdet i denne videoen troverdig?

Det er i denne konteksten at AI-dettektionsplattformer blir så essensielle. Når det blotte øye er blitt irrelevant for deepfake-oppdaging, kan disse plattformene fungere som definitive garantier for virkeligheten – guardrails mot den epistemologiske avgrunnen. Når en video ser ut til å være ekte, men likevel ser mistenkelig ut – noe som vil skje stadig oftere i de kommende månedene og årene – kan disse plattformene holde oss grunnede i faktene ved å bekrefte den grunnleggende sannheten i hva vi ser på. Til slutt, med en så kraftig teknologi, er det bare én ting som kan redde oss: AI selv. Vi må bekjempe ild med ild – det vil si å bruke god AI til å avdekke teknologiens verste misbruk.

Virkelig, tilegnelsen av disse ferdighetene trenger ikke å være en kynisk eller negativ prosess. Å fremme en zero-trust mindset kan i stedet være å anse som en mulighet til å skjerpe vår kritiske tenkning, intuisjon og bevissthet. Ved å spørre oss selv, om og om igjen, visse nøkkel-spørsmål – Er dette fornuftig? Er dette mistenkelig? – høyner vi vår evne til å konfrontere ikke bare falsk media, men også verden i størrelse. Hvis det er en sølvkant til deepfake-æraen, er dette den. Vi blir tvunget til å tenke for oss selv og å bli mer empiriske i våre dag-til-dag-liv – og det kan bare være en god ting.