Dybdefeksjoner og navigering i den nye æraen av syntetisk media

Husker du “falske nyheter”? Uttrykket har blitt brukt (og misbrukt) så omfattende nå at det kan være vanskelig å huske hva det opprinnelig refererte til. Men konseptet har en svært spesifikk opprinnelse. For ti år siden begynte journalister å varsle om en strøm av påståtte “nyhets” nettsteder som kastet frem feilaktige, ofte utrolige påstander om politikere og kjendiser. Mange kunne umiddelbart se at disse nettstedene var ugyldige.

Men mange flere manglet de kritiske verktøyene til å gjenkjenne dette. Resultatet var de første bevegelsene i en epistemologisk krise som nå kommer til å omfatte hele internettet – en krise som har nådd sitt mest skremmende uttrykk med oppblomstringen av dybdefeksjoner.

I sammenligning med selv en gjennomsnittlig dybdefeksjon, ser de “falske nyhets” nettstedene fra fortiden tamme ut. Verre enn det, selv de som tror de besitter relativt høye nivåer av mediekompetanse, er i fare for å bli lurt. Syntetisk media skapt med hjelp av dyplæring-algoritmer og generativ AI har potensialet til å herje med grunnlaget for vårt samfunn. Ifølge Deloitte kan de denne året alene koste bedrifter mer enn 250 millioner dollar gjennom falske transaksjoner og andre former for svindel. I mellomtiden har Verdens økonomiske forum kalt dybdefeksjoner “en av de mest bekymringsverdige bruken av AI”, og peker på potensialet for “agenda-drevne, sanntids-AI-chatbots og avatarer” til å fasilitere nye stammer av ultra-personalisert (og ultra-effektiv) manipulering.

Verdens økonomiske forums foreslåtte respons på dette problemet er en fornuftig en: de fremmer en “null-tillit-holdning“, en holdning som bringer en grad av skepsis til hver enkelt møte med digital media. Hvis vi ønsker å skille mellom det ekte og det syntetiske fremover – spesielt i immersive nett-miljøer – vil en slik holdning bli stadig mer essensiell.

To tilnærminger til å bekjempe dybdefeksjon-krisen

Å bekjempe rampende desinformasjon fostret av syntetisk media, vil kreve, ifølge min mening, to distinkte tilnærminger.

Den første involverer verifisering: å gi en enkel måte for hverdags internett-brukere til å bestemme om videoen de ser på, faktisk er ekte. Slike verktøy er allerede utbredt i bransjer som forsikring, gitt potensialet for dårlige aktører til å sende inn feilaktige krav støttet av manipulerte videoer, fotografier og dokumenter. Å demokratisere disse verktøyene – å gjøre dem gratis og enkle å få tilgang til – er et kritisk første skritt i denne kampen, og vi ser allerede betydelig bevegelse på dette fronten.

Det andre skrittet er mindre teknologisk i naturen, og derfor mer av en utfordring: nemlig å øke bevisstheten og fostre kritisk tenkning. I etterkant av den opprinnelige “falske nyheter”-skandalen, i 2015, tegnet nonprofit-organisasjoner over hele landet mediekompetanse-programmer og arbeidet for å spre beste praksis, ofte i samarbeid med lokale sivile institusjoner for å gi vanlige borgere mulighet til å spore usannheter. Naturligvis er gammel-skole “falske nyheter” barn-lek i sammenligning med de mest avanserte dybdefeksjonene, som er hvorfor vi må fordoble våre anstrengelser på dette fronten og investere i utdanning på alle nivåer.

Avanserte dybdefeksjoner krever avansert kritisk tenkning

Naturligvis var disse utdanningsinitiativene noe lettere å iverksette når desinformasjonen i spørsmål var tekst-basert. Med falske nyhets-sider var tegnene på svindel ofte åpenbare: dårlig nett-design, utstrakt stavfeil, merkelige kilder. Med dybdefeksjoner er tegnene mye mer subtile – og ofte umulige å merke med det blotte øye.

Derfor må internett-brukere av alle aldre effektivt om-trenere seg selv til å skråpe digitalt video for dybdefeksjon-indikatorer. Det betyr å være oppmerksom på en rekke faktorer. For video, kan det bety uvirkelige, uklare områder og skygge; unaturlig utseende ansiktsbevegelser og uttrykk; for perfekte hudtoner; ujevn mønster i klær og bevegelser; feil i lip-sync; og så videre. For lyd, kan det bety stemmer som er for renholdige (eller åpenbart digitalisert), mangel på en menneske-lignende emosjonell tone, merkelige tale-mønster eller uvanlige fraser.

På kort sikt kan denne type selv-trening være svært nyttig. Ved å spørre oss selv, om og om igjen, Er dette mistenkelig?, skjerper vi ikke bare vår evne til å oppdage dybdefeksjoner, men også vår kritiske tenkning generelt. Det sagt, nærmer vi oss raskt et punkt hvor ikke engang det beste trente øye vil kunne skille mellom fakta og fiksjon uten ytre hjelp. De visuelle tegnene – uregelmessighetene nevnt ovenfor – vil bli teknologisk glattet over, slik at helt fabrikkerte klipp vil være umulige å skille fra den ekte varen. Det vi vil bli igjen med, er vår situasjonelle intuisjon – vår evne til å spørre oss selv spørsmål som  Ville en slik politiker eller kjendis virkelig si det? Er innholdet i denne videoen troverdig?

Det er i denne konteksten at AI-avdekning-plattformer blir så essensielle. Når det blotte øye er blitt irrelevant for dybdefeksjon-avdekning, kan disse plattformene fungere som definitive dommere av virkeligheten – guardrails mot den epistemologiske avgrunnen. Når en video ser ut til å være ekte, men likevel ser mistenkelig ut – som vil skje stadig oftere i måneder og år – kan disse plattformene holde oss grunnede i faktene ved å bekrefte den grunnleggende sannheten i hva vi ser på. Til slutt, med en slik kraftig teknologi, er det bare én ting som kan redde oss: AI selv. Vi må bekjempe ild med ild – det vil si å bruke god AI til å avdekke teknologiens verste misbruk.

Virkelig, tilegnelsen av disse ferdighetene trenger ikke å være en kynisk eller negativ prosess. Å fostre en null-tillit-holdning kan i stedet bli sett på som en mulighet til å skjerpe vår kritiske tenkning, intuisjon og bevissthet. Ved å spørre oss selv, om og om igjen, visse nøkkel-spørsmål – Er dette fornuftig? Er dette mistenkelig? – øker vi vår evne til å konfrontere ikke bare feil media, men verden i stor skala. Hvis det er en sølv-linje til dybdefeksjon-æraen, er dette det. Vi blir tvunget til å tenke for oss selv og å bli mer empiriske i våre dag-til-dag-liv – og det kan bare være en god ting.