Deepfakes en het navigeren van de nieuwe synthetische media-era

Herinner je je “nepnieuws” nog? De term is zo vaak gebruikt (en misbruikt) dat het moeilijk is om te onthouden waar het oorspronkelijk naar verwees. Maar het concept heeft een heel specifieke oorsprong. Tien jaar geleden begonnen journalisten te waarschuwen voor een toevloed van vermeende “nieuws”sites die valse, vaak absurde claims over politici en beroemdheden verspreidden. Veel mensen konden meteen zien dat deze sites onlegitiem waren.

Maar veel meer mensen ontbeerden de kritische vaardigheden om dit te herkennen. Het resultaat was de eerste tekenen van een epistemologische crisis die nu het internet dreigt te overspoelen – een crisis die zijn meest verontrustende manifestatie heeft bereikt met de opkomst van deepfakes.

Naast zelfs een redelijk overtuigende deepfake lijken de “nepnieuws”sites van weleer tam. Erger nog, zelfs mensen die denken dat ze een redelijk hoog niveau van mediawijsheid hebben, lopen het risico om bedrogen te worden. Synthetische media die zijn gemaakt met behulp van diepe leer-algoritmen en generatieve AI hebben het potentieel om onze samenleving te ontwrichten. Volgens Deloitte kunnen ze dit jaar alleen al bedrijven meer dan 250 miljoen dollar kosten door valse transacties en andere vormen van fraude. Ondertussen heeft het World Economic Forum deepfakes “een van de meest verontrustende toepassingen van AI” genoemd, waarbij wordt gewezen op het potentieel van “agenda-gedreven, real-time AI-chatbots en avatars” om nieuwe stammen van ultra-persoonlijke (en ultra-effectieve) manipulatie te faciliteren.

De voorgestelde reactie van het WEF op dit probleem is verstandig: ze pleiten voor een “zero-trust mindset“, een mindset die een zekere mate van scepsis met zich meebrengt bij elke interactie met digitale media. Als we in de toekomst het onderscheid tussen authentiek en synthetisch willen maken – vooral in immersieve online-omgevingen – zal zo’n mindset steeds essentieel worden.

Twee benaderingen om de deepfake-crisis te bestrijden

Het bestrijden van de overvloed aan desinformatie die door synthetische media wordt gegenereerd, zal, naar mijn mening, twee verschillende benaderingen vereisen.

De eerste benadering houdt verificatie in: het bieden van een eenvoudige manier voor gewone internetgebruikers om te bepalen of de video die ze bekijken authentiek is. Dergelijke tools zijn al wijdverspreid in industrieën zoals verzekeringen, gezien het potentieel van slechte actoren om valse claims in te dienen met behulp van gemanipuleerde video’s, foto’s en documenten. Het democratiseren van deze tools – ze gratis en gemakkelijk toegankelijk maken – is een cruciale eerste stap in deze strijd, en we zien al significante beweging op dit front.

De tweede stap is minder technisch van aard en dus een grotere uitdaging: het bewustzijn vergroten en kritische denkvaardigheden ontwikkelen. Na het oorspronkelijke “nepnieuws”-schandaal in 2015, hebben non-profitorganisaties in het hele land mediawijsheidsprogramma’s opgezet en gewerkt aan het verspreiden van beste praktijken, vaak in samenwerking met lokale burgerinstellingen om gewone burgers te empoweren om leugens te herkennen. Natuurlijk is ouderwets “nepnieuws” kinderspel vergeleken met de meest geavanceerde deepfakes, wat betekent dat we onze inspanningen op dit front moeten verdubbelen en moeten investeren in onderwijs op elk niveau.

Geavanceerde deepfakes vereisen geavanceerd kritisch denken

Natuurlijk waren deze educatieve initiatieven enigszins gemakkelijker te ondernemen toen de desinformatie in kwestie gebaseerd was op tekst. Met nepnieuwssites waren de kenmerken van fraude vaak overduidelijk: slechte webdesign, overvloedige spelfouten, vreemde bronnen. Met deepfakes zijn de kenmerken veel subtieler – en vaak onmogelijk om op het eerste gezicht te herkennen.

Dienvolgens moeten internetgebruikers van elke leeftijd zichzelf effectief opnieuw trainen om digitale video’s te onderzoeken op deepfake-indicatoren. Dat betekent dat je moet letten op een aantal factoren. Voor video kan dat betekenen onnatuurlijk lijkende vage gebieden en schaduwen; onnatuurlijke gezichtsbewegingen en uitdrukkingen; te perfecte huidtinten; inconsistentie in kleding- en bewegingspatronen; lip-sync-fouten; enzovoort. Voor audio kan dat betekenen stemmen die te perfect klinken (of overduidelijk gedigitaliseerd), een gebrek aan een menselijk gevoel voor emotionele toon, vreemde spreekpatronen of ongebruikelijke zinsbouw.

Op korte termijn kan deze zelftraining zeer nuttig zijn. Door ons telkens weer te vragen: Ziet dit er verdacht uit?, scherpen we niet alleen onze vaardigheden om deepfakes te detecteren, maar ook onze kritische denkvaardigheden in het algemeen. Dat gezegd hebbende, we naderen snel een punt waarop zelfs het beste getrainde oog niet in staat zal zijn om feit van fictie te scheiden zonder externe hulp. De visuele aanwijzingen – de onregelmatigheden die hierboven zijn genoemd – zullen technisch gladgestreken worden, zodat volledig vervalste clips niet te onderscheiden zijn van het echte artikel. Wat we overhouden is onze situatie-intuïtie – onze capaciteit om onszelf vragen te stellen als: Zou zo’n en zo’n politicus of beroemdheid echt zoiets zeggen? Is de inhoud van deze video geloofwaardig?

Het is in deze context dat AI-detectieplatforms zo essentieel worden. Wanneer het blote oog irrelevant wordt voor deepfake-detectie, kunnen deze platforms dienen als definitieve arbiters van de realiteit – leuningen tegen het epistemologische afgrond. Wanneer een video er echt uitziet maar toch verdacht lijkt – zoals vaker zal gebeuren in de komende maanden en jaren – kunnen deze platforms ons helpen om gefocust te blijven op de feiten door de basiswaarheid van alles wat we zien te bevestigen. Uiteindelijk, met zo krachtige technologie, is de enige manier om onszelf te redden het gebruik van AI zelf. We moeten vuur bestrijden met vuur – wat betekent dat we goede AI moeten gebruiken om de ergste misbruiken van de technologie te bestrijden.

Echt, het verwerven van deze vaardigheden hoeft op geen enkele manier een cynische of negatieve ervaring te zijn. Het cultiveren van een zero-trust mindset kan in plaats daarvan worden gezien als een kans om je kritische denkvermogen, intuïtie en bewustzijn te scherpen. Door jezelf telkens weer te vragen: Maakt dit zin? Is dit verdacht? – verhoog je je vermogen om niet alleen nepmedia, maar de wereld in het algemeen, aan te pakken. Als er een zilveren randje is aan de deepfake-era, is dit het. We worden gedwongen om onszelf te laten denken en om empirischer te worden in ons dagelijks leven – en dat kan alleen maar een goede zaak zijn.