In 2024 gaan deepfakes mainstream. Hier is hoe bedrijven zichzelf kunnen beschermen

Sinds minstens de verkiezingen van 2016, toen zorgen over desinformatie de publieke bewustzijn binnendrongen, hebben deskundigen de alarmbel geluid over deepfakes. De implicaties van deze technologie waren – en blijven – angstaanjagend. De ongecontroleerde verspreiding van hyperrealistische synthetische media vormt een bedreiging voor iedereen – van politici tot gewone mensen. In een omgeving die al gekenmerkt wordt door wijdverbreide wantrouwen, beloofden deepfakes de vlammen alleen maar verder aan te wakkeren.

Het blijkt dat onze angsten prematuur waren. De technische kennis die nodig is om deepfakes daadwerkelijk te maken, samen met hun vaak slechte kwaliteit, betekende dat ze voor minstens de laatste twee presidentsverkiezingscycli een minimale zorg waren.

Maar al dat is op het punt om te veranderen – verandert al. In de afgelopen twee jaar is generatieve AI-technologie mainstream geworden, waardoor het proces van het maken van deepfakes voor de gemiddelde consument radicaal is vereenvoudigd. Dezelfde innovaties hebben de kwaliteit van deepfakes aanzienlijk verhoogd, zodat in een blind test de meeste mensen niet in staat zouden zijn om een vervalste video van het echte artikel te onderscheiden.

Dit jaar, vooral, zijn we begonnen met het zien van aanwijzingen van hoe deze technologie de samenleving kan beïnvloeden als er geen inspanningen worden geleverd om het te bestrijden. Vorig jaar, bijvoorbeeld, werd een door AI gegenereerde foto van paus Franciscus met een ongebruikelijk stijlvolle jas viraal en werd door velen als authentiek beschouwd. Hoewel dit op het eerste gezicht misschien als een onschuldig grapje kan lijken, onthult het de gevaarlijke kracht van deze deepfakes en hoe moeilijk het kan zijn om desinformatie te stoppen zodra deze eenmaal begint te verspreiden. We kunnen verwachten dat we in de komende maanden en jaren veel minder amusante – en veel gevaarlijkere – voorbeelden van dit soort virale nep-nieuws tegenkomen.

Om deze reden is het van het grootste belang dat organisaties van alle soorten – van de media tot financiën tot overheden tot sociale media-platforms – een proactieve houding aannemen ten aanzien van deepfake-detectie en inhoudsauthenticiteitsverificatie. Een cultuur van vertrouwen via waarborgen moet nu worden gevestigd, voordat een vloedgolf van deepfakes onze gedeelde begrip van de realiteit kan wegspoelen.

Het deepfake-gevaar begrijpen

Voordat we ingaan op wat organisaties kunnen doen om deze golf van deepfakes te bestrijden, is het de moeite waard om uit te leggen waarom beveiligingstools nodig zijn. Meestal noemen degenen die zich zorgen maken over deepfakes hun potentieel effect op de politiek en het maatschappelijk vertrouwen. Deze potentiële gevolgen zijn extreem belangrijk en mogen niet worden genegeerd in enig gesprek over deepfakes. Maar zoals het geval is, heeft de opkomst van deze technologie mogelijk desastreuze gevolgen voor meerdere sectoren van de Amerikaanse economie.

Neem bijvoorbeeld verzekeringen. Op dit moment bedraagt de jaarlijkse verzekeringsfraude in de Verenigde Staten 308,6 miljard dollar – een bedrag dat ongeveer een kwart is van de hele industrie. Tegelijkertijd zijn de back-end-operaties van de meeste verzekeraars steeds meer geautomatiseerd, met 70% van de standaardclaims die tegen 2025 zonder menselijke tussenkomst worden verwacht. Dit betekent dat beslissingen steeds vaker worden genomen met minimale menselijke tussenkomst: selfservice aan de voorkant en AI-gefaciliteerde automatisering aan de achterkant.

Ironisch genoeg heeft de technologie die deze toename in automatisering mogelijk heeft gemaakt – met name machine learning en kunstmatige intelligentie – ervoor gezorgd dat deze technologie gemakkelijk kan worden misbruikt door slechte actoren. Het is nu gemakkelijker dan ooit voor de gemiddelde persoon om claims te manipuleren – bijvoorbeeld door generatieve AI-programma’s zoals Dall-E, Midjourney of Stable Diffusion te gebruiken om een auto er meer beschadigd uit te laten zien dan hij in werkelijkheid is. Er bestaan al apps speciaal voor dit doel, zoals Dude Your Car!, die gebruikers in staat stellen om kunstmatig dents in foto’s van hun voertuigen te creëren.

Hetzelfde geldt voor officiële documenten, die nu gemakkelijk kunnen worden gemanipuleerd – met facturen, onderhandse taxaties en zelfs handtekeningen die volledig kunnen worden aangepast of verzonnen. Dit is een probleem niet alleen voor verzekeraars, maar voor de hele economie. Het is een probleem voor financiële instellingen, die de authenticiteit van een breed scala aan documenten moeten verifiëren. Het is een probleem voor retailers, die een klacht kunnen ontvangen dat een product defect is aangekomen, vergezeld van een vervalste afbeelding.

Bedrijven kunnen simpelweg niet functioneren met deze mate van onzekerheid. Een zekere mate van fraude is waarschijnlijk altijd onvermijdelijk, maar met deepfakes hebben we het niet over fraude aan de randen – we hebben het over een potentieel epistemologische ramp waarin bedrijven geen duidelijke manier hebben om waarheid van fictie te onderscheiden en uiteindelijk miljarden dollars verliezen door deze verwarring.

Vuur bestrijden met vuur: hoe AI kan helpen

Wat kan er dus worden gedaan om dit te bestrijden? Misschien niet verrassend, ligt het antwoord in de technologie die deepfakes mogelijk maakt. Als we deze plaag willen stoppen voordat deze meer momentum krijgt, moeten we vuur bestrijden met vuur. AI kan helpen bij het genereren van deepfakes – maar het kan ook, gelukkig, helpen bij het automatisch identificeren ervan en op grote schaal.

Met de juiste AI-hulpmiddelen kunnen bedrijven automatisch bepalen of een bepaalde foto, video of document is gemanipuleerd. Door tientallen verschillende modellen in te zetten voor het identificeren van vervalsingen, kan AI bedrijven automatisch vertellen of een bepaalde foto of video verdacht is. Net als de tools die bedrijven al inzetten om dagelijkse operaties te automatiseren, kunnen deze tools op de achtergrond draaien zonder overbelaste personeelsleden te belasten of tijd weg te nemen van belangrijke projecten.

Als en wanneer een foto als mogelijk vervalst wordt geïdentificeerd, kunnen menselijke medewerkers worden gewaarschuwd en kunnen ze het probleem rechtstreeks evalueren, geholpen door de informatie die door de AI wordt verstrekt. Met behulp van diepe scananalyse kan het bedrijven waarom het denkt dat een foto waarschijnlijk is gemanipuleerd – door bijvoorbeeld te wijzen op handmatig aangepaste metadata, het bestaan van identieke afbeeldingen op het web, verschillende fotografische onregelmatigheden, enz.

Niets van dit alles is bedoeld om de geweldige vooruitgang die we de afgelopen jaren in generatieve AI-technologie hebben gezien, te minimaliseren, die inderdaad nuttige en productieve toepassingen heeft in verschillende industrieën. Maar de kracht – en de eenvoud – van deze opkomende technologie garandeert bijna haar misbruik door mensen die organisaties willen manipuleren, hetzij voor persoonlijk gewin of om maatschappelijke chaos te zaaien.

Organisaties kunnen het beste van twee werelden hebben: de productiviteitsvoordelen van AI zonder de nadelen van alomtegenwoordige deepfakes. Maar dit vereist een nieuw niveau van waakzaamheid, vooral gezien het feit dat de output van generatieve AI alleen maar overtuigender, gedetailleerder en levendiger wordt met de dag. Hoe sneller organisaties aandacht besteden aan dit probleem, hoe sneller ze de volle voordelen van een geautomatiseerde wereld kunnen plukken.