Expert zegt: “Perfectly Real” DeepFakes zullen binnen 6 maanden hier zijn

De indrukwekkende maar omstreden DeepFakes, afbeeldingen en video’s die zijn gemanipuleerd of gegenereerd door deep neural networks, zullen naar verwachting zowel indrukwekkender als omstredder worden in de nabije toekomst, volgens Hao Li, de directeur van de Vision and Graphics Lab aan de University of Southern California. Li is een expert op het gebied van computer visie en DeepFakes, en in een recent interview met CNBC zei hij dat “perfectly real” Deepfakes waarschijnlijk binnen een half jaar zullen arriveren.

Li legde uit dat de meeste DeepFakes nog steeds herkenbaar zijn als nep voor het blote oog, en zelfs de meer overtuigende DeepFakes vereisen nog steeds een aanzienlijke inspanning van de maker om ze realistisch te laten lijken. Echter, Li is ervan overtuigd dat binnen zes maanden DeepFakes die perfect echt lijken, zullen verschijnen als de algoritmes meer geavanceerd worden.

Li dacht aanvankelijk dat het twee tot drie jaar zou duren voordat extreem overtuigende DeepFakes meer gemeengoed zouden worden, en hij deed deze voorspelling op een recente conferentie die werd gehouden aan het Massachusetts Institute of Technology. Echter, Li herzag zijn tijdlijn na de onthulling van de recente Chinese app Zao en andere recente ontwikkelingen met betrekking tot DeepFakes-technologie. Li legde uit aan CNBC dat de methoden die nodig zijn om realistische DeepFakes te creëren, meer of minder de methoden zijn die momenteel worden gebruikt, en dat de belangrijkste ingrediënt die realistische DeepFakes zal creëren, meer trainingsdata is.

Li en zijn collega-onderzoekers hebben hard gewerkt aan DeepFake-detectietechnologie, in afwachting van de komst van extreem overtuigende DeepFakes. Li en zijn collega’s, zoals Hany Farid van de University of California Berkely, hebben geëxperimenteerd met state-of-the-art DeepFake-algoritmes om te begrijpen hoe de technologie die ze creëert, werkt.

Li legde uit aan CNBC:

“Als je in staat wilt zijn om deepfakes te detecteren, moet je ook zien wat de limieten zijn. Als je A.I.-frameworks nodig hebt die in staat zijn om dingen te detecteren die extreem echt zijn, moeten die worden getraind met behulp van deze soort technologieën, dus op sommige manieren is het onmogelijk om ze te detecteren als je niet weet hoe ze werken.”

Li en zijn collega’s zijn geïnvesteerd in het creëren van tools om DeepFakes te detecteren, in erkenning van de potentiële problemen en gevaren die de technologie met zich meebrengt. Li en zijn collega’s zijn verre van de enige groep A.I.-onderzoekers die bezorgd zijn over de mogelijke effecten van DeepFakes en geïnteresseerd zijn in het creëren van tegenmaatregelen.

Onlangs is Facebook begonnen met een gezamenlijke samenwerking (META ) met MIT, Microsoft (MSFT ) en de University of Oxford om de DeepFake Detection Challenge te creëren, die tot doel heeft om tools te creëren die kunnen worden gebruikt om te detecteren wanneer afbeeldingen of video’s zijn gewijzigd. Deze tools zullen open source zijn en bruikbaar voor bedrijven, media-organisaties en overheden. Ondertussen hebben onderzoekers van de University of Southern California’s Information Sciences Institute onlangs een reeks algoritmes gecreëerd die nep-video’s met een nauwkeurigheid van ongeveer 96% kunnen onderscheiden.

Echter, Li legde ook uit dat het probleem met DeepFakes de manier is waarop ze kunnen worden misbruikt, en niet de technologie zelf. Li noemde verschillende legitieme mogelijke gebruiken voor DeepFake-technologie, waaronder in de entertainment- en mode-industrie.

DeepFake-technieken zijn ook gebruikt om de gezichtsuitdrukkingen van mensen te repliceren met hun gezichten verborgen in afbeeldingen. Onderzoekers gebruikten Generative Adversarial Networks om een volledig nieuw gezicht te creëren dat dezelfde uitdrukking had als een onderwerp in een originele afbeelding. De technieken die zijn ontwikkeld door de Noorse Universiteit van Wetenschap en Technologie kunnen helpen om gezichtsuitdrukkingen tijdens interviews met gevoelige personen die privacy nodig hebben, zoals klokkenluiders, te renderen. Iemand anders kan zijn gezicht laten gebruiken als invaller voor de persoon die anoniem wil blijven, maar de gezichtsuitdrukkingen van de persoon kunnen nog steeds worden gelezen.

Naarmate de geavanceerdheid van Deepfake-technologie toeneemt, zullen de legitieme gebruiksgevallen voor Deepfakes ook toenemen. Echter, het gevaar zal ook toenemen, en om deze reden wordt het werk aan het detecteren van DeepFakes door Li en anderen nog belangrijker.