Wat zijn Deepfakes?

Naarmate deepfakes gemakkelijker te maken zijn en meer worden gebruikt, wordt er meer aandacht aan ze besteed. Deepfakes zijn het onderwerp van discussies over AI-ethiek, desinformatie, openheid van informatie en internet, en regulering. Het is verstandig om op de hoogte te zijn van deepfakes en een intuïtief begrip te hebben van wat deepfakes zijn. Dit artikel zal de definitie van een deepfake verduidelijken, hun gebruikscases onderzoeken, bespreken hoe deepfakes kunnen worden gedetecteerd en de implicaties van deepfakes voor de samenleving onderzoeken.

Wat zijn Deepfakes?

Voordat we verdergaan met het bespreken van deepfakes, is het handig om even de tijd te nemen om te verduidelijken wat “deepfakes” eigenlijk zijn. Er is een aanzienlijke hoeveelheid verwarring over de term Deepfake, en vaak wordt de term verkeerd toegepast op elk vervalst medium, ongeacht of het een echte deepfake is of niet. Om als een Deepfake te kwalificeren, moet het vervalste medium in kwestie zijn gegenereerd met een machine-learning-systeem, specifiek een diep neuronaal netwerk.

Het belangrijkste ingrediënt van deepfakes is machine learning. Machine learning heeft het mogelijk gemaakt voor computers om automatisch video en audio te genereren, relatief snel en gemakkelijk. Diepe neurale netwerken worden getraind op beelden van een echte persoon om het netwerk te leren hoe mensen eruitzien en zich bewegen onder de doelomgevingscondities. Het getrainde netwerk wordt vervolgens gebruikt op beelden van een andere persoon en aangevuld met aanvullende computergraphics-technieken om de nieuwe persoon te combineren met de oorspronkelijke beelden. Een encoder-algoritme wordt gebruikt om de overeenkomsten tussen het oorspronkelijke gezicht en het doelgezicht te bepalen. Zodra de gemeenschappelijke kenmerken van de gezichten zijn geïsoleerd, wordt een tweede AI-algoritme, een decoder, gebruikt. De decoder onderzoekt de gecodeerde (gecomprimeerde) beelden en reconstrueert ze op basis van de kenmerken in de oorspronkelijke beelden. Twee decoders worden gebruikt, een op het gezicht van de oorspronkelijke persoon en de tweede op het gezicht van de doelpersoon. Om de uitwisseling te maken, wordt de decoder getraind op beelden van persoon X gevoed met beelden van persoon Y. Het resultaat is dat het gezicht van persoon Y wordt gereconstrueerd over de gezichtsuitdrukkingen en oriëntatie van persoon X.

Op dit moment duurt het nog steeds een aanzienlijke tijd om een deepfake te maken. De maker van de valse video moet veel tijd besteden aan het handmatig aanpassen van parameters van het model, omdat suboptimale parameters leiden tot opvallende imperfecties en beeldglitches die de ware aard van de valse video verraden.

Hoewel het vaak wordt aangenomen dat de meeste deepfakes zijn gemaakt met een type neuronaal netwerk dat een generatief tegenstrijdig netwerk (GAN) wordt genoemd, gebruiken veel (misschien de meeste) deepfakes die tegenwoordig worden gemaakt geen GAN’s. Hoewel GAN’s een prominente rol speelden in de creatie van vroege deepfakes, worden de meeste deepfake-video’s gegenereerd met behulp van alternatieve methoden, volgens Siwei Lyu van SUNY Buffalo.

Het vereist een onevenredig grote hoeveelheid trainingsdata om een GAN te trainen, en GAN’s nemen vaak veel langer de tijd om een beeld te renderen in vergelijking met andere beeldgeneratietechnieken. GAN’s zijn ook beter geschikt voor het genereren van statische beelden dan video, omdat GAN’s moeite hebben om consistentie te behouden van frame tot frame. Het is veel gebruikelijker om een encoder en meerdere decoders te gebruiken om deepfakes te creëren.

Waar worden Deepfakes voor gebruikt?

Veel van de deepfakes die online worden gevonden, zijn van pornografische aard. Volgens onderzoek van Deeptrace, een AI-bedrijf, waren ongeveer 95% van de ongeveer 15.000 deepfake-video’s die in september 2019 werden genomen, van pornografische aard. Een verontrustende implicatie van dit feit is dat, naarmate de technologie gemakkelijker te gebruiken wordt, incidenten van nep-wraakporno kunnen toenemen.

Echter, niet alle deepfakes zijn van pornografische aard. Er zijn meer legitieme gebruiken voor deepfake-technologie. Audio-deepfake-technologie kan helpen om mensen hun normale stem te laten uitzenden nadat deze zijn beschadigd of verloren zijn gegaan als gevolg van ziekte of letsel. Deepfakes kunnen ook worden gebruikt om de gezichten van mensen te verbergen die in gevoelige, potentieel gevaarlijke situaties verkeren, terwijl hun lippen en gezichtsuitdrukkingen nog steeds kunnen worden gelezen. Deepfake-technologie kan mogelijk worden gebruikt om de nasynchronisatie van buitenlandse films te verbeteren, om oude en beschadigde media te herstellen en zelfs om nieuwe stijlen van kunst te creëren.

Non-Video Deepfakes

Terwijl de meeste mensen aan nep-video’s denken wanneer ze de term “deepfake” horen, zijn nep-video’s bij lange na niet het enige type nep-medium dat met deepfake-technologie wordt gegenereerd. Deepfake-technologie wordt gebruikt om foto’s en audio-fakes te creëren. Zoals eerder vermeld, worden GAN’s vaak gebruikt om nep-beelden te genereren. Men denkt dat er veel gevallen zijn van nep-LinkedIn- en Facebook (META ) -profielen met profielfoto’s die zijn gegenereerd met deepfake-algoritmes.

Het is ook mogelijk om audio-deepfakes te creëren. Diepe neurale netwerken worden getraind om stemklonen/stemhuiden van verschillende mensen te produceren, waaronder beroemdheden en politici. Een beroemde voorbeeld van een audio-Deepfake is wanneer het AI-bedrijf Dessa gebruik maakte van een AI-model, ondersteund door niet-AI-algoritmes, om de stem van de podcast-host Joe Rogan na te bootsen.

Hoe Deepfakes te detecteren

Naarmate deepfakes geavanceerder worden, zal het moeilijker worden om ze te onderscheiden van echte media. Op dit moment zijn er enkele kenmerken waar mensen naar kunnen kijken om te bepalen of een video mogelijk een deepfake is, zoals slechte lip-sync, onnatuurlijke beweging, flikkering rond de rand van het gezicht en vervorming van fijne details zoals haar, tanden of reflecties. Andere potentiële kenmerken van een deepfake zijn lager kwaliteit onderdelen van dezelfde video en onregelmatig knipperen van de ogen.

Hoewel deze kenmerken mogelijk helpen om een deepfake te herkennen, kunnen ze in de toekomst mogelijk niet langer effectief zijn als de technologie voor het maken van deepfakes verbetert. De enige optie voor betrouwbare deepfake-detectie kan zijn om andere soorten AI te trainen om nep-media te onderscheiden van echte media.

Kunstmatige intelligentie-bedrijven, waaronder veel van de grote technologiebedrijven, onderzoeken methoden voor het detecteren van deepfakes. Vorige december werd een deepfake-detectie-uitdaging gestart, ondersteund door drie technologie-reuzen: Amazon (AMZN ), Facebook en Microsoft. Onderzoeksteams van over de hele wereld werkten aan methoden voor het detecteren van deepfakes, concurrerend om de beste detectie-methoden te ontwikkelen. Andere groepen van onderzoekers, zoals een groep van gecombineerde onderzoekers van Google (GOOGL ) en Jigsaw, werken aan een soort “gezichtsforensische” techniek die kan detecteren of video’s zijn bewerkt, hun datasets open source maken en anderen aanmoedigen om deepfake-detectie-methoden te ontwikkelen. Het eerder genoemde Dessa heeft gewerkt aan het verfijnen van deepfake-detectie-technieken, om ervoor te zorgen dat de detectie-modellen werken op deepfake-video’s die op internet worden gevonden, in plaats van alleen op vooraf samengestelde trainings- en testdatasets, zoals de open-source-dataset die Google heeft verstrekt.

Er zijn ook andere strategieën die worden onderzocht om de verspreiding van deepfakes aan te pakken. Bijvoorbeeld, het controleren van video’s op overeenstemming met andere informatiebronnen is een strategie. Zoeken kunnen worden gedaan naar video’s van gebeurtenissen die mogelijk vanuit andere hoeken zijn genomen, of achtergronddetails van de video (zoals weerspatronen en locaties) kunnen worden gecontroleerd op ongerechtigheden. Bovendien kan een Blockchain-online-ledger-systeem video’s registreren wanneer ze voor het eerst worden gemaakt, waarbij de oorspronkelijke audio en beelden worden opgeslagen, zodat afgeleide video’s altijd kunnen worden gecontroleerd op manipulatie.

Uiteindelijk is het belangrijk dat betrouwbare methoden voor het detecteren van deepfakes worden gecreëerd en dat deze detectie-methoden blijven werken met de nieuwste ontwikkelingen in deepfake-technologie. Hoewel het moeilijk is om te weten wat de exacte gevolgen van deepfakes zullen zijn, als er geen betrouwbare methoden zijn voor het detecteren van deepfakes (en andere vormen van nep-media), kan desinformatie mogelijk wijdverspreid raken en het vertrouwen van mensen in de samenleving en instellingen ondermijnen.

Implicaties van Deepfakes

Wat zijn de gevaren van het toelaten van deepfakes zonder controle?

Een van de grootste problemen die deepfakes op dit moment creëren, is non-consensuele pornografie, gegenereerd door het combineren van mensen’s gezichten met pornografische video’s en beelden. AI-ethici zijn bezorgd dat deepfakes vaker zullen worden gebruikt voor het creëren van nep-wraakporno. Bovendien kunnen deepfakes worden gebruikt om iemand te pesten en zijn reputatie te beschadigen, aangezien ze kunnen worden gebruikt om mensen in controversiële en compromitterende situaties te plaatsen.

Bedrijven en cybersecurity-specialisten hebben hun bezorgdheid geuit over het gebruik van deepfakes voor het faciliteren van oplichting, fraude en afpersing. Volgens verklaringen is deepfake-audio gebruikt om werknemers van een bedrijf te overtuigen om geld over te maken naar oplichters

Het is mogelijk dat deepfakes nog meer schadelijke gevolgen kunnen hebben dan hierboven vermeld. Deepfakes kunnen mogelijk het vertrouwen van mensen in media in het algemeen ondermijnen en het moeilijk maken voor mensen om onderscheid te maken tussen echte en valse nieuwsberichten. Als veel video’s op internet nep zijn, wordt het gemakkelijker voor overheden, bedrijven en andere entiteiten om twijfel te zaaien over legitieme controverses en onethische praktijken.

Wanneer het gaat om overheden, kunnen deepfakes zelfs een bedreiging vormen voor de werking van de democratie. Democratie vereist dat burgers in staat zijn om geïnformeerde beslissingen te nemen over politici op basis van betrouwbare informatie. Desinformatie ondermijnt democratische processen. Bijvoorbeeld, de president van Gabon, Ali Bongo, verscheen in een video waarin hij de bevolking van Gabon probeerde te geruststellen. De president werd verondersteld ziek te zijn geweest voor een lange tijd, en zijn plotselinge verschijning in een waarschijnlijke nep-video zette een poging tot staatsgreep in gang. President Donald Trump beweerde dat een audio-opname van hem waarin hij pocht over het grijpen van vrouwen bij de genitaliën nep was, ondanks dat hij het ook “kleedkamergesprek” noemde. Prins Andrew beweerde dat een afbeelding die door de advocaat van Emily Maitilis was verstrekt, nep was, hoewel de advocaat volhield dat het authentiek was.

Uiteindelijk, hoewel er legitieme gebruiken zijn voor deepfake-technologie, zijn er veel potentiële schadelijke gevolgen die kunnen ontstaan door het misbruik van die technologie. Daarom is het extreem belangrijk dat methoden worden ontwikkeld om de authenticiteit van media te bepalen en dat deze methoden worden onderhouden.