‘Deep Fakes’ Zullen Spoedig Onderdeel Worden van Geografie

De zorgen over ‘deep fakes’ beginnen zich uit te breiden naar andere gebieden, zoals geografische informatiewetenschap (GIS). Onderzoekers aan de Binghamton University zijn nu begonnen met het aanpakken van dit potentiële probleem.

Het team bestaat uit associate professor in de geografie Chengbin Deng, en vier andere collega’s, waaronder Bo Zhao en Yifan Sun aan de University of Washington, en Shaozeng Zhang en Chunxue Xu aan de Oregon State University.

Het nieuwe onderzoek is gepubliceerd in Cartography and Geographic Information Science, getiteld “Deep fake geography? When geospatial data encounter Artificial Intelligence.”

In het artikel onderzoeken de onderzoekers hoe valse satellietbeelden kunnen worden gemaakt en gedetecteerd.

“Eerlijk gezegd zijn we waarschijnlijk de eerste die dit potentiële probleem herkennen,” zei Deng.

Geografische Informatiewetenschap (GIS) en GeoAI

Geografische informatiewetenschap (GIS) wordt gebruikt voor veel verschillende toepassingen, waaronder nationale verdediging en autonome voertuigen. Door de ontwikkeling van Geospatial Artificial Intelligence (GeoAI) heeft AI-technologie een impact op het veld.

GeoAI gebruikt machine learning om geospatiale data te extraheren en te analyseren. Echter, GeoAI kan ook worden gebruikt om GPS-signalen te vervalsen, locatie-informatie op sociale media te fabriceren, foto’s van geografische omgevingen te vervalsen en voor een breed scala aan andere gevaarlijke toepassingen.

“We moeten alles in overeenstemming brengen met ethiek. Maar tegelijkertijd moeten wij onderzoekers ook aandacht besteden en een manier vinden om die valse beelden te onderscheiden of te identificeren,” zei Deng. “Met veel datasets kunnen deze beelden er voor het menselijk oog echt uitzien.”

Het Maken van Valse Beelden

De eerste stap om een kunstmatig gemaakt beeld te detecteren is om er een te maken, dus het team vertrouwde op de veelvoorkomende techniek voor het maken van deep fakes genaamd Cycle-Consistent Adversarial Networks (CycleGAN). CycleGAN is een onbegeleide deep learning-algoritme dat synthetische media kan simuleren.

Generative Adversarial Networks (GAN), die een type AI zijn, vereisen trainingsvoorbeelden van de inhoud die ze worden geprogrammeerd om te produceren. Bijvoorbeeld, de GAN kan inhoud voor een lege plek op een kaart genereren door de verschillende mogelijkheden te bepalen.

De onderzoekers probeerden een satellietbeeld van Tacoma, Washington, te wijzigen, en ze voegden elementen van Seattle en Beijing toe, terwijl ze het er zo realistisch mogelijk lieten uitzien. Echter, de onderzoekers waarschuwen tegen dergelijke taken.

“Het gaat niet om de techniek; het gaat om hoe mensen de technologie gebruiken,” zei Deng. “We willen technologie gebruiken voor het goede, niet voor slechte doeleinden.”

Na het maken, vergeleek het team 26 verschillende beeldmetrieken om te bepalen of er statistische verschillen waren tussen de echte en valse beelden, en ze registreerden dergelijke verschillen op 20 van de 26 indicatoren (80%).

De verschillen omvatten de kleur van daken, waar de kleuren in de echte beelden uniform waren, terwijl die in de compositie gevlekt waren. Het team vond ook dat het valse satellietbeeld minder kleurrijk en donkerder was, maar het had ook scherpere randen. Volgens Deng waren de verschillen afhankelijk van de invoer die werd gebruikt om het valse beeld te ontwikkelen.

Dit onderzoek legt de basis voor verder onderzoek, dat geografen in staat kan stellen om verschillende soorten neurale netwerken te volgen om te zien hoe ze valse beelden genereren, wat ook leidt tot betere detectie. Het team zegt dat systematische methoden moeten worden ontwikkeld om deep fakes te detecteren en betrouwbare informatie in dit veld te verifiëren.

“We willen allemaal de waarheid,” zei Deng.