‘Diep vervalsingen’ kunnen binnenkort in de geografie terechtkomen

De zorgen over ‘diep vervalsingen’ beginnen zich uit te breiden naar andere gebieden, zoals de geografische informatiewetenschap (GIS). Onderzoekers van de Binghamton University zijn nu begonnen met het aanpakken van dit potentieel probleem.

Het team bestaat uit associate professor in de geografie Chengbin Deng, en vier andere collega’s, waaronder Bo Zhao en Yifan Sun van de Universiteit van Washington, en Shaozeng Zhang en Chunxue Xu van de Oregon State University.

Het nieuwe onderzoek is gepubliceerd in Cartography and Geographic Information Science, getiteld “Diep vervalsingen in de geografie? Wanneer georuimtelijke data in aanraking komen met kunstmatige intelligentie.”

In het artikel verkennen het team hoe valse satellietbeelden kunnen worden gemaakt en gedetecteerd.

“Eerlijk gezegd, wij zijn waarschijnlijk de eersten die dit potentieel probleem erkennen,” zei Deng.

Geografische informatiewetenschap (GIS) en GeoAI

Geografische informatiewetenschap (GIS) wordt gebruikt voor veel verschillende toepassingen, waaronder nationale verdediging en autonome voertuigen. Door de ontwikkeling van Geospatial Artificial Intelligence (GeoAI) heeft AI-technologie een impact op het veld.

GeoAI gebruikt machine learning om georuimtelijke data te extraheren en te analyseren. Echter, GeoAI kan ook worden gebruikt om GPS-signalen te vervalsen, locatie-informatie op sociale media te fabriceren, foto’s van geografische omgevingen te maken en voor een breed scala aan andere gevaarlijke toepassingen.

“We moeten ervoor zorgen dat al dit in overeenstemming is met de ethiek. Maar tegelijkertijd moeten wij onderzoekers ook aandacht besteden en een manier vinden om die valse beelden te onderscheiden of te identificeren,” zei Deng. “Met veel datasets kunnen deze beelden er voor het menselijk oog echt uitzien.”

Het creëren van valse beelden

De eerste stap om een kunstmatig gemaakt beeld te detecteren is om er een te maken, dus het team vertrouwde op de gebruikelijke techniek voor het creëren van diep vervalsingen, genaamd Cycle-Consistent Adversarial Networks (CycleGAN). CycleGAN is een onbegeleide diepe leer-algoritme dat synthetische media kan simuleren.

Generative Adversarial Networks (GAN), die een type AI zijn, vereisen trainingsvoorbeelden van de inhoud die ze worden geprogrammeerd om te produceren. Bijvoorbeeld, de GAN kan inhoud voor een lege plek op een kaart genereren door de verschillende mogelijkheden te bepalen.

De onderzoekers hebben een satellietbeeld van Tacoma, Washington, gewijzigd en elementen van Seattle en Beijing toegevoegd terwijl ze er zo realistisch mogelijk uit lieten zien. Echter, de onderzoekers waarschuwen tegen dergelijke taken.

“Het gaat niet om de techniek; het gaat om hoe mensen de technologie gebruiken,” zei Deng. “We willen technologie gebruiken voor het goede, niet voor slechte doeleinden.”

Na het creëren, hebben het team 26 verschillende beeldmetrieken vergeleken om te bepalen of er statistische verschillen waren tussen de echte en valse beelden, en ze hebben dergelijke verschillen geregistreerd op 20 van de 26 indicatoren (80%).

De verschillen omvatten de kleur van daken, waar de kleuren in de echte beelden uniform waren, terwijl die in de compositie gevlekt waren. Het team vond ook dat het valse satellietbeeld minder kleurrijk en donkerder was, maar het had scherpere randen. Volgens Deng waren de verschillen afhankelijk van de invoer die werd gebruikt om het valse beeld te ontwikkelen.

Dit onderzoek legt de basis voor verdere werk, dat geografen in staat kan stellen om verschillende soorten neurale netwerken te volgen om te zien hoe ze valse beelden genereren, wat ook leidt tot betere detectie. Het team zegt dat systematische methoden moeten worden ontwikkeld om diep vervalsingen te detecteren en betrouwbare informatie in dit veld te verifiëren.

“We willen allemaal de waarheid,” zei Deng.