‘Deep Fakes’ könnten bald in die Geographie eindringen

Die Bedenken hinsichtlich ‘Deep Fakes’ breiten sich langsam auf andere Bereiche wie die Geographische Informationswissenschaft (GIS) aus. Forscher an der Binghamton University beschäftigen sich nun mit diesem potenziellen Problem.

Das Team besteht aus dem Associate Professor für Geographie Chengbin Deng und vier weiteren Kollegen, darunter Bo Zhao und Yifan Sun von der University of Washington sowie Shaozeng Zhang und Chunxue Xu von der Oregon State University.

Die neue Forschung wurde in der Zeitschrift Cartography and Geographic Information Science veröffentlicht und trägt den Titel „Deep fake geography? Wenn geospatialer Daten auf künstliche Intelligenz treffen“.

In dem Paper untersucht das Team, wie falsche Satellitenbilder konstruiert und erkannt werden können.

“Ehrlich gesagt, wir sind wahrscheinlich die Ersten, die dieses potenzielle Problem erkennen”, sagte Deng.

Geographische Informationswissenschaft (GIS) und GeoAI

Die Geographische Informationswissenschaft (GIS) wird für viele verschiedene Anwendungen eingesetzt, darunter nationale Verteidigung und autonome Fahrzeuge. Durch die Entwicklung von Geospatial Artificial Intelligence (GeoAI) hat die künstliche Intelligenz einen Einfluss auf das Feld.

GeoAI verwendet maschinelles Lernen, um geospatialen Daten zu extrahieren und zu analysieren. Allerdings kann GeoAI auch verwendet werden, um GPS-Signale, Standortinformationen in sozialen Medien, Fotografien von geografischen Umgebungen zu fälschen und für eine Vielzahl von anderen gefährlichen Anwendungen.

“Wir müssen all dies im Einklang mit der Ethik halten. Aber gleichzeitig müssen wir Forscher auch darauf achten und einen Weg finden, um diese gefälschten Bilder zu identifizieren”, sagte Deng. “Mit vielen Datensätzen können diese Bilder für das menschliche Auge real aussehen.”

Falsche Bilder konstruieren

Der erste Schritt, um ein künstlich konstruiertes Bild zu erkennen, besteht darin, eines zu konstruieren, sodass das Team auf die gängige Technik für die Erstellung von Deep Fakes namens Cycle-Consistent Adversarial Networks (CycleGAN) zurückgriff. CycleGAN ist ein unüberwachtes Deep-Learning-Algorithmus, der synthetische Medien simulieren kann.

Generative Adversarial Networks (GAN), eine Art künstlicher Intelligenz, erfordern Trainingsbeispiele des Inhalts, den sie produzieren sollen. Zum Beispiel kann das GAN Inhalte für eine leere Stelle auf einer Karte generieren, indem es die verschiedenen Möglichkeiten bestimmt.

Die Forscher versuchten, ein Satellitenbild von Tacoma, Washington, zu verändern und fügten Elemente von Seattle und Peking hinzu, während sie es so realistisch wie möglich erscheinen ließen. Allerdings warnen die Forscher vor solchen Aufgaben.

“Es geht nicht um die Technik, sondern darum, wie Menschen die Technologie nutzen”, sagte Deng. “Wir wollen die Technologie für das Gute und nicht für schlechte Zwecke nutzen.”

Nach der Erstellung verglich das Team 26 verschiedene Bildmetriken, um festzustellen, ob es statistische Unterschiede zwischen den echten und falschen Bildern gab, und sie registrierten solche Unterschiede bei 20 der 26 Indikatoren (80%).

Die Unterschiede umfassten die Farbe der Dächer, bei denen die Farben in den echten Bildern einheitlich waren, während sie in den Kompositen fleckig waren. Das Team fand auch heraus, dass das gefälschte Satellitenbild weniger farbenfroh und dunkler war, aber auch scharfe Kanten aufwies. Laut Deng hingen die Unterschiede von den Eingaben ab, die zur Erstellung des gefälschten Bildes verwendet wurden.

Diese Forschung legt den Grundstein für weitere Arbeiten, die es Geographen ermöglichen könnten, verschiedene Arten von neuronalen Netzen zu verfolgen, um zu sehen, wie sie gefälschte Bilder generieren, was auch zu einer besseren Erkennung führt. Das Team sagt, dass systematische Methoden entwickelt werden müssen, um Deep Fakes zu erkennen und vertrauenswürdige Informationen in diesem Bereich zu überprüfen.

“Wir alle wollen die Wahrheit”, sagte Deng.