„Deep Fakes” Mogą Wkrótce Zostać Częścią Geografii

Obawy dotyczące „deep fakes” zaczynają rozprzestrzeniać się na inne obszary, takie jak nauka o informacji geograficznej (GIS). Naukowcy z Uniwersytetu Binghamton rozpoczynają rozwiązywanie tego potencjalnego problemu.

Zespół składa się z associate profesora geografii Chengbina Denga oraz czterech innych kolegów, w tym Bo Zhao i Yifan Sun z Uniwersytetu Waszyngtonu, oraz Shaozeng Zhang i Chunxue Xu z Uniwersytetu Stanu Oregon.

Nowe badania zostały opublikowane w Cartography and Geographic Information Science, pt. „Deep fake geography? When geospatial data encounter Artificial Intelligence.”

W artykule zespół bada, w jaki sposób fałszywe obrazy satelitarne mogą być konstruowane i wykrywane.

“Szczegółowo, jesteśmy prawdopodobnie pierwszymi, którzy rozpoznają ten potencjalny problem”, powiedział Deng.

Nauka o Informacji Geograficznej (GIS) i GeoAI

Nauka o informacji geograficznej (GIS) jest wykorzystywana w wielu różnych aplikacjach, w tym w obronie narodowej i pojazdach autonomicznych. Dzięki rozwojowi Geospatial Artificial Intelligence (GeoAI), technologia AI miała wpływ na ten obszar.

GeoAI wykorzystuje uczenie maszynowe do wyodrębniania i analizy danych geoprzestrzennych. Jednak GeoAI może być również wykorzystywana do fałszywych sygnałów GPS, informacji o lokalizacji w mediach społecznościowych, fałszywych fotografii środowisk geograficznych oraz do wielu innych niebezpiecznych zastosowań.

“Musimy zachować wszystko zgodnie z etyką. Ale jednocześnie, my naukowcy również musimy zwrócić uwagę i znaleźć sposób, aby różnicować lub identyfikować te fałszywe obrazy”, powiedział Deng. “Z wieloma zestawami danych, te obrazy mogą wyglądać prawdziwie dla ludzkiego oka.”

Budowanie Fałszywych Obrazów

Pierwszym krokiem do wykrycia sztucznie skonstruowanego obrazu jest jego skonstruowanie, więc zespół oparł się na powszechnej technice tworzenia deep fakes, zwanej Cycle-Consistent Adversarial Networks (CycleGAN). CycleGAN jest niezależnym algorytmem głębokiego uczenia, który może symulować syntetyczne media.

Sieci Adversarial Networks (GAN), które są rodzajem sztucznej inteligencji, wymagają przykładowych danych treści, które mają być generowane. Na przykład, GAN mogą generować treści dla pustego miejsca na mapie, określając różne możliwości.

Naukowcy postanowili zmodyfikować obraz satelitarny Tacoma, w stanie Washington, i wmieszać elementy Seattle i Pekinu, sprawiając, że wygląda on jak najbardziej realistycznie. Jednak naukowcy ostrzegają przed takimi zadaniami.

“To nie jest kwestia techniki; to jest kwestia, w jaki sposób ludzie wykorzystują technologię”, powiedział Deng. “Chcemy wykorzystywać technologię dla dobra, a nie dla złych celów.”

Po stworzeniu, zespół porównał 26 różnych metryk obrazu, aby określić, czy istnieją jakieś statystyczne różnice między prawdziwymi i fałszywymi obrazami, i zarejestrował takie różnice w 20 z 26 wskaźników (80%).

Różnice obejmowały kolor dachów, gdzie kolory w prawdziwych obrazach były jednolite, a w kompozycjach były plamiste. Zespół również stwierdził, że fałszywy obraz satelitarny był mniej kolorowy i bardziej ciemny, ale miał ostrzejsze krawędzie. Według Denga, różnice zależały od danych wejściowych, które zostały wykorzystane do stworzenia fałszywego obrazu.

To badanie stanowi podstawę dla dalszych prac, które mogą umożliwić geografom śledzenie różnych typów sieci neuronowych, aby zobaczyć, w jaki sposób generują fałszywe obrazy, co również prowadzi do lepszej detekcji. Zespół twierdzi, że będą musiały zostać opracowane systematyczne metody, aby wykryć deep fakes i zweryfikować godne zaufania informacje w tym obszarze.

“Wszyscy chcemy prawdy”, powiedział Deng.