‘Deep Fakes’ Brzy Mohou Vstoupit Do Geografie

Obavy z ‘deep fakes’ začínají expandovat do dalších oblastí, jako je geografická informační věda (GIS). Výzkumníci z Binghamton University nyní začínají řešit tento potenciální problém. 

Tým zahrnuje associate profesora geografie Chengbina Denga a čtyři další kolegy, včetně Bo Zhao a Yifan Sun z University of Washington a Shaozenga Zhang a Chunxue Xu z Oregon State University. 

Nový výzkum byl publikován v Cartography and Geographic Information Science, s názvem “Deep fake geografie? Když geoprostorová data potkávají umělou inteligenci.”

V článku tým zkoumá, jak lze konstruovat a detekovat falešné satelitní snímky. 

“Upřímně, pravděpodobně jsme první, kdo uznává tento potenciální problém,” řekl Deng.

Geografická informační věda (GIS) a GeoAI 

Geografická informační věda (GIS) se používá pro mnoho různých aplikací, včetně národní obrany a autonomních vozidel. Díky rozvoji Geoprostorové umělé inteligence (GeoAI) měla umělá inteligence dopad na toto pole.

GeoAI používá strojové učení k extrakci a analýze geoprostorových dat. Nicméně, GeoAI by mohla být také použita k padělání GPS signálů, lokálních informací na sociálních médiích, fabrikaci fotografií geografických prostředí a pro širokou škálu dalších nebezpečných aplikací.

“Musíme vše držet v souladu s etikou. Ale zároveň musíme jako výzkumníci také dbát na to, abychom našli způsob, jak odlišit nebo identifikovat tyto falešné snímky,” řekl Deng. “S mnoha datovými sadami mohou tyto snímky vypadat reálně pro lidské oko.”

Konstrukce falešných snímků

Prvním krokem k detekci umělým konstruovaného snímku je konstrukce takového snímku, a proto se tým spoléhal na běžnou techniku pro vytváření deep fakes nazvanou Cycle-Consistent Adversarial Networks (CycleGAN). CycleGAN je nesupervizovaný algoritmus hlubokého učení, který může simulovat syntetická média. 

Generative Adversarial Networks (GAN), které jsou typem AI, vyžadují tréninkové vzorky obsahu, který mají být programovány k produkci. Například GAN by mohla generovat obsah pro prázdné místo na mapě tím, že určí různé možnosti.

Výzkumníci se pokusili upravit satelitní snímek Tacomy ve státě Washington a vmísili prvky Seattlu a Pekingu, zatímco se snažili, aby to vypadalo co nejrealističtěji. Nicméně, výzkumníci varují před takovými úkoly. 

“Není to o technice; je to o tom, jak lidé používají technologii,” řekl Deng. “Chceme používat technologii pro dobré, ne pro špatné účely.”

Po vytvoření tým porovnal 26 různých obrazových metrik, aby určil, zda existují nějaké statistické rozdíly mezi pravými a falešnými snímky, a registrovali takové rozdíly u 20 z 26 indikátorů (80%). 

Rozdíly zahrnovaly barvu střech, kde barvy ve skutečných snímcích byly uniformní, zatímco ty v kompozitu byly skvrnité. Tým také zjistil, že falešný satelitní snímek byl méně barevný a více tmavý, ale měl také ostřejší hrany. Podle Denga byly rozdíly závislé na vstupních datech použitých pro vývoj falešného.

Tento výzkum vytváří základ pro další práci, která by mohla umožnit geografům sledovat různé typy neuronových sítí, aby viděli, jak generují falešné snímky, což také vede k lepší detekci. Tým říká, že systematické metody budou muset být vyvinuty, aby se detekovaly deep fakes a ověřily důvěryhodné informace v tomto oboru. 

“Všichni chceme pravdu,” řekl Deng.