„Deep Fakes“ brzy mohou proniknout do geografie

Obavy z „deep fakes“ začínají expandovat do dalších oblastí, jako je geografická informační věda (GIS). Výzkumníci z Binghamtonské univerzity nyní začínají řešit tento potenciální problém.

Tým zahrnuje asociálního profesora geografie Chengbina Denga a čtyři další kolegy, včetně Bo Zhaoa a Yifana Sune z Washingtonské univerzity, a Shaozenga Zhanga a Chunxue Xu z Oregonské státní univerzity.

Nový výzkum byl publikován v Cartography and Geographic Information Science, s názvem “Deep fake geography? When geospatial data encounter Artificial Intelligence.”

V článku tým zkoumá, jak lze konstruovat a detekovat falešné satelitní snímky.

“Upřímně, jsme pravděpodobně první, kdo rozpoznal tento potenciální problém,” řekl Deng.

Geografická informační věda (GIS) a GeoAI

Geografická informační věda (GIS) se používá pro mnoho různých aplikací, včetně národní obrany a autonomních vozidel. Díky rozvoji Geospatial Artificial Intelligence (GeoAI) mělo AI technologie dopad na toto pole.

GeoAI používá strojové učení k extrakci a analýze geoprostorových dat. Nicméně, GeoAI by mohlo být také použito k falšování GPS signálů, lokálních informací na sociálních médiích, fabricování fotografií geografických prostředí a pro širokou škálu dalších nebezpečných aplikací.

“Potřebujeme zachovat vše v souladu s etikou. Ale zároveň, my výzkumníci také potřebujeme věnovat pozornost a najít způsob, jak odlišit nebo identifikovat ty falešné snímky,” řekl Deng. “S mnoha datovými sadami, tyto snímky mohou vypadat reálně pro lidské oko.”

Konstrukce falešných snímků

Prvním krokem k detekci umělých snímků je konstrukce jednoho, takže tým spoléhal na běžnou techniku pro vytváření deep fakes nazvanou Cycle-Consistent Adversarial Networks (CycleGAN). CycleGAN je nesupervizovaný algoritmus hlubokého učení, který může simulovat syntetická média.

Generative Adversarial Networks (GAN), které jsou typem AI, vyžadují trénovací vzorky obsahu, který jsou programovány produkovat. Například, GAN by mohlo generovat obsah pro prázdné místo na mapě určením různých možností.

Výzkumníci se pokusili upravit satelitní snímek Tacomy ve státě Washington, a vložili prvky Seattlu a Pekingu, zatímco se snažili vypadat co nejrealističtěji. Nicméně, výzkumníci varují před takovými úkoly.

“Není to o technice; je to o tom, jak lidé používají technologii,” řekl Deng. “Chceme použít technologii pro dobré, ne pro špatné účely.”

Po vytvoření, tým porovnal 26 různých obrazových metrik, aby určil, zda existují nějaké statistické rozdíly mezi pravými a falešnými snímky, a registrovali takové rozdíly u 20 z 26 indikátorů (80%).

Rozdíly zahrnovaly barvu střech, kde barvy ve skutečných snímcích byly uniformní, zatímco ty v kompozici byly skvrnité. Tým také zjistil, že falešný satelitní snímek byl méně barevný a více tmavý, ale měl také ostřejší hrany. Podle Denga, rozdíly závisely na vstupních datech, která byla použita pro vývoj falešného.

Tento výzkum vytváří základ pro další práci, která by mohla umožnit geografům sledovat různé typy neuronových sítí, aby viděli, jak generují falešné snímky, což také vede k lepší detekci. Tým říká, že systematické metody budou muset být vyvinuty, aby detekovaly deep fakes a ověřily důvěryhodné informace v tomto poli.

“My všichni chceme pravdu,” řekl Deng.