‘Dybe Falsknerier’ Kan Snart Blive En Del Af Geografien

Bekymringen om ‘dybe falsknerier’ begynder at brede sig til andre områder, såsom geografisk informationsvidenskab (GIS). Forskere ved Binghamton University er nu begyndt at beskæftige sig med dette potentielle problem.

Holdet består af associate professor i geografi Chengbin Deng og fire andre kolleger, herunder Bo Zhao og Yifan Sun fra University of Washington, og Shaozeng Zhang og Chunxue Xu fra Oregon State University.

Den nye forskning er offentliggjort i Cartography and Geographic Information Science, med titlen “Deep fake geography? When geospatial data encounter Artificial Intelligence.”

I artiklen udforsker holdet, hvordan falske satellitbilleder kan konstrueres og detekteres.

“Ærligt talt, er vi sandsynligvis de første, der erkender dette potentielle problem,” sagde Deng.

Geografisk Informationsvidenskab (GIS) og GeoAI

Geografisk informationsvidenskab (GIS) bruges til mange forskellige formål, herunder national forsvar og autonome køretøjer. Gennem udviklingen af Geospatial Artificial Intelligence (GeoAI) har AI-teknologien haft en indvirkning på feltet.

GeoAI bruger maskinel læring til at udtrække og analysere geografiske data. Men GeoAI kan også bruges til at fabrikere GPS-signaler, lokalitetsoplysninger på sociale medier, fabrikere fotografier af geografiske miljøer og til en lang række andre farlige formål.

“Vi skal sikre, at alt dette overholdes i overensstemmelse med etiske retningslinjer. Men samtidig skal vi forskere også være opmærksomme og finde en måde at differentiere eller identificere disse falske billeder,” sagde Deng. “Med mange datasæt kan disse billeder se ægte ud for det menneskelige øje.”

Konstruktion Af Falske Billeder

Det første skridt til at detektere et kunstigt konstrueret billede er at konstruere et, så holdet havde brug for den almindelige teknik til at skabe dybe falsknerier kaldet Cycle-Consistent Adversarial Networks (CycleGAN). CycleGAN er en usuperviseret dyb læring algoritme, der kan simulere syntetisk medie.

Generative Adversarial Networks (GAN), der er en type AI, kræver træningsprøver af det indhold, de er programmeret til at producere. For eksempel kan GAN generere indhold til en tom plads på et kort ved at bestemme de forskellige muligheder.

Forskerne satte sig for at ændre et satellitbillede af Tacoma, Washington, og de indføjede elementer fra Seattle og Beijing, mens de gjorde det så realistisk som muligt. Men forskerne advarer imod sådanne opgaver.

“Det handler ikke om teknikken, men om, hvordan mennesker bruger teknologien,” sagde Deng. “Vi vil bruge teknologien til det gode, ikke til dårlige formål.”

Efter konstruktionen sammenlignede holdet 26 forskellige billedmetrikker for at bestemme, om der var nogen statistiske forskelle mellem de ægte og falske billeder, og de registrerede sådanne forskelle på 20 af de 26 indikatorer (80%).

Forskellene omfattede tagenes farve, hvor farverne i de ægte billeder var ensartede, mens de i de sammensatte billeder var flekkede. Holdet fandt også, at det falske satellitbillede var mindre farverigt og mere dystert, men det havde også skarpere kanter. Ifølge Deng afhængte forskellene af de indgange, der blev brugt til at udvikle det falske billede.

Denne forskning lægger grundlaget for yderligere arbejde, der kan enable geografer til at spore forskellige typer neurale netværk for at se, hvordan de genererer falske billeder, hvilket også fører til bedre detektion. Holdet siger, at systematiske metoder vil være nødvendige for at detektere dybe falsknerier og verificere troværdig information på dette område.

“Vi alle ønsker sandheden,” sagde Deng.