‘Djupfalsk’ Kan Snart Komme Inn I Geografi

Bekymringene over ‘dyptfalsk’ begynner å utvide seg til andre områder, som geografisk informasjonsvitenskap (GIS). Forskere ved Binghamton University begynner nå å ta tak i dette potensielle problemet.

Teamet inkluderer associate professor i geografi Chengbin Deng, og fire andre kolleger, inkludert Bo Zhao og Yifan Sun ved University of Washington, og Shaozeng Zhang og Chunxue Xu ved Oregon State University.

Den nye forskningen ble publisert i Cartography and Geographic Information Science, med tittelen “Deep fake geography? When geospatial data encounter Artificial Intelligence.”

I artikkelen utforsker teamet hvordan feil satellittbilder kan konstrueres og oppdages.

“Ærlig talt, vi er sannsynligvis de første til å erkjenne dette potensielle problemet,” sa Deng.

Geografisk Informasjonsvitenskap (GIS) og GeoAI

Geografisk informasjonsvitenskap (GIS) brukes i mange forskjellige applikasjoner, inkludert nasjonal forsvar og autonome kjøretøy. Gjennom utviklingen av Geospatial Artificial Intelligence (GeoAI) har AI-teknologi hatt en innvirkning på feltet.

GeoAI bruker maskinlæring til å trekke ut og analysere geografiske data. Men GeoAI kan også brukes til å fabrikkere GPS-signaler, lokasjonsinformasjon på sosiale medier, fabrikkere fotografier av geografiske miljøer og for en rekke andre farlige applikasjoner.

“Vi må holde all dette i samsvar med etikk. Men samtidig må vi forskere også være oppmerksomme og finne en måte å differensiere eller identifisere disse feil bildene,” sa Deng. “Med mange datasamlinger kan disse bildene se ut til å være ekte for det menneskelige øyet.”

Konstruksjon av Feil Bilder

Det første steget til å oppdage et kunstig konstruert bilde er å konstruere ett, så teamet brukte den vanlige teknikken for å lage dyptfalsk kalt Cycle-Consistent Adversarial Networks (CycleGAN). CycleGAN er en uovervåket dypt læring algoritme som kan simulere syntetisk media.

Generative Adversarial Networks (GAN), som er en type AI, krever treningsprøver av innholdet de er programmert til å produsere. For eksempel kan GAN generere innhold for en tom plass på en kart ved å bestemme de ulike mulighetene.

Forskerne satte ut å endre et satellittbilde av Tacoma, Washington, og de blandet inn elementer fra Seattle og Beijing mens de gjorde det så realistisk som mulig. Men forskerne advarer mot slike oppgaver.

“Det handler ikke om teknikken, men om hvordan mennesker bruker teknologien,” sa Deng. “Vi vil bruke teknologi for det gode, ikke for dårlige formål.”

Etter å ha konstruert bildet, sammenlignet teamet 26 forskjellige bilde-målinger for å bestemme om det var noen statistiske forskjeller mellom de ekte og feil bildene, og de registrerte slike forskjeller på 20 av de 26 indikatorene (80%).

Forskjellene inkluderte fargen på takene, hvor fargene i de ekte bildene var enhetlige, mens de i komposittbildet var flekkete. Teamet fant også at det feil satellittbildet var mindre fargesterkt og mer matt, men det hadde også skarpere kanter. Ifølge Deng var forskjellene avhengige av innputtene som ble brukt til å utvikle det feil bildet.

Dette forskningsarbeidet legger grunnlaget for videre arbeid, som kan enable geografer til å spore forskjellige typer neurale nettverk for å se hvordan de genererer feil bilder, hvilket også fører til bedre oppdaging. Teamet sier at systematiske metoder må utvikles for å oppdage dyptfalsk og verifisere pålitelig informasjon i dette feltet.

“Vi alle ønsker sannheten,” sa Deng.