‘Deep Fakes’ Kan Snart Komma In I Geografi

Oron för ‘deep fakes’ börjar spridas till andra områden, som geografisk informationsvetenskap (GIS). Forskare vid Binghamton University börjar nu att ta itu med detta potentiella problem.

Teamet består av associate professor i geografi Chengbin Deng, och fyra andra kollegor, inklusive Bo Zhao och Yifan Sun vid University of Washington, och Shaozeng Zhang och Chunxue Xu vid Oregon State University.

Den nya forskningen publicerades i Cartography and Geographic Information Science, med titeln “Deep fake geography? When geospatial data encounter Artificial Intelligence.”

I artikeln undersöker teamet hur falska satellitbilder kan konstrueras och upptäckas.

“Ärligt talat, vi är förmodligen de första som erkänner detta potentiella problem”, sa Deng.

Geografisk Informationsvetenskap (GIS) och GeoAI

Geografisk informationsvetenskap (GIS) används för många olika tillämpningar, inklusive nationell försvar och autonoma fordon. Genom utvecklingen av Geospatial Artificial Intelligence (GeoAI) har AI-tekniken haft en inverkan på fältet.

GeoAI använder maskinlärande för att extrahera och analysera geospatiala data. Men GeoAI kan också användas för att förfalska GPS-signal, lägesinformation på sociala medier, fabricera fotografier av geografiska miljöer och för en mängd andra farliga tillämpningar.

“Vi måste hålla allt detta i enlighet med etiken. Men samtidigt måste vi forskare också uppmärksamma och hitta ett sätt att differentiera eller identifiera de falska bilderna”, sa Deng. “Med många datamängder kan dessa bilder se verkliga ut för det mänskliga ögat.”

Konstruktion Av Falska Bilder

Det första steget för att upptäcka en konstruerad bild är att konstruera en, så teamet förlitade sig på den vanliga tekniken för att skapa deep fakes som kallas Cycle-Consistent Adversarial Networks (CycleGAN). CycleGAN är en oövervakad djupinlärningsalgoritm som kan simulera syntetisk media.

Generativa Adversarial Networks (GAN), som är en typ av AI, kräver träningsprover av innehållet de är programmerade att producera. Till exempel kan GAN generera innehåll för en tom plats på en karta genom att bestämma de olika möjligheterna.

Forskarna satte ut att ändra en satellitbild av Tacoma, Washington, och de blandade in element från Seattle och Peking medan de gjorde det så realistiskt som möjligt. Men forskarna varnar för sådana uppgifter.

“Det handlar inte om tekniken, det handlar om hur människor använder tekniken”, sa Deng. “Vi vill använda tekniken för det goda, inte för dåliga syften.”

Efter skapandet jämförde teamet 26 olika bildmått för att bestämma om det fanns några statistiska skillnader mellan de sanna och falska bilderna, och de registrerade sådana skillnader på 20 av de 26 indikatorerna (80%).

Skillnaderna inkluderade takens färg, där färgerna i de riktiga bilderna var enhetliga, medan de i den sammansatta var fläckiga. Teamet fann också att den falska satellitbilden var mindre färgrik och mer dunkel, men den hade också skarpare kanter. Enligt Deng var skillnaderna beroende av indata som användes för att utveckla den falska bilden.

Denna forskning lägger grunden för ytterligare arbete, som kan göra det möjligt för geografer att spåra olika typer av neuronnät för att se hur de genererar falska bilder, vilket också leder till bättre upptäckt. Teamet säger att systematiska metoder måste utvecklas för att upptäcka deep fakes och verifiera tillförlitlig information inom detta område.

“Vi vill alla ha sanningen”, sa Deng.