“Falsificări adânci” ar putea pătrunde în curând în geografie

Îngrijorările legate de “falsificări adânci” încep să se extindă și în alte domenii, cum ar fi știința informației geografice (GIS). Cercetătorii de la Universitatea Binghamton abordează acum această problemă potențială.

Echipa include profesorul asociat de geografie Chengbin Deng și alți patru colegi, printre care Bo Zhao și Yifan Sun de la Universitatea Washington, și Shaozeng Zhang și Chunxue Xu de la Universitatea de Stat Oregon.

Cercetarea nouă a fost publicată în Cartografie și știința informației geografice, cu titlul “Geografie falsificată? Când datele geospațiale întâlnesc Inteligența Artificială“.

În articol, echipa explorează modul în care pot fi construite și detectate imagini satelitare false.

“Sincer, probabil suntem primii care recunosc această problemă potențială”, a spus Deng.

Știința informației geografice (GIS) și GeoAI

Știința informației geografice (GIS) este utilizată în multe aplicații diferite, inclusiv apărarea națională și vehiculele autonome. Prin dezvoltarea Inteligenței Artificiale Geospațiale (GeoAI), tehnologia AI a avut un impact asupra domeniului.

GeoAI utilizează învățarea automată pentru a extrage și analiza datele geospațiale. Cu toate acestea, GeoAI poate fi utilizată și pentru a falsifica semnalele GPS, informațiile de localizare pe rețelele sociale, pentru a fabrica fotografii ale mediului geografic și pentru o gamă largă de alte aplicații periculoase.

“Trebuie să păstrăm toate acestea în conformitate cu etica. Dar, în același timp, noi, cercetătorii, trebuie să fim atenți și să găsim o modalitate de a diferenția sau de a identifica aceste imagini false”, a spus Deng. “Cu multe seturi de date, aceste imagini pot părea reale pentru ochiul uman”.

Construirea de imagini false

Primul pas pentru detectarea unei imagini construite artificial este să se construiască una, astfel încât echipa s-a bazat pe tehnica obișnuită de creare a falsificărilor adânci, numită Cycle-Consistent Adversarial Networks (CycleGAN). CycleGAN este un algoritm de învățare profundă nesupravegheat care poate simula media sintetică.

Rețelele Adversariale Generative (GAN), care sunt un tip de IA, necesită mostre de antrenament ale conținutului pe care sunt programate să îl producă. De exemplu, GAN poate genera conținut pentru un spațiu gol pe o hartă, determinând diferitele posibilități.

Cercetătorii au încercat să modifice o imagine satelită a orașului Tacoma, Washington, și au interpolat elemente din Seattle și Beijing, făcând-o să pară cât mai realistă. Cu toate acestea, cercetătorii avertizează împotriva unor astfel de sarcini.

“Nu este vorba despre tehnica în sine, ci despre modul în care oamenii utilizează tehnologia”, a spus Deng. “Vrem să utilizăm tehnologia în scopuri bune, nu pentru scopuri rele”.

După crearea imaginii, echipa a comparat 26 de metriți de imagine diferiți pentru a determina dacă există diferențe statistice între imaginile adevărate și false, și au înregistrat astfel de diferențe la 20 din cei 26 de indicatori (80%).

Diferențele au inclus culoarea acoperișurilor, unde culorile din imaginile reale erau uniforme, în timp ce cele din compus erau pete. Echipa a constatat, de asemenea, că imaginea satelită falsă era mai puțin colorată și mai dim, dar avea margini mai ascuțite. Conform lui Deng, diferențele depindeau de intrările utilizate pentru a dezvolta falsificarea.

Această cercetare pune bazele pentru lucrări ulterioare, care ar putea permite geografilor să urmărească diferite tipuri de rețele neuronale pentru a vedea cum generează imagini false, ceea ce conduce și la o detectare mai bună. Echipa spune că metode sistematice vor trebui să fie dezvoltate pentru a detecta falsificări adânci și pentru a verifica informații de încredere în acest domeniu.

“Toți dorim adevărul”, a spus Deng.