‘Deep Fakes’ Ar Putea Să Pătrundă Curând În Geografie

Îngrijorările legate de ‘deep fakes’ încep să se extindă în alte domenii, cum ar fi știința informației geografice (GIS). Cercetătorii de la Universitatea Binghamton încep acum să abordeze această problemă potențială. 

Echipa include profesorul asociat de geografie Chengbin Deng și alți patru colegi, printre care Bo Zhao și Yifan Sun de la Universitatea Washington, și Shaozeng Zhang și Chunxue Xu de la Universitatea de Stat Oregon. 

Cercetarea nouă a fost publicată în Cartografia și știința informației geografice, cu titlul “Geografie deep fake? Când datele geospațiale întâlnesc Inteligența Artificială.”

În articol, echipa explorează modul în care pot fi construite și detectate imagini satelitare false. 

“Sincer, probabil suntem primii care recunosc această problemă potențială”, a spus Deng.

Știința informației geografice (GIS) și GeoAI 

Știința informației geografice (GIS) este utilizată în multe aplicații diferite, inclusiv apărarea națională și vehiculele autonome. Prin dezvoltarea Inteligenței Artificiale Geospațiale (GeoAI), tehnologia AI a avut un impact asupra domeniului.

GeoAI utilizează învățarea automată pentru a extrage și analiza datele geospațiale. Cu toate acestea, GeoAI ar putea fi utilizat și pentru a falsifica semnalele GPS, informațiile de localizare pe rețelele sociale, pentru a fabrica fotografii ale mediului geografic și pentru o gamă largă de alte aplicații periculoase.

“Trebuie să păstrăm toate acestea în conformitate cu etica. Dar, în același timp, noi, cercetătorii, trebuie să fim atenți și să găsim o modalitate de a diferenția sau identifica aceste imagini false”, a spus Deng. “Cu multe seturi de date, aceste imagini pot părea reale pentru ochiul uman.”

Construirea unor imagini false

Primul pas pentru detectarea unei imagini construite artificial este să se construiască una, astfel încât echipa s-a bazat pe tehnica obișnuită de creare a deep fakes, numită Cycle-Consistent Adversarial Networks (CycleGAN). CycleGAN este un algoritm de învățare profundă nesupravegheat care poate simula media sintetică. 

Rețelele Adversariale Generative (GAN), care sunt un tip de IA, necesită mostre de antrenament ale conținutului pe care sunt programate să îl producă. De exemplu, GAN ar putea genera conținut pentru un spațiu gol pe o hartă, determinând diferitele posibilități.

Cercetătorii au încercat să modifice o imagine satelit a orașului Tacoma, Washington, și au amestecat elemente din Seattle și Beijing, făcând-o să pară cât mai realistă. Cu toate acestea, cercetătorii avertizează împotriva unor astfel de sarcini. 

“Nu este vorba despre tehnica în sine; este vorba despre modul în care oamenii utilizează tehnologia”, a spus Deng. “Vrem să utilizăm tehnologia pentru scopuri bune, nu pentru scopuri rele.”

După crearea imaginii, echipa a comparat 26 de metrice de imagine diferite pentru a determina dacă există diferențe statistice între imaginile reale și false și au înregistrat astfel de diferențe la 20 din cele 26 de indicatori (80%). 

Diferențele au inclus culoarea acoperișurilor, unde culorile din imaginile reale erau uniforme, în timp ce cele din compozit erau pete. Echipa a constatat, de asemenea, că imaginea satelit falsă era mai puțin colorată și mai întunecată, dar avea și margini mai ascuțite. Conform lui Deng, diferențele depindeau de intrările utilizate pentru a dezvolta imaginea falsă.

Această cercetare pune bazele pentru lucrări ulterioare, care ar putea permite geografilor să urmărească diferite tipuri de rețele neuronale pentru a vedea cum generează imagini false, ceea ce conduce și la o detectare mai bună. Echipa spune că metode sistematice vor trebui să fie dezvoltate pentru a detecta deep fakes și pentru a verifica informațiile de încredere în acest domeniu. 

“Toți dorim adevărul”, a spus Deng.