Le ‘Deep Fakes’ potrebbero presto entrare nella geografia

Le preoccupazioni per le ‘deep fakes’ stanno iniziando a espandersi in altre aree, come la scienza dell’informazione geografica (GIS). I ricercatori dell’Università di Binghamton stanno ora iniziando ad affrontare questo potenziale problema.

Il team include l’associate professor di geografia Chengbin Deng e quattro altri colleghi, tra cui Bo Zhao e Yifan Sun all’Università di Washington, e Shaozeng Zhang e Chunxue Xu all’Università statale dell’Oregon.

La nuova ricerca è stata pubblicata in Cartography and Geographic Information Science, intitolata “Deep fake geography? Quando i dati geospaziali incontrano l’Intelligenza Artificiale.”

Nel documento, il team esplora come possono essere costruite e rilevate immagini satellitari false.

“Onestamente, probabilmente siamo i primi a riconoscere questo potenziale problema”, ha detto Deng.

Scienza dell’informazione geografica (GIS) e GeoAI

La scienza dell’informazione geografica (GIS) viene utilizzata per molte applicazioni diverse, tra cui la difesa nazionale e i veicoli autonomi. Attraverso lo sviluppo della Geospatial Artificial Intelligence (GeoAI), la tecnologia AI ha avuto un impatto sul campo.

GeoAI utilizza l’apprendimento automatico per estrarre e analizzare i dati geospaziali. Tuttavia, GeoAI potrebbe anche essere utilizzato per falsificare i segnali GPS, le informazioni di localizzazione sui social media, fabbricare fotografie di ambienti geografici e per una vasta gamma di altre applicazioni pericolose.

“Dobbiamo mantenere tutto ciò in conformità con l’etica. Ma allo stesso tempo, noi ricercatori dobbiamo anche prestare attenzione e trovare un modo per differenziare o identificare quelle immagini false”, ha detto Deng. “Con molti set di dati, queste immagini possono sembrare reali all’occhio umano”.

Costruire immagini false

Il primo passo per rilevare un’immagine costruita artificialmente è costruirne una, quindi il team ha fatto affidamento sulla tecnica comune per creare deep fakes chiamata Cycle-Consistent Adversarial Networks (CycleGAN). CycleGAN è un algoritmo di apprendimento automatico non supervisionato che può simulare i media sintetici.

Le reti avversarie generative (GAN), che sono un tipo di AI, richiedono campioni di formazione del contenuto che stanno programmando per produrre. Ad esempio, il GAN potrebbe generare contenuto per un punto vuoto su una mappa determinando le diverse possibilità.

I ricercatori hanno cercato di alterare un’immagine satellitare di Tacoma, nello stato di Washington, e hanno interspersato elementi di Seattle e Pechino, rendendola apparire il più realistica possibile. Tuttavia, i ricercatori mettono in guardia contro tali compiti.

“Non si tratta della tecnica; si tratta di come gli esseri umani utilizzano la tecnologia”, ha detto Deng. “Vogliamo utilizzare la tecnologia per il bene, non per scopi cattivi”.

Dopo la creazione, il team ha confrontato 26 diverse metriche di immagine per determinare se ci fossero differenze statistiche tra le immagini vere e false e hanno registrato tali differenze in 20 dei 26 indicatori (80%).

Le differenze includevano il colore dei tetti, dove i colori nelle immagini reali erano uniformi, mentre quelli nel composito erano macchiati. Il team ha anche scoperto che l’immagine satellitare falsa era meno colorata e più scura, ma aveva anche bordi più nitidi. Secondo Deng, le differenze dipendevano dagli input utilizzati per sviluppare il falso.

Questa ricerca getta le basi per ulteriori lavori, che potrebbero consentire ai geografi di tracciare diversi tipi di reti neurali per vedere come generano immagini false, il che porta anche a una migliore rilevazione. Il team afferma che saranno necessari metodi sistematici per rilevare le deep fakes e verificare le informazioni attendibili in questo campo.

“Tutti vogliamo la verità”, ha detto Deng.