‘Deep Fakes’ Akan Segera Muncul di Geografi

Kekhawatiran tentang ‘deep fakes’ mulai meluas ke area lain, seperti ilmu informasi geografis (GIS). Peneliti di Universitas Binghamton sekarang mulai mengatasi masalah potensial ini.

Tim ini termasuk Associate Professor of Geography Chengbin Deng, dan empat rekan lainnya, termasuk Bo Zhao dan Yifan Sun di Universitas Washington, dan Shaozeng Zhang dan Chunxue Xu di Universitas Negeri Oregon.

Penelitian baru ini diterbitkan di Cartography and Geographic Information Science, berjudul “Deep fake geography? When geospatial data encounter Artificial Intelligence.”

Dalam makalah ini, tim ini mengeksplorasi bagaimana gambar satelit palsu dapat dibuat dan dideteksi.

“Jujur, kami mungkin yang pertama mengenali masalah potensial ini,” kata Deng.

Ilmu Informasi Geografis (GIS) dan GeoAI

Ilmu informasi geografis (GIS) digunakan untuk banyak aplikasi yang berbeda, termasuk pertahanan nasional dan kendaraan otonom. Melalui pengembangan Geospatial Artificial Intelligence (GeoAI), teknologi AI telah membuat dampak pada bidang ini.

GeoAI menggunakan pembelajaran mesin untuk mengekstrak dan menganalisis data geospasial. Namun, GeoAI juga dapat digunakan untuk memalsukan sinyal GPS, informasi lokasi di media sosial, membuat foto palsu dari lingkungan geografis, dan untuk banyak aplikasi berbahaya lainnya.

“Kami perlu menjaga semua ini sesuai dengan etika. Namun, kami peneliti juga perlu memperhatikan dan menemukan cara untuk membedakan atau mengidentifikasi gambar palsu,” kata Deng. “Dengan banyak set data, gambar-gambar ini dapat terlihat nyata bagi mata manusia.”

Membuat Gambar Palsu

Langkah pertama untuk mendeteksi gambar yang dibuat secara artifisial adalah dengan membuatnya, sehingga tim ini menggunakan teknik umum untuk membuat deep fakes yang disebut Cycle-Consistent Adversarial Networks (CycleGAN). CycleGAN adalah algoritma pembelajaran mesin yang tidak terawasi yang dapat mensimulasikan media sintetis.

Jaringan Adversarial Generatif (GAN), yang merupakan jenis AI, memerlukan sampel pelatihan dari konten yang mereka program untuk produksi. Misalnya, GAN dapat menghasilkan konten untuk spot kosong di peta dengan menentukan kemungkinan yang berbeda.

Peneliti ini berusaha untuk mengubah gambar satelit Tacoma, Washington, dan mereka menyisipkan elemen-elemen Seattle dan Beijing sambil membuatnya terlihat seolah-olah nyata. Namun, peneliti ini memperingatkan tentang tugas-tugas seperti itu.

“Ini bukan tentang teknik; ini tentang bagaimana manusia menggunakan teknologi,” kata Deng. “Kami ingin menggunakan teknologi untuk kebaikan, bukan untuk tujuan yang buruk.”

Setelah membuatnya, tim ini membandingkan 26 metrik gambar yang berbeda untuk menentukan apakah ada perbedaan statistik antara gambar yang sebenarnya dan gambar palsu, dan mereka mendaftarkan perbedaan pada 20 dari 26 indikator (80%).

Perbedaan tersebut termasuk warna atap, di mana warna pada gambar yang sebenarnya seragam, sedangkan pada gambar komposit berbintik-bintik. Tim ini juga menemukan bahwa gambar satelit palsu kurang berwarna dan lebih redup, tetapi juga memiliki tepi yang lebih tajam. Menurut Deng, perbedaan tersebut tergantung pada input yang digunakan untuk mengembangkan gambar palsu.

Penelitian ini meletakkan dasar untuk pekerjaan lebih lanjut, yang dapat memungkinkan ahli geografi untuk melacak berbagai jenis jaringan saraf untuk melihat bagaimana mereka menghasilkan gambar palsu, yang juga menyebabkan deteksi yang lebih baik. Tim ini mengatakan bahwa metode sistematis perlu dikembangkan untuk mendeteksi deep fakes dan memverifikasi informasi yang dapat dipercaya dalam bidang ini.

“Kami semua ingin kebenaran,” kata Deng.