«Глибокі підробки» можуть скоро з’явитися в географії

Стурбованість щодо «глибоких підробок» починає поширюватися на інші галузі, такі як географічна інформаційна наука (GIS). Дослідники університету Бінгемтона зараз починають займатися цим потенційним проблемою.

Команда включає до складу асоційованого професора географії Ченгбіна Денга та чотирьох інших колег, включаючи Бо Чжао та Їфана Суня у Вашингтонському університеті, а також Шаоцена Чжана та Чуньсюе Сю університету штату Орегон.

Нове дослідження було опубліковано в Cartography and Geographic Information Science, під назвою “Глибокі підробки географії? Коли геопросторові дані зустрічаються з штучним інтелектом.”

У статті команда досліджує, як можна сконструювати та виявити фальшиві супутникові зображення.

“Чесно кажучи, ми, ймовірно, перші, хто визнає цю потенційну проблему”, – сказав Денг.

Географічна інформаційна наука (GIS) та GeoAI

Географічна інформаційна наука (GIS) використовується для багатьох різних застосувань, включаючи національну оборону та автономні транспортні засоби. Через розвиток геопросторового штучного інтелекту (GeoAI) технологія штучного інтелекту зробила вплив на цю галузь.

GeoAI використовує машинне навчання для видобування та аналізу геопросторових даних. Однак GeoAI також можна використовувати для підробки сигналів GPS, інформації про місцезнаходження в соціальних мережах, виготовлення фотографій географічних середовищ та для широкого спектра інших небезпечних застосувань.

“Нам потрібно дотримуватися всіх цих принципів у відповідності з етикою. Але в той же час ми, дослідники, також повинні звернути увагу та знайти спосіб відрізнити або ідентифікувати ці фальшиві зображення”, – сказав Денг. “З великою кількістю наборів даних ці зображення можуть виглядати реальними для людського ока.”

Конструювання фальшивих зображень

Перший крок до виявлення штучно створеного зображення полягає в тому, щоб створити його, тому команда спирається на загальний метод створення глибоких підробок під назвою Циклічні антагоністичні нейронні мережі (CycleGAN). CycleGAN – це ненавчена глибока навчальна алгоритм, яка може симулювати синтетичні медіа.

Генеративні антагоністичні мережі (GAN), які є типом штучного інтелекту, вимагають навчальних зразків вмісту, який вони програмуються для виробництва. Наприклад, GAN може генерувати вміст для порожнього місця на карті, визначаючи різні можливості.

Дослідники поставили за мету змінити супутникове зображення Такоми, штат Вашингтон, і вони вплітали елементи Сієтла та Пекіна, роблячи його таким реалістичним, як це тільки можливо. Однак дослідники попереджають проти таких завдань.

“Це не стосується техніки; це стосується того, як люди використовують технологію”, – сказав Денг. “Ми хочемо використовувати технологію для добра, а не для поганих цілей.”

Після створення команда порівняла 26 різних метрик зображень, щоб визначити, чи існують будь-які статистичні відмінності між справжніми та фальшивими зображеннями, і вони зареєстрували такі відмінності на 20 з 26 показників (80%).

Відмінності включали колір дахів, де кольори в реальних зображеннях були однорідними, тоді як у композитних вони були плямистими. Команда також виявила, що фальшиве супутникове зображення було менш кольоровим і більш тьмяним, але воно також мало більш чіткі краї. За словами Денга, відмінності залежали від входів, використаних для розробки фальшивого зображення.

Це дослідження закладає основу для подальшої роботи, яка могла б дозволити географам відстежувати різні типи нейронних мереж, щоб побачити, як вони генерують фальшиві зображення, що також веде до кращого виявлення. Команда стверджує, що систематичні методи повинні бути розроблені для виявлення глибоких підробок і верифікації достовірної інформації в цій галузі.

“Ми всі хочемо правди”, – сказав Денг.