«Глубокие подделки» скоро могут появиться в географии

Проблемы с «глубокими подделками» начинают распространяться на другие области, такие как географическая информационная наука (GIS). Исследователи в Университете Бингемтона теперь начинают решать эту потенциальную проблему.

Команда включает в себя доцента географии Чэнбина Дэна и четырех других коллег, включая Бо Чжао и Ифана Суна в Университете Вашингтона, и Шаоцена Чжана и Чуньсюэ Сю в Университете штата Орегон.

Новое исследование было опубликовано в Картографии и географической информационной науке, под названием «География глубоких подделок? Когда геопространственные данные встречаются с искусственным интеллектом».

В статье команда исследует, как можно создать и обнаружить ложные спутниковые изображения.

“Честно говоря, мы, вероятно, первые, кто признал эту потенциальную проблему”, – сказал Дэн.

Географическая информационная наука (GIS) и GeoAI

Географическая информационная наука (GIS) используется для многих различных приложений, включая национальную оборону и автономные транспортные средства. Благодаря развитию геопространственного искусственного интеллекта (GeoAI) технология ИИ оказала влияние на эту область.

GeoAI использует машинное обучение для извлечения и анализа геопространственных данных. Однако GeoAI также может быть использован для подделки сигналов GPS, информации о местоположении в социальных сетях, создания фотографий географических сред и для многих других опасных применений.

“Нам нужно сохранить все это в соответствии с этикой. Но в то же время мы, исследователи, также должны обращать внимание и находить способ различать или идентифицировать эти поддельные изображения”, – сказал Дэн. “С большим количеством наборов данных эти изображения могут выглядеть реальными для человеческого глаза”.

Создание ложных изображений

Первый шаг к обнаружению искусственно созданного изображения – создать его, поэтому команда использовала обычную технику создания глубоких подделок, называемую циклическими адверсариальными сетями (CycleGAN). CycleGAN – это несупервизионный алгоритм глубокого обучения, который может симулировать синтетические медиа.

Генеративные адверсариальные сети (GAN), которые являются типом ИИ, требуют обучающих образцов содержания, которое они программированы производить. Например, GAN может генерировать содержание для пустого места на карте, определяя различные возможности.

Исследователи поставили цель изменить спутниковое изображение Такомы, штат Вашингтон, и они вплели элементы Сиэтла и Пекина, делая его как можно более реалистичным. Однако исследователи предупреждают против таких задач.

“Это не о технике; это о том, как люди используют технологию”, – сказал Дэн. “Мы хотим использовать технологию для добра, а не для плохих целей”.

После создания команда сравнила 26 разных метрик изображений, чтобы определить, есть ли какие-либо статистические различия между истинными и ложными изображениями, и они зарегистрировали такие различия на 20 из 26 индикаторов (80%).

Различия включали цвет крыш, где цвета в реальных изображениях были однородными, а в составном – пятнистыми. Команда также обнаружила, что поддельное спутниковое изображение было менее цветным и более тусклым, но оно также имело более острые края. Согласно Дэну, различия зависели от входных данных, использованных для создания поддельного изображения.

Это исследование закладывает основу для дальнейшей работы, которая может позволить географам отслеживать различные типы нейронных сетей, чтобы увидеть, как они генерируют поддельные изображения, что также приводит к лучшему обнаружению. Команда говорит, что системные методы необходимо разработать, чтобы обнаружить глубокие подделки и проверить достоверную информацию в этой области.

“Мы все хотим правды”, – сказал Дэн.