Система раннего предупреждения о дезинформации, разработанная с помощью ИИ

Исследователи Университета Нотр-Дам работают над проектом по борьбе с дезинформацией в Интернете, включая медиа-кампании, направленные на провоцирование насилия, разжигание розни и вмешательство в демократические выборы.

Команда исследователей использовала искусственный интеллект (ИИ) для разработки системы раннего предупреждения. Система сможет выявлять манипулированные изображения, глубокие фейковые видео и дезинформацию в Интернете. Это масштабируемая, автоматизированная система, использующая контент-ориентированный поиск изображений. Затем она может применять техники, основанные на компьютерном зрении, для выявления политических мемов в нескольких социальных сетях.

Тим Венингер – ассоциированный профессор кафедры компьютерных наук и инженерии Университета Нотр-Дам.

“Мемы легко создать и еще легче поделиться”, – сказал Венингер. “Когда речь идет о политических мемах, они могут быть использованы для того, чтобы помочь людям принять участие в голосовании, но они также могут быть использованы для распространения неточной информации и причинения вреда.”

Венингер сотрудничал с Уолтером Шейром, ассоциированным профессором кафедры компьютерных наук и инженерии Университета Нотр-Дам, а также с членами исследовательской команды.

Выборы 2019 года в Индонезии

Команда протестировала систему на выборах 2019 года в Индонезии. Они собрали более двух миллионов изображений и контента из различных источников в Twitter и Instagram, связанных с выборами.

На выборах победил левый, центристский действующий президент, победивший консервативного, популистского кандидата. После выборов вспыхнули насильственные протесты, в результате которых погибли восемь человек и были ранены сотни других. Исследование команды показало, что были запущены спонтанные и скоординированные кампании в социальных сетях с целью влияния на выборы и провоцирования насилия.

Скоординированные кампании использовали манипулированные изображения, которые проецировали ложные утверждения и неправильно представляли определенные события. Фабриковались новостные истории и мемы с использованием логотипов легитимных новостных изданий, с целью провоцирования граждан и сторонников обеих партий.

Остальной мир

Выборы 2019 года в Индонезии – это пример того, что может произойти в остальном мире. Дезинформация, особенно распространяемая через социальные сети, может угрожать демократическим процессам.

Исследовательская команда Университета Нотр-Дам включала экспертов по цифровой криминалистике и специалистов по мирным исследованиям. Согласно команде, система разрабатывается для того, чтобы пометить манипулированный контент, с целью предотвращения насилия и предупреждения журналистов или наблюдателей за выборами о потенциальных угрозах.

Система все еще находится на стадии исследования и разработки, но в конечном итоге она будет масштабируемой и персонализированной для пользователей, чтобы они могли отслеживать контент. Некоторые из самых больших проблем в разработке системы включают определение лучшего способа масштабирования потребления и обработки данных. Согласно Шейру, система в настоящее время оценивается, и следующим шагом будет переход к операционному использованию.

Есть шанс, что система может быть использована для мониторинга выборов 2020 года в США, которые, как ожидается, будут сопровождаться огромным количеством дезинформации и манипуляций.

“Эра дезинформации пришла”, – сказал Шейр. “Глубокий фейк, заменяющий актеров в популярном фильме, может показаться забавным и легким, но представьте себе видео или мем, созданные исключительно для того, чтобы противопоставить одного мирового лидера другому – говорящие слова, которые они не говорили на самом деле. Представьте, как быстро такой контент может быть поделен и распространен на платформах. Рассмотрите последствия таких действий.”