Система раннього попередження про дезінформацію, розроблена за допомогою штучного інтелекту

Дослідники університету Нотр-Дам працюють над проектом боротьби з дезінформацією в Інтернеті, включаючи медійні кампанії з підбурювання до насильства, розгортання розбрату та втручання в демократичні вибори. 

Команда дослідників спиралася на штучний інтелект (ШІ) для розробки системи раннього попередження. Система зможе визначати маніпульовані зображення, відео з глибокими підробками та дезінформацію в Інтернеті. Це масштабована, автоматизована система, яка використовує контент-орієнтований пошук зображень. Потім вона може застосовувати техніки комп’ютерного бачення для виявлення політичних мемів у кількох соціальних мережах. 

Тім Венінгер – асоційований професор кафедри комп’ютерних наук та інженерії університету Нотр-Дам. 

“Меми легко створюються і ще легше поширюються”, – сказав Венінгер. “Якщо говорити про політичні меми, вони можуть бути використані для допомоги у голосуванні, але вони також можуть бути використані для поширення неточної інформації та заподіяння шкоди.”

Венінгер співпрацював з Волтером Шейром, асоційованим професором кафедри комп’ютерних наук та інженерії університету Нотр-Дам, а також з членами дослідницької команди. 

Вибори 2019 року в Індонезії

Команда протестувала систему під час загальних виборів 2019 року в Індонезії. Вони зібрали понад два мільйони зображень і контенту з різних джерел у Twitter та Instagram, пов’язаних з виборами. 

На виборах ліво-центристський чинний президент переміг консервативного популіста. Після виборів спалахнули насильницькі протести, під час яких загинуло вісім осіб, а сотні людей були поранені. Дослідження команди показало, що на соціальних мережах були запущені спонтанні та координовані кампанії з метою впливу на вибори та підбурювання до насильства. 

Координовані кампанії використовували маніпульовані зображення, які проєктували хибні заяви та викривлювали певні події. Новинні статті та меми були сфабриковані з використанням логотипів легітимних новин, з метою провокування громадян та прихильників обох партій. 

Решта світу

Загальні вибори 2019 року в Індонезії є прикладом того, що може статися в решті світу. Дезінформація, особливо поширена через соціальні мережі, може загрожувати демократичним процесам. 

Дослідницька команда університету Нотр-Дам включала експертів цифрової криміналістики та спеціалістів з питань миру. За словами команди, система розробляється для того, щоб помічати маніпульований контент, з метою попередження насильства та попередження журналістів чи спостерігачів за виборами про потенційні загрози. 

Система ще перебуває на етапі дослідження та розробки, але в майбутньому вона буде масштабованою та персоналізованою для користувачів, щоб вони могли відстежувати контент. Однією з найбільших проблем при розробці системи є визначення найкращого способу масштабування інгестії та обробки даних. За словами Шейра, система зараз оцінюється, а наступним кроком буде перехід до оперативного використання. 

Є можливість, що система може бути використана для моніторингу загальних виборів 2020 року в США, які, як очікується, будуть супроводжуватися величезною кількістю дезінформації та маніпуляцій.

“Ера дезінформації настав”, – сказав Шейр. “Глибокий підроблений відеоролик, який заміняє акторів у популярному фільмі, може здатися забавним і легким, але уявіть відеоролик або мем, створені виключно для того, щоб виставити одного світового лідера проти іншого – кажучи слова, яких вони не говорили насправді. Уявіть, як швидко такий контент може бути поширений і розповсюджений по платформах. Розгляньте наслідки таких дій.”