Модель штучного інтелекту може ідентифікувати розповсюджувачів дезінформації до того, як вони вчинять

Модель штучного інтелекту, створена дослідниками з Університету Шеффілда, потенційно може визначити, які користувачі Твіттера постили дезінформацію до того, як вони це зробили. Якщо модель виявиться надійною, її можна буде використовувати для доповнення існуючих методів боротьби з дезінформацією в соціальних мережах.

За даними TechXplore, дослідження було проведено під керівництвом дослідників з кафедри комп’ютерних наук Університету Шеффілда, включаючи доктора Нікоса Алетраса та Їду Му. Студія була опублікована в журналі PeerJ і детально описує методи, використані для прогнозування того, чи поширить користувач соціальних мереж дезінформацію, розміщуючи контент з ненадійних джерел новин.

Команда дослідників зібрала понад 1 мільйон твітів від понад 6000 користувачів Твіттера, всі публічно доступні. Команда застосувала техніки обробки природної мови для підготовки даних для навчання моделі штучного інтелекту. Модель штучного інтелекту була бінарною класифікаційною моделлю, яка позначала користувачів як тих, хто ймовірно поширить інформацію з ненадійних джерел, або тих, хто не ймовірно поширить таку інформацію. Після того, як модель була навчена на даних, вона змогла досягти приблизно 79,7% точності класифікації.

При аналізі результатів роботи моделі дослідники виявили, що користувачі, які активно використовували нецензурну лексику і постійно твітіли про релігію та політику, були більш схильні поширювати інформацію з ненадійних джерел. Зокрема, було виявлено активне використання слів типу “ліберал”, “зМІ”, “уряд”, “Ізраїль” і “Іслам”. Між тим, користувачі, які поширювали інформацію з надійних джерел, схильні були використовувати слова типу “я хочу”, “я буду”, “мій настрій”, “я радий” і “день народження”. Окрім цього, вони зазвичай ділитися історіями про своє особисте життя, такі як взаємодія з друзями, їхні емоції чи інформація про їхні хобі.

Результати дослідження можуть допомогти соціальним мережам, таким як Фейсбук, Реддіт і Твіттер, розробити нові методи боротьби з поширенням дезінформації в Інтернеті. Дослідження також може допомогти психологам і соціальним вченим краще зрозуміти поведінку, яка призводить до масового поширення дезінформації в соціальних мережах.

Як пояснив Алетрас за даними TechXplore, соціальні мережі перетворилися на один з основних способів, яким люди отримують новини. Міліони користувачів по всьому світу отримують новини через Фейсбук і Твіттер щодня, але ці платформи також стали інструментами для поширення дезінформації в суспільстві. Алетрас також пояснив, що надійне визначення певних тенденцій у поведінці користувачів може допомогти у боротьбі з дезінформацією. Алетрас також зазначив, що “кореляція між використанням нецензурної лексики і поширенням ненадійного контенту можна пояснити високою онлайн-політичною ворожістю”.

За словами Му, аналіз поведінки користувачів, які поширюють ненадійну інформацію, може допомогти соціальним мережам доповнити існуючі методи факт-чекінгу і моделювання дезінформації на рівні користувача. Як сказав Му через TechXplore:

“Дослідження і аналіз поведінки користувачів, які поширюють контент з ненадійних джерел новин, може допомогти соціальним мережам запобігти поширенню фейкових новин на рівні користувача, доповнюючи існуючі методи факт-чекінгу, які працюють на рівні поста або джерела новин.”

Дослідження, проведене Алетрасом і Му, може бути прикладом використання штучного інтелекту для боротьби з дезінформацією, створеною штучним інтелектом. Останні місяці бачили зростання дезінформації щодо місцевої та національної політики, причому значна частина цього контенту генерувалася і поширювалася алгоритмами штучного інтелекту. Глибокі нейронні мережі були використані для створення реалістичних фотографій і профілів фейкових аккаунтів, які служать розповсюджувачами фейкових новин. Дослідження Алетраса і Му може допомогти соціальним мережам визначити, які аккаунти є фейковими, створеними з метою поширення шкідливої пропаганди і дезінформації.