Статистична модель допомагає виявляти дезінформацію в соціальних мережах

Математичний професор з Американського університету, разом зі своєю командою співробітників, розробив статистичну модель, яка може виявляти дезінформацію в соціальних мережах.

Машинне навчання все частіше використовується для зупинки поширення дезінформації, але все ще існує велика проблема, пов’язана з проблемою “чорних скриньок”, які виникають. Це стосується випадків, коли дослідники не розуміють, як машина приймає рішення, подібне до тих, які приймають люди.

Виявлення дезінформації за допомогою статистичних моделей

Зоїс Букувалас, асистент професора кафедри математики та статистики Американського університету, використав набір даних твітів з дезінформацією про COVID-19, щоб продемонструвати, як статистичні моделі можуть виявляти дезінформацію в соціальних мережах під час великих подій, таких як пандемія чи катастрофа.

Букувалас і його колеги, серед яких студентка Кейтлін Мороні та професор комп’ютерних наук Наталі Жапкович, продемонстрували, як рішення моделі збігаються з рішеннями людей у опублікованих дослідженнях.

“Ми хотіли б знати, про що думає машина, коли приймає рішення, і як і чому вона погоджується з людьми, які її тренували”, – сказав Букувалас. “Ми не хочемо блокувати соціальну мережу людини, тому що модель приймає упереджене рішення.”

Метод, який використовувала команда, є типом машинного навчання, який опирається на статистику. Статистичні моделі ефективні та забезпечують інший спосіб боротьби з дезінформацією.

Модель досягла високої точності прогнозування та класифікувала набір з 112 реальних і дезінформаційних твітів з точністю майже 90%.

“Що суттєво в цьому відкритті, так це те, що наша модель досягла точності, забезпечуючи прозорість щодо того, як вона виявила твіти, які були дезінформацією”, – продовжував Букувалас. “Методи глибокого навчання не можуть досягти такої точності з прозорістю.”

Навчання та підготовка моделі

Дослідники підготували модель до навчання перед тим, як протестувати її на наборі даних, оскільки інформація, надана людьми, може вводити упередженість та “чорні скриньки”.

Твіти були позначені дослідниками як дезінформація або реальна інформація на основі набору попередньо визначених правил щодо мови, використаної в дезінформації. Команда також врахувала нюанси людської мови та лінгвістичні особливості, пов’язані з дезінформацією.

Перед навчанням моделі професор соціолінгвістики Крістін Маллінсон з Університету Меріленда в Балтіморі ідентифікувала твіти за стилями письма, пов’язаними з дезінформацією, упередженістю та менш надійними джерелами в засобах масової інформації.

“Коли ми вводимо ці дані в модель, вона намагається зрозуміти основні чинники, які призводять до розмежування доброї та поганої інформації”, – сказала Жапкович. “Вона вчиться контексту та тому, як слова взаємодіють.”

Дослідники тепер планують покращити інтерфейс користувача для моделі, а також її здатність виявляти дезінформацію в соціальних мережах, які включають зображення чи інші мультимедійні дані. Статистична модель буде вимагати вивчення того, як різні елементи взаємодіють між собою, щоб створити дезінформацію.

І Букувалас, і Жапкович вважають, що людський інтелект та медіаграмотність є ключем до зупинки поширення дезінформації.

“Через нашу роботу ми розробляємо інструменти на основі машинного навчання, щоб попередити та просвіти громадськість з метою ліквідувати дезінформацію, але ми твердо переконані, що люди повинні відігравати активну роль у тому, щоб не поширювати дезінформацію з самого початку”, – сказав Букувалас.