Статистическая модель помогает обнаруживать дезинформацию в социальных сетях

Профессор математики из американского университета, вместе со своей командой сотрудников, разработал статистическую модель, которая может обнаруживать дезинформацию в постах социальных сетей.

Машинное обучение все чаще используется для предотвращения распространения дезинформации, но существует серьезная проблема, связанная с “черными ящиками”, которые возникают. Это происходит, когда исследователи не понимают, как машина принимает одно и то же решение, что и человеческие тренеры.

Обнаружение дезинформации с помощью статистических моделей

Зоис Буковаляс, помощник профессора кафедры математики и статистики, использовал набор данных из Twitter с постами, содержащими дезинформацию о COVID-19, чтобы продемонстрировать, как статистические модели могут обнаруживать дезинформацию в социальных сетях во время крупных событий, таких как пандемия или катастрофа.

Буковаляс и его коллеги, включая студентку AU Кейтлин Морони и профессора компьютерных наук Натали Жапкович, продемонстрировали, как решения модели совпадают с решениями людей в новых исследованиях.

“Мы хотим знать, о чем думает машина, когда она принимает решения, и как и почему она согласуется с людьми, которые ее обучили”, – сказал Буковаляс. “Мы не хотим блокировать чей-то аккаунт в социальной сети, потому что модель принимает предвзятые решения.”

Метод, используемый командой, представляет собой тип машинного обучения, который основан на статистике. Статистические модели эффективны и предоставляют другой способ борьбы с дезинформацией.

Модель показала высокую точность прогнозирования и классифицировала набор из 112 реальных и дезинформационных постов с точностью почти 90%.

“Что важно в этом открытии, так это то, что наша модель достигла точности, предлагая прозрачность в отношении того, как она обнаружила посты, содержащие дезинформацию”, – продолжил Буковаляс. “Методы глубокого обучения не могут достичь такой точности с прозрачностью.”

Обучение и подготовка модели

Исследователи подготовили модель к обучению перед ее тестированием на наборе данных, поскольку информация, предоставленная людьми, может ввести предвзятость и “черные ящики”.

Посты были помечены исследователями как дезинформация или реальные на основе набора предопределенных правил о языке, используемом в дезинформации. Команда также учитывала нюансы человеческого языка и лингвистические особенности, связанные с дезинформацией.

До обучения модели профессор социолингвистики Кристин Маллинсон из Университета Мэриленда в Балтиморе определила посты, написанные в стиле, связанном с дезинформацией, предвзятостью и менее надежными источниками в новостных СМИ.

“Когда мы добавляем эти входные данные в модель, она пытается понять основные факторы, которые приводят к разделению хорошей и плохой информации”, – сказала Жапкович. “Она учится контексту и тому, как слова взаимодействуют.”

Исследователи теперь будут работать над улучшением пользовательского интерфейса модели, а также ее способности обнаруживать дезинформацию в постах социальных сетей, содержащих изображения или другие мультимедийные элементы. Статистическая модель будет требовать обучения для понимания того, как различные элементы взаимодействуют друг с другом для создания дезинформации.

И Буковаляс, и Жапкович считают, что человеческий интеллект и грамотность в новостях являются ключом к предотвращению распространения дезинформации.

“Через нашу работу мы разрабатываем инструменты на основе машинного обучения, чтобы предупредить и просвещать общественность для устранения дезинформации, но мы твердо убеждены, что люди должны играть активную роль в предотвращении распространения дезинформации в первую очередь”, – сказал Буковаляс.