Модель ИИ может выявить распространителей дезинформации до их действий

Модель ИИ, созданная исследователями из Университета Шеффилда, может потенциально определить, какие пользователи Twitter будут размещать дезинформацию до того, как они фактически это сделают. Если модель окажется надежной, она может быть использована для дополнения существующих методов борьбы с дезинформацией в социальных сетях.

Согласно TechXplore, исследование было возглавлено исследователями из Департамента компьютерных наук Университета Шеффилда, включая доктора Никоса Алетраса и Иду Му. Исследование было опубликовано в журнале PeerJ и описывает методы, используемые для прогнозирования того, сможет ли пользователь социальных сетей распространять дезинформацию, размещая контент из ненадежных источников новостей.

Команда исследователей собрала более 1 миллиона твитов от более 6000 пользователей Twitter, все из которых были публично доступны. Команда применила методы обработки естественного языка для подготовки данных для обучения модели ИИ. ИИ была бинарной классификационной моделью, маркирующей пользователей как вероятных для обмена информацией из ненадежных источников или не вероятных для этого. После обучения модели на данных она смогла достичь примерно 79,7% точности классификации.

При анализе результатов работы модели исследователи обнаружили, что пользователи, которые часто использовали неуважительный язык и постоянно твитили о религии и политике, были более склонны размещать информацию из ненадежных источников. В частности, было большое использование слов как “либерал”, “СМИ”, “правительство”, “Израиль” и “Ислам”. Тем временем, пользователи, которые размещали информацию из надежных источников, склонны использовать слова как “я”, “буду”, “хочу”, “настроение”, “взволнован” и “день рождения”. Кроме того, они обычно делились историями о своей личной жизни, таких как взаимодействия с друзьями, их эмоции или информация о их хобби.

Результаты исследования могут помочь социальным сетям, таким как Facebook (META ), Reddit и Twitter, разработать новые способы борьбы с распространением дезинформации в Интернете. Исследование также может помочь психологам и социальным ученым лучше понять поведение, которое приводит к широкому распространению дезинформации в социальной сети.

Как объяснил Алетрас, согласно TechXplore, социальные сети превратились в один из основных способов, которыми люди получают новости. Миллионы пользователей по всему миру получают новостные истории через Facebook и Twitter каждый день, но эти платформы также стали инструментами для распространения дезинформации в обществе. Алетрас продолжил объяснять, что надежное выявление определенных тенденций в поведении пользователей может помочь в ограничении дезинформации. Как объяснил Алетрас, существует “корреляция между использованием неуважительного языка и распространением ненадежного контента, который можно отнести к высокой онлайн-политической враждебности”.

Согласно Му, анализ поведения пользователей, которые делятся ненадежной информацией, может помочь социальным сетям дополнить существующие методы проверки фактов и моделировать дезинформацию на уровне пользователя. Как сказал Му через TechXplore:

“Изучение и анализ поведения пользователей, которые делятся контентом из ненадежных источников новостей, может помочь социальным сетям предотвратить распространение фейковых новостей на уровне пользователя, дополняя существующие методы проверки фактов, которые работают на уровне поста или источника новостей.”

Исследование, проведенное Алетрасом и Му, может быть примером использования ИИ для борьбы с дезинформацией, сгенерированной ИИ. В последние месяцы наблюдается рост дезинформации вокруг местной и национальной политики, и большая часть этого контента генерируется и распространяется алгоритмами ИИ. Глубокие нейронные сети были использованы для создания реалистичных фотографий и профилей фейковых аккаунтов, которые служат распространителями фейковых новостей. Исследование Алетраса и Му может помочь социальным сетям выяснить, какие аккаунты являются фейковыми, бот-аккаунтами, созданными с целью распространения вредоносной пропаганды и дезинформации.