Инженеры-искусственники разработали метод, позволяющий обнаружить намерения тех, кто распространяет дезинформацию

Борьба с дезинформацией в цифровую эпоху – это сложная проблема. Не только дезинформация должна быть выявлена, помечена и исправлена, но также должно быть определено намерение тех, кто ответственен за распространение информации. Человек может непреднамеренно распространять дезинформацию или просто выражать свое мнение по вопросу, даже если оно позже сообщается как факт. Недавно команда исследователей и инженеров в Дартмуте создала框架, который можно использовать для получения мнения из “фейковых новостей”.

По сообщению ScienceDaily, исследование команды Дартмута было недавно опубликовано в Журнале экспериментальной и теоретической искусственного интеллекта. Хотя предыдущие исследования пытались выявить “фейковые новости” и бороться с обманом, это, возможно, первое исследование, целью которого было выявление намерения говорящего в новостной статье. Хотя правдивая история может быть искажена в различные обманчивые формы, важно различать, было ли намерение обмануть. Исследовательская команда утверждает, что намерение имеет значение при рассмотрении дезинформации, поскольку обман возможен только в том случае, если было намерение обмануть. Если человек не осознавал, что распространяет дезинформацию, или если он просто выражал свое мнение, то не может быть обмана.

Юджин Сантос-младший, профессор инженерии в Школе инженерии Тейера Дартмута, объяснил ScienceDaily, почему их модель пытается различать обманчивое намерение:

“Намерение обмануть слушателей преднамеренно представляет гораздо большую угрозу, чем непреднамеренные ошибки. Насколько нам известно, наш алгоритм – это единственный метод, который обнаруживает обман и одновременно различает злонамеренные действия и добросовестные действия.”

Чтобы построить свою модель, исследовательская команда проанализировала особенности обманчивого рассуждения. Результатом стал алгоритм, который мог различать намерение обмануть от других форм коммуникации, сосредоточившись на несоответствиях между прошлыми аргументами человека и его текущими заявлениями. Модель, созданная исследовательской командой, требует больших объемов данных, которые можно использовать для измерения того, как человек отклоняется от прошлых аргументов. Тренировочные данные, которые команда использовала для обучения своей модели, состояли из данных, полученных из опроса мнений по спорным темам. Более 100 человек высказали свое мнение по этим спорным вопросам. Данные также были получены из отзывов о 20 разных отелях, состоящих из 400 вымышленных отзывов и 800 реальных отзывов.

По словам Санто, разработанная исследователями框架 может быть усовершенствована и применена новостными организациями и читателями, чтобы позволить им анализировать содержание “фейковых новостей”. Читатели могут изучить статьи на наличие мнений и определить сами, используется ли логический аргумент. Санто также сказал, что команда хочет изучить влияние дезинформации и эффекты, которые она имеет.

Популярная культура часто изображает невербальные поведения, такие как выражения лица, как индикаторы того, что кто-то лжет, но авторы исследования отмечают, что эти поведенческие намеки не всегда являются надежными индикаторами лжи. Дэцин Ли, соавтор статьи, объяснил, что их исследование показало, что модели, основанные на намерении рассуждения, являются лучшими индикаторами лжи, чем поведенческие и вербальные различия. Ли объяснил, что модели намерения рассуждения “лучше различают преднамеренные лжи и другие виды искажения информации”.

Работа исследователей Дартмута – не единственное недавнее достижение в борьбе с дезинформацией с помощью ИИ. Новостные статьи с кликбейт-заголовками часто маскируют дезинформацию. Например, они часто подразумевают, что произошло одно событие, когда на самом деле произошло другое.

По сообщению AINews, команда исследователей из Университета штата Аризона и Университета штата Пенсильвания сотрудничала, чтобы создать ИИ, который может обнаружить кликбейт. Исследователи попросили людей написать свои собственные кликбейт-заголовки и также написали программу для генерации кликбейт-заголовков. Оба типа заголовков были затем использованы для обучения модели, которая могла эффективно обнаружить кликбейт-заголовки, независимо от того, были ли они написаны машинами или людьми.

По словам исследователей, их алгоритм был примерно на 14,5% более точным в обнаружении кликбейт-заголовков, чем другие ИИ в прошлом. Руководитель проекта и ассоциированный профессор Колледжа информационных наук и технологий Университета штата Пенсильвания Донгвон Ли объяснил, как их эксперимент демонстрирует полезность генерации данных с помощью ИИ и подачи их обратно в обучающую трубу.

“Этот результат довольно интересен, поскольку мы успешно продемонстрировали, что машинно-генерируемые данные для обучения кликбейта могут быть поданы обратно в обучающую трубу для обучения широкого спектра моделей машинного обучения с улучшенной производительностью”, – объяснил Ли.