Исследователи разработали инструмент ИИ для выявления фейковых новостей

Был разработан новый инструмент искусственного интеллекта, который может помочь социальным сетям и новостным организациям выявлять ложные истории.

Инструмент был разработан исследователями Университета Ватерлоо. Он использует алгоритмы глубокого обучения ИИ для определения того, подтверждаются ли определенные утверждения в постах и историях. Эта технология делает это, проверяя, поддерживаются ли они другими постами и историями на одну и ту же тему.

Александр Вонг – профессор системного проектирования Университета Ватерлоо.

«Если они велики, это, вероятно, реальная история», – сказал Вонг. «Но если большинство другой информации не поддерживает, это сильный указатель на то, что вы имеете дело с фейковыми новостями».

Исследователи решили разработать инструмент из-за большого количества онлайн-постов и новостных историй, которые оказались ложными или сфабрикованными. Новостные истории часто распространяются для обмана или введения читателей в заблуждение, и они обычно используются по политическим или экономическим причинам.

Недавно разработанная система является частью продолжающихся усилий по разработке полностью автоматизированной технологии, способной обнаруживать фейковые новости. В одной из ключевых областей исследований, известной как обнаружение позиции, система имеет точность 90 процентов.

Система сначала получает утверждение из одного поста или истории и другие посты и истории на одну и ту же тему. Они собираются для сравнения, и система может определить, поддерживается ли утверждение или история другими. Она может сделать это девять раз из десяти.

Это теперь новый эталон точности, и исследователи используют большую базу данных, созданную для научного конкурса 2017 года «Фейковые новости».

Технология, разработанная исследователями Университета Ватерлоо, может стать инструментом для проверки, используемым человеческими фактчекерами. Большинство социальных сетей и новостных организаций используют человеческих фактчекеров, но они часто пропускают определенные вещи, которые технология могла бы обнаружить. Это происходит в то время, когда ученые по всему миру работают над созданием полностью автоматизированной системы для выявления и искоренения фейковых новостей.

Вонг является одним из основателей Института искусственного интеллекта Университета Ватерлоо.

«Она дополняет их возможности и выделяет информацию, которая не выглядит совсем правильно для проверки», – сказал Вонг. «Она не предназначена для замены людей, а для того, чтобы помочь им проверять факты быстрее и более надежно».

Алгоритмы ИИ, которые являются основой системы, были показаны десяткам тысяч различных утверждений. Утверждения были показаны вместе со историями, которые либо поддерживали, либо не поддерживали их, и система в конечном итоге смогла научиться определять поддержку или неподдержку самостоятельно. Она перенесла это на новые пары утверждений и историй, которые ей были показаны.

Крис Дулханти – аспирант, и он возглавил проект, который разработал технологию.

«Нам нужно дать журналистам возможность раскрыть правду и информировать нас», – сказал он. «Это представляет одну из попыток в более крупном объеме работы по смягчению распространения дезинформации».