Искусственный интеллект может бороться с дезинформацией и предвзятостью в новостях

Дезинформация и предвзятость в новостях стали одним из самых больших вызовов, с которыми столкнулось общество в последние годы. Такие вещи, как операции по дезинформации, глубокие фейки, финансовое влияние и эксплуатация социальных напряжений, являются новыми инструментами, используемыми как отдельными лицами, так и государственными акторами по всему миру.

Дезинформация – это общий термин для ложной информации, и она играет значительную роль в манипулировании общественным мнением. В то же время она используется как атака против политических лидеров и усугубляет разделения между группами в различных странах. Более чем когда-либо прежде, дезинформация влияет на избирательные кабинки, и она стала невероятно эффективной.

Дезинформация, которая немного отличается от дезинформации, – это намеренно вводящая в заблуждение или предвзятая информация. Она может включать манипулированные нарративы и факты. Другими словами, это пропаганда.

Отчет 2019 года исследователей Оксфордского университета подробно описал организованные кампании по дезинформации в 70 разных странах, включая Россию, Китай, Вьетнам и Гватемалу.

Цифровая экономика привела к увеличению дезинформации и предвзятости в новостях, и технологии искусственного интеллекта и социальные медиа-платформы стали способами распространить ее среди масс.

Мы видели много примеров этого. Например, два предыдущих президентских выбора в США были полны дезинформации и предвзятости, и это, скорее всего, продолжится в будущем. Финансовые рынки также подвергались краткосрочному манипулированию через дезинформацию и предвзятость, и внешние дела становятся более напряженными в результате их использования. Социальные напряжения вызваны ложной информацией против сторонников и противников конкретных причин, и фейковые новости распространены почти в каждой стране.

Наша зависимость от социальных медиа и алгоритмов сделала нас невероятно уязвимыми для дезинформации и предвзятости, и стало легко манипулировать большими группами людей.

Согласно эссе под названием «Предвзятости делают людей уязвимыми для дезинформации, распространяемой социальными медиа», опубликованному в The Conversation, сети некоммерческих медиа-ресурсов, есть три типа предвзятости, которые делают экосистему социальных медиа уязвимой для намеренной и непреднамеренной дезинформации. Важно признать, что большинство наших новостей теперь поступает из социальных медиа.

Три типа предвзятости – это:

1. Предвзятость в мозге: «Когнитивные предвзятости возникают в том, как мозг обрабатывает информацию, с которой каждый человек сталкивается каждый день».
2. Предвзятость в обществе: «Когда люди связываются напрямую со своими сверстниками, социальные предвзятости, которые руководят их выбором друзей, влияют на информацию, которую они видят».
3. Предвзятость в машине: «Третья группа предвзятостей возникает直接 из алгоритмов, используемых для определения того, что люди видят в Интернете. И социальные медиа-платформы, и поисковые системы используют их».

Эта комбинация предвзятостей создала идеальную среду для злоумышленников, чтобы использовать наши текущие платформы новостей как способ распространить дезинформацию. Но важно признать, что предвзятость также присутствует вне этой области. Регулярные новостные отчеты и статьи рискуют быть предвзятыми из-за авторской или публикационной предвзятости. Это ничего нового.

Решения на основе искусственного интеллекта для дезинформации и предвзятости

Рост искусственного интеллекта предоставил нам многие новые и инновационные инструменты, которые можно использовать для борьбы с дезинформацией и предвзятостью в новостях.

Например, когда они спроектированы правильно, искусственный интеллект может эффективно обнаруживать и удалять определенные дезинформацию и другое проблемное содержимое в Интернете. Он уже используется для выявления фейковых ботов компаниями như Google, Twitter и Facebook. И фейковые боты часто используются для распространения дезинформации и предвзятых новостей.

Новые рамки искусственного интеллекта должны быть изучены для борьбы с этой проблемой, и существующие рамки должны быть улучшены, поскольку многие из них оказались проблематичными. Эти проблемы начинают становиться еще более опасными, когда возникают конфликты. Например, военные конфликты, такие как текущий конфликт между Россией и Украиной, приводят к распространению дезинформации с невероятной скоростью.

Различные инструменты, работающие на основе искусственного интеллекта, разрабатываются. Например, NT CONNECT, международный технологический разработчик, недавно объявил о запуске своего приложения-агрегатора новостей, NOOZ.AI. Двигатель анализа языка на основе искусственного интеллекта направлен на то, чтобы привнести прозрачность в поляризующую предвзятость, найденную в сегодняшних средствах массовой информации. Он пытается достичь этого, сохраняя читателей в курсе влияния средств массовой информации до того, как они прочитают статью.

«Авторы или журналисты склонны придерживаться определенной предвзятости – часто без знания читателя», – говорится в пресс-релизе компании. «Зная историческую предвзятость автора и источников новостей, потребители могут рассмотреть статью с более объективным умом и сопротивляться манипулированию, чтобы думать определенным образом о любой конкретной теме».

Инструмент NOOZ.AI построен на четырех ключевых столпах:

• Анализ мнений: Он помогает читателям определить наличие личных чувств, взглядов, убеждений или суждений в написании журналиста.
• Анализ настроений: Инструмент использует анализ настроений, чтобы помочь читателям оценить поддержку или оппозицию писателя по отношению к общему содержанию новостей или конкретной теме.
• Анализ пропаганды: Он может обнаружить потенциальную дезинформацию, выявляя использование до 18 возможных методов убеждения.
• Анализ изменений: Читатели могут расследовать эволюцию новостной истории и ее манипулирование мнением и настроением со временем.

Приложение предоставляет оценки для каждой статьи, с оценками мнений от 0 до 100 и оценками настроений от -100 до 100. Он также отслеживает все текстовые правки для каждой версии и дает читателям возможность сравнить разные версии.

Согласно Гарри Паксиносу, техническому директору NT CONNECT:

«Предвзятая журналистика является серьезной проблемой в современном обществе. Дезинформация – это наиболее часто используемый бренд. Но реальность заключается в том, что язык сам по себе может быть использован для манипулирования и убеждения случайного читателя. Объективно анализируя язык, мы избегаем субъективной предвзятости, найденной в других подходах. В отличие от субъективного маркирования дезинформации, наш подход заключается в том, чтобы осветить, как можно манипулировать с помощью преувеличенных заголовков, истории изменений и текста статей».