Штучний інтелект може боротися з дезінформацією та упередженням у новинах

Дезінформація та упередження у новинах стали одним із найбільших викликів, з якими суспільство зіштовхнулося в останні роки. Такі речі, як операції з інформацією, глибокі підробки, фінансовий вплив та експлуатація соціальної напруженості, є новими інструментами, які використовуються як окремими особами, так і державними акторами по всьому світу.

Дезінформація – це загальний термін для помилкової інформації, і вона відіграє велику роль у маніпуляції громадською думкою. Одночасно вона використовується як атака проти політичних лідерів і посилює розкол між групами в різних країнах. Більше ніж будь-коли дезінформація впливає на виборчу кабіну, і вона стала надзвичайно ефективною.

Дезінформація, яка трохи відрізняється від дезінформації, – це свідомо введена в оману або упереджена інформація. Вона може включати маніпульовані нарративи та факти. Інакше кажучи, це пропаганда.

У звіті 2019 року дослідники Оксфордського університету описали організовані кампанії дезінформації в 70 різних країнах, включаючи Росію, Китай, В’єтнам та Гватемалу.

Цифрова економіка призвела до зростання дезінформації та упереджень у новинах, а технології штучного інтелекту та соціальні медіа-платформи стали засобами для поширення цієї інформації серед мас.

Ми бачили багато прикладів цього. Наприклад, дві попередні президентські вибори в США були наповнені дезінформацією та упередженням, і це, безумовно, продовжиться в майбутньому. Фінансові ринки також піддаються короткостроковому маніпулюванню через дезінформацію та упередження, а зовнішні справи стають все більш напруженими внаслідок їх використання. Соціальна напруженість викликана помилковою інформацією проти прихильників та противників конкретних справ, а фальшиві новини панують майже в кожній країні.

Наша залежність від соціальних медіа та алгоритмів зробила нас надзвичайно вразливими до дезінформації та упереджень, і стало легко маніпулювати великими групами людей.

Згідно з есе під назвою “Упередження роблять людей вразливими до дезінформації, поширеної соціальними медіа”, опублікованому The Conversation, мережею некомерційних медіа-видань, існують три типи упереджень, які роблять екосистему соціальних медіа вразливою до свідомої та несвідомої дезінформації. Важливо визнати, що більшість наших новин зараз приходять із соціальних медіа.

Три типи упереджень:

1. Упередження в мозку: “Когнітивні упередження походять від того, як мозок обробляє інформацію, яку кожна людина зустрічає щодня.”
2. Упередження в суспільстві: “Коли люди безпосередньо спілкуються зі своїми однолітками, соціальні упередження, які керують їхнім вибором друзів, починають впливати на інформацію, яку вони бачать.
3. Упередження в машині: “Третя група упереджень виникає безпосередньо з алгоритмів, які використовуються для визначення того, що бачать люди в Інтернеті. Соціальні медіа-платформи та пошукові системи використовують їх.”

Це поєднання упереджень створило ідеальну середовище для злих акторів, які використовують наші поточні платформи новин як засіб поширення дезінформації. Але важливо визнати, що упередження також присутнє поза цією сферою. Регулярні новинні повідомлення та статті ризикують бути упередженими через упередження автора чи видання.

Рішення штучного інтелекту для дезінформації та упереджень

Розвиток штучного інтелекту надав нам багато нових та інноваційних інструментів, які можна використовувати для боротьби з дезінформацією та упередженням у новинах.

Наприклад, якщо його правильно спроектувати, штучний інтелект може ефективно виявляти та видаляти певну дезінформацію та інші проблемні контенти в Інтернеті. Він вже використовується для ідентифікації фальшивих ботів компаніями, такими як Google, Twitter та Facebook. А фальшиві боти часто використовуються для поширення дезінформації та упереджених новин.

Необхідно досліджувати нові рамки штучного інтелекту для боротьби з цією проблемою, а існуючі рамки потрібно покращувати, оскільки багато з них виявилися проблематичними. Ці проблеми починають ставати ще більш небезпечними, коли виникають конфлікти. Наприклад, військові конфлікти, такі як поточний російсько-український конфлікт, призводять до поширення дезінформації з надзвичайно високою швидкістю.

Розробляються різні інструменти, що працюють на основі штучного інтелекту. Наприклад, NT CONNECT, міжнародний технологічний розробник, оголосив про запуск свого агрегатора новин, NOOZ.AI. Двигун аналізу мови, що працює на основі штучного інтелекту, має на меті забезпечити прозорість упередженого впливу, який існує в сучасних засобах масової інформації. Він намагається досягти цього, інформуючи читачів про історичний вплив ЗМІ до прочитання статті.

“Автори або журналісти схильні схилятися до певного упередження – часто без знання читача”, – говорить прес-реліз компанії. “Відтак, знаючи історичний упередження автора та джерел новин, споживачі можуть прочитати статтю з більш об’єктивним розумом і протистояти маніпулюванню думкою щодо певної теми.”

Інструмент NOOZ.AI побудований на чотирьох основних принципах:

• Аналіз думок: Він допомагає читачам визначити наявність особистих почуттів, поглядів, переконань або суджень у статті журналіста.
• Аналіз настрою: Інструмент використовує аналіз настрою для того, щоб допомогти читачам оцінити підтримку чи опозицію письменника щодо загального змісту новин або конкретної теми.
• Аналіз пропаганди: Він може виявити потенційну дезінформацію шляхом визначення використання до 18 можливих технік переконання.
• Аналіз змін: Читачі можуть дослідити еволюцію новинної статті та маніпуляцію думкою та настроєм з часом.

Додаток надає оцінки для кожної статті, з оціками думок від 0 до 100 і оцінками настрою від -100 до 100. Він також відстежує всі редагування тексту для кожної версії та надає читачам можливість порівняти різні версії.

Згідно з Гері Паксіносом, технічним директором NT CONNECT:

“Упереджене повідомлення є великою проблемою в сучасному суспільстві. Дезінформація – це найчастіше вживане слово. Але реальність полягає в тому, що мова сама по собі може бути використана для маніпулювання та переконання звичайного читача. Відтак, об’єктивно аналізуючи мову, ми уникаємо суб’єктивного упередження, яке існує в інших підходах. На відміну від суб’єктивного маркування дезінформації, наш підхід полягає в тому, щоб показати, як можна маніпулювати надмірними заголовками, історією змін та текстом статей.”