Етика
Штучний інтелект може боротися з дезінформацією та упередженням у новинах

Ключові моментиІнструменти ШІ, як-от NOOZ.AI, аналізують мову, щоб виявити упередженість новин і…
Показати більше
- Інструменти ШІ, як-от NOOZ.AI, аналізують мову, щоб виявити упередженість новин і маніпуляції.
- Три види упереджень — когнітивні, соціальні та алгоритмічні — роблять соціальні медіа вразливими до дезінформації.
- Кампанії з дезінформації та маніпуляції тепер націлені на вибори в понад 70 країнах.
Дезінформація та упередження у новинах стали одним із найбільших викликів, з якими суспільство зіштовхнулося в останні роки. Такі речі, як операції з інформацією, глибокі підробки, фінансовий вплив та експлуатація соціальної напруженості, є новими інструментами, які використовуються як окремими особами, так і державними акторами по всьому світу.
Місінформація — це загальний термін для неправдивої інформації, і вона відіграє велику роль у маніпуляції громадською думкою. Одночасно вона використовується як атака проти політичних лідерів і посилює розкол між групами в різних країнах. Більше ніж будь-коли дезінформація впливає на виборчу кабіну, і вона стала надзвичайно ефективною.
Дезінформація, яка дещо відрізняється від місінформації, — це навмисно оманлива або упереджена інформація. Вона може включати маніпульовані нарративи та факти. Інакше кажучи, це пропаганда.
У звіті 2019 року дослідники Оксфордського університету описали організовані кампанії дезінформації в 70 різних країнах, включаючи Росію, Китай, В’єтнам та Гватемалу.
Цифрова економіка призвела до зростання дезінформації та упереджень у новинах, а технології штучного інтелекту та соціальні медіа-платформи стали засобами для поширення цієї інформації серед мас.
Ми бачили багато прикладів цього. Наприклад, два попередні президентські вибори в США були наповнені дезінформацією та упередженням, і це, безумовно, продовжиться в майбутньому. Фінансові ринки також піддаються короткостроковому маніпулюванню через дезінформацію та упередження, а зовнішні справи стають все більш напруженими внаслідок їх використання. Соціальна напруженість викликана помилковою інформацією проти прихильників та противників конкретних справ, а фальшиві новини панують майже в кожній країні.
Наша залежність від соціальних медіа та алгоритмів зробила нас надзвичайно вразливими до дезінформації та упереджень, і стало легко маніпулювати великими групами людей.
Згідно з есе під назвою «Упередження роблять людей вразливими до неправдивої інформації, поширеної соціальними медіа», опублікованому The Conversation, мережею некомерційних медіа-видань, існують три типи упереджень, які роблять екосистему соціальних медіа вразливою до свідомої та несвідомої дезінформації. Важливо визнати, що більшість наших новин зараз приходять із соціальних медіа.
Три типи упереджень:
- Упередження в мозку: “Когнітивні упередження походять від того, як мозок обробляє інформацію, яку кожна людина зустрічає щодня.”
- Упередження в суспільстві: “Коли люди безпосередньо спілкуються зі своїми однолітками, соціальні упередження, які керують їхнім вибором друзів, починають впливати на інформацію, яку вони бачать.
- Упередження в машині: “Третя група упереджень виникає безпосередньо з алгоритмів, які використовуються для визначення того, що бачать люди в Інтернеті. Соціальні медіа-платформи та пошукові системи використовують їх.”
Це поєднання упереджень створило ідеальне середовище для зловмисників, які використовують наші поточні платформи новин як засіб поширення дезінформації. Але важливо визнати, що упередження також присутнє поза цією сферою. Регулярні новинні повідомлення та статті ризикують бути упередженими через упередження автора чи видання. Це не нове явище.
Рішення штучного інтелекту для дезінформації та упереджень
Розвиток штучного інтелекту надав нам багато нових та інноваційних інструментів, які можна використовувати для боротьби з дезінформацією та упередженням у новинах.
Наприклад, якщо його правильно спроектувати, штучний інтелект може ефективно виявляти та видаляти певну дезінформацію та інший проблемний контент в Інтернеті. Він вже використовується для ідентифікації фальшивих ботів компаніями, такими як Google (GOOGL ), Twitter та Facebook. А фальшиві боти часто використовуються для поширення дезінформації та упереджених новин.
Необхідно досліджувати нові рамки штучного інтелекту для боротьби з цією проблемою, а існуючі рамки потрібно покращувати, оскільки багато з них виявилися проблематичними. Ці проблеми починають ставати ще більш небезпечними, коли виникають конфлікти. Наприклад, військові конфлікти, такі як поточний російсько-український конфлікт, призводять до поширення дезінформації з надзвичайно високою швидкістю.
Розробляються різні інструменти, що працюють на основі штучного інтелекту. Наприклад, NT CONNECT, міжнародний технологічний розробник, оголосив про запуск свого агрегатора новин, NOOZ.AI. Двигун аналізу мови, що працює на основі штучного інтелекту, має на меті забезпечити прозорість упередженого впливу, який існує в сучасних засобах масової інформації. Він намагається досягти цього, інформуючи читачів про історичний вплив ЗМІ до прочитання статті.
“Автори або журналісти схильні схилятися до певного упередження – часто без відома читача”, – говорить прес-реліз компанії. “Відтак, знаючи історичні упередження автора та джерел новин, споживачі можуть прочитати статтю з більш об’єктивним розумом і протистояти маніпулюванню думкою щодо певної теми.”
Інструмент NOOZ.AI побудований на чотирьох основних принципах:
- Аналіз думок: Він допомагає читачам визначити наявність особистих почуттів, поглядів, переконань або суджень у статті журналіста.
- Аналіз настрою: Інструмент використовує аналіз настрою для того, щоб допомогти читачам оцінити підтримку чи опозицію письменника щодо загального змісту новин або конкретної теми.
- Аналіз пропаганди: Він може виявити потенційну дезінформацію шляхом визначення використання до 18 можливих технік переконання.
- Аналіз змін: Читачі можуть дослідити еволюцію новинної статті та маніпуляцію думкою та настроєм з часом.
Додаток надає оцінки для кожної статті, з оцінками думок від 0 до 100 і оцінками настрою від -100 до 100. Він також відстежує всі редагування тексту для кожної версії та надає читачам можливість порівняти різні версії.
Згідно з Гері Паксіносом, технічним директором NT CONNECT:
“Упереджене повідомлення є великою проблемою в сучасному суспільстві. Місінформація — найчастіше вживаний і неправильно вживаний модний термін. Але реальність полягає в тому, що мова сама по собі може бути використана для маніпулювання та переконання звичайного читача. Відтак, об’єктивно аналізуючи мову, ми уникаємо суб’єктивного упередження, яке існує в інших підходах. На відміну від суб’єктивного маркування дезінформації, наш підхід полягає в тому, щоб показати, як можна маніпулювати надмірними заголовками, історією змін та текстом статей.”












