Як Facebook використовує штучний інтелект для поширення дезінформації та загрози демократії

Ден Тункеланг, який керував дослідженнями штучного інтелекту в LinkedIn, заявив: «Момент, коли рекомендації мають силу впливати на рішення, вони стають мішенню для спамерів, шахраїв і інших людей з менш ніж благородними мотивами».

Це є дилемою, з якою стикаються компанії соціальних медіа, такі як Facebook. Facebook використовує імпліцитну відгук для відстежування кліків, переглядів та інших вимірюваних поведінок користувачів. Це використовується для розробки того, що називається «двигуном рекомендацій», системою штучного інтелекту, яка має вирішальну силу щодо того, хто бачить який контент і коли.

Facebook оптимізував свій двигун рекомендацій для максимізації участі користувачів, яка вимірюється кількістю часу, проведеного на платформі Facebook. Максимізація часу має пріоритет над будь-якими іншими змінними, включаючи якість або точність того, що рекомендується.

Система розроблена для винагороди сенсаційних заголовків, які залучають користувачів, використовуючи когнітивні упередження, навіть якщо ці заголовки написані російськими троллями з метою розділити суспільство або вплинути на політичні вибори.

Як Facebook використовує штучний інтелект

Є відсутність усвідомлення того, як Facebook використовує штучний інтелект для вирішення того, який контент бачать і взаємодіють з ним користувачі. Одному потрібно спочатку зрозуміти, що таке упередження підтвердження. Psychology Today описує це як:

Упередження підтвердження – це тенденція шукати, інтерпретувати, схвалювати та згадувати інформацію таким чином, щоб вона підтверджувала або підтримувала попередні переконання чи цінності.

Facebook розуміє, що користувачі більш ймовірно клікнуть на новини, які підігрівають людську тенденцію до упередження підтвердження. Це встановлює небезпечний прецедент як для поширення теорій змови, так і для створення ехо-камер, де користувачам подається виключно те, що вони хочуть бачити, незалежно від точності чи соціального впливу того, що бачать.

Дослідження Массачусетського технологічного інституту змогло продемонструвати, що фальшиві новини в Twitter поширюються в 6 разів швидше, ніж справжні новини.

Це означає, що як Twitter, так і Facebook можуть бути використані як зброя. Хоча Twitter дозволяє будь-кому навмисно слідкувати за джерелами з вузькими чи упередженими поглядами, Facebook робить крок далі. Користувач Facebook зараз не має жодного способу контролювати чи вимірювати те, що бачить, це повністю контролюється двигуном рекомендацій Facebook, тим, як він вимірює участь користувачів, і тим, як він оптимізує цю участь.

Facebook намагається сформувати та передбачити бажання своїх користувачів. Facebook оцінює, наскільки користувач буде любити чи не любити новину, з якою він ще не ознайомився. Щоб уникнути втрати участі користувачів, Facebook обходить новини, які можуть зменшити рівень участі, і обирає взаємодію з користувачем, подаючи йому новини, які підігрівають упередження підтвердження, забезпечуючи більше кліків, коментарів, лайків та поділів.

Facebook також використовує автоматичне колаборативне фільтрування історичних дій та opinій користувачів для автоматичного підтримання учасників (друзів) з подібними opinіями. Facebook використовує утилітарну функцію, яка автоматично та математично передбачає та ранжує ваші вподобання для товарів, які ви хочете бачити.

Це призводить до того, що користувачі потрапляють у «кроличу нору», вони потрапляють у фальшиві новини, їм подається контент, який підігріває їхнє упередження. Контент, який подається, є внутрішньо розроблений з метою впливу на те, на що ви клікнете. Якщо ви вірите в теорію змови про те, що Білл Гейтс намагається мікрочіпувати людство за допомогою вакцин, чому б Facebook не подати вам суперечливу інформацію, яка може змусити вас розлучитися з платформою? Якщо ви підтримуєте певного політичного кандидата, чому б Facebook не подати вам новини, які можуть суперечити вашим позитивним поглядам на цього кандидата?

Якби цього було недостатньо, Facebook також використовує те, що називається «соціальним доказом». Соціальний доказ – це концепція, згідно з якою люди будуть слідувати діям мас.

Facebook забезпечує цей соціальний доказ у контексті лайків, коментарів чи поділів. Оскільки тільки певні друзі можуть бачити новину (якщо вони не шукають конкретного користувача), соціальний доказ просто підігріває упередження підтвердження.

Facebook також використовує фільтрувальні бульбашки для обмеження доступу до суперечливих, протирічних та викликових поглядів.

Реклама Facebook

Невідомі користувачі Facebook можуть клікати на рекламу без усвідомлення того, що їм подається реклама. Причина цього проста: якщо є реклама, тільки перший користувач, якому подається реклама, бачить рекламний дисклеймер. Якщо цей користувач поділиться рекламою, всі користувачі в його списку друзів бачать тільки «поділ» як новину, оскільки Facebook навмисно видалить рекламний дисклеймер. Натомуість користувачі знижують свою охорону, вони не можуть відрізнити, що є рекламою, а що би органічно з’явилося в їхньому новинному стрімі.

Поділ Facebook

На жаль, ситуація погіршується. Якщо у користувача є 1000 друзів, які одночасно поділяють контент, двигун рекомендацій буде пріоритизувати контент меншості, яка поділяє одні й ті ж погляди, навіть якщо ці погляди часто складаються з непідтверджених теорій змови. Користувач потім буде під впливом ілюзії, що ці новини бачать усі.

Якщо користувач спробує просвітити іншого користувача про помилкову або фальшиву інформацію, сам акт коментування або взаємодії з новиною просто збільшує час участі оригінального користувача. Цей зворотний зв’язок призводить до того, що Facebook підігріває взаємодію цього користувача з додатковою фальшивою інформацією.

Це призводить до ехо-камери, фільтрувальної бульбашки, де користувач тренується вірити тільки в те, що бачить. Правда є просто ілюзією.

Серйозність питання

Більше 10 мільйонів людей взаємодіють з новиною, яка стверджує, що Папа Франциск висловився на підтримку обрання Трампа в 2016 році. Не було жодних доказів цього, це була просто фальшивна новина, яка з’явилася з Росії, але це була найпоширеніша новина на Facebook у три місяці, що передували виборам 2016 року.

Новина була створена російською тролль-фермою, яка називається «Інтернет- дослідницька агенція». Ця сама організація була відповідальною за просування та поділ фальшивих новин про американських політиків у Twitter та Facebook.

Комітет із розвідки Сенату США опублікував 85-сторінковий звіт, який деталізує російські активні заходи щодо кампаній та інтерференції, більша частина яких полягала у поширенні дезінформації та пропаганди, метою якої було вплинути на вибори 2016 року у США.

Перейшовши до виборів 2020 року, проблема тільки погіршилася. У вересні 2020 року після підказки ФБР Facebook та Twitter зупинили соціальні медіа-акаунти для новинної організації під назвою PeaceData, яка пов’язана з російськими державними пропагандистськими зусиллями.

На жаль, закриття акаунтів є тимчасовим та неефективним рішенням. Російські акаунти часто приймають форму запитів на дружбу, часто обурених жінками з привабливими профілями, які націлені на чоловіків, або ж викрадених акаунтів користувачів з історією регулярних постів. Ці викрадені акаунти повільно переходять до більш політичних постів, поки вони не домінують у пропаганді чи теоріях змови.

Невідомий користувач може бути неусвідомлений того, що акаунт друга був скомпрометований. Якщо цей користувач вразливий до теорій змови, він може взаємодіяти з фальшивою новиною, російський троль, який часто є ботом, потім забезпечує додатковий соціальний доказ у вигляді лайків чи коментарів.

Вразливі користувачі часто є тими, хто найменше розуміє, як працює технологія та штучний інтелект. Населення старше 65 років, яке є найбільш ймовірним для голосування, також є найбільш ймовірним для поширення фальшивих новин, як повідомляє New York Times.

Згідно з дослідженням, користувачі Facebook у віці 65 років і старші опублікували в сім разів більше статей з фальшивих новинних сайтів, ніж дорослі у віці 29 років і молодші. Недостатня цифрова медійна грамотність робить цю вікову групу непідготовленою до новинного стріму, який не ґрунтується на фактах чи точності, а виключно на участі користувачів.

Погані актори використовують двигун рекомендацій Facebook, який використовує наші когнітивні упередження проти нас. Ці організації оптимізували зловживання штучним інтелектом Facebook для поширення теорій змови та пропаганди. Теорії змови, які можуть здаватися безневинними на перший погляд, часто використовуються як канали для білого супрематизму, правого націоналізму чи QAnon – дивної теорії змови, яка涉ує Трампа, який намагається врятувати світ від ліберальних педофілів, теорії, яка не має жодного підґрунтя в реальності.

Резюме

Facebook явно усвідомлює, що існує проблема, і вони публічно оголосили стратегію, яка зосереджується на видаленні контенту, який порушує стандарти спільноти Facebook. Проблема полягає в тому, що видалення акаунтів є тимчасовим заходом, який неефективний, коли акаунти генеруються в масовому порядку ботами або масовим хакінгом акаунтів користувачів. Це також не вирішує проблему, що більшість поширення здійснюється звичайними користувачами, які не усвідомлюють, що поширюють дезінформацію.

Додавання попереджувальних міток просто підігріває теорії змови про те, що соціальні медіа-гіганти упереджені проти консерваторів, які є найбільш сприйнятливими до фальшивих новин.

Рішення повинно полягати у новому двигуні рекомендацій, який вимірює не тільки участь користувачів, а й оптимізований для щастя користувачів шляхом подачі правди та підвищення самосвідомості.

У міжчасся, Facebook повинен слідувати шляху, який пройшов Twitter, заборонивши політичну рекламу.

Останнє, важливе питання потрібно поставити. Якщо люди більше не мають вибору щодо новин, які вони бачать, коли це перестає бути рекомендацією і коли це стає контролюм розуму?

Рекомендоване читання:

Російські активні заходи щодо кампаній та інтерференції – Звіт Комітету із розвідки Сенату США.

Шокуючий документ, який передбачає кінець демократії – Від Ріка Шенкмана, засновника Історичної мережі новин Джорджа Вашингтона.

Старші люди більше поширюють фальшиві новини на Facebook – Від New York Times