Како вештачката интелигенција на Фејсбук шири дезинформации и ја загрозува демократијата

Ден Тункеланг, кој го надгледуваше истражувањето за вештачката интелигенција во LinkedIn, изјави: „Во моментот кога препораките имаат моќ да влијаат на одлуките, тие стануваат мета на спамери, измамници и други луѓе со помалку од благородни мотиви“.

Ова е дилемата со која се соочуваат компаниите за социјалните медиуми како што е Фејсбук. Фејсбук користи имплицитна повратна информација за следење на кликови, прегледи и други мерливи однесувања на корисникот. Ова се користи за дизајнирање на она што е идентификувано како „мотор за препораки“, систем за вештачка интелигенција кој ја има крајната моќ да одлучува кој каква содржина гледа и кога.

Фејсбук го оптимизираше својот мотор за препораки за да го максимизира ангажманот на корисниците што се мери со времето поминато залепено на платформата на Фејсбук. Максимизирањето на времето има приоритет пред која било друга променлива, вклучувајќи го квалитетот или точноста на она што се препорачува.

Системот е дизајниран да ги награди сензационалистичките наслови кои ги ангажираат корисниците преку искористување на когнитивната пристрасност, дури и ако тие наслови се напишани од руски тролови со намера да го поделат општеството или да ги поколебаат политичките избори.

Како Facebook користи вештачка интелигенција

Недостига свест за тоа како Фејсбук користи вештачка интелигенција за да одлучи што гледаат и што комуницираат неговите корисници. Прво мора да се разбере што е пристрасност за потврда. Psychology Today опишува ова како:

Пристрасноста за потврда е тенденција да се бара, толкува, фаворизира и потсетува на информации на начин што ги потврдува или поддржува нечии претходни верувања или вредности.

Фејсбук разбира дека корисниците се со поголема веројатност да кликнат на вести кои се хранат со човечката тенденција да бараат пристрасност за потврда. Ова поставува опасен преседан и за ширење на теории на заговор и за создавање на ехо комори каде што корисниците се хранат со лажици исклучиво со она што сакаат да го видат без оглед на точноста или општественото влијание на она што се гледа.

A студија од MIT успеа да покаже дека лажните вести на Твитер се шират 6 пати побрзо од вистинските вести.

Ова значи дека и Твитер и Фејсбук можат да бидат вооружени. Додека Твитер на секого му овозможува намерно следат се храни со тесни или пристрасни гледишта, Фејсбук го прави ова чекор понатаму. Корисникот на Фејсбук моментално нема нула начин да го контролира или мери она што се гледа, ова е целосно контролирано од моторот за препораки на Facebook, како го мери ангажманот на корисниците и како се оптимизира за истиот ангажман на корисникот.

Фејсбук се обидува да ги обликува и предвиди желбите на нивните корисници. Фејсбук проценува до кој степен на корисникот ќе му се допадне или не сака вест што сè уште не ја доживеал. Со цел да се избегне губење на корисничкиот ангажман, Фејсбук потоа избира да ги заобиколи вестите што може да го намалат нивото на ангажираност, и наместо тоа избира да го вклучи корисникот со хранење вести што ја потхрануваат пристрасноста за потврда, обезбедувајќи повеќе кликови, коментари, допаѓања и акции.

Фејсбук, исто така, користи автоматско заедничко филтрирање на историски дејства и мислења на корисниците за автоматско усогласување на учесниците (пријателите) со слични мислења. Фејсбук користи корисна функција која автоматски и математички ги предвидува и рангира вашите претпочитани ставки што сакате да ги видите.

Ова предизвикува корисниците да паднат во дупка за зајаци, тие се заробени во лажни вести, се хранат со содржина што ја зајакнува нивната пристрасност. Содржината што е претставена е инхерентно дизајнирана со цел да влијае на она на што ќе кликнете. На крајот на краиштата, ако верувате во заговорот дека Бил Гејтс се обидува да ја микрочипира човечката популација со помош на вакцини, зошто Фејсбук треба да ви презентира контрадикторни докази што може да ве натераат да се откажете од платформата? Ако поддржувате одреден политички кандидат, зошто Фејсбук треба да нуди вести што може да се спротивни на вашите позитивни ставови за истиот кандидат?

Како ова да не е доволно, Фејсбук го ангажира и она што е познато како „социјален доказ“. Социјален доказ е концептот дека луѓето ќе ги следат постапките на масите. Идејата е дека бидејќи толку многу други луѓе се однесуваат на одреден начин, тоа мора да биде правилно однесување.

Фејсбук го обезбедува овој социјален доказ во контекст на лајкови, коментари или споделувања. Бидејќи само одредени пријатели може да ја видат ставката од вестите (освен ако конкретно не пребаруваат вести од корисниците), социјалниот доказ едноставно служи за зајакнување на пристрасноста за потврда.

Фејсбук исто така користи филтер меурчиња да се ограничи изложеноста на конфликтни, контрадикторни и или предизвикувачки гледишта.

Фејсбук реклами

Несомнените корисници на Фејсбук може да бидат кликнување на реклами без да бидете свесни дека им се презентираат огласи. Причината за ова е едноставна, доколку има реклама, само првиот човек на кој ќе му биде претставен огласот ќе го види одрекувањето од огласот. Ако тој корисник ја сподели рекламата, секој од списокот со пријатели едноставно го гледа „споделувањето“ како ставка за вести, бидејќи Фејсбук намерно го отфрла одрекувањето од огласот. Веднаш, корисниците се откажуваат, не можат да направат разлика помеѓу тоа што е реклама и она што органски би се појавило на нивниот newsfeed.

Споделувања на Фејсбук

За жал, работите се влошуваат. Ако корисникот има 1000 пријатели кои истовремено споделуваат содржини, моторот за препораки ќе даде приоритет на содржината од малцинството што ги дели истите ставови, дури и ако тие често се состојат од недокажани теории на заговор. Корисникот тогаш ќе има илузија дека овие ставки од вестите ги гледаат сите. Со вклучување во овој вести, овие корисници го оптимизираат социјалниот доказ еден на друг.

Доколку корисникот се обиде да разјасни друг корисник за погрешна или лажна ставка, самиот чин на коментирање или вклучување во вестите едноставно го зголемува времето на ангажман на оригиналните корисници. Овој циклус за повратни информации предизвикува Фејсбук да го засили ангажирањето на тој корисник со дополнителни лажни вести.

Ова предизвикува ехо комора, филтер меур каде што корисникот е обучен да верува само во она што го гледа. Вистината е едноставно илузија.

Сериозност на проблемот

Над 10 милиони луѓе ангажирани со вести тврдејќи дека папата Франциско се изјасни за изборот на Трамп во 2016 година. Немаше докази за тоа, тоа беше едноставно лажна вест што излезе од Русија, но сепак ова беше најсподелуваната вест на Фејсбук во последните три месеци до изборите во 2016 година.

Веста е генерирана од руска фарма на тролови која себеси се нарекува „Агенција за истражување на Интернет“. Истата оваа организација беше одговорна за промовирање и споделување на написи за мамка за трка на Твитер и Фејсбук, во корист на демонизирање на животите на црнците се важни и оружје за лажни вести кои шират лажни тврдења за американските политичари.

Избраната комисија за разузнавање објави ан Извештај од 85 страници со детали за кампањите и мешањето на руските активни мерки, од кои најголемиот дел вклучуваше ширење на лажни вести кои предизвикуваат поделби и пропаганда која имаше единствена намера да влијае на изборите во САД во 2016 година.

Брзо напред кон изборите во 2020 година и проблемот само се интензивираше. Во септември, 2020 година по дојава на ФБИ на Facebook и Twitter укинати сметки на социјалните мрежи за новинска организација наречена PeaceData, која е поврзана со напорите на руската државна пропаганда.

За жал, затворањето на сметките е привремено и неефикасно решение. Руските сметки често имаат форма на барања за пријателство, често згрозени од жени со атрактивни профили кои се насочени кон мажи, или пак со киднапирани кориснички сметки со историја на редовни објави. Овие киднапирани сметки полека се префрлаат на повеќе политички постови, сè додека не доминираат пропаганда или теории на заговор.

Несомнениот корисник може да не знае дека сметката на пријатели е компромитирана. Ако тој корисник е ранлив на теории на заговор, тој може да се вклучи во ставката за лажни вести, рускиот трол, кој често е бот, потоа обезбедува дополнителен социјален доказ преку форма на лајкови или коментари.

Ранливи корисници се често оние кои најмалку разбираат како функционира технологијата и вештачката интелигенција. Демографските над 65 години, што е населението со најголема веројатност да гласа, исто така има најголема веројатност да шири лажни вести како објави Њујорк Тајмс.

Според студијата, корисниците на Фејсбук на возраст од 65 години и постари објавиле седум пати повеќе написи од веб-локации за лажни вести отколку возрасните 29 и помлади. Недостатокот на дигитална медиумска писменост ја прави оваа возрасна група неподготвена за вести што не се заснова на факти или на точност, туку исклучиво на ангажман на корисниците.

Лошите актери ја користат предноста на моторот за препораки на Фејсбук кој ги искористува нашите когнитивни предрасуди против нас. Истите овие организации ја оптимизираа злоупотребата на вештачката интелигенција на Фејсбук за да шират теории на заговор и пропаганда. Теориите на заговор кои на почетокот може да изгледаат невини, често се користат како инка за превласт на белата раса, екстремно десничарскиот национализам или QAnon бизарна теорија на заговор во која Трамп се обидува да го спаси светот од либералните педофили, заговор кој има нула основа во реалноста.

Резиме

Фејсбук јасно е свесен дека има проблем и јавно го имаат објави стратегија кој се фокусира на отстранување на содржина што ги прекршува стандардите на заедницата на Facebook. Проблемот е што бришењето сметки е привремена мерка за запирање која е неефикасна кога сметките се генерираат на големо од ботови или масовното хакирање на корисничките сметки. Исто така, не го решава проблемот што најголем дел од споделувањето е од редовни корисници кои не се свесни дека шират дезинформации.

Додавањето предупредувачки етикети едноставно служи за зајакнување на теориите на заговор дека гигантите на социјалните мрежи се пристрасни против конзервативците кои се најмногу подложни на лажни вести.

Решението треба да биде нов мотор за препораки што ќе го мери не само ангажманот на корисникот, туку е оптимизиран за среќата на корисниците преку доставување вистина и промовирање на зголемена самосвест.

Во меѓувреме, Фејсбук треба да го следи патот кој Твитер ги забрани политичките реклами.

На крајот, треба да се постави важно прашање. Ако луѓето веќе немаат избор за вестите што ги гледаат, кога тоа престанува да биде препорака и кога станува контрола на умот?

Препорачано четиво:

Кампањи и мешања на руски активни мерки – Извештај на Избраната комисија за разузнавање Сенатот на Соединетите Држави.

Шокантниот документ кој го предвидува крајот на демократијата - Од Рик Шенкман, основач на Историската новинска мрежа на Универзитетот Џорџ Вашингтон.

Постарите луѓе споделуваат лажни вести на Фејсбук Повеќе – Од Њујорк Тајмс