Jak Facebook používá AI k šíření dezinformací a ohrožování demokracie

Dan Tunkelang, který dohlížel na výzkum AI v LinkedIn, uvedl: „Okamžik, kdy doporučení mají moc ovlivňovat rozhodnutí, se stávají cílem spammerů, podvodníků a dalších lidí s méně než ušlechtilými úmysly.“

Toto je dilema, se kterým se potýkají sociální média, jako je Facebook. Facebook používá implicitní zpětnou vazbu ke sledování kliknutí, zobrazení a dalších měřitelných uživatelských aktivit. To se používá k navržení toho, co je označováno jako „doporučovací stroj“, systém AI, který má konečnou moc rozhodovat, kdo vidí jaký obsah a kdy.

Facebook optimalizoval svůj doporučovací stroj pro maximalizaci uživatelské interakce, která se měří podle času stráveného na Facebooku. Maximalizace času má přednost před jakoukoli jinou proměnnou, včetně kvality nebo přesnosti doporučeného obsahu.

Systém je navržen tak, aby odměňoval senzacechtivý titulky, které zapojují uživatele tím, že využívají kognitivní zkreslení, i když tyto titulky mohou být napsány ruskými trolly s cílem rozdělit společnost nebo ovlivnit politické volby.

Jak Facebook používá AI

Neexistuje dostatečné povědomí o tom, jak Facebook používá AI k rozhodování o tom, co jeho uživatelé vidí a s čím interagují. Je třeba nejprve pochopit, co je potvrzovací zkreslení. Psychology Today popisuje to takto:

Potvrzovací zkreslení je tendence hledat, interpretovat, upřednostňovat a pamatovat si informace způsobem, který potvrzuje nebo podporuje naše předchozí přesvědčení nebo hodnoty.

Facebook chápe, že uživatelé jsou více pravděpodobně kliknout na zprávy, které krmí lidskou tendenci hledat potvrzovací zkreslení. To vytváří nebezpečný precedent pro šíření konspiračních teorií a pro vytváření echo komor, kde uživatelé jsou krmeni výhradně tím, co chtějí vidět, bez ohledu na přesnost nebo společenský dopad toho, co je vidět.

Studie MIT dokázala prokázat, že falešné zprávy na Twitteru se šíří 6krát rychleji než skutečné zprávy.

To znamená, že Twitter i Facebook mohou být zneužity. Zatímco Twitter umožňuje každému úmyslně sledovat kanály s úzkými nebo zkreslenými názory, Facebook jde ještě dále. Uživatel na Facebooku v současné době nemá žádný způsob, jak ovládat nebo měřit, co je vidět, toto je zcela ovládáno Facebookovým doporučovacím strojem, jak měří uživatelskou interakci a jak optimalizuje pro tuto samou uživatelskou interakci.

Facebook se snaží tvarovat a předpovídat touhy svých uživatelů. Facebook odhaduje, do jaké míry uživatel bude mít rád nebo nebude mít rád zpravodajský článek, který dosud nezkušil. Aby se zabránilo ztrátě uživatelské interakce, Facebook pak zvolí obejít zpravodajské články, které mohou snížit úroveň interakce, a zvolí místo toho zapojit uživatele tím, že krmí zpravodajské články, které krmí potvrzovací zkreslení, zajišťující více kliknutí, komentářů, lajků a sdílení.

Facebook také používá automatizované spolupráci historických uživatelských akcí a názorů pro automatické párování účastníků (přátel) se stejnými názory. Facebook používá’utilitní funkci, která automaticky a matematicky předpovídá a řadí vaše preference pro položky, které chcete vidět.

To způsobuje, že uživatelé spadají do králíka, jsou uvězněni ve falešných zprávách, jsou krmeni obsahem, který posiluje jejich zkreslení. Předložený obsah je vnitřně navržen s cílem ovlivňovat, na co kliknete. Pokud věříte konspiraci, že Bill Gates se snaží mikročipovat lidskou populaci pomocí vakcín, proč by Facebook měl předložit vám protichůdné důkazy, které by vás mohly odvrátit od platformy? Pokud podporujete určitého politického kandidáta, proč by Facebook měl nabízet zprávy, které by mohly vyvrátit vaše pozitivní názory na tohoto kandidáta?

Jako by to nestačilo, Facebook také využívá „sociální důkaz“. Sociální důkaz je koncept, že lidé budou následovat akce většiny. Nápad je, že protože tolik jiných lidí se chová určitým způsobem, musí to být správné chování.

Facebook poskytuje tento sociální důkaz v kontextu lajků, komentářů nebo sdílení. Protože pouze určití přátelé mohou vidět zpravodajský článek (pokud jej nezamýšleně hledají), sociální důkaz jednoduše posiluje potvrzovací zkreslení.

Facebook také používá filtry bublin pro omezení expozice konfliktním, protichůdným a výzvám názorům.

Facebookové reklamy

Nevědomí uživatelé Facebooku mohou kliknout na reklamy bez vědomí toho, že jsou předkládány reklamy. Důvod je jednoduchý, pokud existuje reklama, pouze první osoba, která je předložena reklamou, uvidí reklamní upozornění. Pokud uživatel sdílí reklamu, všichni na jeho seznamu přátel vidí pouze „sdílení“ jako zpravodajský článek, protože Facebook záměrně odstraňuje reklamní upozornění. Okamžitě, uživatelé snižují svou ostražitost, nejsou schopni rozlišit, co je reklama a co by se objevilo organicky na jejich zpravodajském článku.

Facebookové sdílení

Bohužel, věci se zhoršují. Pokud má uživatel 1000 přátel, kteří současně sdílejí obsah, doporučovací stroj bude upřednostňovat obsah menšiny, která sdílí stejné názory, i když tyto často sestávají z neprokázaných konspiračních teorií. Uživatel bude poté pod vlivem iluze, že tyto zpravodajské články jsou viděny všemi. Zapojením se do tohoto zpravodajského článku, tito uživatelé optimalizují vzájemný sociální důkaz.

Pokud se uživatel pokusí osvětlit jiného uživatele o zavádějícím nebo falešném článku, samotný akt komentování nebo zapojení se do zpravodajského článku jednoduše zvyšuje původní dobu uživatelské interakce. Tento zpětnovazebný smyček způsobuje, že Facebook posiluje zapojení tohoto uživatele s dalšími falešnými zprávami.

To způsobuje echo komoru, filtr bubliny, kde je uživatel trénován, aby věřil pouze tomu, co vidí. Pravda je jednoduše iluzí.

závažnost problému

Více než 10 milionů lidí se zapojilo do zpravodajského článku, který tvrdil, že papež František veřejně podpořil Trumpovu kandidaturu v roce 2016. Neexistovaly žádné důkazy o tom, bylo to prostě falešná zpráva, která pocházela z Ruska, ale to byla nejvíce sdílená zpráva na Facebooku ve třech měsících před volbami v roce 2016.

Zpravodajský článek byl vygenerován ruskou troll farmou, která se nazývá „Internet Research Agency“. Tato sama organizace byla zodpovědná za propagaci a sdílení na Twitteru a Facebooku článků, které podporovaly rasistické články, které podporovaly démonizaci hnutí Black Lives Matter, a zbraněné falešné zprávy, které šířily falešné tvrzení o amerických politicích.

Výbor pro zpravodajství zveřejnil 85stránkovou zprávu, která podrobně popisovala ruské aktivní opatření a zasahování, většina z nich se týkala šíření rozdělujících falešných zpráv a propagandy, které měly jediný cíl ovlivnit volby v roce 2016.

Pokračujeme-li ve volbách v roce 2020, problém se pouze zhoršil. V září 2020, po tipu FBI, Facebook a Twitter přerušily účty pro zpravodajskou agenturu s názvem PeaceData, která je spojena s ruskými státními propagandistickými aktivitami.

Bohužel, ukončení účtů je dočasným a neúčinným řešením. Ruské účty často nabývají formy žádostí o přátelství, často jsou znepokojeny ženami s atraktivními profily, které cílí na muže, nebo jimiž jsou účty uživatelů s historií pravidelných příspěvků. Tyto účty se postupně mění na více politické příspěvky, až jsou nakonec ovládány propagandou nebo konspiračními teoriemi.

Nevědomý uživatel může být nevědomý toho, že účet jeho přítele byl kompromitován. Pokud je tento uživatel zranitelný vůči konspiračním teoriím, může se zapojit do falešného zpravodajského článku, ruský troll, který je často botem, pak poskytuje další sociální důkaz formou lajků nebo komentářů.

Zranitelní uživatelé jsou často ti, kteří nejméně rozumí tomu, jak funguje technologie a AI. Věková skupina nad 65 let, která je nejpravděpodobněji volit, je také nejpravděpodobněji šíří falešné zprávy, jak uvedl New York Times.

Podle studie uživatelé Facebooku ve věku 65 let a starší zveřejnili sedmkrát více článků z falešných zpravodajských webů než dospělí ve věku 29 let a mladší. Nedostatek digitální mediální gramotnosti má tuto věkovou skupinu nepřipravenou na zpravodajský článek, který není založen na faktech nebo přesnosti, ale výhradně na uživatelské interakci.

Špatní aktéři využívají Facebookova doporučovacího stroje, který využívá naše kognitivní zkreslení proti nám. Tyto same organizace optimalizovaly zneužívání Facebookova AI pro šíření konspiračních teorií a propagandy. Konspirační teorie, které mohou vypadat neškodně na začátku, jsou často používány jako trychty do bílých supremacistických, krajně pravicových nacionalistických nebo QAnon bizarní konspirační teorie, která se týká Trumpa, který se snaží zachránit svět před liberálními pedofily, konspirační teorie, která nemá žádný základ v realitě.

Shrnutí

Facebook je jasně vědom si toho, že existuje problém, a veřejně ohlásil strategii, která se zaměřuje na odstranění obsahu, který porušuje Facebookovy standardy komunity. Problém je, že odstranění účtů je dočasným opatřením, které je neúčinné, když jsou účty generovány ve velkém počtu boty nebo hromadným hackováním uživatelských účtů. To také nevyřeší problém, že většina sdílení je provedena běžnými uživateli, kteří si nejsou vědomi toho, že šíří dezinformace.

Přidání varovných štítků jednoduše posiluje konspirační teorie, že sociální média jsou zaujatá proti konzervativcům, kteří jsou nejvíce náchylní k falešným zprávám.

Řešení musí být nové doporučovací stroj, který měří nejen uživatelskou interakci, ale je optimalizován pro uživatelskou spokojenost tím, že dodává pravdu a podporuje zvýšenou sebevědomí.

Mezitím by Facebook měl následovat cestu, kterou Twitter vzal, aby zakázal politické reklamy.

Nakonec je třeba položit důležitou otázku. Pokud lidé již nemají na výběr, jaké zprávy vidí, kdy přestává být to doporučení a kdy se stává ovládáním mysli?

Doporučené čtení:

Ruské aktivní opatření a zasahování – Zpráva Výboru pro zpravodajství Senátu Spojených států.

Šokující článek předpovídající konec demokracie – od Ricka Shenkmana, zakladatele Historického zpravodajského sítě George Washingtonovy univerzity.

Starší lidé sdílejí falešné zprávy na Facebooku častěji – od New York Times