Jak Facebook wykorzystuje sztuczną inteligencję do rozpowszechniania dezinformacji i zagrażania demokracji

Dan Tunkelang, który nadzorował badania nad sztuczną inteligencją w LinkedIn, stwierdził: „W momencie, gdy rekomendacje mają wpływ na decyzje, stają się celem dla oszustów, spammerów i innych osób o niecnym charakterze.”

To jest dylemat, z którym mierzą się firmy medialne, takie jak Facebook. Facebook wykorzystuje niejawne opinie do śledzenia kliknięć, wyświetleń i innych zachowań użytkowników. To służy do zaprojektowania tzw. „silnika rekomendacji”, systemu sztucznej inteligencji, który ma ostateczną władzę nad decyzjami, które treści są wyświetlane i kiedy.

Facebook zoptymalizował swój silnik rekomendacji, aby maksymalnie zwiększyć zaangażowanie użytkowników, które mierzone jest czasem spędzonym na platformie Facebook. Maksymalizacja czasu ma pierwszeństwo przed innymi zmiennymi, w tym jakością lub dokładnością rekomendowanych treści.

System jest zaprojektowany w taki sposób, aby nagradzać sensacyjne nagłówki, które angażują użytkowników, wykorzystując ich poznawcze uprzedzenia, nawet jeśli te nagłówki są napisane przez rosyjskich trolli, których celem jest dzielenie społeczeństwa lub wpływanie na wyniki wyborów.

Jak Facebook wykorzystuje sztuczną inteligencję

Istnieje brak świadomości na temat tego, jak Facebook wykorzystuje sztuczną inteligencję do decydowania, które treści są wyświetlane użytkownikom i z którymi interakcje. Trzeba najpierw zrozumieć, co to jest potwierdzenie uprzedzeń. Psychology Today opisuje to jako:

Potwierdzenie uprzedzeń to tendencja do poszukiwania, interpretowania, faworyzowania i przypominania informacji w sposób, który potwierdza lub wspiera wcześniejsze przekonania lub wartości.

Facebook rozumie, że użytkownicy są bardziej skłonni do klikania na wiadomości, które wpisują się w ludzką tendencję do poszukiwania potwierdzenia uprzedzeń. To stwarza niebezpieczny precedens zarówno dla rozpowszechniania teorii spiskowych, jak i tworzenia tzw. „bańki filtrującej”, w której użytkownicy są karmieni wyłącznie tym, co chcą zobaczyć, niezależnie od dokładności lub społecznych skutków wyświetlanych treści.

Badanie przeprowadzone przez MIT wykazało, że fałszywe wiadomości na Twitterze rozprzestrzeniają się sześciokrotnie szybciej niż prawdziwe.

To oznacza, że zarówno Twitter, jak i Facebook mogą być wykorzystywane jako broń. Podczas gdy Twitter umożliwia każdemu świadome obserwowanie kanałów z wąskimi lub tendencyjnymi punktami widzenia, Facebook idzie o krok dalej. Użytkownik na Facebooku nie ma obecnie żadnej możliwości kontrolowania lub mierzenia tego, co jest wyświetlane, co jest całkowicie kontrolowane przez silnik rekomendacji Facebooka, sposób, w jaki mierzy zaangażowanie użytkowników, i sposób, w jaki optymalizuje to zaangażowanie.

Facebook próbuje kształtować i przewidywać pragnienia swoich użytkowników. Facebook szacuje, w jakim stopniu użytkownik będzie lubił lub nie lubił określonej wiadomości, której jeszcze nie doświadczył. Aby uniknąć utraty zaangażowania użytkownika, Facebook wybiera pominięcie wiadomości, które mogą zmniejszyć poziom zaangażowania, i wybiera zamiast tego angażowanie użytkownika poprzez podawanie wiadomości, które wpisują się w potwierdzenie uprzedzeń, zapewniając więcej kliknięć, komentarzy, polubień i udostępnień.

Facebook również wykorzystuje automatyczne współfiltrowanie historycznych działań i opinii użytkowników do automatycznego dopasowania uczestników (przyjaciół) o podobnych opiniach. Facebook wykorzystuje funkcję użyteczności, która automatycznie i matematycznie przewiduje i klasyfikuje preferencje użytkownika co do treści, które chce zobaczyć.

To powoduje, że użytkownicy wpadają w „króliczą norę”, są uwięzieni w fałszywych wiadomościach, karmieni treściami, które wzmacniają ich uprzedzenia. Prezentowane treści są niezmiennie zaprojektowane z celem wpływania na to, na co klikasz.

Jeśli użytkownik wierzy w spisek, że Bill Gates próbuje mikrochipować ludzi za pomocą szczepionek, dlaczego Facebook miałby przedstawić mu sprzeczne dowody, które mogą spowodować, że użytkownik straci zainteresowanie platformą? Jeśli użytkownik wspiera określonego kandydata politycznego, dlaczego Facebook miałby oferować wiadomości, które mogą sprzeciwić się jego pozytywnym poglądom na temat tego kandydata?

Jeśli to nie wystarczy, Facebook również wykorzystuje tzw. „społeczne dowody”. Społeczne dowody to pojęcie, że ludzie będą naśladować działania większości.

Facebook zapewnia te społeczne dowody w kontekście polubień, komentarzy lub udostępnień. Ponieważ tylko niektórzy przyjaciele mogą zobaczyć elementy na stronie (chyba że użytkownik specjalnie wyszuka ich strony), społeczne dowody po prostu wzmacniają potwierdzenie uprzedzeń.

Facebook również wykorzystuje bańki filtrujące, aby ograniczyć ekspozycję na sprzeczne, sprzeczne lub wyzywające punkty widzenia.

Reklamy na Facebooku

Niewtajemniczeni użytkownicy Facebooka mogą klikać na reklamy bez świadomości, że są przedstawiani reklamom. Powodem jest to, że jeśli jest reklama, tylko pierwsza osoba, która jest przedstawiana reklamie, zobaczy disclaimer reklamy. Jeśli ten użytkownik udostępni reklamę, wszyscy na jego liście przyjaciół po prostu zobaczą „udostępnienie” jako element na stronie, ponieważ Facebook celowo pomija disclaimer reklamy.

Udostępnienia na Facebooku

Niestety, sytuacja się pogarsza. Jeśli użytkownik ma 1000 przyjaciół, którzy jednocześnie udostępniają treści, silnik rekomendacji Facebooka będzie faworyzował treści od mniejszości, która dzieli te same poglądy, nawet jeśli te poglądy często składają się z nieudowodnionych teorii spiskowych. Użytkownik będzie wtedy miał złudzenie, że te elementy na stronie są widoczne dla wszystkich.

Jeśli użytkownik spróbuje uświadomić innego użytkownika o mylnej lub fałszywej treści, sam akt komentowania lub angażowania się w element na stronie po prostu zwiększa czas zaangażowania pierwotnego użytkownika. Ten sprzężony obwód powoduje, że Facebook wzmacnia angażowanie tego użytkownika dodatkowymi fałszywymi wiadomościami.

To powoduje tzw. „izbę echa”, bańkę filtrującą, w której użytkownik jest szkolony, aby wierzyć tylko w to, co widzi. Prawda jest po prostu iluzją.

Poważność problemu

Ponad 10 milionów ludzi zaangażowało się w element na stronie, twierdząc, że papież Franciszek poparł wybór Donalda Trumpa w 2016 roku. Nie było żadnych dowodów na to, było to po prostu fałszywa wiadomość, która pojawiła się z Rosji, a jednak była to najczęściej udostępniana wiadomość na Facebooku w trzech miesiącach poprzedzających wybory w 2016 roku.

Element na stronie został wygenerowany przez rosyjską fermę trolli, która nazywa się „Internet Research Agency”. Ta sama organizacja była odpowiedzialna za promowanie i udostępnianie na Twitterze i Facebooku artykułów podsycających nienawiść rasową, na korzyść demonizowania ruchu Black Lives Matter, oraz broniących fałszywych wiadomości, które rozpowszechniają fałszywe twierdzenia o amerykańskich politykach.

Senacki Komitet Wywiadu opublikował 85-stronicowy raport, w którym szczegółowo opisano rosyjskie aktywne kampanie i ingerencje, z których większość dotyczyła rozpowszechniania podziałowych fałszywych wiadomości i propagandy, które miały na celu wpływanie na wybory w 2016 roku w USA.

Przeskoczmy do wyborów w 2020 roku, a problem tylko się nasilił. We wrześniu 2020 roku, po wskazówce FBI, Facebook i Twitter zawiesiły konta na mediach społecznościowych dla organizacji medialnej o nazwie PeaceData, która jest związana z rosyjskimi staraniami propagandowymi.

Niestety, zamykanie kont jest tymczasowym i nieskutecznym rozwiązaniem. Rosyjskie konta często przybierają postać wniosków o przyjaźń, często obrażających kobiety z atrakcyjnymi profilami, które targetują mężczyzn, lub kont użytkowników, które mają historię regularnych postów. Te konta są powoli przekształcane w posty polityczne, aż stają się zdominowane przez propagandę lub teorie spiskowe.

Niewtajemniczony użytkownik może nie być świadomy, że konto przyjaciela zostało skompromitowane. Jeśli ten użytkownik jest podatny na teorie spiskowe, może zaangażować się w fałszywą wiadomość, a rosyjski troll, który często jest botem, zapewnia dodatkowe społeczne dowody w postaci polubień lub komentarzy.

Użytkownicy podatni na teorie spiskowe to często ci, którzy najmniej rozumieją, jak działa technologia i sztuczna inteligencja. Ludzie powyżej 65. roku życia, którzy są najbardziej prawdopodobni do głosowania, są również najbardziej skłonni do rozpowszechniania fałszywych wiadomości, jak donosi New York Times.

Zgodnie z badaniem użytkownicy Facebooka w wieku 65 lat i starsi opublikowali siedem razy więcej artykułów z fałszywych stron internetowych niż dorośli w wieku 29 lat i młodsi. Brak umiejętności cyfrowych sprawia, że ta grupa wiekowa nie jest przygotowana do strumienia wiadomości, który nie opiera się na faktach ani dokładności, ale wyłącznie na zaangażowaniu użytkownika.

Źli aktorzy wykorzystują silnik rekomendacji Facebooka, który wykorzystuje nasze poznawcze uprzedzenia przeciwko nam. Te same organizacje zoptymalizowały nadużywanie sztucznej inteligencji Facebooka do rozpowszechniania teorii spiskowych i propagandy. Teorie spiskowe, które mogą się wydawać niewinne na początku, są często używane jako kanały do białej supremacji, skrajnego nacjonalizmu lub QAnon, dziwnej teorii spiskowej dotyczącej prób Donalda Trumpa, aby uratować świat przed liberalnymi pedofilami, teorii, która nie ma żadnych podstaw w rzeczywistości.

Podsumowanie

Facebook jest świadomy, że istnieje problem i publicznie ogłosił strategię, która koncentruje się na usuwaniu treści, które naruszają standardy społeczności Facebooka. Problem polega na tym, że usuwanie kont jest tymczasowym rozwiązaniem, które jest nieskuteczne, gdy konta są generowane w bulk przez boty lub gdy dochodzi do masowego hakowania kont użytkowników. Nie rozwiązuje to również problemu, że większość udostępniania jest dokonywana przez zwykłych użytkowników, którzy nie są świadomi, że rozpowszechniają dezinformację.

Dodawanie ostrzeżeń po prostu wzmacnia teorie spiskowe, że giganci mediów społecznościowych są stronniczy wobec konserwatystów, którzy są najbardziej podatni na fałszywe wiadomości.

Rozwiązanie musi być nowy silnik rekomendacji, który nie tylko mierzy zaangażowanie użytkownika, ale jest zoptymalizowany pod kątem szczęśliwości użytkownika, dostarczając prawdę i promując zwiększoną samoświadomość.

W międzyczasie Facebook powinien podążać śladem, który podążył Twitter, aby zakazać reklam politycznych.

Na koniec należy zadać sobie ważne pytanie. Jeśli ludzie nie mają już wyboru co do wiadomości, które widzą, kiedy przestaje to być rekomendacją, a kiedy staje się kontrolą umysłu?

Zalecane czytanie:

Rosyjskie aktywne kampanie i ingerencje – Raport Senackiego Komitetu Wywiadu.

Szokujący raport przewidujący koniec demokracji – Autor: Rick Shenkman, założyciel History News Network na Uniwersytecie George’a Washingtona.

Starsi ludzie udostępniają fałszywe wiadomości na Facebooku – Artykuł New York Timesa.