Cum folosește Facebook inteligența artificială pentru a răspândi informații false și a amenința democrația

Dan Tunkelang, care a supervizat cercetarea de inteligență artificială la LinkedIn, a declarat: „În momentul în care recomandările au puterea de a influența deciziile, ele devin o țintă pentru spammatori, escroci și alte persoane cu intenții mai puțin nobile.”

Acesta este dilema pe care o experimentează companiile de social media, cum ar fi Facebook. Facebook folosește feedback implicit pentru a urmări clicurile, vizualizările și alte comportamente ale utilizatorilor. Acesta este utilizat pentru a proiecta ceea ce se numește “motor de recomandare”, un sistem de inteligență artificială care are puterea finală de a decide ce conținut este afișat și când.

Facebook și-a optimizat motorul de recomandare pentru a maximiza implicarea utilizatorilor, care este măsurată de cantitatea de timp petrecută pe platforma Facebook. Maximizarea timpului are prioritate față de orice altă variabilă, inclusiv calitatea sau acuratețea conținutului recomandat.

Sistemul este proiectat pentru a recompensa titlurile sensaționaliste care atrag utilizatorii prin exploatarea prejudecăților cognitive, chiar dacă aceste titluri sunt scrise de trolli ruși cu intenția de a divide societatea sau de a influența alegerile politice.

Cum folosește Facebook inteligența artificială

Există o lipsă de conștientizare cu privire la modul în care Facebook folosește inteligența artificială pentru a decide ce conținut este afișat utilizatorilor săi. Trebuie să înțelegem mai întâi ce este prejudecata de confirmare. Psychology Today o descrie astfel:

Prejudecata de confirmare este tendința de a căuta, interpreta, favoriza și reține informații într-un mod care confirmă sau susține credințele sau valorile anterioare.

Facebook înțelege că utilizatorii sunt mai predispuși să cliqueze pe știri care se potrivesc cu tendința umană de a căuta prejudecăți de confirmare. Acest lucru stabilește un precedent periculos atât pentru răspândirea teoriilor conspirației, cât și pentru crearea unor camere de ecou în care utilizatorii sunt hrăniți exclusiv cu ceea ce vor să vadă, indiferent de acuratețe sau de impactul social al conținutului.

Un studiu al MIT a demonstrat că știrile false pe Twitter se răspândesc de 6 ori mai repede decât știrile adevărate.

Acest lucru înseamnă că atât Twitter, cât și Facebook pot fi folosite ca arme. În timp ce Twitter permite oricui să urmărească feed-uri cu puncte de vedere înguste sau părtinitoare, Facebook merge mai departe. Un utilizator de pe Facebook nu are în prezent niciun mod de a controla sau de a măsura ce conținut este afișat, acesta fiind controlat în întregime de motorul de recomandare al Facebook, de modul în care măsoară implicarea utilizatorilor și de modul în care optimizează această implicare.

Facebook încearcă să modeleze și să prevadă dorințele utilizatorilor săi. Facebook estimează în ce măsură un utilizator va aprecia sau nu un articol de știri care nu a fost încă experimentat de utilizator. Pentru a evita o scădere a implicării utilizatorilor, Facebook alege să ocolească articolele de știri care ar putea reduce nivelul de implicare și alege să implice utilizatorul prin alimentarea cu știri care hrănesc prejudecata de confirmare, asigurând astfel mai multe clicuri, comentarii, aprecieri și distribuiri.

Facebook folosește, de asemenea, filtrarea colaborativă automată a acțiunilor și opiniilor istorice ale utilizatorilor pentru a asocia automat participanții (prieteni) cu opinii similare. Facebook folosește o funcție utilitară care prezice și clasifică matematic preferințele utilizatorului pentru articolele pe care le dorește să le vadă.

Acest lucru face ca utilizatorii să cadă într-o cursă, fiind prinși în știri false, fiind alimentați cu conținut care întărește prejudecățile lor. Conținutul prezentat este în mod inerent proiectat cu scopul de a influența ceea ce cliquează.

Ca și cum acest lucru nu ar fi suficient, Facebook folosește și ceea ce se numește “dovadă socială”. Dovada socială este conceptul că oamenii vor urma acțiunile mulțimii. Ideea este că, deoarece atât de mulți alți oameni se comportă într-un anumit mod, acesta trebuie să fie comportamentul corect.

Facebook oferă această dovadă socială în contextul aprecierilor, comentariilor sau distribuirilor. Deoarece doar anumiți prieteni pot vedea articolul de știri (dacă nu caută în mod specific în fluxul de știri al unui utilizator), dovezile sociale servesc doar pentru a întări prejudecata de confirmare.

Facebook folosește, de asemenea, bule de filtrare pentru a limita expunerea la puncte de vedere contradictorii sau provocatoare.

Reclamele Facebook

Utilizatorii neștiutori de pe Facebook pot face clic pe reclame fără să știe că sunt prezentate cu reclame. Motivul este simplu, dacă există o reclamă, doar prima persoană care este prezentată cu reclama va vedea avertizarea de reclamă. Dacă utilizatorul distribuie reclama, toți cei de pe lista de prieteni vor vedea doar “distribuirea” ca articol de știri, deoarece Facebook intenționează să elimine avertizarea de reclamă. Utilizatorii își pierd imediat garda, nu mai pot face diferența între ce este o reclamă și ce ar fi apărut organic în fluxul lor de știri.

Partajările Facebook

Din nefericire, lucrurile se înrăutățesc. Dacă un utilizator are 1000 de prieteni care distribuie conținut simultan, motorul de recomandare va prioritiza conținutul minorității care împărtășește aceleași opinii, chiar dacă acestea constau adesea în teorii ale conspirației neconfirmate. Utilizatorul va fi sub iluzia că aceste articole de știri sunt văzute de toată lumea. Prin interacțiunea cu aceste știri, acești utilizatori își optimizează reciproc dovezile sociale.

Dacă un utilizator încearcă să informeze un alt utilizator despre un articol de știri înșelător sau fals, actul de a comenta sau de a interacționa cu articolul de știri crește pur și simplu timpul de implicare al utilizatorului original. Acest buclă de feedback face ca Facebook să întărească implicarea utilizatorului cu știri false suplimentare.

Acest lucru creează o cameră de ecou, o bulă de filtrare în care un utilizator este instruit să creadă doar ceea ce vede. Adevărul este pur și simplu o iluzie.

Gravitatea problemei

Peste 10 milioane de oameni au interacționat cu un articol de știri care afirma că Papa Francisc a susținut alegerile lui Trump în 2016. Nu a existat nicio dovadă a acestui lucru, a fost doar o știre falsă care a apărut din Rusia, dar a fost cea mai distribuită știre pe Facebook în cele trei luni care au precedat alegerile din 2016.

Articolul de știri a fost generat de o fermă de trolli ruși care se numește “Agenția de Cercetare pe Internet”. Aceeași organizație a fost responsabilă pentru promovarea și distribuirea pe Twitter și Facebook a articolelor care instigă la ură împotriva mișcării Black Lives Matter și a răspândit știri false care au făcut afirmații false despre politicienii americani.

Comitetul Special pentru Informații a lansat un raport de 85 de pagini care detaliază Campaniile Active de Măsuri și Interferențe Ruse, majoritatea cărora au implicat răspândirea de știri false și propagandă care a avut ca scop unic influențarea alegerilor din 2016.

Înaintează până la alegerile din 2020 și problema s-a înrăutățit. În septembrie 2020, după un sfat din partea FBI, Facebook și Twitter au suspendat conturile de social media pentru o organizație de știri care se numește PeaceData, legată de eforturile de propagandă de stat ale Rusiei.

Din nefericire, închiderea conturilor este o soluție temporară și ineficientă. Conturile rusești îmbracă adesea forma unor cereri de prietenie, adesea de femei cu profile atractive care țintesc bărbații, sau conturi de utilizator compromise cu o istorie de postări regulate. Aceste conturi compromise se mută treptat spre postări mai politice, până când sunt dominate de propagandă sau teorii ale conspirației.

Un utilizator neștiutor poate să nu știe că contul unui prieten a fost compromis. Dacă utilizatorul este vulnerabil la teorii ale conspirației, el poate interacționa cu articolul de știri fals, trollul rus, care este adesea un robot, apoi oferă dovezi sociale suplimentare sub forma aprecierilor sau comentariilor.

Utilizatorii vulnerabili sunt adesea cei care înțeleg cel mai puțin cum funcționează tehnologia și inteligența artificială. Populația peste 65 de ani, care este cea mai probabilă să voteze, este și cea mai probabilă să distribuie știri false, așa cum a raportat The New York Times.

Conform studiului, utilizatorii de Facebook cu vârsta de 65 de ani și peste au postat de șapte ori mai multe articole de pe site-urile de știri false decât adulții cu vârsta sub 29 de ani. Lipsa de alfabetizare mediatică digitală face ca această grupă de vârstă să nu fie pregătită pentru un flux de știri care nu se bazează pe fapte sau acuratețe, ci exclusiv pe implicarea utilizatorilor.

Actorii răi profită de motorul de recomandare al Facebook, care exploatează prejudecățile cognitive împotriva noastră. Aceste organizații au optimizat abuzul de inteligența artificială a Facebook pentru a răspândi teorii ale conspirației și propagandă. Teoriile conspirației care pot părea inofensive la început sunt adesea folosite ca tuneluri către supremacismul alb, naționalismul de dreapta sau QAnon, o teorie a conspirației ciudată care implică încercarea lui Trump de a salva lumea de pedofili liberali, o conspirație care nu are nicio bază în realitate.

Rezumat

Facebook este conștient de faptul că există o problemă și a anunțat public o strategie care se concentrează pe eliminarea conținutului care încalcă standardele comunității Facebook. Problema este că ștergerea conturilor este o măsură temporară și ineficientă atunci când conturile sunt generate în masă de roboți sau atunci când conturile de utilizator sunt compromise în masă. Acest lucru nu rezolvă nici problema că majoritatea distribuirilor sunt făcute de utilizatori obișnuiți care nu știu că răspândesc informații false.

Adăugarea de etichete de avertizare nu face decât să întărească teorii ale conspirației că gigantii mass-media sunt împotriva conservatorilor, care sunt cei mai vulnerabili la știri false.

Soluția trebuie să fie un nou motor de recomandare care măsoară nu numai implicarea utilizatorilor, ci este optimizat pentru fericirea utilizatorilor prin livrarea adevărului și promovarea conștientizării de sine.

Între timp, Facebook ar trebui să urmeze calea pe care a urmat-o Twitter pentru a interzice reclamele politice.

În cele din urmă, o întrebare importantă trebuie pusă. Dacă oamenii nu mai au nicio alegere asupra știrilor pe care le văd, când încetează să mai fie o recomandare și când devine control al minții?

Citire recomandată:

Campaniile Active de Măsuri și Interferențe Ruse – Raport al Comitetului Special pentru Informații al Senatului Statelor Unite.

Articolul șocant care prezice sfârșitul democrației – De Rick Shenkman, fondatorul Rețelei de Știri Istorice George Washington University.

Persoanele în vârstă distribuie mai multe știri false pe Facebook – De New York Times