Come Facebook utilizza l’AI per diffondere disinformazione e minacciare la democrazia

Dan Tunkelang, che ha sovrinteso alla ricerca sull’AI di LinkedIn, ha affermato: “Il momento in cui le raccomandazioni hanno il potere di influenzare le decisioni, diventano un bersaglio per gli spammer, gli scammers e altre persone con motivazioni meno che nobili.”

Questo è il dilemma che le società di social media come Facebook stanno vivendo. Facebook utilizza feedback implicito per tenere traccia dei clic, delle visualizzazioni e di altri comportamenti degli utenti misurabili. Ciò viene utilizzato per progettare ciò che viene identificato come “motore di raccomandazione”, un sistema di intelligenza artificiale che ha il potere finale di decidere chi vede quale contenuto e quando.

Facebook ha ottimizzato il proprio motore di raccomandazione per massimizzare l’engagement degli utenti, che viene misurato dal tempo trascorso sul piattaforma Facebook. La massimizzazione del tempo ha priorità su qualsiasi altra variabile, compresa la qualità o l’accuratezza di ciò che viene raccomandato.

Il sistema è progettato per premiare titoli sensazionalistici che coinvolgono gli utenti sfruttando i pregiudizi cognitivi, anche se quei titoli sono stati scritti da troll russi con l’intento di dividere la società o influenzare le elezioni politiche.

Come Facebook utilizza l’AI

C’è una mancanza di consapevolezza su come Facebook utilizzi l’AI per decidere cosa mostrare ai suoi utenti e con cosa interagiscono. Bisogna prima capire cosa sia il pregiudizio di conferma. Psychology Today descrive questo come:

Il pregiudizio di conferma è la tendenza a cercare, interpretare, favorire e ricordare le informazioni in un modo che confermi o supporti le proprie credenze o valori preesistenti.

Facebook capisce che gli utenti sono più propensi a cliccare su notizie che alimentano la tendenza umana a cercare il pregiudizio di conferma. Ciò stabilisce un pericoloso precedente per la diffusione di teorie del complotto e per la creazione di camere dell’eco in cui gli utenti vengono nutriti esclusivamente con ciò che vogliono vedere, indipendentemente dall’accuratezza o dall’impatto sociale di ciò che viene visto.

<p Uno studio del MIT è stato in grado di dimostrare che le notizie false su Twitter si diffondono 6 volte più velocemente delle notizie vere.

Ciò significa che sia Twitter che Facebook possono essere utilizzati come armi. Mentre Twitter consente a chiunque di seguire intenzionalmente feed con punti di vista ristretti o distorti, Facebook va oltre. Un utente su Facebook attualmente non ha modo di controllare o misurare cosa sta vedendo, ciò è controllato interamente dal motore di raccomandazione di Facebook, da come misura l’engagement degli utenti e da come ottimizza per lo stesso engagement degli utenti.

Facebook tenta di plasmare e prevedere i desideri dei suoi utenti. Facebook stima in che misura un utente possa piacere o non piacere a un articolo di notizie che non è ancora stato visto dall’utente. Per evitare una perdita di engagement degli utenti, Facebook sceglie quindi di bypassare gli articoli di notizie che potrebbero ridurre il livello di engagement e sceglie invece di coinvolgere l’utente alimentando notizie che alimentano il pregiudizio di conferma, garantendo così più clic, commenti, like e condivisioni.

Facebook utilizza anche un filtro collaborativo automatizzato delle azioni e delle opinioni storiche degli utenti per abbinare automaticamente i partecipanti (amici) con opinioni simili. Facebook utilizza una funzione di utilità che prevede e classifica automaticamente e matematicamente le tue preferenze per gli elementi che desideri vedere.

Ciò fa sì che gli utenti cadano in un buco dei conigli, sono intrappolati nelle notizie false, alimentati con contenuti che rafforzano i loro pregiudizi. Il contenuto presentato è progettato per influenzare ciò che clicchi.

Se credi nella cospirazione che Bill Gates stia cercando di microchippare la popolazione umana utilizzando i vaccini, perché Facebook dovrebbe presentarti prove contrarie che potrebbero farti disimpegnare dalla piattaforma? Se sostieni un certo candidato politico, perché Facebook dovrebbe offrirti notizie che potrebbero contraddire le tue opinioni positive su quel candidato?

Come se non fosse sufficiente, Facebook utilizza anche ciò che è noto come “prova sociale”. La prova sociale è il concetto che le persone seguiranno le azioni della massa. L’idea è che poiché molte altre persone si comportano in un certo modo, deve essere il comportamento corretto.

Facebook fornisce questa prova sociale nel contesto dei like, commenti o condivisioni. Poiché solo alcuni amici possono vedere l’elemento del feed di notizie (a meno che non lo cerchino specificamente nel feed di notizie dell’utente), la prova sociale serve solo a rafforzare il pregiudizio di conferma.

Facebook utilizza anche bolle di filtro per limitare l’esposizione a punti di vista contrastanti, contraddittori o sfidanti.

Annunci di Facebook

Gli utenti di Facebook potrebbero fare clic su annunci senza rendersi conto che stanno vedendo annunci. Il motivo è semplice, se c’è un annuncio, solo la prima persona che vede l’annuncio vede la disclaimer dell’annuncio. Se quell’utente condivide l’annuncio, tutti gli amici nella sua lista di amici vedono solo la “condivisione” come un elemento del feed di notizie, poiché Facebook intenzionalmente elimina la disclaimer dell’annuncio. Immediatamente, gli utenti abbassano la guardia, non sono in grado di distinguere cosa sia un annuncio e cosa sarebbe apparso organicamente nel loro feed di notizie.

Condivisioni di Facebook

Purtroppo, le cose peggiorano. Se un utente ha 1000 amici che condividono contemporaneamente contenuti, il motore di raccomandazione darà priorità ai contenuti della minoranza che condivide le stesse opinioni, anche se queste spesso consistono in teorie del complotto non provate. L’utente sarà quindi sotto l’illusione che questi elementi del feed di notizie siano visibili a tutti. Interagendo con questo feed di notizie, questi utenti stanno ottimizzando a vicenda la loro prova sociale.

Se un utente tenta di illuminare un altro utente su un elemento di notizie false o fuorvianti, l’atto stesso di commentare o interagire con l’elemento del feed di notizie aumenta semplicemente il tempo di engagement dell’utente originale. Questo ciclo di feedback fa sì che Facebook rinforzi l’engagement di quell’utente con ulteriori notizie false.

Ciò crea una camera dell’eco, una bolla di filtro in cui un utente è addestrato a credere solo in ciò che vede. La verità è semplicemente un’illusione.

Gravità del problema

Oltre 10 milioni di persone hanno interagito con un elemento del feed di notizie che affermava che Papa Francesco era uscito a sostegno dell’elezione di Trump nel 2016. Non c’era alcuna prova di ciò, era semplicemente una storia di notizie false proveniente dalla Russia, eppure questa è stata la notizia più condivisa su Facebook nei tre mesi precedenti l’elezione del 2016.

L’elemento di notizie è stato generato da una fattoria di troll russa che si fa chiamare “Agenzia di ricerca su Internet”. Questa stessa organizzazione è stata responsabile della promozione e della condivisione su Twitter e Facebook di articoli di provocazione razziale, a favore della demonizzazione di Black Lives Matter e dell’uso di notizie false per diffondere false affermazioni su politici americani.

Il Comitato selezionato per l’intelligence ha rilasciato un rapporto di 85 pagine che dettaglia le campagne di misure attive russe e interferenze, la maggior parte delle quali coinvolgeva la diffusione di notizie false divisive e propaganda che aveva l’unico intento di influenzare l’elezione presidenziale statunitense del 2016.

Andando avanti all’elezione del 2020, il problema si è solo intensificato. A settembre 2020, dopo un suggerimento dell’FBI, Facebook e Twitter hanno sospeso gli account di social media per un’organizzazione di notizie che si faceva chiamare PeaceData, collegata agli sforzi di propaganda statale russa.

Purtroppo, la chiusura degli account è una soluzione temporanea e inefficace. Gli account russi spesso si presentano come richieste di amicizia, spesso disgustati da donne con profili attraenti che prendono di mira gli uomini, o account di utenti hijacked con una storia di post regolari. Questi account hijacked si spostano gradualmente verso post più politici, fino a quando non sono dominati da propaganda o teorie del complotto.

Un utente ignaro potrebbe non rendersi conto che l’account di un amico è stato compromesso. Se quell’utente è vulnerabile alle teorie del complotto, potrebbe interagire con l’elemento del feed di notizie false, il troll russo che è spesso un bot, quindi fornisce ulteriore prova sociale sotto forma di like o commenti.

Gli utenti vulnerabili sono spesso quelli che meno capiscono come funzionano la tecnologia e l’AI. La fascia demografica over 65, che è la popolazione più probabile a votare, è anche la più probabile a diffondere notizie false, come riportato dal New York Times.

Secondo lo studio, gli utenti di Facebook di età pari o superiore a 65 anni hanno pubblicato sette volte più articoli da siti web di notizie false rispetto agli adulti di età compresa tra 29 e meno. Una mancanza di alfabetizzazione digitale rende questo gruppo di età impreparato per un feed di notizie che non si basa sui fatti o sull’accuratezza, ma esclusivamente sull’engagement degli utenti.

Gli attori malintenzionati stanno sfruttando il motore di raccomandazione di Facebook, che sfrutta i nostri pregiudizi cognitivi contro di noi. Queste stesse organizzazioni hanno ottimizzato l’abuso dell’AI di Facebook per diffondere teorie del complotto e propaganda. Le teorie del complotto che possono sembrare innocue all’inizio, sono spesso utilizzate come canali per il suprematismo bianco, il nazionalismo di destra o QAnon una bizzarra teoria del complotto che coinvolge Trump che cerca di salvare il mondo dai pedofili liberali, una cospirazione che non ha alcun fondamento nella realtà.

Riassunto

Facebook è chiaramente consapevole che c’è un problema e ha pubblicamente annunciato una strategia che si concentra sull’eliminazione dei contenuti che violano gli standard della community di Facebook. Il problema è che l’eliminazione degli account è una misura temporanea e inefficace quando gli account vengono generati in massa da bot o quando vengono eseguiti hacking di massa degli account degli utenti. Ciò non risolve nemmeno il problema che la maggior parte della condivisione è effettuata da utenti regolari che non sono consapevoli di stare diffondendo disinformazione.

Aggiungere etichette di avvertimento serve solo a rafforzare le teorie del complotto secondo cui i giganti dei social media sono prevenuti contro i conservatori, che sono i più suscettibili alle notizie false.

La soluzione deve essere un nuovo motore di raccomandazione che misuri non solo l’engagement degli utenti, ma sia ottimizzato per la felicità degli utenti fornendo verità e promuovendo una maggiore consapevolezza di sé.

Nel frattempo, Facebook dovrebbe seguire la strada che Twitter ha preso per vietare gli annunci politici.

Infine, una domanda importante deve essere posta. Se le persone non hanno più scelta sulle notizie che vedono, quando smette di essere una raccomandazione e quando diventa controllo mentale?

Lettura consigliata:

Campagne di misure attive russe e interferenze – Rapporto del Comitato selezionato per l’intelligence del Senato degli Stati Uniti.

Il documento scioccante che prevede la fine della democrazia – Di Rick Shenkman, fondatore del History News Network dell’Università George Washington.

Le persone più anziane condividono più notizie false su Facebook – Del New York Times