Facebook Rimuove Account Generati Da Intelligenza Artificiale E Utilizzati Per Perpetuare Teorie Del Complotto

Le società di social media hanno cercato di controllare la disinformazione in vista della stagione elettorale del 2020 in vari modi. Mentre Twitter ha recentemente vietato gli annunci politici dalla sua piattaforma, Facebook ha appena annunciato di aver chiuso centinaia di account falsi, gruppi e pagine. Molti di questi account sembrano avere immagini di profilo generate da intelligenza artificiale e molti sono stati utilizzati per diffondere disinformazione e teorie del complotto.

Come riportato da Forbes, Facebook ha dichiarato che gli account e le pagine bloccati erano collegati alla rete “Beauty of Life” o “TheBL”, che Facebook ha affermato essere collegata al gruppo di editoria conservatrice Epoch Times. Secondo Facebook, Epoch Media Group ha speso quasi 9,5 milioni di dollari in pubblicità attraverso molte delle pagine e dei gruppi ora bloccati, con molti dei post che contengono teorie del complotto pro-Trump. Sebbene Epoch Media Group neghi le accuse, Facebook ha affermato di aver lavorato a stretto contatto con ricercatori indipendenti come Graphika e il Digital Forensic Research Lab (DFRLab) del Consiglio Atlantico per determinare la natura degli account e delle pagine prima di prendere misure contro di essi.

Secondo Facebook, gli account sono stati rimossi per “comportamento inautentico coordinato”, intenzionalmente ingannevole sugli identità e per aver tentato di interferire con la politica. Secondo CNET, Facebook ha affermato che gli account spesso pubblicavano contenuti che promuovevano candidati politici e ideologie specifiche, concentrandosi su elezioni conservatrici, politiche conservatrici e forte sostegno al presidente Trump.

Facebook ha pubblicato un rapporto di 39 pagine sull’evento che copre molti dei suoi risultati. Uno degli aspetti più notevoli del rapporto di Facebook è stato che molti degli account bloccati sono stati creati con l’aiuto dell’intelligenza artificiale. I ricercatori di Facebook affermano nel rapporto:

“Decine di questi account falsi avevano immagini di profilo generate da intelligenza artificiale, nel primo grande dispiegamento di volti falsi noto agli autori di questo rapporto.”

Secondo i risultati del rapporto, le immagini generate da intelligenza artificiale non erano perfette, con dettagli che spesso rivelavano la loro vera natura. Gli elementi contigui di un’immagine, come gli occhiali o i capelli di una persona, erano spesso asimmetrici. Inoltre, i dettagli di sfondo erano spesso sfocati e distorti. Tuttavia, questi elementi potrebbero non essere notati a prima vista, specialmente considerando le piccole dimensioni delle immagini di profilo in una catena di commenti di Facebook. Molti dei profili falsi sembravano anche avere informazioni di profilo false e persino post falsi, potenzialmente generati da intelligenza artificiale.

Come riportato da NBC, il capo della politica di sicurezza di Facebook, Nathaniel Gleicher, ha affermato che il comportamento degli account è stato ciò che li ha resi inautentici e che i tentativi di utilizzare immagini e informazioni di profilo false non aiutano a nascondere gli account. Gleicher ha affermato che le immagini generate da intelligenza artificiale hanno effettivamente reso gli account più probabili di essere scoperti. Ha detto Gleicher:

“Abbiamo rilevato questi account perché erano coinvolti in comportamento falso. Utilizzare immagini di profilo generate da intelligenza artificiale come modo per sembrare più reali non li aiuta effettivamente. La cosa più importante qui è l’eccessiva natura della rete nell’utilizzare identità false… Ciò che è nuovo qui è che si tratta presumibilmente di un’azienda di media con sede negli Stati Uniti che utilizza attori stranieri che si spacciano per americani per diffondere contenuti politici. L’abbiamo visto molto con gli attori statali in passato.”

Tuttavia, i ricercatori indipendenti di Graphika e del Consiglio Atlantico hanno affermato che la facilità con cui gli attori malintenzionati sono stati in grado di creare così tante immagini e dare ai loro account un’autenticità percepita “è una preoccupazione”. Facebook e altre società di social media sono sotto pressione per aumentare gli sforzi per combattere la diffusione della disinformazione politica, un compito che richiederà di stare tecnologicamente avanti rispetto a coloro che cercano di diffondere disinformazione.

Prima che Facebook avesse rimosso gli account, le pagine e i gruppi, i contenuti pubblicati da queste entità hanno raggiunto milioni di persone. Si ritiene che almeno 55 milioni di account abbiano seguito una delle 89 pagine diverse bloccate. La maggior parte dei follower non erano account statunitensi. Complessivamente, sono stati rimossi da Facebook circa 600 account, 90 pagine e 150 gruppi. Circa 70 account sono stati rimossi anche da Instagram.

La notizia giunge proprio mentre Facebook sta avviando una sfida di rilevamento di DeepFake, che si svolgerà fino a marzo 2020. Twitter ha recentemente vietato quasi 6000 account che sospetta siano originati in Arabia Saudita e abbiano pubblicato contenuti intenzionalmente fuorvianti.