Facebook șterge conturi generate de inteligență artificială și folosite pentru a perpetua teoriile conspirației

Companiile de social media au încercat să controleze dezinformarea înainte de sezonul electoral din 2020 în diferite moduri. În timp ce Twitter a interzis recent publicitatea politică de pe platforma sa, Facebook (META ) a anunțat că a închis sute de conturi, grupuri și pagini false. Multe dintre aceste conturi par a avea imagini de profil generate de inteligență artificială și au fost folosite pentru a dissemina informații false și teorii conspirației.

Conform unui raport de pe Forbes, Facebook a declarat că conturile și paginile interzise erau legate de rețeaua “Beauty of Life” sau “TheBL”, care, conform Facebook, era legată de grupul de publicare a știrilor conservatoare, Epoch Times. Conform Facebook, Epoch Media Group a cheltuit aproape 9,5 milioane de dolari pentru publicitate prin multe dintre paginile și grupurile interzise, cu multe postări care conțineau teorii conspirației pro-Trump. Deși Epoch Media Group neagă acuzațiile, Facebook a declarat că a lucrat îndeaproape cu cercetători independenți, cum ar fi Graphika și Laboratorul de Cercetare Digitală al Consiliului Atlantic (DFRLab), pentru a determina natura conturilor și paginilor înainte de a lua măsuri împotriva lor.

Conform Facebook, conturile au fost eliminate pentru “comportament inautentic coordonat”, pentru inducerea în eroare intenționată a altor persoane cu privire la identitatea lor și pentru încercarea de a influența politic. Conform CNET, Facebook a declarat că conturile au postat adesea conținut care promova candidați politici și ideologii specifice, concentrându-se pe alegeri conservatoare, politici conservatoare și susținând puternic președintele Trump.

Facebook a publicat un raport de 39 de pagini despre eveniment, care acoperă multe dintre constatările lor. Unul dintre aspectele notabile ale raportului Facebook a fost că multe dintre conturile interzise au fost create cu ajutorul inteligenței artificiale. Cercetătorii Facebook declară în raport:

“Zeci de conturi false aveau imagini de profil generate de inteligență artificială, în prima implementare la scară largă a fețelor false cunoscute de autori.”

Conform constatărilor raportului, imaginile generate de inteligență artificială nu erau perfecte, cu detalii care adesea dădeau de gol adevărata lor natură. Elementele contigue ale unei imagini, cum ar fi ochelarii sau părul unei persoane, erau adesea asimetrice. Mai mult, detaliile din fundal erau adesea neclare și distorsionate. Cu toate acestea, aceste elemente nu pot fi observate la prima vedere, în special având în vedere dimensiunile mici ale fotografiilor de profil într-un lanț de comentarii de pe Facebook. Multe dintre profilele false păreau să aibă și informații de profil false și chiar postări false, posibil generate de inteligență artificială.

Conform NBC, șeful politicii de securitate a Facebook, Nathaniel Gleicher, a declarat că comportamentul conturilor a fost ceea ce le-a dat de gol ca fiind inautentice și că încercările de a folosi imagini și informații de profil false nu ajută la protejarea conturilor de a fi descoperite. Gleicher a declarat că imaginile generate de inteligență artificială erau de fapt mai susceptibile de a fi descoperite. A spus:

“Am detectat aceste conturi pentru că erau implicate în comportament fals. Utilizarea profilului generat de inteligență artificială ca modalitate de a se face să pară mai real nu ajută de fapt. Cea mai importantă concluzie aici este gravitatea rețelei în utilizarea identităților false… Ce este nou aici este faptul că aceasta este o companie media cu sediul în Statele Unite, care folosește actori străini care se prezintă ca americani pentru a promova conținut politic. Am văzut asta de multe ori cu actori de stat în trecut.”

În ciuda acestui fapt, cercetătorii independenți de la Graphika și Consiliul Atlantic au declarat că ușurința cu care actorii răi au putut crea atâtea imagini și au dat conturilor o aparență de autenticitate “este o preocupare”. Facebook și alte companii de social media sunt sub presiune să intensifice eforturile de a combate proliferarea informațiilor false politice, o sarcină care va necesita să rămână înainte din punct de vedere tehnologic față de cei care încearcă să răspândească informații false.

Înainte ca Facebook să fi închis conturile, paginile și grupurile, conținutul postat de aceste entități a ajuns la milioane de oameni. Se pare că cel puțin 55 de milioane de conturi au urmat una dintre cele 89 de pagini interzise. Majoritatea urmăritorilor erau conturi non-americane. În total, aproximativ 600 de conturi, 90 de pagini și 150 de grupuri au fost eliminate de pe Facebook. Aproximativ 70 de conturi au fost eliminate și de pe Instagram.

Știrile vin exact în momentul în care Facebook lansează o provocare de detectare a DeepFake, care va dura până în martie 2020. Twitter a interzis recent aproape 6000 de conturi pe care le suspectează că au origine în Arabia Saudită și au postat conținut înșelător în mod intenționat.