Facebook usuwa konta utworzone przez sztuczną inteligencję i wykorzystywane do utrwalania teorii spiskowych

Firmy z branży mediów społecznościowych na różne sposoby starają się kontrolować dezinformację przed sezonem wyborczym w 2020 r. Podczas gdy Twitter niedawno zakazał wyświetlania reklam politycznych na swojej platformie, Facebook właśnie ogłosił, że zamknął setki fałszywych kont, grup i stron. Wydaje się, że wiele z tych kont zawiera zdjęcia profilowe wygenerowane przez sztuczną inteligencję, a wiele z nich według doniesień wykorzystano do rozpowszechniania dezinformacji i teorii spiskowych.

Jak podaje „Forbes”.Facebook stwierdził, że zablokowane konta i strony były powiązane z siecią „Beauty of Life”, czyli „TheBL”, która według Facebooka była powiązana z konserwatywną grupą wydawniczą „Epoch Times”. Według Facebooka Epoch Media Group wydała prawie 9.5 miliona dolarów na reklamy za pośrednictwem wielu obecnie zakazanych stron i grup, a wiele postów zawierało teorie spiskowe popierające Trumpa. Chociaż Epoch Media Group zaprzecza oskarżeniom, Facebook oświadczył, że ściśle współpracował z niezależnymi badaczami, takimi jak Graphika i Digital Forensic Research Lab (DFRLab) przy Atlantic Council, aby określić charakter kont i stron przed podjęciem przeciwko nim działań.

Według Facebooka konta zostały usunięte z powodu „skoordynowanego nieautentycznego zachowania”, celowego wprowadzenia innych w błąd co do ich tożsamości oraz próby ingerencji politycznej.  Według CNETFacebook podał, że na kontach często publikowano treści promujące konkretnych kandydatów politycznych i ideologie, skupiające się na konserwatywnych wyborach, konserwatywnej polityce i silnym poparciu dla prezydenta Trumpa.

Facebook opublikował 39-stronicowy raport z wydarzenia, zawierający wiele ustaleń. Jednym z godnych uwagi aspektów raportu Facebooka było to, że wiele zablokowanych kont zostało utworzonych przy pomocy sztucznej inteligencji. Badacze Facebooka stwierdzają w raporcie:

„Dziesiątki tych fałszywych kont miało zdjęcia profilowe wygenerowane przez sztuczną inteligencję, co było pierwszym znanym autorom tego raportu rozmieszczeniem fałszywych twarzy na dużą skalę”.

Z ustaleń raportu wynika, że ​​obrazy wygenerowane przez sztuczną inteligencję nie były doskonałe, a szczegóły często zdradzały ich prawdziwą naturę. Sąsiadujące ze sobą elementy obrazu, takie jak okulary czy włosy, często były asymetryczne. Co więcej, szczegóły tła były często rozmyte i zniekształcone. Elementy te mogą jednak nie być zauważalne na pierwszy rzut oka, szczególnie biorąc pod uwagę niewielkie rozmiary zdjęć profilowych w łańcuchu komentarzy na Facebooku. Wiele fałszywych profili również zawierało fałszywe informacje profilowe, a nawet fałszywe posty, potencjalnie generowane przez sztuczną inteligencję.

Jak podała NBC, szef polityki bezpieczeństwa Facebooka, Nathaniel Gleicher, stwierdził, że zachowanie kont świadczy o ich nieautentyczności oraz że próby wykorzystania fałszywych zdjęć i informacji profilowych nie pomagają chronić kont przed wykryciem. Gleicher stwierdził, że obrazy wygenerowane przez sztuczną inteligencję w rzeczywistości zwiększały ryzyko złapania kont. Powiedział Gleicher:

„Wykryliśmy te konta, ponieważ były zaangażowane w fałszywe zachowania. Używanie profili generowanych przez sztuczną inteligencję do nadawania sobie bardziej realnego wyglądu tak naprawdę im nie pomaga. Największym wnioskiem jest bezczelność sieci w posługiwaniu się fałszywymi tożsamościami… Nowością jest to, że jest to rzekomo amerykańska firma medialna wykorzystująca zagranicznych aktorów udających Amerykanów do rozpowszechniania treści politycznych. W przeszłości widzieliśmy to często u aktorów państwowych”.

Niemniej jednak niezależni badacze z Graphika i Atlantic Council stwierdzili, że łatwość, z jaką źli aktorzy byli w stanie stworzyć tak wiele obrazów i nadać swoim relacjom postrzeganą autentyczność, „jest problemem”. Facebook i inne firmy z branży mediów społecznościowych znajdują się pod presją, aby wzmożeły wysiłki na rzecz zwalczania rozprzestrzeniania się dezinformacji politycznej. Jest to zadanie, które będzie wymagało technologicznego wyprzedzenia podmiotów pragnących szerzyć dezinformację.

Zanim Facebook zamknął konta, strony i grupy, treści zamieszczane przez te podmioty docierały do ​​milionów ludzi. Według doniesień co najmniej 55 milionów kont śledziło jedną z 89 różnych zablokowanych stron. Większość obserwujących to konta spoza USA. W sumie z Facebooka usunięto około 600 kont, 90 stron i 150 grup. Z Instagrama usunięto także około 70 kont.

Wiadomość ta pojawia się w chwili, gdy Facebook rozpoczyna wyzwanie polegające na wykrywaniu DeepFake, które potrwa do marca 2020 r. Twitter również niedawno zablokował prawie 6000 kont, które jego podejrzani założyli w Arabii Saudyjskiej i celowo publikowali wprowadzające w błąd treści.