Facebook usuwa konta wygenerowane przez sztuczną inteligencję i używane do rozpowszechniania teorii spiskowych

Spółki medialne społecznościowe dążyły do kontroli dezinformacji przed sezonem wyborów w 2020 roku na różne sposoby. Podczas gdy Twitter niedawno zabronił reklam politycznych na swojej platformie, Facebook ogłosił, że zlikwidował setki fałszywych kont, grup i stron. Wiele z tych kont ma profile wygenerowane przez sztuczną inteligencję, a wiele z nich rzekomo było używanych do rozpowszechniania dezinformacji i teorii spiskowych.

Jak donosi Forbes, Facebook oświadczył, że zablokowane konta i strony były powiązane z siecią „Beauty of Life” lub „TheBL”, której Facebook stwierdził, że była związana z konserwatywną grupą wydawniczą Epoch Times. Według Facebooka, Epoch Media Group wydał prawie 9,5 miliona dolarów na reklamy za pośrednictwem wielu z obecnie zablokowanych stron i grup, a wiele z tych postów zawierało teorie spiskowe pro-Trump. Chociaż Epoch Media Group zaprzecza oskarżeniom, Facebook stwierdził, że ściśle współpracował z niezależnymi badaczami, takimi jak Graphika i Digital Forensic Research Lab (DFRLab) Rady Atlantyckiej, aby określić charakter kont i stron przed podjęciem przeciwko nim działań.

Według Facebooka, konta zostały usunięte za „współrzędne nieautentyczne zachowanie”, celowe wprowadzanie innych w błąd co do ich tożsamości oraz za próby ingerencji politycznej. Według CNET, Facebook stwierdził, że konta często publikowały treści promujące konkretnych kandydatów politycznych i ideologię, koncentrując się na wyborach konserwatywnych, polityce konserwatywnej oraz silnym poparciu dla prezydenta Trumpa.

Facebook opublikował 39-stronicowy raport na temat tego wydarzenia, w którym zawarł wiele swoich ustaleń. Jednym z godnych uwagi aspektów raportu Facebooka było to, że wiele zablokowanych kont zostało utworzonych przy pomocy sztucznej inteligencji. Badacze Facebooka stwierdzili w raporcie:

„Setki tych fałszywych kont miało profile wygenerowane przez sztuczną inteligencję, w pierwszym dużym wdrożeniu fałszywych twarzy znanych autorom tego raportu.”

Według ustaleń raportu, obrazy wygenerowane przez sztuczną inteligencję nie były idealne, a detale często zdradzały ich prawdziwą naturę. Części ciągłe obrazu, takie jak okulary lub włosy osoby, były często asymetryczne. Ponadto tło było często niewyraźne i zniekształcone. Niemniej jednak te elementy mogą nie być zauważalne na pierwszy rzut oka, zwłaszcza biorąc pod uwagę małe rozmiary obrazów profilowych w łańcuchu komentarzy na Facebooku. Wielem z fałszywych profili wydawało się również mieć fałszywe informacje o profilu i nawet fałszywe posty, potencjalnie wygenerowane przez sztuczną inteligencję.

Jak podała NBC, szef polityki bezpieczeństwa Facebooka, Nathaniel Gleicher, stwierdził, że zachowanie kont było tym, co zdradziło je jako nieautentyczne, a próby użycia fałszywych obrazów i informacji o profilu nie pomagają ukryć kont przed wykryciem. Gleicher stwierdził, że obrazy wygenerowane przez sztuczną inteligencję sprawiały, że konta były bardziej prawdopodobne do wykrycia. Powiedział Gleicher:

„Wykryliśmy te konta, ponieważ były zaangażowane w fałszywe zachowanie. Używanie wygenerowanych przez sztuczną inteligencję profili jako sposób na to, by wyglądać bardziej realnie, nie pomaga im w rzeczywistości. Najważniejsze wnioski tutaj są niesamowite w tym, że sieć używa fałszywych tożsamości… To, co nowe, to to, że jest to rzekomo amerykańska spółka medialna wykorzystująca zagranicznych aktorów udających Amerykanów do promowania treści politycznych. Widzieliśmy to wiele razy u aktorów państwowych w przeszłości.”

Niemniej jednak niezależni badacze z Graphika i Rady Atlantyckiej stwierdzili, że łatwość, z jaką złe aktorzy mogli utworzyć tak wiele obrazów i nadać swoim kontom pozorną autentyczność, „jest powodem do niepokoju”. Facebook i inne spółki medialne społecznościowe są pod presją, aby nasilić wysiłki w walce z proliferacją dezinformacji politycznej, co będzie wymagało pozostania na technologicznym poziomie tych, którzy starają się rozpowszechniać dezinformację.

Zanim Facebook usunął konta, strony i grupy, treści opublikowane przez te podmioty dotarły do milionów ludzi. Jak podaje się, co najmniej 55 milionów kont naśladowało jedną ze 89 zablokowanych stron. Większość obserwujących była kontami spoza USA. Łącznie usunięto około 600 kont, 90 stron i 150 grup z Facebooka. Usunięto również około 70 kont z Instagrama.

Wiadomości te pojawiają się zaraz po tym, jak Facebook rozpoczyna wyzwanie wykrywania DeepFake, które potrwa do marca 2020 roku. Twitter również niedawno zablokował prawie 6000 kont, które podejrzewa, że pochodzą z Arabii Saudyjskiej i publikują celowo mylące treści.