Facebook usuwa konta wygenerowane przez sztuczną inteligencję i używane do rozpowszechniania teorii spiskowych

Firmy mediów społecznościowych dążą do kontrolowania dezinformacji przed sezonem wyborczym 2020 w różnych ways. Podczas gdy Twitter niedawno zabronił reklam politycznych na swojej platformie, Facebook (META ) ogłosił, że zlikwidował setki fałszywych kont, grup i stron. Wiele z tych kont ma profile wygenerowane przez sztuczną inteligencję, a wiele z nich rzekomo było używanych do rozpowszechniania dezinformacji i teorii spiskowych.

Jak donosi Forbes, Facebook oświadczył, że zablokowane konta i strony były związane z siecią „Beauty of Life” lub „TheBL”, którą Facebook uznał za związaną z konserwatywną grupą wydawniczą Epoch Times. Według Facebooka, Epoch Media Group wydał prawie 9,5 miliona dolarów na reklamy za pośrednictwem wielu zablokowanych stron i grup, a wiele postów zawierało teorie spiskowe pro-Trump. Chociaż Epoch Media Group zaprzecza tym zarzutom, Facebook oświadczył, że współpracował ściśle z niezależnymi badaczami, takimi jak Graphika i Digital Forensic Research Lab (DFRLab) Rady Atlantyckiej, aby określić charakter kont i stron przed podjęciem działań przeciwko nim.

Według Facebooka, konta zostały usunięte za „zorganizowane nieautentyczne zachowanie”, celowe wprowadzanie innych w błąd co do swoich tożsamości oraz za próby ingerencji politycznej. Według CNET, Facebook powiedział, że konta często publikowały treści promujące konkretnych kandydatów politycznych i ideologię, koncentrując się na wyborach konserwatywnych, polityce konserwatywnej i silnym poparciu dla prezydenta Trumpa.

Facebook opublikował 39-stronicowy raport na temat tego wydarzenia, obejmujący wiele swoich ustaleń. Jednym z godnych uwagi aspektów raportu Facebooka było to, że wiele zablokowanych kont zostało utworzonych z pomocą sztucznej inteligencji. Badacze Facebooka stwierdzili w raporcie:

„Dziesiątki tych fałszywych kont miały profile wygenerowane przez sztuczną inteligencję, w pierwszym dużym wdrożeniu fałszywych twarzy znanym autorom tego raportu.”

Według ustaleń raportu, obrazy wygenerowane przez sztuczną inteligencję nie były idealne, a detale często zdradzały ich prawdziwą naturę. Przylegające elementy obrazu, takie jak okulary czy włosy osoby, były często asymetryczne. Ponadto, tło było często rozmyte i zniekształcone. Jednak te elementy mogą nie być zauważalne na pierwszy rzut oka, zwłaszcza biorąc pod uwagę małe rozmiary obrazów profilowych w łańcuchu komentarzy na Facebooku. Wiele fałszywych profili wydawało się również mieć fałszywe informacje o profilu i nawet fałszywe posty, potencjalnie wygenerowane przez sztuczną inteligencję.

Jak donosi NBC, szef polityki bezpieczeństwa Facebooka, Nathaniel Gleicher, oświadczył, że zachowanie kont było tym, co zdradziło je jako nieautentyczne, a próby użycia fałszywych obrazów i informacji o profilu nie pomagają ukryć kont przed wykryciem. Gleicher stwierdził, że obrazy wygenerowane przez sztuczną inteligencję sprawiają, że konta są bardziej prawdopodobne do wykrycia. Powiedział:

„Wykryliśmy te konta, ponieważ były zaangażowane w fałszywe zachowanie. Używanie obrazów wygenerowanych przez sztuczną inteligencję jako sposób na to, by wyglądać bardziej realnie, nie pomaga im tak naprawdę. Największa nauka tutaj jest to, że jest to rzekomo amerykańska firma medialna wykorzystująca zagranicznych aktorów udających Amerykanów do promowania treści politycznych. Widzieliśmy to wiele razy w przypadku aktorów państwowych w przeszłości.”

Niemniej jednak, niezależni badacze z Graphiki i Rady Atlantyckiej stwierdzili, że łatwość, z jaką złe aktorzy mogli utworzyć tak wiele obrazów i nadać swoim kontom pozorny autentyzm „jest powodem do niepokoju”. Facebook i inne firmy mediów społecznościowych są pod presją, aby zintensyfikować wysiłki w walce z proliferacją dezinformacji politycznej, co będzie wymagało pozostania na czele technologicznym tych, którzy starają się rozpowszechniać dezinformację.

Przed usunięciem kont, stron i grup przez Facebooka, treści opublikowane przez te podmioty dotarły do milionów ludzi. Jak podaje się, co najmniej 55 milionów kont obserwowało jedną ze 89 zablokowanych stron. Większość obserwujących była spoza USA. Łącznie usunięto około 600 kont, 90 stron i 150 grup z Facebooka. Około 70 kont zostało również usuniętych z Instagrama.

Wiadomości te pojawiają się w momencie, gdy Facebook rozpoczyna wyzwanie wykrywania DeepFake, które potrwa do marca 2020 roku. Twitter również niedawno zablokował prawie 6000 kont, które podejrzewa, że pochodzą z Arabii Saudyjskiej i publikują celowo mylące treści.