Facebook odstranil účty vytvořené pomocí umělé inteligence a používané k šíření konspiračních teorií

Sociální média se snaží kontrolovat dezinformace před volbami v roce 2020 různými způsoby. Zatímco Twitter nedávno zakázal politické reklamy na své platformě, Facebook (META ) oznámil, že uzavřel stovky falešných účtů, skupin a stránek. Mnohé z těchto účtů měly profilové obrázky vytvořené pomocí umělé inteligence a mnohé z nich údajně používaly k šíření dezinformací a konspiračních teorií.

Podle Forbes, Facebook uvedl, že zakázané účty a stránky byly spojeny se sítí „Krása života“ nebo „TheBL“, která podle Facebooku byla spojena s konzervativní novinářskou skupinou Epoch Times. Podle Facebooku skupina Epoch Media Group utratila téměř 9,5 milionu dolarů za reklamu prostřednictvím mnoha zákazaných stránek a skupin, přičemž mnoho příspěvků obsahovalo pro-Trumpovské konspirační teorie. Skupina Epoch Media Group popírá obvinění, ale Facebook uvedl, že úzce spolupracoval s nezávislými výzkumníky, jako je Graphika a Digitální laboratoř pro výzkum falešných zpráv (DFRLab), aby určili povahu účtů a stránek předtím, než proti nim podnikl kroky.

Podle Facebooku byly účty odstraněny pro „koordinované neautentické chování“, úmyslné uvádění ostatních v omyl o jejich identitě a za pokus o politickou interferenci. Podle CNET, Facebook uvedl, že účty často zveřejňovaly obsah, který podporoval konkrétní politické kandidáty a ideologii, se zaměřením na konzervativní volby, konzervativní politiku a silnou podporu pro prezidenta Trumpa.

Facebook zveřejnil 39stránkovou zprávu o této události, která pokrývá mnoho z jejich zjištění. Jedním z pozoruhodných aspektů zprávy Facebooku je, že mnohé zákazané účty byly vytvořeny s pomocí umělé inteligence. Výzkumníci Facebooku uvádějí ve zprávě:

„Desítky těchto falešných účtů měly profilové obrázky vytvořené pomocí umělé inteligence, v prvním velkém nasazení falešných tváří, o kterém autoři této zprávy ví.“

Podle zjištění zprávy nebyly AI-generované obrázky dokonalé, s detaily, které často prozrazovaly jejich skutečnou povahu. Souvislé prvky obrázku, jako jsou brýle nebo vlasy, byly často asymetrické. Kromě toho byly pozadí často rozmazané a deformované. Nicméně, tyto prvky nemusí být na první pohled zřejmé, zejména vzhledem k malým rozměrům profilových fotografií v řetězci komentářů na Facebooku. Mnohé z falešných profilů také zdánlivě měly falešné profilové informace a dokonce i falešné příspěvky, které mohly být generovány pomocí umělé inteligence.

Podle NBC, šéf bezpečnostní politiky Facebooku Nathaniel Gleicher uvedl, že chování účtů je to, co je odhalilo jako neautentické, a že pokusy použít falešné obrázky a profilové informace jim nepomohou uniknout odhalení. Gleicher uvedl, že AI-generované obrázky vlastně zvyšovaly pravděpodobnost, že účty budou odhaleny. Gleicher řekl:

„Zjistili jsme tyto účty, protože se účastnily falešného chování. Používání AI-generovaných profilů jako způsob, jak se zdát více skutečnými, jim vlastně nepomáhá. Největší poučení zde je, že se jedná o údajnou americkou mediální společnost, která využívá zahraniční aktéry, kteří se vydávají za Američany, aby šířili politický obsah. Viděli jsme to mnohokrát u státních aktérů v minulosti.“

Přestože nezávislí výzkumníci z Graphiky a Atlantické rady uvedli, že snadnost, s níž mohli špatní aktéři vytvořit tolik obrázků a dát svým účtům zdánlivou autenticitu, „je znepokojivá“. Facebook a další společnosti sociálních médií jsou pod tlakem, aby zvýšily úsilí o boj proti šíření politických dezinformací, což bude vyžadovat technologickou převahu nad těmi, kteří se snaží šířit dezinformace.

Než Facebook odstranil účty, stránky a skupiny, obsah zveřejněný těmito entitami dosáhl milionů lidí. Podle zpráv mělo alespoň 55 milionů účtů sledovalo jednu z 89 různých zákazaných stránek. Většina sledujících byli účty mimo USA. Celkem bylo odstraněno z Facebooku kolem 600 účtů, 90 stránek a 150 skupin. Přibližně 70 účtů bylo také odstraněno z Instagramu.

Zpráva přichází právě ve chvíli, kdy Facebook spouští výzvu pro detekci DeepFake, která potrvá až do března 2020. Twitter také nedávno zakázal téměř 6000 účtů, o kterých se domnívá, že pocházejí ze Saúdské Arábie a zveřejňovaly úmyslně zavádějící obsah.