Facebook tar bort konton genererade av AI och används för att vidmakthålla konspirationsteorier

Sociala medieföretag har strävat efter att kontrollera desinformation inför valsäsongen 2020 på en mängd olika sätt. Medan Twitter nyligen förbjöd politiska annonser från sin plattform, meddelade Facebook precis att de har stängt hundratals falska konton, grupper och sidor. Många av dessa konton verkar ha profilbilder genererade av artificiell intelligens, och många har enligt uppgift använts för att sprida desinformation och konspirationsteorier.

Som rapporterats av Forbes, uppgav Facebook att de förbjudna kontona och sidorna var länkade till nätverket "Beauty of Life" eller "TheBL", som Facebook sa var kopplat till den konservativa nyhetspubliceringsgruppen, Epoch Times. Enligt Facebook har Epoch Media Group spenderat nästan 9.5 miljoner dollar på annonsering genom många av de nu förbjudna sidorna och grupperna, med många av inläggen som innehåller pro-Trump konspirationsteorier. Medan Epoch Media Group förnekar anklagelserna har Facebook uppgett att de arbetade nära med oberoende forskare som Graphika och Atlantic Councils Digital Forensic Research Lab (DFRLab) för att fastställa karaktären på konton och sidor innan de vidtog åtgärder mot dem.

Enligt Facebook togs kontona bort för "samordnat oäkta beteende", för att medvetet vilseleda andra om deras identiteter och för försök till politisk inblandning.  Enligt CNET, Facebook sa att kontona ofta publicerade innehåll som främjar specifika politiska kandidater och ideologi, med fokus på konservativa val, konservativ politik och starkt stöd för president Trump.

Facebook publicerade en 39-sidig rapport om händelsen som täckte många av deras fynd. En av de anmärkningsvärda aspekterna av Facebooks rapport var att många av de förbjudna kontona skapades med hjälp av AI. Facebooks forskare säger i rapporten:

"Dusintals av dessa falska konton hade profilbilder genererade av artificiell intelligens, i den första storskaliga spridningen av falska ansikten kända av författarna till denna rapport."

Enligt resultaten av rapporten var de AI-genererade bilderna inte perfekta, med detaljer som ofta ger bort deras sanna natur. Sammanhängande delar av en bild, som en persons glasögon eller hår, var ofta asymmetriska. Dessutom var bakgrundsdetaljer ofta suddiga och förvrängda. Men dessa element kanske inte märks vid första anblicken, särskilt med tanke på de små bildstorlekarna på profilbilder i en Facebook-kommentarkedja. Många av de falska profilerna verkade också ha falsk profilinformation och till och med falska inlägg, potentiellt genererade av AI.

Som NBC rapporterade, sa Facebooks säkerhetspolicychef, Nathaniel Gleicher, att kontonas beteende är det som gav dem bort som oäkta och att försök att använda falska bilder och profilinformation inte hjälper till att skydda kontona från upptäckt. Gleicher sa att de AI-genererade bilderna faktiskt gjorde kontona mer benägna att fastna. Gleicher sa:

"Vi upptäckte dessa konton eftersom de var engagerade i falskt beteende. Att använda AI-genererade profiler som ett sätt att få sig själva att se mer verkliga ut hjälper dem faktiskt inte. Den största takeawayen här är nätverkets grymhet när det gäller att använda falska identiteter... Det nya här är att detta påstås vara ett USA-baserat medieföretag som utnyttjar utländska aktörer som utger sig för att vara amerikaner för att driva politiskt innehåll. Vi har sett det mycket med statliga aktörer tidigare.”

Icke desto mindre konstaterade de oberoende forskarna från Graphika och Atlantic Council att den lätthet med vilken de dåliga skådespelarna kunde skapa så många bilder och ge sina konton upplevd autenticitet "är ett problem". Facebook och andra sociala medieföretag är under press att intensifiera ansträngningarna för att bekämpa spridningen av politisk desinformation, en uppgift som kommer att kräva att ligga tekniskt före de som försöker sprida desinformation.

Innan Facebook hade försvunnit konton, sidor och grupper nådde innehållet som postats av dessa enheter miljontals människor. Enligt uppgift hade minst 55 miljoner konton följt en av de 89 olika förbjudna sidorna. De flesta av anhängarna var konton utanför USA. Totalt togs cirka 600 konton, 90 sidor och 150 grupper bort från Facebook. Ungefär 70 konton togs också bort från Instagram.

Nyheten kommer precis när Facebook startar en DeepFake-detekteringsutmaning, som kommer att pågå till och med mars 2020. Twitter har också nyligen förbjudit nästan 6000 konton som dess misstänkta har sitt ursprung i Saudiarabien och lagt upp medvetet vilseledande innehåll.