Facebook tar bort konton som genererats av AI och används för att sprida konspirations teorier

Sociala mediebolag har syftat till att kontrollera missinformation inför valet 2020 på olika sätt. Medan Twitter nyligen förbjöd politiska annonser på sin plattform, har Facebook (META ) just meddelat att de har stängt hundratals falska konton, grupper och sidor. Många av dessa konton verkar ha profiler som genererats av artificiell intelligens, och många har enligt uppgift använts för att sprida missinformation och konspirations teorier.

Enligt Forbes uppgav Facebook att de förbjudna kontona och sidorna var länkade till nätverket “Beauty of Life” eller “TheBL”, som Facebook sa var länkat till den konservativa nyhetspubliceringsgruppen Epoch Times. Enligt Facebook har Epoch Media Group spenderat nästan 9,5 miljoner dollar på annonsering via många av de nu förbjudna sidorna och grupperna, med många inlägg som innehåller pro-Trump konspirations teorier. Medan Epoch Media Group förnekar anklagelserna, har Facebook uppgivit att de arbetade nära med oberoende forskare som Graphika och Atlantic Councils Digital Forensic Research Lab (DFRLab) för att fastställa karaktären på kontona och sidorna innan de vidtog åtgärder mot dem.

Enligt Facebook togs kontona bort på grund av “samordnat oäkta beteende”, med avsikt att vilseleda andra om deras identiteter, och för att försöka påverka politiken. Enligt CNET sa Facebook att kontona ofta publicerade innehåll som främjade specifika politiska kandidater och ideologier, med fokus på konservativa val, konservativa politiska åtgärder och starkt stöd för president Trump.

Facebook publicerade en 39-sidig rapport om händelsen som täckte många av deras fynd. En av de anmärkningsvärda aspekterna av Facebooks rapport var att många av de förbjudna kontona skapades med hjälp av AI. Facebooks forskare skriver i rapporten:

“Dussintals av dessa falska konton hade profiler genererade av artificiell intelligens, i den första stora användningen av falska ansikten som är kända för rapportens författare.”

Enligt rapportens resultat var de AI-genererade bilderna inte perfekta, med detaljer som ofta avslöjade deras sanna natur. Sammanhängande element i en bild, som en persons glasögon eller hår, var ofta asymmetriska. Dessutom var bakgrundsdetaljer ofta suddiga och förvrängda. Men dessa element kan inte vara märkbara vid första anblicken, särskilt med tanke på de små bildstorlekarna för profilfoton i en Facebook-kommentarskedja. Många av de falska profilerna tycktes också ha falsk profilinformation och till och med falska inlägg, potentiellt genererade av AI.

Enligt NBC sa Facebooks säkerhetspolitiska chef, Nathaniel Gleicher, att beteendet hos kontona var vad som avslöjade dem som oäkta och att försök att använda falska bilder och profilinformation inte hjälper till att skydda kontona från upptäckt. Gleicher sa att de AI-genererade bilderna faktiskt gjorde det mer sannolikt att kontona skulle upptäckas. Sa Gleicher:

“Vi upptäckte dessa konton eftersom de var engagerade i falskt beteende. Användning av AI-genererade profiler som ett sätt att göra sig själva mer verkliga hjälper inte dem. Den största lärdomen här är det uppenbara i nätverkets användning av falska identiteter… Vad som är nytt här är att detta påstås vara ett amerikanskt medieföretag som använder utländska aktörer som utger sig för att vara amerikaner för att sprida politiskt innehåll. Vi har sett det mycket med statsaktörer i det förflutna.”

Trots detta sa de oberoende forskarna från Graphika och Atlantic Council att det var lätt för de dåliga aktörerna att skapa så många bilder och ge sina konton uppfattad autenticitet “är en oro”. Facebook och andra sociala mediebolag är under tryck för att öka ansträngningarna för att bekämpa spridningen av politisk missinformation, en uppgift som kommer att kräva att de håller sig tekniskt före de som försöker sprida missinformation.

Innan Facebook hade tagit bort kontona, sidorna och grupperna, nådde innehållet som publicerades av dessa enheter miljontals människor. Enligt uppgift hade minst 55 miljoner konton följt en av de 89 olika förbjudna sidorna. De flesta av följarna var icke-amerikanska konton. Totalt togs cirka 600 konton, 90 sidor och 150 grupper bort från Facebook. Ungefär 70 konton togs också bort från Instagram.

Nyheter kommer just som Facebook startar en DeepFake-upptäcktsutmaning, som kommer att pågå fram till mars 2020. Twitter har också nyligen förbjudit nästan 6000 konton som de misstänker har sitt ursprung i Saudiarabien och publicerat vilseledande innehåll.