Facebook fjerner konti genereret af AI og brugt til at sprede konspirations-teorier

Sociale medie-selskaber har været beskæftiget med at kontrollere misinformation i forbindelse med valgsæsonen i 2020 på forskellige måder. Mens Twitter for nylig forbød politiske annoncer på sin platform, har Facebook (META ) lige annonceret, at de har lukket hundredvis af falske konti, grupper og sider. Mange af disse konti synes at have profilbilleder genereret af kunstig intelligens, og mange har angiveligt været brugt til at sprede misinformation og konspirations-teorier.

Ifølge Forbes udtalte Facebook, at de forbudte konti og sider var knyttet til “Beauty of Life”-netværket, eller “TheBL”, som Facebook sagde var knyttet til det konservative nyhedsudgivende selskab, Epoch Times. Ifølge Facebook havde Epoch Media Group brugt næsten 9,5 millioner dollars på reklame gennem mange af de nu-forbudte sider og grupper, med mange af indlæggene indeholdende pro-Trump konspirations-teorier. Selv om Epoch Media Group benægter anklagerne, har Facebook udtalt, at de havde arbejdet tæt sammen med uafhængige forskere som Graphika og Atlantic Council’s Digital Forensic Research Lab (DFRLab) for at bestemme karakteren af konti og sider, før de tog handling mod dem.

Ifølge Facebook blev kontiene fjernet på grund af “koordineret uægte adfærd”, med vilje misledende andre om deres identiteter, og for at forsøge politisk indgriben. Ifølge CNET sagde Facebook, at konti ofte postede indhold, der fremmede bestemte politiske kandidater og ideologi, med fokus på konservative valg, konservative politikker og stærk støtte til præsident Trump.

Facebook offentliggjorde en 39-siders rapport om begivenheden, der dækkede mange af deres fund. En af de bemærkelsesværdige aspekter af Facebooks rapport var, at mange af de forbudte konti var oprettet med hjælp fra AI. Facebooks forskere skriver i rapporten:

“Dusinvis af disse falske konti havde profilbilleder genereret af kunstig intelligens, i den første storstilede udrulning af falske ansigter kendt for rapportens forfattere.”

Ifølge rapportens fund var de AI-genererede billeder ikke perfekte, med detaljer, der ofte afslørede deres sande natur. Sammenhængende elementer i et billede, som en persons briller eller hår, var ofte asymmetriske. Desuden var baggrundsdetaljer ofte uklare og forvrængede. Imidlertid kan disse elementer ikke være synlige ved første økkelig, især på grund af de små billedstørrelser af profilfotos i en Facebook-kommentar-kæde. Mange af de falske profiler syntes også at have falsk profilinformation og endda falske indlæg, muligvis genereret af AI.

Ifølge NBC udtalte Facebooks chef for sikkerheds politik, Nathaniel Gleicher, at adfærden af konti var det, der afslørede dem som uægte, og at forsøg på at bruge falske billeder og profilinformation ikke hjalp med at skjule konti fra opdagelse. Gleicher udtalte, at de AI-genererede billeder faktisk gjorde konti mere sandsynlige for at blive fanget. Sagde Gleicher:

“Vi opdagede disse konti, fordi de var engageret i falsk adfærd. At bruge AI-genererede profiler som en måde at gøre sig selv mere ægte på hjælper ikke faktisk. Det største takeaway her er det grove i netværkets brug af falske identiteter… Det, der er nyt her, er, at dette angiveligt er et amerikansk medie-selskab, der udnytter udenlandske aktører, der udgiver sig for at være amerikanere for at fremme politisk indhold. Vi har set det mange gange med statsaktører i fortiden.”

Ikke desto mindre udtalte de uafhængige forskere fra Graphika og Atlantic Council, at det var en bekymring, hvor let det var for de dårlige aktører at oprette så mange billeder og give deres konti en opfattelse af ægthed “er en bekymring”. Facebook og andre sociale medie-selskaber er under pres for at intensivere deres indsats for at bekæmpe spredningen af politisk misinformation, en opgave, der kræver, at de forbliver teknologisk foran dem, der søger at sprede misinformation.

Før Facebook havde fjernet konti, sider og grupper, nåede indholdet, der blev postet af disse enheder, millioner af mennesker. Ifølge rapporten havde mindst 55 millioner konti følt en af de 89 forskellige forbudte sider. De fleste af følgerne var ikke-amerikanske konti. I alt blev omkring 600 konti, 90 sider og 150 grupper fjernet fra Facebook. Omkring 70 konti blev også fjernet fra Instagram.

Nyheden kommer lige som Facebook starter en DeepFake-detektions-udfordring, der vil køre indtil marts 2020. Twitter har også for nylig forbudt næsten 6000 konti, som det formodes, stammer fra Saudi-Arabien og har postet bevidst misvisende indhold.