Facebook fjerner kontoer generert av AI og brukt til å spre konspirasjonsteorier

Sosiale medier har vært målrettet å kontrollere feilinformasjon før valgseasonen i 2020 på en rekke måter. Mens Twitter nylig forbød politiske annonser fra sin plattform, annonserte Facebook (META ) at de har stengt hundrevis av falske kontoer, grupper og sider. Mange av disse kontoene ser ut til å ha profilbilder generert av kunstig intelligens, og mange har angivelig vært brukt til å spre feilinformasjon og konspirasjonsteorier.

Ifølge Forbes, sa Facebook at de forbudte kontoene og sidene var knyttet til “Beauty of Life”-netverket, eller “TheBL”, som Facebook sa var knyttet til det konservative nyhetsutgivergruppen, Epoch Times. Ifølge Facebook, har Epoch Media Group brukt nesten 9,5 millioner dollar på annonsering gjennom mange av de nå forbudte sidene og gruppene, med mange av innleggene som inneholdt pro-Trump-konspirasjonsteorier. Mens Epoch Media Group benekter anklagene, har Facebook sagt at de arbeidet tett med uavhengige forskere som Graphika og Atlantic Councils Digital Forensic Research Lab (DFRLab) for å bestemme naturen til kontoene og sidene før de tok handling mot dem.

Ifølge Facebook, ble kontoene fjernet for “koordinert uærlig atferd”, med vilje misledende andre om deres identiteter, og for å forsøke politisk innblanding. Ifølge CNET, sa Facebook at kontoene ofte postet innhold som fremmet bestemte politiske kandidater og ideologi, med fokus på konservative valg, konservative politikker og sterk støtte til president Trump.

Facebook publiserte en 39-siders rapport om hendelsen som dekket mange av deres funn. En av de bemerkelsesverdige aspektene ved Facebooks rapport var at mange av de forbudte kontoene ble laget med hjelp av AI. Facebooks forskere sier i rapporten:

“Dusinvis av disse falske kontoene hadde profilbilder generert av kunstig intelligens, i den første store skalaen av falske ansikter kjent for forfatterne av denne rapporten.”

Ifølge funnene i rapporten, var de AI-genererte bildene ikke perfekte, med detaljer som ofte avslørte deres sanne natur. Sammenhengende elementer i et bilde, som en persons briller eller hår, var ofte asymmetriske. Videre var bakgrunnsdetaljer ofte uklare og forvrengt. Likevel kan disse elementene ikke være synlige ved første øyekast, særlig med tanke på de små bildeformatene til profilbilder i en Facebook-kommentarrekke. Mange av de falske profilene ser også ut til å ha falsk profilinformasjon og til og med falske innlegg, potensielt generert av AI.

Ifølge NBC, sa Facebooks sikkerhetspolitisk sjef, Nathaniel Gleicher, at atferden til kontoene var det som avslørte dem som uærlige, og at forsøk på å bruke falske bilder og profilinformasjon ikke hjelper å skjule kontoene fra oppdagelse. Gleicher sa at de AI-genererte bildene faktisk gjorde det mer sannsynlig at kontoene ville bli fanget. Sa Gleicher:

“Vi oppdaget disse kontoene fordi de var engasjert i falsk atferd. Å bruke AI-genererte profiler som en måte å gjøre seg mer realistiske hjelper ikke faktisk. Det største funnet her er alvorligheten av nettverket i å bruke falske identiteter… Det som er nytt her er at dette angivelig er et amerikansk basert mediehus som utnytter utenlandske skuespillere som utgir seg for å være amerikanere for å fremme politisk innhold. Vi har sett det mye med statsaktører i fortiden.”

Likevel sa de uavhengige forskerne fra Graphika og Atlantic Council at det var en bekymring at de dårlige aktørene kunne lage så mange bilder og gi deres kontoer oppfattet autentisitet “er en bekymring”. Facebook og andre sosiale medier er under press for å øke anstrengelsene for å bekjempe spredningen av politisk feilinformasjon, en oppgave som vil kreve å holde seg foran teknologisk sett de som søker å spre feilinformasjon.

Før Facebook hadde fjernet kontoene, sidene og gruppene, nådde innholdet som ble postet av disse entitetene millioner av mennesker. Ifølge rapporter, hadde minst 55 millioner kontoer fulgt en av de 89 forskjellige forbudte sidene. De fleste av følgerne var ikke-amerikanske kontoer. I alt ble rundt 600 kontoer, 90 sider og 150 grupper fjernet fra Facebook. Omtrent 70 kontoer ble også fjernet fra Instagram.

Nyheten kommer like før Facebook starter en DeepFake-oppdagelsesutfordring, som vil gå gjennom mars 2020. Twitter har også nylig forbudt nesten 6000 kontoer som de mistenker opprinnelse i Saudi-Arabia og postet bevisst misvisende innhold.