Facebook verwijdert accounts gegenereerd door AI en gebruikt om complottheorieën te verspreiden

Socialemediabedrijven hebben verschillende manieren gevonden om desinformatie te bestrijden voorafgaand aan het verkiezingsseizoen van 2020. Terwijl Twitter onlangs politieke advertenties van zijn platform heeft verbannen, heeft Facebook (META ) zojuist aangekondigd dat het honderden nepaccounts, groepen en pagina’s heeft gesloten. Veel van deze accounts lijken profielfoto’s gegenereerd door kunstmatige intelligentie te hebben, en veel hebben naar verluidt desinformatie en complottheorieën verspreid.

Volgens Forbes zei Facebook dat de verbannen accounts en pagina’s waren gelinkt aan het “Beauty of Life”-netwerk, of “TheBL”, dat Facebook zei gelinkt was aan de conservatieve nieuwsuitgeverij Epoch Times. Volgens Facebook heeft Epoch Media Group bijna 9,5 miljoen dollar uitgegeven aan advertenties via veel van de nu verbannen pagina’s en groepen, met veel van de berichten die pro-Trump-complottheorieën bevatten. Hoewel Epoch Media Group de aantijgingen ontkent, heeft Facebook verklaard dat het nauw heeft samengewerkt met onafhankelijke onderzoekers zoals Graphika en het Digital Forensic Research Lab (DFRLab) van de Atlantic Council om de aard van de accounts en pagina’s te bepalen voordat het actie tegen hen ondernam.

Volgens Facebook werden de accounts verwijderd vanwege “gecoördineerd oneigenlijk gedrag”, opzettelijk misleidend over hun identiteit, en voor het proberen van politieke inmenging. Volgens CNET zei Facebook dat de accounts vaak inhoud plaatsten die specifieke politieke kandidaten en ideologieën promootte, met een focus op conservatieve verkiezingen, conservatieve beleid en sterke steun voor president Trump.

Facebook publiceerde een rapport van 39 pagina’s over de gebeurtenis, waarin veel van hun bevindingen werden behandeld. Een van de opvallende aspecten van Facebook’s rapport was dat veel van de verbannen accounts waren gemaakt met de hulp van AI. Facebook’s onderzoekers stellen in het rapport:

“Delen van deze nepaccounts hadden profielfoto’s gegenereerd door kunstmatige intelligentie, in de eerste grootschalige inzet van nepgezichten die de auteurs van dit rapport kennen.”

Volgens de bevindingen van het rapport waren de AI-gegenereerde afbeeldingen niet perfect, met details die vaak hun ware aard verraadden. Aangrenzende elementen van een afbeelding, zoals iemands bril of haar, waren vaak asymmetrisch. Bovendien waren achtergronddetails vaak wazig en vertekend. Deze elementen kunnen echter niet direct opvallen, vooral gezien de kleine afbeeldingsgrootte van profielfoto’s in een Facebook-reactieketen. Veel van de nepprofielen leken ook nepprofielinformatie en zelfs nepberichten te hebben, mogelijk gegenereerd door AI.

Volgens NBC zei Facebook’s hoofd van beveiligingsbeleid, Nathaniel Gleicher, dat het gedrag van de accounts het was dat hen als oneigenlijk verried en dat pogingen om nepafbeeldingen en profielinformatie te gebruiken hen niet beschermden tegen ontdekking. Gleicher zei dat de AI-gegenereerde afbeeldingen de accounts eigenlijk meer kans gaven om te worden betrapt. Gleicher zei:

“We hebben deze accounts ontdekt omdat ze nepgedrag vertoonden. Het gebruik van AI-gegenereerde profielen als manier om zichzelf meer echt te laten lijken, helpt hen niet echt. De belangrijkste conclusie hier is de flagrantie van het netwerk in het gebruik van nepidentiteiten… Wat nieuw is, is dat dit ogenschijnlijk een in de VS gevestigde mediabedrijf is dat buitenlandse actoren gebruikt die zich voordoen als Amerikanen om politieke inhoud te verspreiden. We hebben dit veel gezien met staat actoren in het verleden.”

Nonetheless, de onafhankelijke onderzoekers van Graphika en de Atlantic Council stelden dat de gemakkelijkheid waarmee de slechte actoren zo veel afbeeldingen konden maken en hun accounts een gevoel van authenticiteit konden geven “een zorg” is. Facebook en andere socialemediabedrijven staan onder druk om hun inspanningen te verhogen om de verspreiding van politieke desinformatie te bestrijden, een taak die vereist dat ze technisch voorop blijven lopen bij degenen die proberen desinformatie te verspreiden.

Voordat Facebook de accounts, pagina’s en groepen had gesloten, had de inhoud die door deze entiteiten werd gepost miljoenen mensen bereikt. Volgens rapporten hadden ten minste 55 miljoen accounts een van de 89 verbannen pagina’s gevolgd. De meeste volgers waren niet-Amerikaanse accounts. In totaal werden ongeveer 600 accounts, 90 pagina’s en 150 groepen van Facebook verwijderd. Ongeveer 70 accounts werden ook van Instagram verwijderd.

Het nieuws komt net op het moment dat Facebook een DeepFake-detectie-uitdaging start, die tot maart 2020 zal lopen. Twitter heeft onlangs ook bijna 6000 accounts verbannen die vermoedelijk afkomstig waren uit Saoedi-Arabië en opzettelijk misleidende inhoud plaatsten.