Hoe Facebooks AI desinformatie verspreidt en de democratie bedreigt

Dan Tunkelang, die AI-onderzoek leidde bij LinkedIn, verklaarde: “Het moment dat aanbevelingen de macht hebben om beslissingen te beïnvloeden, worden ze een doelwit voor spammers, oplichters en andere mensen met minder nobele motieven.”

Dit is de dilemma waarin socialemediabedrijven zoals Facebook zich bevinden. Facebook gebruikt impliciete feedback om kliks, weergaven en andere meetbare gebruikersgedragingen te volgen. Dit wordt gebruikt om een “aanbevelingsmotor” te ontwerpen, een AI-systeem dat de uiteindelijke macht heeft om te beslissen wie welke inhoud ziet en wanneer.

Facebook heeft zijn aanbevelingsmotor geoptimaliseerd om gebruikersbetrokkenheid te maximaliseren, die wordt gemeten door de hoeveelheid tijd die op het Facebook-platform wordt doorgebracht. Maximale tijd heeft prioriteit boven elke andere variabele, inclusief de kwaliteit of nauwkeurigheid van de aanbevolen inhoud.

Het systeem is ontworpen om sensationele koppen te belonen die gebruikers betrekken door cognitieve bias te exploiteren, zelfs als die koppen zijn geschreven door Russische trollen met de bedoeling om de samenleving te verdelen of verkiezingen te beïnvloeden.

Hoe Facebook AI gebruikt

Er is een gebrek aan bewustzijn over hoe Facebook AI gebruikt om te beslissen welke inhoud zijn gebruikers zien en waarmee ze interactie hebben. Men moet eerst begrijpen wat bevestigingsbias is. Psychology Today beschrijft dit als:

Bevestigingsbias is de neiging om informatie te zoeken, interpreteren, bevorchten en onthouden op een manier die de eigen voorgaande overtuigingen of waarden bevestigt of ondersteunt.

Facebook begrijpt dat gebruikers meer geneigd zijn om op nieuws te klikken dat in hun menselijke neiging om bevestigingsbias te zoeken past. Dit zet een gevaarlijk precedent voor zowel de verspreiding van complottheorieën als voor het creëren van echo-kamers waarin gebruikers uitsluitend te zien krijgen wat ze willen zien, ongeacht de nauwkeurigheid of de maatschappelijke impact van wat ze zien.

Een onderzoek van MIT kon aantonen dat nepnieuws op Twitter zes keer sneller verspreidt dan echt nieuws.

Dit betekent dat zowel Twitter als Facebook kunnen worden gebruikt als wapen. Terwijl Twitter het iedereen mogelijk maakt om bewust te volgen feeds met smalle of bevooroordeelde meningen, gaat Facebook een stap verder. Een gebruiker op Facebook heeft momenteel geen enkele manier om te controleren of te meten wat er wordt getoond, dit wordt volledig gecontroleerd door Facebook’s aanbevelingsmotor, hoe het gebruikersbetrokkenheid meet en hoe het gebruikersbetrokkenheid optimaliseert.

Facebook probeert de wensen van zijn gebruikers te vormen en te voorspellen. Facebook schat de mate waarin een gebruiker een nieuwsitem zal leuk vinden of niet, voordat de gebruiker dit heeft meegemaakt. Om een verlies aan gebruikersbetrokkenheid te voorkomen, kiest Facebook ervoor om nieuwsitems te omzeilen die de gebruikersbetrokkenheid kunnen verminderen en kiest ervoor om de gebruiker te betrekken door nieuwsitems te voeden die de bevestigingsbias voeden, waardoor meer kliks, commentaren, likes en shares ontstaan.

Facebook gebruikt ook geautomatiseerde collaboratieve filtering van historische gebruikersacties en meningen om automatisch deelnemers (vrienden) met soortgelijke meningen te koppelen. Facebook gebruikt een nuttigheidsfunctie die automatisch en wiskundig de voorkeuren van de gebruiker voor items voorspelt en rangschikt.

Dit zorgt ervoor dat gebruikers in een konijnenhol vallen, ze worden gevangen in nepnieuws en worden gevoed met inhoud die hun bias versterkt. De inhoud die wordt gepresenteerd is inherent ontworpen met het doel om te beïnvloeden wat u klikt.

Als dit nog niet genoeg was, gebruikt Facebook ook wat bekend staat als “sociale bewijs”. Sociale bewijs is het concept dat mensen de acties van de massa volgen. Het idee is dat omdat zoveel andere mensen op een bepaalde manier gedragen, het de juiste gedraging moet zijn.

Facebook biedt dit sociale bewijs in de context van likes, commentaren of shares. Aangezien alleen bepaalde vrienden een nieuwsfeed-item kunnen zien (tenzij ze specifiek de nieuwsfeed van een gebruiker zoeken), dient het sociale bewijs alleen om de bevestigingsbias te versterken.

Facebook gebruikt ook filterbubbels om de blootstelling aan tegenstrijdige, tegengestelde en uitdagende meningen te beperken.

Facebook-advertenties

Onverwachte Facebook-gebruikers kunnen op advertenties klikken zonder zich ervan bewust te zijn dat ze advertenties te zien krijgen. De reden hiervoor is eenvoudig: als er een advertentie is, ziet alleen de eerste persoon die de advertentie ziet de advertentie-disclaimer. Als die gebruiker de advertentie deelt, zien alle vrienden op zijn vriendenlijst de “deel” als een nieuwsfeed-item, omdat Facebook de advertentie-disclaimer opzettelijk laat vallen. Onmiddellijk laten gebruikers hun waakzaamheid varen, ze zijn niet in staat om te onderscheiden tussen wat een advertentie is en wat organisch op hun nieuwsfeed zou zijn verschenen.

Facebook-deelt

Helaas wordt het nog erger. Als een gebruiker 1000 vrienden heeft die tegelijkertijd inhoud delen, zal de aanbevelingsmotor de inhoud van de minderheid die dezelfde meningen deelt prioriteit geven, zelfs als deze vaak bestaan uit onbewezen complottheorieën. De gebruiker zal dan onder de illusie staan dat deze nieuwsfeed-items door iedereen worden gezien. Door interactie met deze nieuwsfeed te hebben, optimaliseren deze gebruikers elkaars sociale bewijs.

Als een gebruiker probeert een andere gebruiker te informeren over een misleidende of valse item, verhoogt de enkele actie van commentaar of interactie met de nieuwsfeed de oorspronkelijke gebruikersbetrokkenheidstijd. Deze feedbacklus zorgt ervoor dat Facebook de gebruiker versterkt met extra nepnieuws.

Dit creëert een echo-kamer, een filterbubbel waarin een gebruiker wordt getraind om alleen te geloven in wat hij ziet. Waarheid is simpelweg een illusie.

Ernst van het probleem

Meer dan 10 miljoen mensen hebben interactie gehad met een nieuwsfeed waarin stond dat paus Franciscus zich uitsprak voor Trumps verkiezing in 2016. Er was geen bewijs voor dit verhaal, het was simpelweg een nepnieuwsverhaal dat uit Rusland kwam, maar dit was het meest gedeelde nieuwsverhaal op Facebook in de drie maanden voorafgaand aan de verkiezingen van 2016.

Het nieuwsitem was gegenereerd door een Russische trollenfabriek die zichzelf de “Internet Research Agency” noemt. Deze zelfde organisatie was verantwoordelijk voor het promoten en delen van racistische artikelen op Twitter en Facebook, ten gunste van het demoniseren van Black Lives Matter, en het verspreiden van nepnieuwsitems met valse claims over Amerikaanse politici.

De Select Committee on Intelligence heeft een 85 pagina’s tellend rapport uitgebracht met details over Russische actieve maatregelen en interventies, waarvan de meeste bestonden uit het verspreiden van verdeeld nepnieuws en propaganda met als enig doel de verkiezingen van 2016 te beïnvloeden.

Naar voren spoedend naar de verkiezingen van 2020 en het probleem is alleen maar verergerd. In september 2020, na een FBI-tip, hebben Facebook en Twitter socialemediarekeningen voor een nieuwsorganisatie met de naam PeaceData stopgezet, die gelinkt is aan Ruslands staatspropaganda-inspanningen.

Helaas is het stoppen van rekeningen een tijdelijke en ineffectieve oplossing. Russische rekeningen nemen vaak de vorm aan van vriendenverzoeken, vaak van vrouwen met aantrekkelijke profielen die mannen targeten, of van gehackte gebruikersrekeningen met een geschiedenis van reguliere posts. Deze gehackte rekeningen verschuiven langzaam naar meer politieke posts, totdat ze worden gedomineerd door propaganda of complottheorieën.

Onverwachte gebruikers kunnen zich niet bewust zijn van het feit dat een vriendenrekening is gehackt. Als die gebruiker kwetsbaar is voor complottheorieën, kan hij interactie hebben met het nepnieuwsitem, de Russische troll, die vaak een bot is, en dan extra sociale bewijs biedt in de vorm van likes of commentaren.

Kwetsbare gebruikers zijn vaak degenen die het minst begrijpen hoe technologie en AI werken. De leeftijdsgroep van 65 jaar en ouder, die het meest waarschijnlijk is om te stemmen, is ook het meest waarschijnlijk om nepnieuws te verspreiden, zoals gerapporteerd door de New York Times.

Volgens het onderzoek hebben Facebook-gebruikers van 65 jaar en ouder zeven keer zoveel artikelen van nepnieuwssites gepost als volwassenen van 29 jaar en jonger. Een gebrek aan digitale mediawijsheid maakt deze leeftijdsgroep onvoorbereid op een nieuwsfeed die niet gebaseerd is op feiten of nauwkeurigheid, maar uitsluitend op gebruikersbetrokkenheid.

Slechte actoren profiteren van Facebook’s aanbevelingsmotor, die onze cognitieve bias tegen ons gebruikt. Deze organisaties hebben de misbruik van Facebook’s AI geoptimaliseerd om complottheorieën en propaganda te verspreiden. Complottheorieën die op het eerste gezicht onschuldig lijken, worden vaak gebruikt als trechters naar witte suprematie, extreem-rechtse nationalisme of QAnon, een bizarre complottheorie waarin Trump probeert de wereld te redden van liberale pedofielen, een complot dat geen enkele basis in de realiteit heeft.

Samenvatting

Facebook is zich ervan bewust dat er een probleem is en heeft publiekelijk een strategie aangekondigd die zich richt op het verwijderen van inhoud die de Community Standards van Facebook schendt. Het probleem is dat het verwijderen van rekeningen een tijdelijke noodoplossing is die ineffectief is wanneer rekeningen in bulk worden gegenereerd door bots of wanneer gebruikersrekeningen op grote schaal worden gehackt. Het lost ook het probleem niet op dat de meeste delingen worden gedaan door gewone gebruikers die zich niet bewust zijn van het feit dat ze desinformatie verspreiden.

Het toevoegen van waarschuwingslabels dient alleen om complottheorieën te versterken dat socialemediareuzen bevooroordeeld zijn tegen conservatieven, die het meest gevoelig zijn voor nepnieuws.

De oplossing moet een nieuwe aanbevelingsmotor zijn die niet alleen gebruikersbetrokkenheid meet, maar geoptimaliseerd is voor gebruikersgeluk door waarheid te leveren en zelfbewustzijn te vergroten.

Intussen moet Facebook het pad volgen dat Twitter heeft genomen om politieke advertenties te verbieden.

Tenslotte moet een belangrijke vraag worden gesteld. Als mensen geen keuze meer hebben over het nieuws dat ze zien, wanneer houdt het op een aanbeveling te zijn en wanneer wordt het geestelijke controle?

Aanbevolen leesmateriaal:

Russische actieve maatregelen en interventies – Rapport van de Select Committee on Intelligence van de Verenigde Staten.

Het schokkende papier dat de einde van de democratie voorspelt – Door Rick Shenkman, oprichter van het History News Network van de George Washington University.

Oudere mensen delen vaker nepnieuws op Facebook – Door de New York Times