Bots zijn geëvolueerd om menselijk gedrag beter na te bootsen voor de verkiezingen van 2020

Emilio Ferrara, een computerwetenschapper van het USC Information Sciences Institute (USC ISI), heeft nieuw onderzoek gepubliceerd dat aantoont dat bots en nep-accounts op sociale media evolueren om menselijk gedrag beter na te bootsen om ongedetecteerd te blijven, allemaal mogelijk gemaakt door kunstmatige intelligentie.

Het onderzoek, uitgevoerd door Ferrara en zijn team, bestaande uit Luca Luceri (Scuola Universitaria Professionale della Svizzera Italiana), Ashok Deb (USC ISI) en Silvia Giordano (Scuola Universitaria Professionale della Svizzera Italiana), is gepubliceerd in het tijdschrift First Monday. Ze onderzochten de verschillende bots en nep-accounts die tijdens de Amerikaanse verkiezingen van 2018 werden gebruikt en vergeleken deze met het gedrag tijdens de Amerikaanse verkiezingen van 2016.

In totaal onderzochten de onderzoekers ongeveer 250.000 actieve sociale media-gebruikers en richtten zich op degenen die de verkiezingen van 2016 en 2018 bespraken. Van deze 250.000 gebruikers vonden de onderzoekers dat 30.000 bots waren.

De bots tijdens de verkiezingen van 2016 retweetten voornamelijk inhoud en richtten zich op het verzenden van grote aantallen tweets over hetzelfde onderwerp of bericht. De bots in 2018 evolueerden net als mensen op sociale media. Bots begonnen minder inhoud te retweeten en stopten met het delen van berichten in grote hoeveelheden.

De bots in 2018 werden beter in het nabootsen van menselijk gedrag. De onderzoekers vonden dat ze vaker meerdere bots tegelijk gebruikten om authentieker te lijken. Ze gebruikten dit om legitieme menselijke interactie rond een idee te simuleren.

Toen begonnen mensen te reageren via antwoorden in plaats van retweets. De bots volgden dit ook. Ze gebruikten antwoorden om in dialoog te gaan en een stem te vestigen op een onderwerp of bericht. Ze gebruikten ook polls om een strategie te repliceren die door legitieme nieuwsuitzendingen en peilers werd gebruikt. De onderzoekers geloven dat deze polls werden gebruikt om een beeld van betrouwbaarheid op te bouwen.

Een van de voorbeelden die de onderzoekers gebruikten, was een bot die een online Twitter-poll publiceerde over federale verkiezingen. De poll vroeg of het verplicht zou moeten zijn om identificatie te tonen bij het stemmen in deze verkiezingen. De bot vroeg vervolgens Twitter-gebruikers om te stemmen en de poll te retweeten.

Emilio Ferrara, de hoofdauteur van de studie, sprak over het nieuwe onderzoek en wat het betekent.

“Onze studie bevestigt verder het idee dat er een wapenwedloop is tussen bots en detectie-algoritmen. Naarmate sociale media-bedrijven meer inspanningen leveren om misbruik te bestrijden en geautomatiseerde accounts te onderdrukken, evolueren bots om menselijke strategieën na te bootsen. Vooruitgang in AI maakt het mogelijk voor bots om meer menselijk-achtige inhoud te produceren. We moeten meer inspanningen leveren om te begrijpen hoe bots evolueren en hoe meer geavanceerde kunnen worden gedetecteerd. Met de aanstaande verkiezingen van 2020 in de VS is de integriteit van het sociale media-discours van het grootste belang om een democratisch proces te waarborgen dat vrij is van externe invloeden.”

Grote gevolgen voor de toekomst

Het probleem van nep-online sociale media-accounts en bots tijdens verkiezingen is al jaren een probleem. De problemen die zich tijdens de verkiezingen van 2016 ontvouwden, leken groot op dat moment, maar dat was klein in vergelijking met wat we in de nabije toekomst zullen zien. Met kunstmatige intelligentie zal dit erger worden.

Bots zullen blijven evolueren om menselijk gedrag beter na te bootsen, grotendeels dankzij kunstmatige intelligentie. Het zal een punt bereiken waarop het onmogelijk is om te bepalen wie echt is en wie niet. Dit betekent dat er dramatische gevolgen zullen zijn voor niet alleen de aanstaande verkiezingen van 2020 in de VS, maar ook voor alle toekomstige verkiezingen aldaar en over de hele wereld.