Bots har utvecklats för att härma mänskligt beteende bättre inför 2020 års val

Emilio Ferrara, en datavetare från USC Information Sciences Institute (USC ISI), har ny forskning som visar att botar och falska konton på sociala medier utvecklas för att bättre härma mänskligt beteende för att inte upptäckas, allt möjliggjort av artificiell intelligens. 

Forskningen, som utfördes av Ferrara och hans team som inkluderade Luca Luceri (Scuola Universitaria Professionale della Svizzera Italiana), Ashok Deb (USC ISI) och Silvia Giordano (Scuola Universitaria Professionale della Svizzera Italiana), publicerades i tidskriften First Monday. De undersökte de olika botarna och falska konton som användes under valet i USA 2018 och jämförde dem med beteendet under valet i USA 2016. 

Totalt studerade forskarteamet cirka 250 000 sociala medieanvändare, och de fokuserade på de som diskuterade valet 2016 och 2018. Av dessa 250 000 användare fann teamet att 30 000 av dem var botar. 

Botarna under valet 2016 retweetade i huvudsak innehåll och fokuserade på att skicka ut stora mängder tweets om samma fråga eller meddelande. Botarna 2018 utvecklades på samma sätt som människor när det gäller sociala medier. Botarna började retweeta mindre innehåll och slutade dela meddelanden i stor volym. 

Botarna 2018 blev bättre på att härma mänskligt beteende. Forskarna fann att de var mer benägna att använda flera botar samtidigt för att verka mer autentiska. De använde detta för att verka som om det var legitim mänsklig interaktion kring en idé. 

Då började människor engagera sig genom svar i stället för retweets. Botarna följde detta också. De använde svar för att engagera sig i dialog och etablera en röst i en fråga eller meddelande. De använde också omröstningar för att replikera en strategi som används av legitima nyhetskanaler och opinionsinstitut. Forskarna tror att dessa omröstningar användes för att bygga en bild av att vara trovärdiga. 

Ett av exemplen som forskarna använde var en bot som publicerade en online-omröstning på Twitter om federala val. Omröstningen frågade om det borde krävas att visa identitetshandlingar när man röstar i dessa val. Boten bad sedan Twitter-användare att rösta och retweeta omröstningen. 

Emilio Ferrara, huvudförfattare till studien, talade om den nya forskningen och vad den betyder. 

“Vår studie bekräftar ytterligare idén att det pågår en kapprustning mellan botar och upptäcktsalgoritmer. När sociala medieföretag lägger mer kraft på att mildra missbruk och kväva automatiserade konton, utvecklas botarna för att härma mänskliga strategier. Framsteg inom AI möjliggör att botar producerar mer mänskligt innehåll. Vi måste lägga mer kraft på att förstå hur botarna utvecklas och hur mer sofistikerade botar kan upptäckas. Med de kommande valen i USA 2020 är integriteten i sociala medier av största vikt för att tillåta en demokratisk process fri från yttre påverkan.”

Stora implikationer för framtiden

Problemet med falska online-sociala mediekonton och botar under val har varit ett problem i år. De problem som utvecklades under valet 2016 tycktes stora då, men det var litet jämfört med vad vi kommer att se i närmaste framtiden. Med artificiell intelligens kommer detta att bli värre. 

Botarna kommer att fortsätta utvecklas för att bättre härma mänskligt beteende, till stor del tack vare artificiell intelligens. Det kommer att nå en punkt där det blir omöjligt att avgöra vem som är verklig och vem som inte är det. Detta innebär att det kommer att finnas dramatiska implikationer inte bara för de kommande valen i USA 2020, utan också för alla framtida val där och runt om i världen.