Robotter er blevet bedre til at efterligne menneskelig adfærd til 2020-valget

Emilio Ferrara, en computervidenskabsmand fra USC Information Sciences Institute (USC ISI), har nyt forskning, der viser, at robotter og falske konti på sociale medier udvikler sig til bedre at efterligne menneskelig adfærd for at undgå opdagede, alt muliggjort af kunstig intelligens.

Forskningen, der er udført af Ferrara og hans team, der inkluderer Luca Luceri (Scuola Universitaria Professionale della Svizzera Italiana), Ashok Deb (USC ISI) og Silvia Giordano (Scuola Universitaria Professionale della Svizzera Italiana), blev offentliggjort i tidsskriftet First Monday. De undersøgte de forskellige robotter og falske konti, der blev brugt under det amerikanske valg i 2018, og sammenlignede dem med adfærden under det amerikanske valg i 2016.

I alt undersøgte forskerholdet omkring 250.000 sociale medieaktive brugere og fokuserede på dem, der diskuterede valgene i 2016 og 2018. Af disse 250.000 brugere fandt holdet ud af, at 30.000 af dem var robotter.

Roboterne under valget i 2016 retweetede primært indhold og fokuserede på at sende store mængder tweets om det samme emne eller besked. Roboterne i 2018 udviklede sig ligesom mennesker, når det kom til sociale medier. Roboterne begyndte at retweete mindre indhold og stoppede med at dele beskeder i stor mængde.

Roboterne i 2018 blev bedre til at efterligne menneskelig adfærd. Forskerne fandt ud af, at de var mere tilbøjelige til at bruge multiple robotter på samme tid for at fremstå mere autentiske. De brugte dette til at se ud som om det var legitim menneskelig engagement omkring en idé.

På det tidspunkt begyndte mennesker at engagere sig gennem svar i stedet for retweets. Roboterne fulgte også denne tendens. De brugte svar til at engagere sig i dialog og etablere en stemme på et emne eller besked. De brugte også meningsmålinger for at replikere en strategi, der blev brugt af legitime nyhedsmedier og meningsmålingsinstitutter. Forskerne mener, at disse meningsmålinger blev brugt til at bygge et image af at være troværdige.

Et af eksemplerne, som forskerne brugte, var en robot, der offentliggjorde en online Twitter-afstemning om føderale valg. Afstemningen spurgte, om det skulle være nødvendigt at fremvise identifikation, når man stemte i disse valg. Robotten bad derefter Twitter-brugere om at stemme og retweete afstemningen.

Emilio Ferrara, hovedforfatteren af studiet, talte om den nye forskning og hvad den betyder.

“Vores studie bekræfter yderligere denne idé, at der er en kapløb mellem robotter og opdagede algoritmer. Da sociale medie-selskaber lægger mere indsats i at mindske misbrug og kvæle automatiserede konti, udvikler robotterne sig til at efterligne menneskelige strategier. Fremgang i kunstig intelligens gør, at robotter producerer mere menneske-lignende indhold. Vi skal bruge mere indsats til at forstå, hvordan robotter udvikler sig, og hvordan mere avancerede kan opdages. Med det forestående amerikanske valg i 2020 er integriteten af sociale medie-discussioner af største betydning for at tillade en demokratisk proces fri for eksterne påvirkninger.”

Store implikationer for fremtiden

Problemet med falske online sociale medie-konti og robotter under valg har været et problem i mange år. De problemer, der udviklede sig under valget i 2016, syntes enorme på det tidspunkt, men det var små sammenlignet med, hvad vi vil se i den nærmeste fremtid. Med kunstig intelligens vil dette blive værre.

Roboterne vil fortsætte med at udvikle sig til at efterligne menneskelig adfærd, primært takket være kunstig intelligens. Det vil nå et punkt, hvor det vil være umuligt at bestemme, hvem der er ægte og hvem der ikke er. Dette betyder, at der vil være dramatiske implikationer ikke kun for det forestående amerikanske valg i 2020, men for alle fremtidige valg der og rundt om i verden.