Botene har utviklet seg til å etterligne menneskelig atferd bedre for 2020-valget

Emilio Ferrara, en datavitenskapsmann fra USC Information Sciences Institute (USC ISI), har ny forskning som viser at boter og falske kontoer på sosiale medier utvikler seg til å etterligne menneskelig atferd bedre for å unngå å bli oppdaget, alt muliggjort av kunstig intelligens. 

Forskningen, som ble gjennomført av Ferrara og hans team, som inkluderte Luca Luceri (Scuola Universitaria Professionale della Svizzera Italiana), Ashok Deb (USC ISI) og Silvia Giordano (Scuola Universitaria Professionale della Svizzera Italiana), ble publisert i tidsskriftet First Monday. De undersøkte de forskjellige botene og falske kontoene som ble brukt under valget i USA i 2018 og sammenlignet dem med atferden under valget i 2016. 

I alt studerte forskerne om lag 250 000 sosiale medieaktive brukere, og de fokuserte på de som diskuterte valget i 2016 og 2018. Av disse 250 000 brukerne fant de at 30 000 av dem var boter. 

Botene under valget i 2016 retweetet for det meste innhold og fokuserte på å sende ut store mengder tweets om samme sak eller melding. Botene i 2018 utviklet seg like mye som mennesker gjorde når det kom til sosiale medier. Botene begynte å retweete mindre innhold, og de sluttet å dele meldinger i stor volum. 

Botene i 2018 ble bedre til å etterligne menneskelig atferd. Forskerne fant at de var mer sannsynlige til å bruke flere boter samtidig for å se mer autentiske ut. De brukte dette for å se ut som om det var legitim menneskelig engasjement rundt en idé. 

På den tiden begynte mennesker å engasjere seg gjennom svar i stedet for retweets. Botene fulgte også dette. De brukte svar for å bli engasjert i dialog og etablere en stemme på en sak eller melding. De brukte også avstemninger for å replikere en strategi brukt av legitime nyhetskanaler og meningsmålinger. Forskerne tror at disse avstemningene ble brukt for å bygge opp et bilde av å være pålitelige. 

Et av eksemplene som forskerne brukte var en bot som publiserte en nettbasert Twitter-avstemning om føderale valg. Avstemningen spurte om det burde være nødvendig å vise identifikasjon når man stemmer i disse valgene. Boten ba deretter Twitter-brukerne om å stemme og retweete avstemningen. 

Emilio Ferrara, hovedforfatteren av studien, snakket om den nye forskningen og hva den betyr. 

“Vår studie bekrefter videre denne ideen om at det er en våpenkappløp mellom boter og oppdaggingsalgoritmer. Når sosiale medier-selskaper setter mer innsats for å forebygge misbruk og stille automatiske kontoer, utvikler botene seg til å etterligne menneskelige strategier. Fremgang i kunstig intelligens muliggjør at boter produserer mer menneskelignende innhold. Vi må sette mer innsats for å forstå hvordan boter utvikler seg og hvordan mer avanserte kan bli oppdaget. Med det kommende valget i USA i 2020 er integriteten av sosiale medier-samtaler av største betydning for å tillate en demokratisk prosess fri for ytre påvirkninger.”

Store implikasjoner for fremtiden

Problemet med falske nettbaserte sosiale mediekontoer og boter under valg har vært et problem i mange år nå. Problemet som utviklet seg under valget i 2016 syntes enormt på den tiden, men det var smålig sammenlignet med hva vi kommer til å se i nær fremtid. Med kunstig intelligens vil dette bli verre. 

Botene kommer til å fortsette å utvikle seg til å bli bedre til å etterligne menneskelig atferd, mye takket være kunstig intelligens. Det kommer til å nå et punkt hvor det blir umulig å bestemme hvem som er ekte og hvem som ikke er. Dette betyr at det vil være dramatiske implikasjoner ikke bare for det kommende valget i USA i 2020, men også for alle fremtidige valg der og rundt om i verden.