Les bots ont évolué pour mieux imiter le comportement humain pour les élections de 2020

Emilio Ferrara, un informaticien de l’Institut des sciences de l’information de l’USC (USC ISI), a mené une nouvelle recherche qui montre que les bots et les faux comptes sur les réseaux sociaux évoluent pour mieux imiter les comportements humains afin de ne pas être détectés, le tout rendu possible par l’intelligence artificielle.

La recherche, menée par Ferrara et son équipe, qui comprenait Luca Luceri (Scuola Universitaria Professionale della Svizzera Italiana), Ashok Deb (USC ISI) et Silvia Giordano (Scuola Universitaria Professionale della Svizzera Italiana), a été publiée dans la revue First Monday. Ils ont examiné les différents bots et faux comptes utilisés pendant les élections américaines de 2018 et les ont comparés au comportement observé lors des élections américaines de 2016.

Au total, l’équipe de chercheurs a étudié environ 250 000 utilisateurs de réseaux sociaux actifs, et s’est concentrée sur ceux qui ont discuté des élections de 2016 et 2018. Sur ces 250 000 utilisateurs, l’équipe a découvert que 30 000 d’entre eux étaient des bots.

Les bots lors des élections de 2016 retweetaient principalement du contenu et se concentraient sur l’envoi d’un grand nombre de tweets concernant le même problème ou message. Les bots de 2018 ont évolué comme les humains l’ont fait sur les réseaux sociaux. Les bots ont commencé à retweeter moins de contenu et ont cessé de partager ces messages en grande quantité.

Les bots de 2018 sont devenus meilleurs pour imiter le comportement humain. Les chercheurs ont constaté qu’ils étaient plus susceptibles d’utiliser plusieurs bots en même temps pour paraître plus authentiques. Ils ont utilisé cela pour sembler comme s’il s’agissait d’un engagement humain légitime autour d’une idée.

À cette époque, les humains ont commencé à s’engager à travers des réponses plutôt que des retweets. Les bots ont suivi cela. Ils ont utilisé des réponses pour s’engager dans un dialogue et établir une voix sur un problème ou un message. Ils ont également utilisé des sondages pour reproduire une stratégie utilisée par des diffuseurs de nouvelles légitimes et des sondeurs. Les chercheurs pensent que ces sondages ont été utilisés pour construire une image de crédibilité.

L’un des exemples que les chercheurs ont utilisés était un bot qui a publié un sondage en ligne sur Twitter concernant les élections fédérales. Le sondage demandait si cela devrait être obligatoire de présenter une pièce d’identité lors de ces élections. Le bot a ensuite demandé aux utilisateurs de Twitter de voter et de retweeter le sondage.

Emilio Ferrara, l’auteur principal de l’étude, a parlé de la nouvelle recherche et de ce qu’elle signifie.

“Notre étude corrobore encore cette idée qu’il y a une course aux armements entre les bots et les algorithmes de détection. Alors que les entreprises de réseaux sociaux mettent plus d’efforts pour atténuer les abus et étouffer les comptes automatisés, les bots évoluent pour imiter les stratégies humaines. Les progrès de l’IA permettent aux bots de produire un contenu plus similaire à celui des humains. Nous devons consacrer plus d’efforts pour comprendre comment les bots évoluent et comment les détecter. Avec les élections américaines de 2020 à venir, l’intégrité du discours sur les réseaux sociaux est d’une importance cruciale pour permettre un processus démocratique exempt d’influences extérieures.”

De grandes implications pour l’avenir

Le problème des faux comptes en ligne sur les réseaux sociaux et des bots pendant les élections a été un problème pendant des années. Les problèmes qui se déroulaient pendant les élections de 2016 semblaient énormes à l’époque, mais cela était petit par rapport à ce que nous allons voir dans un avenir proche. Avec l’intelligence artificielle, cela empirera.

Les bots vont continuer à évoluer pour mieux imiter le comportement humain, en grande partie grâce à l’intelligence artificielle. Il en viendra un point où il sera impossible de déterminer qui est réel et qui ne l’est pas. Cela signifie qu’il y aura des implications dramatiques non seulement pour les élections américaines de 2020 à venir, mais pour toutes les élections futures, aux États-Unis et dans le monde.