Un modèle d’IA peut identifier les diffuseurs de désinformation avant qu’ils n’agissent

Un modèle d’IA créé par des chercheurs de l’Université de Sheffield peut potentiellement déterminer quels utilisateurs de Twitter publieront de la désinformation avant même qu’ils ne le fassent. Si le modèle s’avère fiable, il pourrait être utilisé pour compléter les méthodes existantes de lutte contre la désinformation sur les médias sociaux.

Selon TechXplore, l’étude a été menée par des chercheurs de l’Université de Sheffield, du département d’informatique, notamment Dr. Nikos Aletras et Yida Mu. L’étude a été publiée dans la revue PeerJ et détaille les méthodes utilisées pour prédire si un utilisateur de médias sociaux est susceptible de diffuser de la désinformation en publiant du contenu provenant de sources d’information non fiables.

L’équipe de recherche a collecté plus d’un million de tweets de plus de 6 000 utilisateurs de Twitter, tous accessibles au public. L’équipe a appliqué des techniques de traitement du langage naturel pour préparer les données à l’entraînement d’un modèle d’IA. Le modèle d’IA était un modèle de classification binaire, qui étiquetait les utilisateurs comme susceptibles de partager des informations provenant de sources non fiables ou non susceptibles de le faire. Après que le modèle ait été entraîné sur les données, il a pu atteindre une précision de classification d’environ 79,7 %.

Lors de l’analyse des résultats des performances du modèle, les chercheurs ont constaté que les utilisateurs qui utilisaient fréquemment un langage impoli et qui twittaient constamment sur la religion et la politique étaient plus susceptibles de publier des informations provenant de sources non fiables. En particulier, il y avait un usage important de mots comme « libéral », « média », « gouvernement », « Israël » et « islam ». En revanche, les utilisateurs qui publiaient des informations provenant de sources fiables tendaient à utiliser des mots comme « je vais », « je veux », « j’ai envie », « humeur », « excité » et « anniversaire ». Au-delà de cela, ils partageaient généralement des histoires sur leur vie personnelle, telles que des interactions avec des amis, leurs émotions ou des informations sur leurs hobbies.

Les résultats de l’étude pourraient aider les entreprises de médias sociaux comme Facebook (META ), Reddit et Twitter à concevoir de nouvelles façons de lutter contre la propagation de la désinformation en ligne. La recherche pourrait également aider les psychologues et les sociologues à mieux comprendre le comportement qui conduit à la propagation massive de la désinformation au sein d’un réseau social.

Comme l’a expliqué Aletras selon TechXplore, les médias sociaux se sont transformés en l’un des principaux moyens par lesquels les gens obtiennent leurs actualités. Des millions d’utilisateurs à travers le monde obtiennent leurs histoires d’actualité via Facebook et Twitter chaque jour, mais ces plateformes sont également devenues des outils pour diffuser de la désinformation dans la société. Aletras a poursuivi en expliquant que l’identification fiable de certaines tendances dans le comportement des utilisateurs pourrait aider à limiter la désinformation. Comme l’a expliqué Aletras, il existe une « corrélation entre l’utilisation d’un langage impoli et la diffusion de contenu non fiable qui peut être attribuée à une hostilité politique en ligne élevée ».

Selon Mu, l’analyse du comportement des utilisateurs qui partagent des informations non fiables peut aider les plateformes de médias sociaux à compléter les méthodes de vérification des faits existantes et à modéliser la désinformation au niveau de l’utilisateur. Comme Mu l’a déclaré via TechXplore :

« Étudier et analyser le comportement des utilisateurs qui partagent du contenu provenant de sources d’information non fiables peut aider les plateformes de médias sociaux à prévenir la diffusion de fausses nouvelles au niveau de l’utilisateur, en complétant les méthodes de vérification des faits existantes qui fonctionnent au niveau de la publication ou de la source d’information ».

La recherche menée par Aletras et Mu pourrait être un exemple d’utilisation de l’IA pour lutter contre la désinformation générée par l’IA. Ces derniers mois, on a assisté à une augmentation de la désinformation entourant la politique locale et nationale, avec une grande partie du contenu généré et diffusé par des algorithmes d’IA. Des réseaux de neurones profonds ont été utilisés pour construire des photographies et des profils réalistes de faux comptes qui servent de diffuseurs de fausses nouvelles. La recherche d’Aletras et Mu pourrait aider les entreprises de médias sociaux à déterminer quels comptes sont faux, des comptes de bots créés dans le but de diffuser de la propagande et de la désinformation nuisibles.