Modèle statistique pour détecter les fausses informations sur les médias sociaux

Un professeur de mathématiques de l’Université américaine, ainsi que son équipe de collaborateurs, ont développé un modèle statistique capable de détecter les fausses informations dans les publications sur les médias sociaux.

L’apprentissage automatique est de plus en plus utilisé pour stopper la propagation des fausses informations, mais il existe encore un obstacle majeur lié au problème des boîtes noires qui se posent. Cela fait référence au fait que les chercheurs ne comprennent pas comment une machine arrive à la même décision que les formateurs humains.

Détection des fausses informations avec des modèles statistiques

Zois Boukouvalas, professeur adjoint au département de mathématiques et de statistiques de l’AU, a utilisé un jeu de données Twitter avec des tweets contenant des fausses informations sur le COVID-19 pour démontrer comment les modèles statistiques peuvent détecter les fausses informations sur les médias sociaux pendant les grands événements tels qu’une pandémie ou une catastrophe.

Boukouvalas et ses collègues, dont l’étudiante de l’AU Caitlin Moroney et le professeur de sciences informatiques Nathalie Japkowicz, ont démontré comment les décisions du modèle s’alignent sur celles des humains dans la recherche récemment publiée.

“Nous aimerions savoir ce qu’une machine pense lorsqu’elle prend des décisions, et comment et pourquoi elle est d’accord avec les humains qui l’ont formée”, a déclaré Boukouvalas. “Nous ne voulons pas bloquer le compte de médias sociaux de quelqu’un parce que le modèle prend une décision biaisée.”

La méthode utilisée par l’équipe est un type d’apprentissage automatique qui repose sur les statistiques. Les modèles statistiques sont efficaces et offrent une autre façon de lutter contre les fausses informations.

Le modèle a obtenu une performance de prédiction élevée et a classé un ensemble de test de 112 tweets réels et de fausses informations avec une précision d’environ 90%.

“Ce qui est important dans cette découverte, c’est que notre modèle a atteint une précision tout en offrant une transparence sur la façon dont il a détecté les tweets qui étaient des fausses informations”, a poursuivi Boukouvalas. “Les méthodes d’apprentissage profond ne peuvent pas atteindre ce niveau de précision avec transparence.”

Formation et préparation du modèle

Les chercheurs ont préparé le modèle avant de le tester sur un ensemble de données, car les informations fournies par les humains peuvent introduire des biais et des boîtes noires.

Les tweets ont été étiquetés par les chercheurs comme des fausses informations ou des informations réelles en fonction d’un ensemble de règles préétablies sur le langage utilisé dans les fausses informations. L’équipe a également pris en compte les nuances du langage humain et les caractéristiques linguistiques liées aux fausses informations.

Avant de former le modèle, le professeur de socio-linguistique Christine Mallinson de l’Université du Maryland Baltimore County a identifié les tweets pour les styles d’écriture associés aux fausses informations, aux biais et aux sources moins fiables dans les médias.

“Une fois que nous ajoutons ces entrées dans le modèle, il essaie de comprendre les facteurs sous-jacents qui conduisent à la séparation des bonnes et des mauvaises informations”, a déclaré Japkowicz. “Il apprend le contexte et la façon dont les mots interagissent.”

Les chercheurs vont maintenant essayer d’améliorer l’interface utilisateur du modèle, ainsi que sa capacité à détecter les fausses informations dans les publications sur les médias sociaux qui incluent des images ou d’autres médias. Le modèle statistique devra apprendre à comprendre comment une variété d’éléments différents interagissent les uns avec les autres pour créer des fausses informations.

Boukouvalas et Japkowicz affirment tous deux que l’intelligence humaine et la littératie des médias sont essentielles pour stopper la propagation des fausses informations.

“À travers notre travail, nous concevons des outils basés sur l’apprentissage automatique pour alerter et éduquer le public afin d’éliminer les fausses informations, mais nous croyons fortement que les humains doivent jouer un rôle actif pour ne pas propager les fausses informations en premier lieu”, a déclaré Boukouvalas.