L’IA peut combattre les fausses informations et les préjugés dans les actualités

Les fausses informations et les préjugés dans les actualités sont devenus l’un des plus grands défis auxquels la société est confrontée ces dernières années. Des choses comme les opérations d’information, les deepfakes, l’influence financière et l’exploitation des tensions sociales sont de nouveaux outils utilisés à la fois par des individus et des acteurs étatiques à travers le monde.

Les fausses informations sont un terme général pour les informations fausses, et elles jouent un rôle majeur dans la manipulation de l’opinion publique. Dans le même temps, elles sont utilisées comme une attaque contre les dirigeants politiques et aggravent les séparations entre les groupes dans différents pays. Plus que jamais, les fausses informations frappent l’isoloir, et elles sont devenues incroyablement efficaces.

La désinformation, qui est légèrement différente des fausses informations, est des informations trompeuses ou biaisées délibérément. Elle peut inclure des récits et des faits manipulés. En d’autres termes, c’est de la propagande.

Un rapport de 2019 des chercheurs de l’Université d’Oxford a détaillé des campagnes de désinformation organisées dans 70 pays différents, dont la Russie, la Chine, le Vietnam et le Guatemala.

L’économie numérique a conduit à une augmentation des fausses informations et des préjugés dans les actualités, les technologies de l’IA et les plateformes de médias sociaux devenant des moyens de les diffuser à grande échelle.

Nous avons vu de nombreux exemples de cela. Par exemple, les deux dernières élections présidentielles américaines ont été remplies de fausses informations et de préjugés, et cela est sûr de continuer à l’avenir. Les marchés financiers ont également été soumis à des manipulations à court terme par les fausses informations et les préjugés, et les affaires étrangères deviennent de plus en plus tendues en raison de leur utilisation. Les tensions sociales sont provoquées par de fausses informations contre les partisans et les opposants de causes spécifiques, et les fausses actualités sont rampantes dans presque toutes les nations.

Notre dépendance à l’égard des médias sociaux et des algorithmes nous a rendus incroyablement vulnérables aux fausses informations et aux préjugés, et il est devenu facile de manipuler de grands groupes de personnes.

Selon un essai intitulé Les préjugés rendent les gens vulnérables aux fausses informations diffusées par les médias sociaux, publié par The Conversation, un réseau de médias à but non lucratif, il existe trois types de préjugés qui rendent l’écosystème des médias sociaux vulnérable à la désinformation intentionnelle et accidentelle. Il est important de reconnaître que la plupart de nos actualités proviennent désormais des médias sociaux.

Les trois types de préjugés sont :

1. Préjugés dans le cerveau : “Les préjugés cognitifs trouvent leur origine dans la façon dont le cerveau traite les informations que chaque personne rencontre chaque jour.”
   
2. Préjugés dans la société : “Lorsque les gens se connectent directement avec leurs pairs, les préjugés sociaux qui guident leur sélection d’amis influencent les informations qu’ils voient.
   
3. Préjugés dans la machine : “Le troisième groupe de préjugés provient directement des algorithmes utilisés pour déterminer ce que les gens voient en ligne. Les plateformes de médias sociaux et les moteurs de recherche les emploient.”

Cette combinaison de préjugés a créé l’environnement parfait pour que les acteurs malveillants utilisent nos plateformes d’actualités actuelles pour diffuser des fausses informations. Mais il est important de reconnaître que les préjugés sont également présents en dehors de ce domaine. Les rapports d’actualités et les articles risquent d’être biaisés en raison des tendances particulières d’un auteur ou d’une publication. Ce n’est rien de nouveau.

Solutions basées sur l’IA pour les fausses informations et les préjugés

L’essor de l’intelligence artificielle nous a fourni de nombreux outils nouveaux et innovants qui peuvent être utilisés pour combattre les fausses informations et les préjugés dans les actualités.

Par exemple, lorsqu’ils sont conçus correctement, l’IA peut efficacement détecter et supprimer certaines fausses informations et d’autres contenus problématiques en ligne. Elle est déjà utilisée pour identifier les faux bots par des entreprises comme Google, Twitter et Facebook. Et les faux bots sont souvent utilisés pour diffuser des fausses informations et des actualités biaisées.

De nouveaux cadres d’IA doivent être explorés pour combattre ce problème, et les cadres existants doivent être améliorés car beaucoup se sont avérés problématiques. Ces problèmes commencent à devenir encore plus dangereux lorsque des conflits surviennent. Par exemple, les conflits militaires, tels que le conflit actuel entre la Russie et l’Ukraine, conduisent à la diffusion de fausses informations à une vitesse incroyable.

Il existe divers outils alimentés par l’IA qui sont en cours de développement. Par exemple, NT CONNECT, un développeur de technologies international, a récemment annoncé le lancement de son application de regroupement d’actualités, NOOZ.AI. Le moteur d’analyse linguistique alimenté par l’IA vise à apporter de la transparence au préjugé polarisant trouvé dans les médias d’actualités d’aujourd’hui. Il tente de le faire en gardant les lecteurs informés de l’influence des médias d’actualités avant de lire un article.

“Les auteurs ou les journalistes ont tendance à pencher vers un préjugé particulier – souvent sans que le lecteur en ait connaissance”, indique le communiqué de presse de l’entreprise. “En connaissant l’historique de préjugés de l’auteur et des sources d’actualités, les consommateurs peuvent examiner l’article avec un esprit plus objectif et résister à la manipulation pour penser d’une certaine manière sur un sujet particulier.”

L’outil NOOZ.AI est basé sur quatre piliers clés :

• Analyse d’opinion : Il aide les lecteurs à déterminer la présence de sentiments personnels, de vues, de croyances ou de jugements dans l’écriture d’un journaliste.

• Analyse de sentiment : L’outil utilise l’analyse de sentiment pour aider les lecteurs à évaluer le soutien ou l’opposition d’un écrivain au contenu d’actualités général ou à un sujet spécifique.

• Analyse de propagande : Il peut détecter la désinformation potentielle en identifiant l’utilisation de jusqu’à 18 techniques de persuasion possibles.

• Analyse de révision : Les lecteurs peuvent examiner l’évolution d’une histoire d’actualités et sa manipulation d’opinion et de sentiment au fil du temps.

L’application fournit des scores pour chaque article, avec des scores d’opinion allant de 0 à 100 et des scores de sentiment allant de -100 à 100. Elle suit également toutes les modifications de texte pour chaque révision et donne aux lecteurs la possibilité de comparer différentes versions.

Selon Garry Paxinos, CTO chez NT CONNECT :

“Les reportages biaisés sont une préoccupation majeure dans la société d’aujourd’hui. Les fausses informations sont le mot à la mode le plus (mal) utilisé. Mais la réalité est que le langage lui-même peut être utilisé pour manipuler et persuader le lecteur occasionnel. En analysant objectivement le langage, nous évitons le préjugé subjectif trouvé dans d’autres approches. Contrairement à l’étiquetage subjectif des fausses informations, notre approche consiste à éclairer la façon dont on peut être manipulé par des titres exagérés, des historiques de révision et du texte d’articles.”