Les chercheurs développent un outil d’IA pour aider à identifier les fausses nouvelles

Un nouvel outil d’intelligence artificielle a été développé pour aider les réseaux sociaux et les organisations de presse à signaler les histoires fausses.

L’outil a été développé par des chercheurs de l’Université de Waterloo. Il repose sur des algorithmes d’apprentissage automatique pour déterminer si certaines affirmations faites dans les publications et les histoires sont étayées. La technologie le fait en vérifiant si elles sont soutenues par d’autres publications et histoires qui tournent autour du même sujet.

Alexander Wong est professeur de conception de systèmes à Waterloo.

« Si elles sont excellentes, c’est probablement une histoire réelle », a déclaré Wong. « Mais si la plupart des autres documents ne sont pas soutenus, c’est un fort indicateur que l’on a affaire à de fausses nouvelles. »

Les chercheurs ont décidé de développer l’outil en raison du nombre important de publications et d’histoires en ligne qui sont révélées comme fausses ou fabriquées. Les histoires sont souvent envoyées pour tromper ou induire les lecteurs en erreur, et elles sont généralement utilisées pour des raisons politiques ou économiques.

Le système récemment développé fait partie d’un effort en cours pour développer une technologie entièrement automatisée capable de détecter les fausses nouvelles. Dans l’un des principaux domaines de recherche appelé détection de prise de position, le système a un taux de précision de 90 %.

Le système est d’abord donné une affirmation d’une publication ou d’une histoire et d’autres publications et histoires sur le même sujet. Ceux-ci sont rassemblés pour comparaison, et le système est capable de déterminer si l’affirmation ou l’histoire est soutenue ou non par les autres. Il est capable de le faire neuf fois sur dix.

C’est maintenant la nouvelle référence pour la précision, et les chercheurs utilisent un grand ensemble de données créé pour un concours scientifique de 2017 appelé le défi des fausses nouvelles.

La technologie développée par les chercheurs de Waterloo pourrait devenir un outil de dépistage utilisé par des vérificateurs de faits humains. La plupart des réseaux sociaux et des organisations de presse utilisent des vérificateurs de faits humains, mais ils manquent souvent certaines choses que la technologie pourrait détecter. Cela se produit à un moment où les scientifiques du monde entier travaillent à créer un système entièrement automatisé pour signaler et éliminer les fausses nouvelles.

Wong est membre fondateur de l’Institut d’intelligence artificielle de Waterloo.

« Cela augmente leurs capacités et signale les informations qui n’ont pas l’air tout à fait justes pour vérification », a déclaré Wong. « Il n’est pas conçu pour remplacer les gens, mais pour les aider à vérifier les faits plus rapidement et de manière plus fiable. »

Les algorithmes d’IA qui sont la base du système ont été montrés des dizaines de milliers d’affirmations différentes. Les affirmations ont été montrées aux côtés d’histoires qui les soutenaient ou non, et le système a finalement appris à déterminer lui-même le soutien ou le non-soutien. Il l’a appliqué à de nouvelles paires d’affirmations-histoires qui lui ont été montrées.

Chris Dulhanty est un étudiant diplômé, et il a dirigé le projet qui a développé la technologie.

« Nous devons donner aux journalistes les moyens de découvrir la vérité et de nous informer », a-t-il déclaré. « Cela représente un effort dans un ensemble plus large de travaux pour atténuer la propagation de la désinformation. »