Les ingénieurs en intelligence artificielle développent une méthode pour détecter l’intention de ceux qui diffusent des informations fausses

La lutte contre les informations fausses à l’ère numérique est un problème complexe. Non seulement les informations fausses doivent-elles être identifiées, étiquetées et corrigées, mais l’intention de ceux qui sont responsables de l’affirmation doit également être distinguée. Une personne peut diffuser des informations fausses sans le savoir, ou simplement donner son opinion sur une question, même si elle est plus tard rapportée comme un fait. Récemment, une équipe de chercheurs et d’ingénieurs en intelligence artificielle de Dartmouth a créé un cadre qui peut être utilisé pour dériver l’opinion de “fausses nouvelles” rapportées.

Selon ScienceDaily, l’étude de l’équipe de Dartmouth a été récemment publiée dans le Journal of Experimental & Theoretical Artificial Intelligence. Alors que les études précédentes ont tenté d’identifier les fausses nouvelles et de lutter contre la tromperie, il s’agit peut-être de la première étude qui visait à identifier l’intention de l’orateur dans un article de nouvelles. Alors qu’une histoire vraie peut être déformée en diverses formes trompeuses, il est important de distinguer si la tromperie était intentionnelle ou non. L’équipe de recherche soutient que l’intention compte lorsqu’il s’agit d’informations fausses, car la tromperie n’est possible que si l’intention de tromper est présente. Si un individu n’a pas réalisé qu’il diffusait des informations fausses ou s’il donnait simplement son opinion, il ne peut y avoir de tromperie.

Eugene Santos Jr., professeur d’ingénierie à l’école d’ingénierie Thayer de Dartmouth, a expliqué à ScienceDaily pourquoi leur modèle tente de distinguer l’intention trompeuse:

“L’intention trompeuse de tromper les auditeurs à dessein pose une menace beaucoup plus grande que les erreurs involontaires. À notre connaissance, notre algorithme est la seule méthode qui détecte la tromperie et qui distingue en même temps les actes malveillants des actes benignes.”

Afin de construire leur modèle, l’équipe de recherche a analysé les caractéristiques de la raison trompeuse. L’algorithme résultant pouvait distinguer l’intention de tromper des autres formes de communication en se concentrant sur les disparités entre les arguments passés d’une personne et ses déclarations actuelles. Le modèle construit par l’équipe de recherche nécessite de grandes quantités de données qui peuvent être utilisées pour mesurer comment une personne s’écarte de ses arguments passés. Les données de formation que l’équipe a utilisées pour former leur modèle provenaient d’une enquête sur les opinions sur des sujets controversés. Plus de 100 personnes ont donné leur opinion sur ces questions controversées. Des données ont également été extraites de critiques de 20 hôtels différents, comprenant 400 critiques fictives et 800 critiques réelles.

Selon Santos, le cadre développé par les chercheurs pourrait être affiné et appliqué par les organisations de presse et les lecteurs, afin de leur permettre d’analyser le contenu des articles de “fausses nouvelles”. Les lecteurs pourraient examiner les articles pour la présence d’opinions et déterminer par eux-mêmes si un argument logique a été utilisé. Santos a également déclaré que l’équipe souhaite examiner l’impact des informations fausses et les effets d’entraînement qu’elles ont.

La culture populaire dépeint souvent les comportements non verbaux comme les expressions faciales comme des indicateurs que quelqu’un ment, mais les auteurs de l’étude notent que ces indices de comportement ne sont pas toujours des indicateurs fiables de mensonge. Deqing Li, co-auteur de l’article, a expliqué que leurs recherches ont montré que les modèles basés sur l’intention de raisonnement sont de meilleurs indicateurs de mensonge que les différences de comportement et verbales. Li a expliqué que les modèles d’intention de raisonnement “sont meilleurs pour distinguer les mensonges intentionnels des autres types de distorsion d’information”.

Le travail des chercheurs de Dartmouth n’est pas la seule avancée récente en ce qui concerne la lutte contre les informations fausses avec l’intelligence artificielle. Les articles de presse avec des titres de type “clic” cachent souvent des informations fausses. Par exemple, ils impliquent souvent qu’une chose s’est produite alors qu’un autre événement s’est réellement produit.

Selon AINews, une équipe de chercheurs de l’Université d’État de l’Arizona et de l’Université de Pennsylvanie a collaboré pour créer un intelligence artificielle capable de détecter les titres de type “clic”. Les chercheurs ont demandé aux gens d’écrire leurs propres titres de type “clic” et ont également écrit un programme pour générer des titres de type “clic”. Les deux formes de titres ont ensuite été utilisées pour former un modèle qui pouvait détecter efficacement les titres de type “clic”, qu’ils soient écrits par des machines ou des humains.

Selon les chercheurs, leur algorithme était d’environ 14,5% plus précis pour détecter les titres de type “clic” que les autres intelligences artificielles dans le passé. Le chercheur principal du projet et professeur agrégé à la Faculté des sciences de l’information et de la technologie de Pennsylvanie, Dongwon Lee, a expliqué comment leur expérience démontre l’utilité de la génération de données avec une intelligence artificielle et de les réinjecter dans un pipeline de formation.

“Ce résultat est assez intéressant car nous avons réussi à démontrer que les données de formation de type ‘clic’ générées par machine peuvent être réinjectées dans le pipeline de formation pour former une grande variété de modèles d’apprentissage automatique à des performances améliorées”, a expliqué Lee.