Système d’alerte précoce pour la désinformation développé avec l’IA

Les chercheurs de l’Université de Notre Dame travaillent sur un projet pour lutter contre la désinformation en ligne, y compris les campagnes médiatiques visant à inciter à la violence, à semer la discorde et à intervenir dans les élections démocratiques. 

L’équipe de chercheurs a utilisé l’intelligence artificielle (IA) pour développer un système d’alerte précoce. Le système sera capable d’identifier les images manipulées, les vidéos deepfake et la désinformation en ligne. Il s’agit d’un système automatisé et évolutif qui utilise la récupération d’images basée sur le contenu. Il peut ensuite appliquer des techniques basées sur la vision par ordinateur pour identifier les mèmes politiques sur plusieurs réseaux sociaux. 

Tim Weninger est professeur agrégé au département de sciences et d’ingénierie informatique de Notre Dame. 

“Les mèmes sont faciles à créer et encore plus faciles à partager”, a déclaré Weninger. “Lorsqu’il s’agit de mèmes politiques, ceux-ci peuvent être utilisés pour aider à mobiliser les électeurs, mais ils peuvent également être utilisés pour diffuser des informations inexactes et causer des dommages.”

Weninger a collaboré avec Walter Scheirer, professeur agrégé au département de sciences et d’ingénierie informatique de Notre Dame, ainsi que avec les membres de l’équipe de recherche. 

Élections générales de 2019 en Indonésie

L’équipe a testé le système avec les élections générales de 2019 en Indonésie. Ils ont collecté plus de deux millions d’images et de contenus provenant de diverses sources sur Twitter et Instagram liées à l’élection. 

Lors de l’élection, le candidat de centre gauche, sortant, a battu le candidat conservateur et populiste. Après l’élection, des manifestations violentes ont éclaté, faisant huit morts et des centaines de blessés. L’étude de l’équipe a révélé qu’il y avait des campagnes spontanées et coordonnées lancées sur les réseaux sociaux dans le but d’influencer l’élection et d’inciter à la violence. 

Les campagnes coordonnées ont utilisé des images manipulées, qui projetaient de fausses allégations et déformaient certains événements. Des histoires et des mèmes ont été fabriqués à l’aide de logos de nouvelles légitimes, dans le but de provoquer les citoyens et les partisans des deux partis. 

Le reste du monde

Les élections générales de 2019 en Indonésie sont représentatives de ce qui peut se passer dans le reste du monde. La désinformation, en particulier lorsqu’elle est diffusée sur les réseaux sociaux, peut menacer les processus démocratiques. 

L’équipe de recherche de Notre Dame comprenait des experts en forensique numérique et des spécialistes en études de paix. Selon l’équipe, le système est en cours de développement pour signaler le contenu manipulé, dans le but de prévenir la violence et d’avertir les journalistes ou les observateurs électoraux de menaces potentielles. 

Le système est encore en phase de recherche et de développement, mais il sera finalement évolutif et personnalisé pour les utilisateurs pour surveiller le contenu. Certains des plus grands défis dans le développement du système incluent la détermination de la meilleure façon de mettre à l’échelle l’ingestion et le traitement des données. Selon Scheirer, le système est actuellement évalué, avec la prochaine étape étant la transition vers une utilisation opérationnelle. 

Il y a une chance que le système puisse être utilisé pour surveiller les élections générales de 2020 aux États-Unis, qui devraient voir des quantités massives de désinformation et de manipulation.

“L’ère de la désinformation est arrivée”, a déclaré Scheirer. “Un deepfake remplaçant des acteurs dans un film populaire peut sembler amusant et léger, mais imaginez une vidéo ou un mème créé dans le seul but de mettre un dirigeant mondial contre un autre – en disant des mots qu’ils n’ont pas réellement dits. Imaginez à quel point ce contenu pourrait être partagé et diffusé sur les plateformes. Considérez les conséquences de ces actes.”