Comment Facebook utilise l’IA pour propager les fausses informations et menacer la démocratie

Dan Tunkelang, qui supervisait la recherche en intelligence artificielle chez LinkedIn, a déclaré : « Le moment où les recommandations ont le pouvoir d’influencer les décisions, elles deviennent une cible pour les spammers, les escrocs et d’autres personnes aux intentions moins nobles. »

C’est le dilemme que connaissent les entreprises de médias sociaux comme Facebook. Facebook utilise des retours implicites pour suivre les clics, les vues et autres comportements utilisateurs mesurables. Cela est utilisé pour concevoir ce qui est appelé un « moteur de recommandation », un système d’IA qui a le pouvoir ultime de décider qui voit quel contenu et quand.

Facebook a optimisé son moteur de recommandation pour maximiser l’engagement de l’utilisateur, qui est mesuré par la quantité de temps passé sur la plateforme Facebook. La maximisation du temps prend priorité sur toute autre variable, y compris la qualité ou l’exactitude de ce qui est recommandé.

Le système est conçu pour récompenser les titres sensationnalistes qui engagent les utilisateurs en exploitant les préjugés cognitifs, même si ces titres sont rédigés par des trolls russes avec l’intention de diviser la société ou d’influencer les élections politiques.

Comment Facebook utilise l’IA

Il y a un manque de conscience sur la façon dont Facebook utilise l’IA pour décider de ce que ses utilisateurs voient et interagissent. Il faut d’abord comprendre ce qu’est le préjugé de confirmation. Psychology Today décrit cela comme suit :

Le préjugé de confirmation est la tendance à rechercher, interpréter, favoriser et rappeler les informations d’une manière qui confirme ou soutient ses croyances ou valeurs antérieures.

Facebook comprend que les utilisateurs sont plus susceptibles de cliquer sur les actualités qui alimentent la tendance humaine à rechercher le préjugé de confirmation. Cela crée un précédent dangereux pour la propagation des théories du complot et pour la création de chambres d’écho où les utilisateurs sont nourris exclusivement de ce qu’ils veulent voir, indépendamment de l’exactitude ou de l’impact sociétal de ce qu’ils voient.

Une étude du MIT a pu démontrer que les fausses nouvelles sur Twitter se propagent 6 fois plus vite que les véritables histoires.

Cela signifie que Twitter et Facebook peuvent être utilisés comme armes. Alors que Twitter permet à quiconque de suivre intentionnellement des flux avec des points de vue étroits ou biaisés, Facebook va plus loin. Un utilisateur sur Facebook n’a actuellement aucun moyen de contrôler ou de mesurer ce qu’il voit, ce qui est contrôlé entièrement par le moteur de recommandation de Facebook, la façon dont il mesure l’engagement de l’utilisateur et la façon dont il optimise cet engagement.

Facebook tente de façonner et de prédire les désirs de ses utilisateurs. Facebook estime à quel point un utilisateur aimera ou n’aimera pas un article d’actualité qu’il n’a pas encore expérimenté. Pour éviter une perte d’engagement de l’utilisateur, Facebook choisit alors de contourner les articles d’actualité qui pourraient réduire le niveau d’engagement et choisit de stimuler l’utilisateur en lui fournissant des articles d’actualité qui alimentent le préjugé de confirmation, garantissant ainsi plus de clics, de commentaires, de likes et de partages.

Facebook utilise également un filtrage collaboratif automatisé des actions et des opinions historiques des utilisateurs pour associer automatiquement les participants (amis) ayant des opinions similaires. Facebook utilise une fonction d’utilité qui prédit et classe mathématiquement vos préférences pour les éléments que vous souhaitez voir.

Cela fait tomber les utilisateurs dans un trou, ils sont piégés dans les fausses nouvelles, nourris de contenu qui renforce leurs préjugés. Le contenu présenté est conçu pour influencer ce sur quoi vous cliquez. Après tout, si vous croyez au complot selon lequel Bill Gates tente de micro-pucer la population humaine en utilisant des vaccins, pourquoi Facebook vous présenterait-il des preuves contradictoires qui pourraient vous faire vous désengager de la plateforme ? Si vous soutenez un candidat politique, pourquoi Facebook vous offrirait-il des actualités qui pourraient contredire vos opinions positives sur ce candidat ?

Comme si cela ne suffisait pas, Facebook engage également ce qui est connu sous le nom de « preuve sociale ». La preuve sociale est le concept selon lequel les gens suivent les actions de la masse. L’idée est que puisque de nombreuses autres personnes se comportent d’une certaine manière, il doit s’agir du comportement correct.

Facebook fournit cette preuve sociale dans le contexte des likes, des commentaires ou des partages. Puisque seuls certains amis peuvent voir l’élément de fil d’actualité (à moins qu’ils ne recherchent spécifiquement le fil d’actualité d’un utilisateur), la preuve sociale ne fait que renforcer le préjugé de confirmation.

Facebook utilise également des bulles de filtres pour limiter l’exposition aux points de vue contradictoires, contraires ou contestataires.

Publicités Facebook

Les utilisateurs de Facebook peuvent cliquer sur des publicités sans être conscients qu’ils sont présentés avec des publicités. La raison en est simple : si une publicité est présentée, seul le premier utilisateur qui voit la publicité verra l’avis de publicité. Si cet utilisateur partage la publicité, tous les utilisateurs de sa liste d’amis voient simplement le « partage » comme un élément de fil d’actualité, car Facebook supprime intentionnellement l’avis de publicité. Immédiatement, les utilisateurs baissent leur garde, ils sont incapables de faire la distinction entre ce qui est une publicité et ce qui aurait apparu organiquement sur leur fil d’actualité.

Partages Facebook

Malheureusement, les choses empirent. Si un utilisateur a 1000 amis qui partagent simultanément du contenu, le moteur de recommandation donnera la priorité au contenu de la minorité qui partage les mêmes opinions, même si celles-ci consistent souvent en théories du complot non prouvées. L’utilisateur aura alors l’illusion que ces éléments de fil d’actualité sont vus par tous. En interagissant avec cet élément de fil d’actualité, ces utilisateurs optimisent les preuves sociales les uns des autres.

Si un utilisateur tente d’éclairer un autre utilisateur sur un élément de fil d’actualité trompeur ou faux, l’acte même de commenter ou d’interagir avec l’élément de fil d’actualité augmente simplement le temps d’engagement de l’utilisateur initial. Cette boucle de rétroaction fait que Facebook renforce l’engagement de cet utilisateur avec des fausses nouvelles supplémentaires.

Cela crée une chambre d’écho, une bulle de filtre où un utilisateur est formé pour ne croire qu’en ce qu’il voit. La vérité est simplement une illusion.

Gravité du problème

Plus de 10 millions de personnes ont interagi avec un élément de fil d’actualité affirmant que le pape François était sorti en faveur de l’élection de Trump en 2016. Il n’y avait aucune preuve de cela, il s’agissait simplement d’une fausse histoire qui provenait de Russie, et pourtant, c’était l’élément de fil d’actualité le plus partagé sur Facebook dans les trois mois précédant l’élection de 2016.

L’élément de fil d’actualité a été généré par une ferme de trolls russes qui se fait appeler l’« Agence de recherche Internet ». Cette même organisation était responsable de la promotion et du partage sur Twitter et Facebook d’articles de provocation raciale, en faveur de la démonisation du mouvement Black Lives Matter, et de l’armement de fausses nouvelles qui propageaient de fausses allégations sur des politiciens américains.

Le Comité spécial du renseignement a publié un rapport de 85 pages détaillant les campagnes et les interférences de mesures actives russes, dont la majorité consistait en la propagation de fausses nouvelles divisives et de propagande ayant pour seul objectif d’influencer l’élection américaine de 2016.

En avançant dans le temps jusqu’à l’élection de 2020, le problème n’a fait que s’intensifier. En septembre 2020, après un indice du FBI, Facebook et Twitter ont suspendu des comptes de médias sociaux pour une organisation de presse appelée PeaceData, liée aux efforts de propagande de l’État russe.

Malheureusement, la fermeture de comptes est une solution temporaire et inefficace. Les comptes russes prennent souvent la forme de demandes d’amitié, souvent dégoûtés par des femmes ayant des profils attractifs qui ciblent les hommes, ou des comptes d’utilisateurs piratés ayant une histoire de publications régulières. Ces comptes piratés passent lentement à des publications politiques, jusqu’à ce qu’ils soient dominés par la propagande ou les théories du complot.

Un utilisateur qui ne se doute de rien peut ne pas être conscient qu’un compte d’ami a été compromis. Si cet utilisateur est vulnérable aux théories du complot, il peut interagir avec l’élément de fil d’actualité faux, le troll russe qui est souvent un robot, puis fournit des preuves sociales supplémentaires sous la forme de likes ou de commentaires.

Les utilisateurs vulnérables sont souvent ceux qui comprennent le moins la technologie et l’IA. La population de plus de 65 ans, qui est la plus susceptible de voter, est également la plus susceptible de propager de fausses nouvelles, comme le rapporte le New York Times.

Selon l’étude, les utilisateurs de Facebook âgés de 65 ans et plus ont publié sept fois plus d’articles de sites de fausses nouvelles que les adultes de 29 ans et moins. Un manque de littératie numérique média rend ce groupe peu préparé à un fil d’actualité qui n’est pas fondé sur des faits ou sur l’exactitude, mais exclusivement sur l’engagement de l’utilisateur.

Les acteurs malveillants profitent du moteur de recommandation de Facebook qui exploite nos préjugés cognitifs contre nous. Ces mêmes organisations ont optimisé l’abus de l’IA de Facebook pour propager des théories du complot et de la propagande. Des théories du complot qui peuvent sembler innocentes au début sont souvent utilisées comme des entonnoirs dans la suprématie blanche, le nationalisme d’extrême droite ou QAnon, une théorie du complot bizarre impliquant Trump qui tente de sauver le monde des pédophiles libéraux, une théorie qui n’a aucune base dans la réalité.

Résumé

Facebook est clairement conscient qu’il y a un problème et a publiquement annoncé une stratégie qui se concentre sur la suppression du contenu qui viole les normes de la communauté Facebook. Le problème est que la suppression de comptes est une mesure temporaire qui est inefficace lorsque les comptes sont générés en masse par des robots, ou que le piratage massif de comptes d’utilisateurs. Cela ne résout pas non plus le problème que la majorité des partages est effectuée par des utilisateurs réguliers qui ne sont pas conscients qu’ils propagent des informations erronées.

L’ajout d’étiquettes d’avertissement ne fait que renforcer les théories du complot selon lesquelles les géants des médias sociaux sont biaisés contre les conservateurs, qui sont les plus susceptibles aux fausses nouvelles.

La solution doit être un nouveau moteur de recommandation qui mesure non seulement l’engagement de l’utilisateur, mais qui est optimisé pour le bonheur de l’utilisateur en fournissant la vérité et en promouvant une conscience de soi accrue.

Entre-temps, Facebook devrait suivre le chemin que Twitter a pris pour interdire les publicités politiques.

Enfin, une question importante doit être posée. Si les gens n’ont plus le choix sur les actualités qu’ils voient, quand cela cesse-t-il d’être une recommandation et quand cela devient-il un contrôle de l’esprit ?

Lecture recommandée :

Campagnes et interférences de mesures actives russes – Rapport du Comité spécial du renseignement du Sénat des États-Unis.

Le document choquant prédisant la fin de la démocratie – Par Rick Shenkman, fondateur du History News Network de l’Université George Washington.

Les personnes âgées partagent plus de fausses nouvelles sur Facebook – Par le New York Times