Facebook supprime des comptes générés par l’IA et utilisés pour perpétuer des théories du complot

Les entreprises de médias sociaux visent à contrôler la désinformation avant la saison électorale de 2020 de diverses manières. Alors que Twitter a récemment interdit les publicités politiques sur sa plateforme, Facebook (META ) a annoncé qu’il a fermé des centaines de faux comptes, groupes et pages. Beaucoup de ces comptes semblent avoir des images de profil générées par l’intelligence artificielle, et beaucoup ont apparemment été utilisés pour diffuser des informations fausses et des théories du complot.

Selon Forbes, Facebook a déclaré que les comptes et pages interdits étaient liés au réseau “Beauty of Life” ou “TheBL”, qui, selon Facebook, était lié au groupe de publication de nouvelles conservatrices, Epoch Times. Selon Facebook, Epoch Media Group a dépensé près de 9,5 millions de dollars en publicité à travers de nombreuses pages et groupes maintenant interdits, avec de nombreux messages contenant des théories du complot pro-Trump. Alors que Epoch Media Group nie les allégations, Facebook a déclaré qu’il a travaillé en étroite collaboration avec des chercheurs indépendants tels que Graphika et le laboratoire de recherche numérique du Conseil atlantique (DFRLab) pour déterminer la nature des comptes et des pages avant de prendre des mesures à leur encontre.

Selon Facebook, les comptes ont été supprimés pour “comportement inauthentique coordonné”, en trompant sciemment les autres sur leurs identités, et pour avoir tenté d’interférer dans la politique. Selon CNET, Facebook a déclaré que les comptes ont souvent publié du contenu promouvant des candidats politiques et des idéologies spécifiques, se concentrant sur les élections conservatrices, les politiques conservatrices et un fort soutien au président Trump.

Facebook a publié un rapport de 39 pages sur l’événement, couvrant de nombreux de ses constatations. L’un des aspects notables du rapport de Facebook était que de nombreux comptes interdits ont été créés avec l’aide de l’IA. Les chercheurs de Facebook déclarent dans le rapport :

« Des dizaines de ces faux comptes avaient des images de profil générées par l’intelligence artificielle, dans le premier déploiement à grande échelle de faux visages connus des auteurs de ce rapport. »

Selon les conclusions du rapport, les images générées par l’IA n’étaient pas parfaites, avec des détails qui trahissaient souvent leur véritable nature. Les éléments contigus d’une image, comme les lunettes ou les cheveux d’une personne, étaient souvent asymétriques. De plus, les détails de l’arrière-plan étaient souvent flous et déformés. Cependant, ces éléments peuvent ne pas être perceptibles au premier coup d’œil, en particulier compte tenu de la petite taille des images de profil dans une chaîne de commentaires Facebook. Beaucoup de faux profils semblaient également avoir de fausses informations de profil et même de faux messages, potentiellement générés par l’IA.

Selon NBC, le responsable de la politique de sécurité de Facebook, Nathaniel Gleicher, a déclaré que le comportement des comptes les a trahis comme étant inauthentiques et que les tentatives d’utiliser de fausses images et des informations de profil ne les empêchent pas d’être découverts. Gleicher a déclaré que les images générées par l’IA rendaient en fait les comptes plus susceptibles d’être découverts. Gleicher a déclaré :

« Nous avons détecté ces comptes parce qu’ils étaient engagés dans un comportement factice. Utiliser des profils générés par l’IA pour se faire paraître plus réels ne les aide pas vraiment. La principale conclusion ici est la gravité du réseau en utilisant de fausses identités… Ce qui est nouveau ici, c’est qu’il s’agit prétendument d’une société de médias basée aux États-Unis qui utilise des acteurs étrangers se faisant passer pour des Américains pour promouvoir du contenu politique. Nous avons vu cela beaucoup de fois avec des acteurs étatiques dans le passé. »

Cependant, les chercheurs indépendants de Graphika et du Conseil atlantique ont déclaré que la facilité avec laquelle les mauvais acteurs ont pu créer autant d’images et donner à leurs comptes une authenticité perçue « est une préoccupation ». Facebook et d’autres entreprises de médias sociaux sont sous pression pour intensifier leurs efforts pour lutter contre la prolifération de la désinformation politique, une tâche qui nécessitera de rester en avance sur le plan technologique par rapport à ceux qui cherchent à diffuser de fausses informations.

Avant que Facebook n’ait supprimé les comptes, les pages et les groupes, le contenu publié par ces entités a atteint des millions de personnes. Selon des rapports, au moins 55 millions de comptes ont suivi l’une des 89 pages interdites. La plupart des abonnés étaient des comptes non américains. Au total, environ 600 comptes, 90 pages et 150 groupes ont été supprimés de Facebook. Environ 70 comptes ont également été supprimés d’Instagram.

La nouvelle survient alors que Facebook lance un défi de détection de DeepFake, qui se déroulera jusqu’en mars 2020. Twitter a également récemment interdit près de 6 000 comptes qu’il soupçonne d’être originaires d’Arabie saoudite et d’avoir publié du contenu trompeur de manière intentionnelle.