Facebook Supprime Des Comptes Générés Par L’IA Et Utilisés Pour Perpétuer Des Théories Du Complot

Les entreprises de médias sociaux visent à contrôler les fausses informations en amont de la saison électorale 2020 de diverses manières. Alors que Twitter a récemment interdit les publicités politiques de sa plateforme, Facebook vient d’annoncer qu’il a fermé des centaines de faux comptes, groupes et pages. Beaucoup de ces comptes semblent avoir des images de profil générées par l’intelligence artificielle, et beaucoup ont apparemment été utilisés pour diffuser des fausses informations et des théories du complot.

Comme le rapporte Forbes, Facebook a déclaré que les comptes et pages bannis étaient liés au réseau “Beauty of Life” ou “TheBL”, qui, selon Facebook, était lié au groupe d’édition de nouvelles conservatrices, Epoch Times. Selon Facebook, Epoch Media Group a dépensé près de 9,5 millions de dollars en publicité via beaucoup des pages et groupes maintenant bannis, avec beaucoup de publications contenant des théories du complot pro-Trump. Alors que Epoch Media Group nie les allégations, Facebook a déclaré qu’il a travaillé en étroite collaboration avec des chercheurs indépendants tels que Graphika et le laboratoire de recherche numérique du Conseil atlantique (DFRLab) pour déterminer la nature des comptes et des pages avant de prendre des mesures contre eux.

Selon Facebook, les comptes ont été supprimés pour “comportement inauthentique coordonné”, en trompant sciemment les autres sur leurs identités, et pour tentative d’ingérence politique. Selon CNET, Facebook a déclaré que les comptes publiaient souvent du contenu promouvant des candidats politiques et une idéologie spécifiques, se concentrant sur les élections conservatrices, les politiques conservatrices et un fort soutien au président Trump.

Facebook a publié un rapport de 39 pages sur l’événement, couvrant beaucoup de ses constatations. L’un des aspects notables du rapport de Facebook est que beaucoup des comptes bannis ont été créés avec l’aide de l’IA. Les chercheurs de Facebook déclarent dans le rapport :

“Des dizaines de ces faux comptes avaient des images de profil générées par l’intelligence artificielle, dans le premier déploiement à grande échelle de faux visages connus des auteurs de ce rapport.”

Selon les constatations du rapport, les images générées par l’IA n’étaient pas parfaites, avec des détails qui trahissaient souvent leur véritable nature. Les éléments contigus d’une image, comme des lunettes ou des cheveux d’une personne, étaient souvent asymétriques. De plus, les détails de l’arrière-plan étaient souvent flous et déformés. Cependant, ces éléments peuvent ne pas être remarquables au premier coup d’œil, surtout compte tenu des petites tailles d’images des photos de profil dans une chaîne de commentaires Facebook. Beaucoup de faux profils semblaient également avoir de fausses informations de profil et même de fausses publications, potentiellement générées par l’IA.

Comme le rapporte NBC, le responsable de la politique de sécurité de Facebook, Nathaniel Gleicher, a déclaré que le comportement des comptes les a trahis comme étant inauthentiques et que les tentatives d’utiliser de fausses images et des informations de profil ne les aident pas à se protéger de la découverte. Gleicher a déclaré que les images générées par l’IA rendaient en fait les comptes plus susceptibles d’être découverts. Gleicher a déclaré :

“Nous avons détecté ces comptes parce qu’ils étaient engagés dans un comportement faux. Utiliser des profils générés par l’IA pour se faire paraître plus réels ne les aide pas vraiment. La principale conclusion ici est la gravité du réseau en utilisant de fausses identités… Ce qui est nouveau ici, c’est qu’il s’agit prétendument d’une société de médias basée aux États-Unis qui utilise des acteurs étrangers se faisant passer pour des Américains pour diffuser du contenu politique. Nous l’avons vu beaucoup avec des acteurs étatiques dans le passé.”

Néanmoins, les chercheurs indépendants de Graphika et du Conseil atlantique ont déclaré que la facilité avec laquelle les acteurs malveillants ont pu créer autant d’images et donner à leurs comptes une authenticité perçue “est une préoccupation”. Facebook et d’autres entreprises de médias sociaux sont sous pression pour intensifier leurs efforts pour lutter contre la prolifération des fausses informations politiques, une tâche qui nécessitera de rester en avance technologique sur ceux qui cherchent à diffuser des fausses informations.

Avant que Facebook n’ait supprimé les comptes, pages et groupes, le contenu publié par ces entités a atteint des millions de personnes. Selon des rapports, au moins 55 millions de comptes ont suivi l’une des 89 pages bannies différentes. La plupart des abonnés étaient des comptes non américains. Au total, environ 600 comptes, 90 pages et 150 groupes ont été supprimés de Facebook. Environ 70 comptes ont également été supprimés d’Instagram.

La nouvelle survient juste au moment où Facebook lance un défi de détection de DeepFake, qui se déroulera jusqu’en mars 2020. Twitter a également récemment interdit près de 6 000 comptes qu’il soupçonne d’être originaires d’Arabie saoudite et d’avoir publié sciemment du contenu trompeur.