Facebook supprime les comptes générés par l'IA et utilisés pour perpétuer les théories du complot

Les entreprises de médias sociaux ont cherché à contrôler la désinformation avant la saison électorale de 2020 de diverses manières. Alors que Twitter a récemment interdit les publicités politiques de sa plateforme, Facebook vient d'annoncer qu'il a fermé des centaines de faux comptes, groupes et pages. Beaucoup de ces comptes semblent avoir des images de profil générées par l'intelligence artificielle, et beaucoup auraient été utilisées pour diffuser des informations erronées et des théories du complot.

Tel que rapporté par Forbes, Facebook a déclaré que les comptes et les pages interdits étaient liés au réseau "Beauty of Life", ou "TheBL", qui, selon Facebook, était lié au groupe de publication d'informations conservateur Epoch Times. Selon Facebook, Epoch Media Group a dépensé près de 9.5 millions de dollars en publicité sur de nombreuses pages et groupes désormais interdits, de nombreux messages contenant des théories du complot pro-Trump. Alors qu'Epoch Media Group nie les accusations, Facebook a déclaré avoir travaillé en étroite collaboration avec des chercheurs indépendants tels que Graphika et le Digital Forensic Research Lab (DFRLab) de l'Atlantic Council pour déterminer la nature des comptes et des pages avant de prendre des mesures à leur encontre.

Selon Facebook, les comptes ont été supprimés pour "comportement inauthentique coordonné", tromper délibérément les autres sur leur identité et tenter d'ingérence politique.  Selon CNET, Facebook a déclaré que les comptes publiaient souvent du contenu faisant la promotion de candidats politiques et d'idéologies spécifiques, en se concentrant sur les élections conservatrices, les politiques conservatrices et un fort soutien au président Trump.

Facebook a publié un rapport de 39 pages sur l'événement couvrant bon nombre de leurs découvertes. L'un des aspects notables du rapport de Facebook était que de nombreux comptes interdits avaient été créés avec l'aide d'IA. Les chercheurs de Facebook déclarent dans le rapport :

"Des dizaines de ces faux comptes avaient des photos de profil générées par l'intelligence artificielle, lors du premier déploiement à grande échelle de faux visages connus des auteurs de ce rapport."

Selon les conclusions du rapport, les images générées par l'IA n'étaient pas parfaites, les détails révélant souvent leur véritable nature. Les éléments contigus d'une image, comme les lunettes ou les cheveux d'une personne, étaient souvent asymétriques. De plus, les détails d'arrière-plan étaient souvent flous et déformés. Cependant, ces éléments peuvent ne pas être perceptibles au premier coup d'œil, surtout compte tenu de la petite taille des images des photos de profil dans une chaîne de commentaires Facebook. De nombreux faux profils semblaient également contenir de fausses informations de profil et même de faux messages, potentiellement générés par l'IA.

Comme l'a rapporté NBC, le responsable de la politique de sécurité de Facebook, Nathaniel Gleicher, a déclaré que le comportement des comptes est ce qui les a révélés comme non authentiques et que les tentatives d'utilisation de fausses images et informations de profil n'aident pas à protéger les comptes de la découverte. Gleicher a déclaré que les images générées par l'IA rendaient en fait les comptes plus susceptibles d'être pris. Dit Glecher :

"Nous avons détecté ces comptes parce qu'ils se livraient à de faux comportements. Utiliser des profils générés par l'IA pour se rendre plus réels ne les aide pas vraiment. Le plus gros point à retenir ici est le caractère flagrant du réseau dans l'utilisation de fausses identités… Ce qui est nouveau ici, c'est qu'il s'agit prétendument d'une société de médias basée aux États-Unis qui tire parti d'acteurs étrangers se faisant passer pour des Américains pour pousser le contenu politique. Nous l'avons souvent vu avec des acteurs étatiques dans le passé.

Néanmoins, les chercheurs indépendants de Graphika et de l'Atlantic Council ont déclaré que la facilité avec laquelle les mauvais acteurs ont pu créer autant d'images et donner à leurs récits une authenticité perçue « est préoccupante ». Facebook et d'autres sociétés de médias sociaux sont sous pression pour intensifier leurs efforts pour lutter contre la prolifération de la désinformation politique, une tâche qui nécessitera de rester technologiquement en avance sur ceux qui cherchent à répandre la désinformation.

Avant que Facebook ne supprime les comptes, les pages et les groupes, le contenu publié par ces entités atteignait des millions de personnes. Au moins 55 millions de comptes auraient suivi l'une des 89 différentes pages interdites. La plupart des abonnés étaient des comptes non américains. Au total, environ 600 comptes, 90 pages et 150 groupes ont été supprimés de Facebook. Environ 70 comptes ont également été supprimés d'Instagram.

La nouvelle arrive juste au moment où Facebook lance un défi de détection DeepFake, qui se poursuivra jusqu'en mars 2020. Twitter a également récemment interdit près de 6000 comptes que ses suspects sont originaires d'Arabie saoudite et ont publié des contenus délibérément trompeurs.