Les outils de navigateur basés sur l’IA visent à reconnaître les deepfakes et autres médias faux

Les efforts des entreprises technologiques pour lutter contre les fausses informations et les contenus faux sont en plein essor ces derniers temps, alors que les technologies de génération de contenus faux sophistiquées comme les DeepFakes deviennent plus faciles à utiliser et plus raffinées. Une tentative à venir pour aider les gens à détecter et à lutter contre les deepfakes est RealityDefender, produit par la Fondation de l’IA, qui s’est engagée à développer des agents et des assistants IA éthiques que les utilisateurs peuvent former pour effectuer diverses tâches.

Le projet le plus notable de la Fondation de l’IA est une plate-forme qui permet aux gens de créer leurs propres personnages numériques qui leur ressemblent et les représentent dans des espaces de réunion virtuels. La Fondation de l’IA est supervisée par le Conseil mondial de l’IA et, dans le cadre de son mandat, elle doit anticiper les impacts négatifs possibles des plateformes d’IA, puis essayer de devancer ces problèmes. Selon VentureBeat, l’un des outils que la Fondation de l’IA a créés pour aider à la détection des deepfakes s’appelle Reality Defender. Reality Defender est un outil que une personne peut utiliser dans son navigateur Web (vérifiez cela), qui analysera les vidéos, les images et d’autres types de médias pour détecter les signes que le média a été falsifié ou modifié d’une façon ou d’une autre. On espère que l’outil aidera à contrer le flux croissant de deepfakes sur Internet, qui, selon certaines estimations, a pratiquement doublé au cours des six derniers mois.

Reality Defender fonctionne en utilisant une variété d’algorithmes basés sur l’IA qui peuvent détecter des indices suggérant qu’une image ou une vidéo pourrait avoir été falsifiée. Les modèles d’IA détectent des signes subtils de tromperie et de manipulation, et les faux positifs que le modèle détecte sont étiquetés comme incorrects par les utilisateurs de l’outil. Les données sont ensuite utilisées pour réentraîner le modèle. Les entreprises d’IA qui créent des deepfakes non trompeurs ont leur contenu étiqueté avec un tag ou une marque d’eau “honnête IA” qui permet aux gens d’identifier facilement les faux générés par l’IA.

Reality Defender n’est qu’un des outils d’une suite d’outils et d’une plate-forme de responsabilité IA que la Fondation de l’IA tente de créer. La Fondation de l’IA poursuit la création de Guardian AI, une plate-forme de responsabilité construite sur le principe que les individus devraient avoir accès à des agents IA personnels qui travaillent pour eux et qui peuvent les aider à se protéger contre leur exploitation par les acteurs malveillants. En essence, la Fondation de l’IA vise à la fois à étendre la portée de l’IA dans la société, en la rendant accessible à plus de gens, tout en protégeant contre les risques de l’IA.

Reality Defender n’est pas le seul produit basé sur l’IA qui vise à réduire les fausses informations aux États-Unis. Un produit similaire s’appelle SurfSafe, qui a été créé par deux étudiants de premier cycle de l’UC Berkeley, Rohan Phadte et Ash Bhat. Selon The Verge, SurfSafe fonctionne en permettant à ses utilisateurs de cliquer sur un média qui les intéresse et le programme effectuera une recherche d’image inverse et essayera de trouver des contenus similaires à partir de sources de confiance sur Internet, en signalant les images qui sont connues pour être truquées.

Il est difficile de savoir exactement à quel point ces solutions seront efficaces à long terme. Le professeur du Dartmouth College et expert en forensique Hany Farid a été cité par The Verge comme disant qu’il est “extrêmement sceptique” que les plans de systèmes comme Reality Defender fonctionneront de manière significative. Farid a expliqué que l’un des principaux défis pour détecter les contenus faux est que les médias ne sont pas purement faux ou réels. Farid a expliqué:

“Il y a un continuum ; une gamme incroyablement complexe de problèmes à traiter. Certains changements sont sans importance, et d’autres modifient fondamentalement la nature d’une image. Prétendre que nous pouvons former un IA pour repérer la différence est incroyablement naïf. Et prétendre que nous pouvons crowdsourcer est encore plus naïf.”

De plus, il est difficile d’inclure des éléments de crowdsourcing, tels que l’étiquetage des faux positifs, car les humains sont généralement très mauvais pour identifier les images fausses. Les humains font souvent des erreurs et manquent de détails subtils qui marquent une image comme fausse. Il est également difficile de savoir comment traiter les acteurs de mauvaise foi qui font des trolls lorsqu’ils signalent du contenu.

Il est probable que, pour être maximalement efficaces, les outils de détection de faux devront être combinés avec des efforts de littératie numérique qui enseignent aux gens comment raisonner sur le contenu avec lequel ils interagissent en ligne.