Les deepfakes et la navigation dans la nouvelle ère des médias synthétiques

Rappelez-vous les “fausses nouvelles” ? Le terme a été utilisé (et abusé) à tel point qu’il peut être difficile de se souvenir de ce à quoi il se réfère initialement. Mais le concept a une origine très spécifique. Il y a dix ans, les journalistes ont commencé à sonner l’alarme sur une vague de sites web prétendus “d’actualité” qui lançaient de fausses allégations, souvent invraisemblables, sur des personnalités politiques et des célébrités. Beaucoup pouvaient instantanément reconnaître que ces sites étaient illégitimes.

Mais beaucoup d’autres manquaient des outils critiques pour reconnaître cela. Le résultat a été les premiers signes d’une crise épistémologique qui est maintenant en train de submerger Internet – une crise qui a atteint sa manifestation la plus effrayante avec l’émergence des deepfakes.

À côté d’un deepfake même passable, les sites web de “fausses nouvelles” d’autrefois semblent inoffensifs. Pire encore, même ceux qui pensent posséder des niveaux de littératie médiatique relativement élevés sont à risque d’être trompés. Les médias synthétiques créés à l’aide d’algorithmes d’apprentissage profond et d’intelligence artificielle générative ont le potentiel de saccager les fondements de notre société. Selon Deloitte, cette année seule, ils pourraient coûter aux entreprises plus de 250 millions de dollars grâce à des transactions frauduleuses et d’autres formes de fraude. Pendant ce temps, le Forum économique mondial a qualifié les deepfakes de “l’une des utilisations les plus inquiétantes de l’IA”, soulignant le potentiel de “chatbots et d’avatars IA à l’heure des agendas” pour faciliter de nouvelles souches de manipulation ultra-personnalisée (et ultra-efficace).

La réponse suggérée par le FEM à ce problème est sensée : ils préconisent une “mentalité de confiance zéro“, qui apporte un certain scepticisme à chaque rencontre avec les médias numériques. Si nous voulons distinguer l’authentique et le synthétique à l’avenir – en particulier dans les environnements en ligne immersifs – une telle mentalité sera de plus en plus essentielle.

Deux approches pour combattre la crise des deepfakes

Combattre la désinformation rampante engendrée par les médias synthétiques nécessitera, à mon avis, deux approches distinctes.

La première consiste à vérifier : fournir un moyen simple pour les utilisateurs Internet de déterminer si la vidéo qu’ils regardent est authentique. De tels outils sont déjà répandus dans des secteurs comme l’assurance, étant donné le potentiel de mauvais acteurs à déposer de fausses réclamations aidées par des vidéos, des photographies et des documents truqués. La démocratisation de ces outils – les rendre gratuits et faciles d’accès – est une étape cruciale dans ce combat, et nous voyons déjà un mouvement significatif sur ce front.

La deuxième étape est moins technologique et donc plus difficile : sensibiliser et développer les compétences en pensée critique. Après le scandale initial des “fausses nouvelles” en 2015, des organisations à but non lucratif à travers le pays ont créé des programmes de littératie médiatique et ont travaillé pour diffuser les meilleures pratiques, souvent en collaboration avec des institutions civiques locales pour donner aux citoyens ordinaires les moyens de repérer les faussetés. Bien sûr, les “fausses nouvelles” traditionnelles sont un jeu d’enfant par rapport aux deepfakes les plus avancés, c’est pourquoi nous devons redoubler d’efforts sur ce front et investir dans l’éducation à tous les niveaux.

Les deepfakes avancés nécessitent une pensée critique avancée

Bien sûr, ces initiatives éducatives étaient un peu plus faciles à entreprendre lorsque la désinformation en question était basée sur du texte. Avec les sites web de fausses nouvelles, les signes de fraude étaient souvent évidents : une conception de site web peu convaincante, des fautes d’orthographe fréquentes, des sources bizarres. Avec les deepfakes, les signes sont beaucoup plus subtils – et souvent impossibles à remarquer au premier coup d’œil.

Par conséquent, les utilisateurs d’Internet de tout âge doivent se rééduquer pour examiner les vidéos numériques à la recherche d’indicateurs de deepfakes. Cela signifie prêter une attention particulière à un certain nombre de facteurs. Pour les vidéos, cela pourrait signifier des zones floues et des ombres peu réalistes ; des mouvements et des expressions faciales peu naturels ; des teints de peau trop parfaits ; des motifs de vêtements et de mouvements incohérents ; des erreurs de synchronisation des lèvres ; et ainsi de suite. Pour l’audio, cela pourrait signifier des voix qui sonnent trop pures (ou clairement numérisées), un manque de ton émotionnel humain, des modèles de parole étranges ou des phrases inhabituelles.

À court terme, ce type d’auto-formation peut être très utile. En nous demandant, encore et encore, Est-ce que cela semble suspect ?, nous aiguisons non seulement notre capacité à détecter les deepfakes, mais aussi nos compétences en pensée critique en général. Cela étant dit, nous nous approchons rapidement d’un point où même l’œil le plus entraîné ne sera pas en mesure de séparer le fait de la fiction sans aide extérieure. Les indices visuels – les irrégularités mentionnées ci-dessus – seront techniquement lissés, de sorte que les extraits entièrement fabriqués seront indiscernables de l’article authentique. Ce qui nous restera, c’est notre intuition situationnelle – notre capacité à nous demander des questions comme Un tel politicien ou célébrité dirait-il vraiment cela ? Le contenu de cette vidéo est-il plausible ?

C’est dans ce contexte que les plateformes de détection d’IA deviennent essentielles. Lorsque l’œil nu est rendu irrecevable pour la détection des deepfakes, ces plateformes peuvent servir d’arbitres définitifs de la réalité – des garde-fous contre l’abîme épistémologique. Lorsqu’une vidéo semble réelle mais paraît suspecte – ce qui se produira de plus en plus souvent dans les mois et les années à venir – ces plateformes peuvent nous maintenir dans les faits en confirmant la véracité de base de ce que nous regardons. En fin de compte, avec une technologie aussi puissante, la seule chose qui peut nous sauver, c’est l’IA elle-même. Nous devons lutter contre le feu avec le feu – utiliser une bonne IA pour éradiquer les pires abus de la technologie.

Vraiment, l’acquisition de ces compétences n’a pas besoin d’être un processus cynique ou négatif. Faire preuve d’une mentalité de confiance zéro peut être considéré comme une opportunité pour aiguiser sa pensée critique, son intuition et sa conscience. En se demandant, encore et encore, certaines questions clés – Est-ce que cela a du sens ? Est-ce que cela semble suspect ? – vous renforcez votre capacité à affronter non seulement les médias synthétiques, mais le monde en général. S’il y a une ligne d’argent dans l’ère des deepfakes, c’est celle-ci. Nous sommes forcés de penser par nous-mêmes et de devenir plus empiriques dans notre vie quotidienne – et cela ne peut être qu’une bonne chose.