En 2024, les deepfakes deviennent mainstream. Voici comment les entreprises peuvent se protéger

Depuis au moins l’élection de 2016, lorsque les préoccupations concernant la désinformation ont éclaté dans la conscience publique, les experts ont sonné l’alarme sur les deepfakes. Les implications de cette technologie étaient – et demeurent – terrifiantes. La prolifération non contrôlée de médias synthétiques hyper-réalistes pose une menace pour tout le monde – des politiciens aux gens ordinaires. Dans un environnement déjà caractérisé par une méfiance généralisée, les deepfakes promettaient de ne faire qu’attiser les flammes encore plus.

Il s’avère que nos craintes étaient prématurées. Les connaissances technologiques requises pour créer réellement des deepfakes, couplées à leur qualité souvent médiocre, ont signifié que pendant au moins les deux derniers cycles d’élections présidentielles, ils sont restés une préoccupation minimale.

Mais tout cela est sur le point de changer – est en train de changer déjà. Au cours des deux dernières années, la technologie d’intelligence artificielle générative est entrée dans le mainstream, simplifiant radicalement le processus de création de deepfakes pour le consommateur moyen. Les mêmes innovations ont considérablement amélioré la qualité des deepfakes, de sorte qu’à un test à l’aveugle, la plupart des gens seraient incapables de distinguer une vidéo truquée de la vraie chose.

Cette année, en particulier, nous avons commencé à voir des indications de la manière dont cette technologie pourrait affecter la société si des efforts ne sont pas faits pour la combattre. L’année dernière, par exemple, une photo générée par IA du pape François portant un manteau inhabituellement élégant est devenue virale, et a été considérée par beaucoup comme authentique. Même si cela peut sembler, à un certain niveau, comme un innocent morceau de divertissement, cela révèle la puissance dangereuse de ces deepfakes et à quel point il est difficile de limiter la désinformation une fois qu’elle a commencé à se propager. Nous pouvons nous attendre à trouver des exemples encore moins amusants – et bien plus dangereux – de ce type de fausse viralité dans les mois et les années à venir.

Pour cette raison, il est impératif que les organisations de toutes sortes – des médias à la finance, aux gouvernements et aux plateformes de médias sociaux – prennent une position proactive en matière de détection de deepfakes et de vérification de l’authenticité du contenu. Une culture de confiance via des garanties doit être établie maintenant, avant qu’une vague de deepfakes ne puisse emporter notre compréhension partagée de la réalité.

Comprendre la menace des deepfakes

Avant de plonger dans ce que les organisations peuvent faire pour combattre cette vague de deepfakes, il vaut la peine de détailler pourquoi les outils de sauvegarde sont nécessaires. Typiquement, ceux qui s’inquiètent des deepfakes citent leur impact potentiel sur la politique et la confiance sociale. Ces conséquences potentielles sont extrêmement importantes et ne devraient pas être négligées dans aucune conversation sur les deepfakes. Mais il se trouve que la montée en puissance de cette technologie a des effets potentiellement désastreux dans plusieurs secteurs de l’économie américaine.

Prenez l’assurance, par exemple. Actuellement, la fraude assurantielle annuelle aux États-Unis s’élève à 308,6 milliards de dollars – un chiffre d’environ un quart de la taille de l’industrie dans son ensemble. Dans le même temps, les opérations de back-end de la plupart des compagnies d’assurance sont de plus en plus automatisées, avec 70 % des réclamations standard prévues pour être sans contact d’ici 2025. Cela signifie que les décisions sont de plus en plus prises avec une intervention humaine minimale : self-service sur le devant de la scène et automatisation facilitée par l’IA sur le back-end.

Ironiquement, la technologie qui a permis cette augmentation de l’automatisation – c’est-à-dire l’apprentissage automatique et l’intelligence artificielle – a garanti son exploitation par les mauvais acteurs. Il est maintenant plus facile que jamais pour la personne moyenne de manipuler les réclamations – par exemple, en utilisant des programmes d’IA générative comme Dall-E, Midjourney ou Stable Diffusion pour faire paraître une voiture plus endommagée qu’elle ne l’est réellement. Déjà, des applications existent spécifiquement à cette fin, comme Dude Your Car!, qui permet aux utilisateurs de créer artificiellement des bosses sur des photos de leurs véhicules.

Le même problème se pose pour les documents officiels, qui peuvent désormais être facilement manipulés – avec des factures, des évaluations d’underwriting, et même des signatures ajustées ou inventées en bloc. Ce problème n’est pas seulement celui des assureurs, mais de l’ensemble de l’économie. C’est un problème pour les institutions financières, qui doivent vérifier l’authenticité d’une large gamme de documents. C’est un problème pour les détaillants, qui peuvent recevoir une plainte selon laquelle un produit est arrivé défectueux, accompagnée d’une image truquée.

Les entreprises ne peuvent simplement pas fonctionner avec ce degré d’incertitude. Un certain degré de fraude est probablement toujours inévitable, mais avec les deepfakes, nous ne parlons pas de fraude en marge – nous parlons d’un potentiel cataclysme épistémologique dans lequel les entreprises n’ont aucun moyen clair de distinguer la vérité de la fiction, et finissent par perdre des milliards de dollars à cause de cette confusion.

Lutter contre le feu par le feu : comment l’IA peut aider

Alors, que peut-on faire pour combattre cela ? Peut-être pas étonnamment, la réponse se trouve dans la technologie même qui facilite les deepfakes. Si nous voulons arrêter cette plaie avant qu’elle ne prenne plus d’ampleur, nous devons lutter contre le feu par le feu. L’IA peut aider à générer des deepfakes – mais elle peut également, heureusement, les identifier automatiquement et à grande échelle.

En utilisant les bons outils d’IA, les entreprises peuvent automatiquement déterminer si une photo, une vidéo ou un document donné a été manipulé. En mettant des dizaines de modèles disparates à la tâche d’identification de faux, l’IA peut automatiquement indiquer aux entreprises si une photo ou une vidéo donnée est suspecte. Comme les outils que les entreprises déployaient déjà pour automatiser les opérations quotidiennes, ces outils peuvent fonctionner en arrière-plan sans surcharger le personnel déjà surchargé ou prendre du temps sur des projets importants.

Si et quand une photo est identifiée comme potentiellement altérée, le personnel humain peut alors être averti, et peut évaluer le problème directement, aidé par les informations fournies par l’IA. En utilisant l’analyse de deep-scan, elle peut indiquer aux entreprises pourquoi elle pense qu’une photo a probablement été truquée – en pointant, par exemple, des métadonnées modifiées manuellement, l’existence d’images identiques sur le web, diverses irrégularités photographiques, etc.

Rien de tout cela ne doit dénigrer les incroyables progrès que nous avons vus dans la technologie d’IA générative au cours des dernières années, qui ont effectivement des applications utiles et productives dans diverses industries. Mais la puissance – pour ne pas dire la simplicité – de cette technologie émergente garantit presque son exploitation par ceux qui cherchent à manipuler les organisations, que ce soit pour un gain personnel ou pour semer le chaos social.

Les organisations peuvent avoir le meilleur des deux mondes : les avantages de productivité de l’IA sans les inconvénients des deepfakes omniprésents. Mais cela nécessite un nouveau degré de vigilance, surtout étant donné le fait que les sorties de l’IA générative ne deviennent que plus persuasives, détaillées et réalistes au fil des jours. Plus tôt les organisations s’attaquent à ce problème, plus tôt elles pourront profiter pleinement des avantages d’un monde automatisé.