Jusqu’où et dans l’obscurité les deepfakes iront-ils ?

Alors que l’IA s’intègre de plus en plus profondément dans notre vie quotidienne, la technologie des deepfakes est devenue une préoccupation croissante pour beaucoup, en particulier pour ceux qui aiment partager des moments personnels sur les réseaux sociaux. Que ce soit une soirée avec des amis ou un pique-nique en famille aux Bahamas, les photos partagées sur des plateformes comme Instagram, Facebook et Snapchat ne sont pas nécessairement à l’abri d’une utilisation potentielle abusive.

Une jeune femme de Corée a récemment pris à partie les réseaux sociaux pour exprimer sa détresse face à une vidéo deepfake réalisée comme un acte de vengeance. Dans la vidéo, elle apparaissait dévêtue. Elle a supplié avec passion que la vidéo générée par l’IA soit supprimée et a demandé à l’individu de cesser sa diffusion.

En octobre 2023, des personnalités renommées telles que la co-animatrice de CBS Mornings, Gayle King, l’acteur Tom Hanks et la personnalité de YouTube, MrBeast, ont été victimes de vidéos deepfake non autorisées qui se sont propagées sur les plateformes de réseaux sociaux. Une autre vidéo mettant en scène la journaliste de CNN, Clarissa Ward, près de la frontière Israël-Gaza, a été manipulée pour jeter le doute sur ses reportages.

Ces vidéos, créées avec la technologie des deepfakes de pointe, ont le pouvoir de substituer des individus dans des contenus existants. Leur nature réaliste est inquiétante, amenant beaucoup à croire en leur authenticité. Cela inclut des chansons générées par l’IA imitant des stars célèbres, dont certaines sont devenues des tubes.

De tels événements ont suscité des inquiétudes mondiales quant au potentiel d’humiliation publique, de harcèlement et de chantage, mettant en évidence le potentiel sinistre des deepfakes.

Pourquoi la technologie des deepfakes est-elle plus dangereuse que vous ne le pensez

L’augmentation des incidents inquiétants indique l’urgence de mesures proactives contre les deepfakes. Actuellement, il n’y a pas de loi universelle régissant les deepfakes ou le contenu généré par l’IA non autorisé, même aux États-Unis. Même s’ils ne peuvent pas être complètement éradiqués, des mesures de protection peuvent être prises.

Pour ceux qui ne sont pas familiers, la technologie des deepfakes utilise l’IA pour créer des images, des vidéos ou des extraits audio réalistes mais fabriqués. Cette technologie déceptive a gagné en importance vers 2017 lorsque un utilisateur anonyme de Reddit a introduit un algorithme pour générer des vidéos fausses mais réalistes.

Bien que conçue à l’origine pour le divertissement, l’éducation ou l’activisme, le progrès rapide de l’IA, couplé aux capacités des deepfakes, présente une multitude de préoccupations en matière de sécurité et d’éthique. Cela inclut :

1. Violation de la vie privée : une préoccupation majeure est l’utilisation non autorisée de l’apparence d’une personne. Des cas notables incluent des vidéos deepfake pour adultes de célébrités, ternissant leur image. Par exemple, en 2017, une vidéo inappropriée faisant faussement apparaître l’actrice Gal Gadot a circulé largement.
2. Desinformation et manipulation : les deepfakes peuvent déformer les vérités, influençant l’opinion publique. Un exemple notable est une vidéo deepfake mettant en scène l’ancien président Obama, créée par BuzzFeed et Jordan Peele. Bien qu’elle ait été conçue comme un message de service public contre la désinformation, elle souligne le potentiel d’abus de la technologie.

1. Fraude et chantage : cette technologie peut produire de fausses preuves ou tromper par duplication de voix ou d’images. Les criminels pourraient utiliser des deepfakes pour l’extorsion ou même la fraude financière, comme on l’a vu lorsque une entreprise énergétique britannique a été trompée pour transférer une somme importante, potentiellement à l’aide d’un deepfake vocal.
2. Biais et discrimination : les deepfakes peuvent perpétuer ou amplifier les préjugés sociétaux, potentiellement déformant la représentation de certaines démographies.

Deepfakes : menaces pour la démocratie, les relations et l’identité

Alors que la technologie des deepfakes en soi n’est pas intrinsèquement malveillante, son utilisation abusive peut être préjudiciable. Elle peut fausser les résultats électoraux, tendre les relations personnelles et violer l’identité personnelle, comme le montrent les programmes de divertissement tels que “DeepFake Love” et “Clickbait” sur Netflix.

Pensées finales

Les deepfakes transforment le monde numérique, ouvrant des voies innovantes tout en posant des défis éthiques. L’absence de réglementation mondiale et d’outils de détection efficaces en fait une question cruciale. Alors que la sensibilisation du public et la culture médiatique sont essentielles, elles ne constituent qu’une partie de la solution.

Il est vital de se demander : considérons-nous les deepfakes comme des merveilles technologiques ou des menaces pour le bien-être individuel et sociétal ? La conversation doit se poursuivre, car la conscience collective et l’action sont cruciales pour atténuer les impacts néfastes de la technologie des deepfakes.