Les experts en IA classent les Deepfakes et 19 autres crimes basés sur l’IA par niveau de danger

Un nouveau rapport publié par l’University College London visait à identifier les différentes manières dont l’IA pourrait potentiellement aider les criminels au cours des 15 prochaines années. Le rapport a demandé à 31 experts en IA de prendre 20 méthodes différentes d’utilisation de l’IA pour commettre des crimes et de les classer en fonction de divers facteurs. Les experts en IA ont classé les crimes en fonction de variables telles que la facilité avec laquelle le crime pourrait être commis, les dommages potentiels pour la société, le montant d’argent que les criminels pourraient gagner et la difficulté de stopper le crime. Selon les résultats du rapport, les Deepfakes représentaient la menace la plus importante pour les citoyens respectueux de la loi et la société en général, car leur potentiel d’exploitation par les criminels et les terroristes est élevé.

Les experts en IA ont classé les Deepfakes en tête de liste des menaces potentielles de l’IA parce que les Deepfakes sont difficiles à identifier et à contrer. Les Deepfakes s’améliorent constamment pour tromper même les yeux des experts en Deepfakes et les autres méthodes basées sur l’IA pour détecter les Deepfakes sont souvent peu fiables. En termes de capacité de nuisance, les Deepfakes peuvent être utilisés par les mauvais acteurs pour discréditer des figures de confiance ou pour essayer de tromper les gens en se faisant passer pour des proches ou d’autres personnes de confiance. Si les Deepfakes sont abondants, les gens pourraient commencer à perdre confiance dans tout média audio ou vidéo, ce qui pourrait les amener à perdre confiance dans la validité des événements et des faits réels.

Le Dr Matthew Caldwell, de l’UCL Computer Science, était le premier auteur de l’article. Caldwell souligne le danger croissant des Deepfakes à mesure que de plus en plus d’activités se déplacent en ligne. Comme Caldwell a été cité par UCL News:

« Contrairement à de nombreux crimes traditionnels, les crimes dans le domaine numérique peuvent être facilement partagés, répétés et même vendus, permettant aux techniques criminelles d’être commercialisées et aux crimes d’être proposés comme un service. Cela signifie que les criminels pourraient être en mesure de sous-traiter les aspects les plus difficiles de leur crime basé sur l’IA. »

L’équipe d’experts a classé cinq autres technologies émergentes de l’IA comme des catalyseurs potentiels de nouveaux types de crimes : les véhicules autonomes utilisés comme armes, les attaques de piratage sur les systèmes et les appareils contrôlés par l’IA, la collecte de données en ligne à des fins de chantage, le phishing basé sur l’IA avec des messages personnalisés et les fausses nouvelles / désinformation en général.

Selon Shane Johnson, le directeur du Dawes Centre for Future Crimes à l’UCL, l’objectif de l’étude était d’identifier les menaces potentielles associées aux nouvelles technologies émergentes et de formuler des hypothèses sur la manière de devancer ces menaces. Johnson déclare que à mesure que la vitesse du changement technologique augmente, il est impératif que « nous anticipions les menaces de crime futures afin que les décideurs politiques et les autres parties prenantes ayant la compétence pour agir puissent le faire avant que de nouveaux « récoltes de crimes » n’apparaissent ».

En ce qui concerne les quatorze autres crimes possibles de la liste, ils ont été classés en deux catégories : préoccupation modérée et préoccupation faible.

Les crimes de l’IA qui suscitent une préoccupation modérée incluent l’utilisation abusive de robots militaires, l’empoisonnement des données, les drones d’attaque automatisés, les cyberattaques basées sur l’apprentissage, les attaques de déni de service pour les activités en ligne, la manipulation des marchés financiers / boursiers, le « snake oil » (vente de services frauduleux déguisés en terminologie d’IA / ML) et la tromperie de la reconnaissance faciale.

Les crimes basés sur l’IA qui suscitent une faible préoccupation incluent la contrefaçon d’art ou de musique, le harcèlement assisté par l’IA, les fausses critiques rédigées par l’IA, l’évasion des méthodes de détection de l’IA et les « burglar bots » (bots qui pénètrent dans les maisons des gens pour voler des choses).

Bien sûr, les modèles d’IA eux-mêmes peuvent être utilisés pour aider à combattre certains de ces crimes. Récemment, des modèles d’IA ont été déployés pour aider à la détection des schémas de blanchiment d’argent, en détectant les transactions financières suspectes. Les résultats sont analysés par des opérateurs humains qui approuvent ou rejettent l’alerte, et les commentaires sont utilisés pour améliorer la formation du modèle. Il est probable que l’avenir impliquera des IA qui s’affronteront les unes contre les autres, avec des criminels qui essaient de concevoir leurs meilleurs outils d’IA et des concepteurs d’IA éthiques qui essaient de concevoir leurs propres meilleurs systèmes d’IA.