Les chercheurs pensent que l’IA peut être utilisée pour aider à protéger la vie privée des personnes

Deux professeurs de sciences de l’information ont récemment publié un article dans The Conversation, argumentant que l’IA pourrait aider à préserver la vie privée des personnes, en rectifiant certains des problèmes qu’elle a créés.

Zhiyuan Chen et Aryya Gangopadhyay soutiennent que les algorithmes d’intelligence artificielle pourraient être utilisés pour défendre la vie privée des personnes, en contrepartie de certains des nombreux problèmes de confidentialité créés par d’autres utilisations de l’IA. Chen et Gangopadhyay reconnaissent que de nombreux produits alimentés par l’IA que nous utilisons pour la commodité ne fonctionneraient pas sans accéder à de grandes quantités de données, ce qui, à première vue, semble contradictoire avec les tentatives de préserver la confidentialité. De plus, à mesure que l’IA se répand dans de plus en plus d’industries et d’applications, plus de données seront collectées et stockées dans des bases de données, ce qui rend les violations de ces bases de données plus tentantes. Cependant, Chen et Gangopadhyay estiment que, lorsqu’elle est utilisée correctement, l’IA peut aider à atténuer ces problèmes.

Chen et Gangopadhyay expliquent dans leur article que les risques pour la confidentialité liés à l’IA proviennent d’au moins deux sources différentes. La première source est les grands ensembles de données collectés pour former les modèles de réseaux de neurones, tandis que la deuxième menace pour la confidentialité est les modèles eux-mêmes. Les données peuvent potentiellement « fuir » de ces modèles, avec le comportement des modèles révélant des détails sur les données utilisées pour les former.

Les réseaux de neurones profonds sont composés de multiples couches de neurones, avec chaque couche connectée aux couches qui l’entourent. Les neurones individuels, ainsi que les liens entre les neurones, codent pour différents éléments des données de formation. Le modèle peut se révéler trop efficace pour mémoriser les modèles des données de formation, même si le modèle n’est pas surajusté. Des traces des données de formation existent dans le réseau et les acteurs malveillants peuvent être en mesure de déterminer des aspects des données de formation, comme l’a découvert l’Université Cornell lors d’une de leurs études. Les chercheurs de Cornell ont constaté que les algorithmes de reconnaissance faciale pouvaient être exploités par les attaquants pour révéler quelles images, et donc quelles personnes, ont été utilisées pour former le modèle de reconnaissance faciale. Les chercheurs de Cornell ont découvert que même si un attaquant n’a pas accès au modèle original utilisé pour former l’application, l’attaquant peut toujours être en mesure de sonder le réseau et de déterminer si une personne spécifique a été incluse dans les données de formation simplement en utilisant des modèles formés sur des données très similaires.

Certains modèles d’IA sont actuellement utilisés pour se protéger contre les violations de données et essayer de garantir la confidentialité des personnes. Les modèles d’IA sont fréquemment utilisés pour détecter les tentatives de piratage en reconnaissant les modèles de comportement que les pirates utilisent pour pénétrer les méthodes de sécurité. Cependant, les pirates changent souvent de comportement pour essayer de tromper les modèles de détection de l’IA.

De nouvelles méthodes de formation et de développement de l’IA visent à rendre les modèles et les applications d’IA moins vulnérables aux méthodes de piratage et aux tactiques d’évasion de sécurité. L’apprentissage adversatif vise à former les modèles d’IA sur des simulations de saisies malveillantes ou nuisibles et, ce faisant, à rendre le modèle plus robuste à l’exploitation, d’où le terme « adversatif » dans le nom. Selon Chen et Gangopadhyay, leurs recherches ont découvert des méthodes pour lutter contre les logiciels malveillants conçus pour voler les informations personnelles des personnes. Les deux chercheurs ont expliqué qu’une des méthodes qu’ils ont trouvées pour résister aux logiciels malveillants était l’introduction d’incertitude dans le modèle. L’objectif est de rendre plus difficile pour les acteurs malveillants de prédire comment le modèle réagira à une entrée donnée.

D’autres méthodes pour utiliser l’IA pour protéger la confidentialité incluent la minimisation de l’exposition des données lors de la création et de la formation du modèle, ainsi que la recherche pour découvrir les vulnérabilités du réseau. Lorsqu’il s’agit de préserver la confidentialité des données, l’apprentissage fédéré peut aider à protéger la confidentialité des données sensibles, car il permet de former un modèle sans que les données de formation quittent les appareils locaux qui contiennent les données, en isolant les données et la plupart des paramètres du modèle de l’espionnage.

En fin de compte, Chen et Gangopadhyay soutiennent que même si la prolifération de l’IA a créé de nouvelles menaces pour la confidentialité des personnes, l’IA peut également aider à protéger la confidentialité lorsqu’elle est conçue avec soin et considération.