Les chercheurs pensent que l’IA peut être utilisée pour aider à protéger la vie privée des personnes

Deux professeurs de sciences de l’information ont récemment publié un article dans The Conversation, argumentant que l’IA pourrait aider à préserver la vie privée des personnes, rectifiant certaines des problèmes qu’elle a créés.

Zhiyuan Chen et Aryya Gangopadhyay soutiennent que les algorithmes d’intelligence artificielle pourraient être utilisés pour défendre la vie privée des personnes, contrevenant à certaines des nombreuses préoccupations en matière de vie privée que d’autres utilisations de l’IA ont créées. Chen et Gangopadhyay reconnaissent que de nombreux produits alimentés par l’IA que nous utilisons pour la commodité ne fonctionneraient pas sans accéder à de grandes quantités de données, ce qui, à première vue, semble contradictoire avec les tentatives de préserver la vie privée. De plus, à mesure que l’IA se propage dans de plus en plus d’industries et d’applications, plus de données seront collectées et stockées dans des bases de données, ce qui rend les violations de ces bases de données tentantes. Cependant, Chen et Gangopadhyay estiment que, lorsqu’elle est utilisée correctement, l’IA peut aider à atténuer ces problèmes.

Chen et Gangopadhyay expliquent dans leur article que les risques pour la vie privée associés à l’IA proviennent d’au moins deux sources différentes. La première source est les grands ensembles de données collectés pour former des modèles de réseau neuronal, tandis que la deuxième menace pour la vie privée est les modèles eux-mêmes. Les données peuvent potentiellement « fuir » de ces modèles, avec le comportement des modèles révélant des détails sur les données utilisées pour les former.

Les réseaux de neurones profonds sont composés de multiples couches de neurones, avec chaque couche connectée aux couches qui l’entourent. Les neurones individuels, ainsi que les liens entre les neurones, codent pour différents morceaux des données de formation. Le modèle peut se révéler trop bon pour se souvenir des modèles des données de formation, même si le modèle n’est pas surajusté. Des traces des données de formation existent dans le réseau et les acteurs malveillants peuvent être en mesure de déterminer des aspects des données de formation, comme l’a découvert l’Université Cornell lors d’une de leurs études. Les chercheurs de Cornell ont constaté que les algorithmes de reconnaissance faciale pouvaient être exploités par les attaquants pour révéler quelles images, et donc quelles personnes, ont été utilisées pour former le modèle de reconnaissance faciale. Les chercheurs de Cornell ont découvert que même si un attaquant n’a pas accès au modèle original utilisé pour former l’application, l’attaquant peut toujours être en mesure de sonder le réseau et de déterminer si une personne spécifique a été incluse dans les données de formation simplement en utilisant des modèles qui ont été formés sur des données très similaires.

Certains modèles d’IA sont actuellement utilisés pour protéger contre les violations de données et essayer de garantir la vie privée des personnes. Les modèles d’IA sont fréquemment utilisés pour détecter les tentatives de piratage en reconnaissant les modèles de comportement que les pirates utilisent pour pénétrer les méthodes de sécurité. Cependant, les pirates changent souvent leur comportement pour essayer de tromper l’IA de détection de modèles.

De nouvelles méthodes de formation et de développement d’IA visent à rendre les modèles et les applications d’IA moins vulnérables aux méthodes de piratage et aux tactiques d’évasion de sécurité. L’apprentissage adversatif vise à former des modèles d’IA sur des simulations d’entrées malveillantes ou nuisibles et, ce faisant, à rendre le modèle plus robuste à l’exploitation, d’où le « adversatif » dans le nom. Selon Chen et Gangopadhyay, leurs recherches ont découvert des méthodes pour lutter contre les logiciels malveillants conçus pour voler les informations personnelles des personnes. Les deux chercheurs ont expliqué qu’une des méthodes qu’ils ont trouvées pour être la plus efficace pour résister aux logiciels malveillants était l’introduction d’incertitude dans le modèle. L’objectif est de rendre plus difficile pour les acteurs malveillants de prévoir comment le modèle réagira à une entrée donnée.

D’autres méthodes pour utiliser l’IA pour protéger la vie privée incluent la minimisation de l’exposition des données lors de la création et de la formation du modèle, ainsi que la recherche pour découvrir les vulnérabilités du réseau. Lorsqu’il s’agit de préserver la vie privée des données, l’apprentissage fédéré peut aider à protéger la vie privée des données sensibles, car il permet de former un modèle sans que les données de formation quittent les appareils locaux qui contiennent les données, isolant ainsi les données et la plupart des paramètres du modèle des espions.

En fin de compte, Chen et Gangopadhyay soutiennent que, même si la prolifération de l’IA a créé de nouvelles menaces pour la vie privée des personnes, l’IA peut également aider à protéger la vie privée lorsqu’elle est conçue avec soin et considération.