Bailey Kacsmar, candidat au doctorat à l’Université de Waterloo – Série d’entretiens

Bailey Kacsmar est un candidat au doctorat à l’École d’informatique de l’Université de Waterloo et un futur membre du corps professoral à l’Université de l’Alberta. Ses intérêts de recherche portent sur le développement de technologies améliorant la confidentialité des utilisateurs, grâce à l’étude parallèle des approches techniques pour le calcul privé et des perceptions, des préoccupations et de la compréhension de ces technologies par les utilisateurs. Son travail vise à identifier les potentialités et les limites de la confidentialité dans les applications d’apprentissage automatique.

Vos intérêts de recherche portent sur le développement de technologies améliorant la confidentialité des utilisateurs, pourquoi la confidentialité dans l’IA est-elle si importante ?

La confidentialité dans l’IA est si importante, en grande partie parce que l’IA dans notre monde n’existe pas sans données. Les données, bien qu’elles soient une abstraction utile, décrivent en fin de compte des personnes et leurs comportements. Nous travaillons rarement avec des données sur les populations d’arbres et les niveaux d’eau ; ainsi, chaque fois que nous travaillons avec quelque chose qui peut affecter des personnes réelles, nous devons être conscients de cela et comprendre comment notre système peut faire du bien ou du mal. C’est particulièrement vrai pour l’IA, où de nombreux systèmes bénéficient de quantités massives de données ou espèrent utiliser des données très sensibles (comme les données de santé) pour essayer de développer de nouvelles compréhensions de notre monde.

Quelles sont certaines des façons dont vous avez vu que l’apprentissage automatique a trahi la confidentialité des utilisateurs ?

La trahison est un mot fort. Cependant, chaque fois qu’un système utilise des informations sur les personnes sans leur consentement, sans les informer et sans considérer les préjudices potentiels, il court le risque de trahir les normes de confidentialité individuelles ou sociétales. En essence, cela se traduit par une trahison par mille petites coupures. De telles pratiques peuvent inclure la formation d’un modèle sur les boîtes de réception électronique des utilisateurs, la formation sur les messages texte des utilisateurs ou sur les données de santé ; le tout sans informer les sujets des données.

Pouvez-vous définir ce qu’est la confidentialité différentielle et quels sont vos points de vue à ce sujet ?

La confidentialité différentielle est une définition ou une technique qui a gagné en importance en termes d’utilisation pour atteindre la confidentialité technique. Les définitions techniques de la confidentialité comprennent généralement deux aspects clés ; ce qui est protégé et de qui. Dans la confidentialité technique, les garanties de confidentialité sont des protections qui sont atteintes étant donné une série d’hypothèses qui sont satisfaites. Ces hypothèses peuvent porter sur les adversaires potentiels, les complexités du système ou les statistiques. Il s’agit d’une technique incroyablement utile qui a un large éventail d’applications. Cependant, il est important de garder à l’esprit que la confidentialité différentielle n’est pas équivalente à la confidentialité.

La confidentialité n’est pas limitée à une définition ou à un concept, et il est important d’être conscient des notions au-delà de celle-ci. Par exemple, l’intégrité contextuelle est une notion conceptuelle de confidentialité qui prend en compte des choses comme la façon dont les différentes applications ou les différentes organisations changent les perceptions de confidentialité d’un individu par rapport à une situation. Il existe également des notions juridiques de confidentialité telles que celles prévues par la Loi canadienne sur la protection des renseignements personnels et les documents électroniques (LPRPDE), le Règlement général sur la protection des données (RGPD) de l’Europe et la Loi californienne sur la protection de la vie privée des consommateurs (CCPA). Tout cela signifie que nous ne pouvons pas traiter les systèmes techniques comme s’ils existaient dans un vide sans autres facteurs de confidentialité, même si la confidentialité différentielle est employée.

Un autre type d’apprentissage automatique améliorant la confidentialité est l’apprentissage fédéré, comment définiriez-vous ce qu’est cela, et quels sont vos points de vue à ce sujet ?

L’apprentissage fédéré est une façon de réaliser l’apprentissage automatique lorsque le modèle doit être formé sur une collection de jeux de données répartis sur plusieurs propriétaires ou emplacements. Ce n’est pas intrinsèquement un type d’apprentissage automatique améliorant la confidentialité. Un type d’apprentissage automatique améliorant la confidentialité nécessite de définir formellement ce qui est protégé, qui est protégé de qui et les conditions qui doivent être remplies pour que ces protections soient maintenues. Par exemple, lorsque nous pensons à un calcul différentiellement privé simple, il garantit que quelqu’un qui voit la sortie ne pourra pas déterminer si un point de données particulier a été contribué ou non.

De plus, la confidentialité différentielle ne fournit pas cette garantie si, par exemple, il y a une corrélation entre les points de données. L’apprentissage fédéré ne possède pas cette fonctionnalité ; il forme simplement un modèle sur une collection de données sans exiger que les détenteurs de ces données fournissent directement leurs jeux de données les uns aux autres ou à un tiers. Même si cela ressemble à une fonctionnalité de confidentialité, ce qui est nécessaire, c’est une garantie formelle qu’il est impossible d’apprendre les informations protégées étant donné les intermédiaires et les sorties que les parties non fiables observeront. Cette formalité est particulièrement importante dans le contexte fédéré où les parties non fiables incluent tous ceux qui fournissent des données pour former le modèle collectif.

Quelles sont certaines des limites actuelles de ces approches ?

Les limites actuelles pourraient être mieux décrites comme la nature du compromis entre confidentialité et utilité. Même si vous faites tout le reste, communiquez les implications de confidentialité à ceux qui sont affectés, évaluez le système pour ce que vous essayez de faire, etc., cela se résume à atteindre une confidentialité parfaite, ce qui signifie que nous ne créons pas le système, atteindre une utilité parfaite ne possédera généralement pas de protections de confidentialité, donc la question est de savoir comment déterminer quel est le « compromis idéal » et comment construire vers cela de manière à toujours atteindre la fonctionnalité souhaitée tout en fournissant les protections de confidentialité nécessaires.

Vous vous concentrez actuellement sur le développement de technologies de confidentialité conscientes de l’utilisateur grâce à l’étude parallèle des solutions techniques pour le calcul privé. Pouvez-vous entrer dans les détails de certaines de ces solutions ?

Ce que je veux dire par ces solutions, c’est que nous pouvons, pour ainsi dire, développer n’importe quel nombre de systèmes de confidentialité technique. Cependant, lors de leur développement, il est important de déterminer si les garanties de confidentialité atteignent ceux qui sont affectés. Cela peut signifier développer un système après avoir découvert quels types de protections la population valorise. Cela peut signifier mettre à jour un système après avoir découvert comment les gens utilisent réellement un système compte tenu de leurs considérations réelles de menace et de risque. Une solution technique pourrait être un système correct qui satisfait à la définition que j’ai mentionnée plus tôt. Une solution consciente de l’utilisateur conçoit son système sur la base d’entrées provenant des utilisateurs et d’autres personnes affectées dans le domaine d’application prévu.

Vous recherchez actuellement des étudiants de troisième cycle intéressés pour commencer en septembre 2024, pourquoi pensez-vous que les étudiants devraient s’intéresser à la confidentialité de l’IA ?

Je pense que les étudiants devraient s’intéresser à cela parce que c’est quelque chose qui ne fera que grandir dans sa prévalence au sein de notre société. Pour avoir une idée de la rapidité avec laquelle ces systèmes se déploient, il suffit de regarder l’amplification récente de Chat-GPT à travers les articles de presse, les médias sociaux et les débats sur ses implications. Nous existons dans une société où la collecte et l’utilisation des données sont si intégrées à notre vie quotidienne que nous fournissons presque constamment des informations sur nous-mêmes à diverses entreprises et organisations. Ces entreprises veulent utiliser les données, dans certains cas pour améliorer leurs services, dans d’autres pour le profit. À ce stade, il semble irréaliste de penser que ces pratiques d’utilisation des données d’entreprise vont changer. Cependant, l’existence de systèmes préservant la confidentialité qui protègent les utilisateurs tout en permettant certaines analyses souhaitées par les entreprises peut aider à équilibrer le compromis entre risques et récompenses qui est devenu une partie implicite de notre société.

Merci pour cette grande entrevue, les lecteurs qui souhaitent en savoir plus devraient visiter la page Github de Bailey Kacsmar.