Qu'est-ce que la confidentialité différentielle ? 

Nous vivons à l'ère des mégadonnées, qui a attiré encore plus d'attention sur le sujet de la confidentialité des données. Les humains produisent une quantité incroyable de données chaque seconde, et les entreprises utilisent ces données pour un large éventail d'applications. Avec le stockage et le partage de données à un rythme sans précédent, il doit y avoir davantage de techniques de protection de la vie privée. 

La confidentialité différentielle est l'une de ces approches pour protéger les données personnelles, et elle s'est avérée plus efficace que bon nombre de nos méthodes traditionnelles. Il peut être défini comme un système de partage public d'informations sur un ensemble de données en décrivant des modèles de groupes au sein de l'ensemble de données tout en retenant des informations sur les individus dans l'ensemble de données. 

La confidentialité différentielle permet aux chercheurs et aux analystes de bases de données d'obtenir des informations précieuses à partir de bases de données sans divulguer les informations d'identification personnelle sur les individus. Ceci est essentiel car de nombreuses bases de données contiennent une variété d'informations personnelles. 

Une autre façon d'envisager la confidentialité différentielle est qu'elle crée des données anonymes en injectant du bruit dans les ensembles de données. Le bruit introduit aide à protéger la confidentialité tout en étant suffisamment limité pour que les analystes puissent utiliser les données de manière fiable. 

Vous pouvez avoir deux ensembles de données presque identiques. Un avec vos informations personnelles et un sans. Avec la confidentialité différentielle, vous pouvez vous assurer que la probabilité qu'une requête statistique produise un résultat donné est la même quelle que soit la base de données sur laquelle elle est effectuée.

Comment fonctionne la confidentialité différentielle ? 

La façon dont la confidentialité différentielle fonctionne consiste à introduire un paramètre de perte de confidentialité ou de budget de confidentialité, qui est souvent désigné par epsilon (ε), dans l'ensemble de données. Ces paramètres contrôlent la quantité de bruit ou de caractère aléatoire ajouté à l'ensemble de données brutes. 

Par exemple, imaginez que vous ayez une colonne dans l'ensemble de données avec des réponses "Oui"/"Non" d'individus. 

Maintenant, supposons que vous lancez une pièce pour chaque individu : 

• Chefs: la réponse est laissée telle quelle.
  
• Queues: vous retournez une deuxième fois, en enregistrant la réponse comme "Oui" si pile et "Non" si pile, quelle que soit la vraie réponse. 

En utilisant ce processus, vous ajoutez du caractère aléatoire aux données. Avec une grande quantité de données et les informations du mécanisme d'ajout de bruit, l'ensemble de données restera précis en termes de mesures agrégées. La confidentialité entre en jeu en permettant à chaque individu de nier de manière plausible sa vraie réponse grâce au processus de randomisation. 

Bien qu'il s'agisse d'un exemple simpliste de confidentialité différentielle, il fournit un niveau de compréhension de base. Dans les applications du monde réel, les algorithmes sont plus complexes. 

Il est également important de noter que la confidentialité différentielle peut être mise en œuvre localement, où le bruit est ajouté aux données individuelles avant qu'elles ne soient centralisées dans la base de données, ou globalement, où le bruit est ajouté aux données brutes après leur collecte auprès des individus. 

Exemples de confidentialité différentielle

La confidentialité différentielle est appliquée à un large éventail d'applications telles que les systèmes de recommandation, les réseaux sociaux et les services basés sur la localisation. 

Voici quelques exemples de la façon dont les grandes entreprises s'appuient sur la confidentialité différentielle : 

• Apple utilise la méthode pour recueillir des informations anonymes sur l'utilisation d'appareils tels que les iPhone et les Mac.

• Facebook utilise la confidentialité différentielle pour collecter des données comportementales pouvant être utilisées pour des campagnes publicitaires ciblées.

• Amazon s'appuie sur la technique pour obtenir des informations sur les préférences d'achat personnalisées tout en masquant les informations sensibles. 

Apple a été particulièrement transparent sur son utilisation de la confidentialité différentielle pour mieux comprendre les utilisateurs tout en préservant leur vie privée. 

"Apple a adopté et développé une technique connue dans le monde universitaire sous le nom de confidentialité différentielle locale pour faire quelque chose de vraiment excitant : avoir un aperçu de ce que font de nombreux utilisateurs Apple, tout en aidant à préserver la vie privée des utilisateurs individuels. C'est une technique qui permet à Apple d'en savoir plus sur la communauté d'utilisateurs sans en savoir plus sur les individus de la communauté. La confidentialité différentielle transforme les informations partagées avec Apple avant même qu'elles ne quittent l'appareil de l'utilisateur, de sorte qu'Apple ne peut jamais reproduire les vraies données.

 - Présentation de la confidentialité différentielle d'Apple 

Applications de la confidentialité différentielle

Puisque nous vivons à l’ère du Big Data, de nombreuses violations de données menacent les gouvernements, les organisations et les entreprises. Dans le même temps, les applications d'apprentissage automatique actuelles s'appuient sur des techniques d'apprentissage qui nécessitent de grandes quantités de données de formation, provenant souvent d'individus. Les instituts de recherche utilisent et partagent également des données contenant des informations confidentielles. La divulgation inappropriée de ces données, de quelque manière que ce soit, peut entraîner de nombreux problèmes tant pour l'individu que pour l'organisation et, dans les cas graves, elle peut entraîner une responsabilité civile. 

Les modèles de confidentialité formels comme la confidentialité différentielle résolvent tous ces problèmes. Ils sont utilisés pour protéger les informations personnelles, la localisation en temps réel, etc. 

En utilisant la confidentialité différentielle, les entreprises peuvent accéder à une grande quantité de données sensibles pour la recherche ou les affaires sans compromettre les données. Les instituts de recherche peuvent également développer des technologies de confidentialité différentielle spécifiques pour automatiser les processus de confidentialité dans les communautés de partage de cloud, qui deviennent de plus en plus populaires. 

Pourquoi utiliser la confidentialité différentielle ? 

La confidentialité différentielle offre quelques propriétés principales qui en font un excellent cadre pour analyser les données privées tout en garantissant la confidentialité : 

• Quantification de la perte de confidentialité : Des mécanismes et algorithmes différentiels de confidentialité peuvent mesurer la perte de confidentialité, ce qui permet de la comparer à d'autres techniques.

• Composition: Puisque vous pouvez quantifier la perte de confidentialité, vous pouvez également l'analyser et la contrôler sur plusieurs calculs, permettant le développement de différents algorithmes.

• Confidentialité du groupe : Outre le niveau individuel, la confidentialité différentielle vous permet d'analyser et de contrôler la perte de confidentialité parmi des groupes plus importants.

• Sécurisé en post-traitement : La confidentialité différentielle ne peut pas être affectée par le post-traitement. Par exemple, un analyste de données ne peut pas calculer une fonction de la sortie d'un algorithme différentiel privé et la rendre moins différentiellement privée. 

Avantages de la confidentialité différentielle

Comme nous l'avons mentionné précédemment, la confidentialité différentielle est meilleure que de nombreuses techniques de confidentialité traditionnelles. Par exemple, si toutes les informations disponibles sont des informations identifiées, la confidentialité différentielle facilite l'identification de tous les éléments des données. Il résiste également aux attaques contre la confidentialité basées sur des informations auxiliaires, empêchant les attaques pouvant être menées sur des données anonymisées. 

L'un des plus grands avantages de la confidentialité différentielle est qu'elle est compositionnelle, ce qui signifie que vous pouvez calculer la perte de confidentialité résultant de la réalisation de deux analyses différentiellement privées sur les mêmes données. Cela se fait en additionnant les pertes de vie privée individuelles pour les deux analyses. 

Alors que la confidentialité différentielle est un nouvel outil et peut être difficile à atteindre en dehors des communautés de recherche, des solutions faciles à mettre en œuvre pour la confidentialité des données deviennent plus accessibles. Dans un avenir proche, nous devrions voir un nombre croissant de ces solutions accessibles à un plus large public.