Qu’est-ce que la confidentialité différentielle ?

Nous vivons à l’ère des mégadonnées, qui a encore plus attiré l’attention sur le sujet de la confidentialité des données. Les humains produisent une quantité incroyable de données chaque seconde, et les entreprises utilisent ces données pour une large gamme d’applications. Avec le stockage et le partage de données à un rythme sans précédent, il doit y avoir plus de techniques de protection de la confidentialité. 

La confidentialité différentielle est une telle approche pour protéger les données personnelles, et elle s’est avérée plus efficace que de nombreuses méthodes traditionnelles. Elle peut être définie comme un système pour partager publiquement des informations sur un ensemble de données en décrivant les modèles de groupes au sein de l’ensemble de données tout en retenant les informations sur les individus dans l’ensemble de données. 

La confidentialité différentielle permet aux chercheurs et aux analystes de bases de données d’obtenir des informations précieuses à partir de bases de données sans divulguer les informations d’identification personnelles sur les individus. C’est critique car de nombreuses bases de données contiennent une variété d’informations personnelles. 

Une autre façon de regarder la confidentialité différentielle est qu’elle crée des données anonymes en injectant du bruit dans les ensembles de données. Le bruit introduit aide à protéger la confidentialité tout en étant suffisamment limité pour que les analystes puissent utiliser de manière fiable les données. 

Vous pouvez avoir deux ensembles de données quasi identiques. Un avec vos informations personnelles et un sans. Avec la confidentialité différentielle, vous pouvez vous assurer que la probabilité qu’une requête statistique produise un résultat donné est la même, quelle que soit la base de données sur laquelle elle est effectuée.

Comment fonctionne la confidentialité différentielle ? 

La façon dont la confidentialité différentielle fonctionne est en introduisant un paramètre de perte de confidentialité ou de budget de confidentialité, souvent noté epsilon (ε), dans l’ensemble de données. Ces paramètres contrôlent la quantité de bruit ou d’aléatoire ajouté au jeu de données brut. 

Par exemple, imaginez que vous avez une colonne dans l’ensemble de données avec des réponses « Oui » / « Non » provenant d’individus. 

Maintenant, supposez que vous lancez une pièce pour chaque individu : 

• Face : la réponse est laissée telle quelle.
  
• Pile : vous lancez une deuxième fois, enregistrant la réponse comme « Oui » si face et « Non » si pile, quelle que soit la réponse réelle. 

En utilisant ce processus, vous ajoutez de l’aléatoire aux données. Avec une grande quantité de données et les informations provenant du mécanisme d’ajout de bruit, l’ensemble de données restera précis en termes de mesures agrégées. La confidentialité vient de permettre à chaque individu de nier de manière plausible sa réponse réelle grâce au processus d’aléatoire. 

Bien que cela soit un exemple simpliste de confidentialité différentielle, cela fournit un niveau de base de compréhension. Dans les applications du monde réel, les algorithmes sont plus complexes. 

Il est également important de noter que la confidentialité différentielle peut être mise en œuvre localement, où le bruit est ajouté aux données individuelles avant qu’elles ne soient centralisées dans la base de données, ou globalement, où le bruit est ajouté aux données brutes après qu’elles aient été collectées auprès des individus. 

Exemples de confidentialité différentielle

La confidentialité différentielle est appliquée à une large gamme d’applications comme les systèmes de recommandation, les réseaux sociaux et les services basés sur la localisation. 

Voici quelques exemples de la façon dont les grandes entreprises s’appuient sur la confidentialité différentielle : 

• Apple utilise la méthode pour recueillir des informations d’utilisation anonymes à partir d’appareils comme les IPhones et les Macs.

• Facebook utilise la confidentialité différentielle pour collecter des données de comportement qui peuvent être utilisées pour des campagnes publicitaires ciblées.

• Amazon s’appuie sur la technique pour obtenir des informations sur les préférences d’achat personnalisées tout en cachant les informations sensibles. 

Apple a été particulièrement transparent sur son utilisation de la confidentialité différentielle pour obtenir des informations sur les utilisateurs tout en préservant leur confidentialité. 

« Apple a adopté et développé une technique connue dans le monde universitaire sous le nom de confidentialité différentielle locale pour faire quelque chose de vraiment excitant : obtenir des informations sur ce que font de nombreux utilisateurs d’Apple, tout en aidant à préserver la confidentialité des utilisateurs individuels. Il s’agit d’une technique qui permet à Apple d’apprendre sur la communauté des utilisateurs sans apprendre sur les individus de la communauté. La confidentialité différentielle transforme les informations partagées avec Apple avant même qu’elles ne quittent l’appareil de l’utilisateur de telle sorte qu’Apple ne puisse jamais reproduire les données réelles. »

 – Aperçu de la confidentialité différentielle d’Apple 

Applications de la confidentialité différentielle

Puisque nous vivons à cette époque de mégadonnées, il y a de nombreuses failles de sécurité qui menacent les gouvernements, les organisations et les entreprises. En même temps, les applications d’apprentissage automatique d’aujourd’hui reposent sur des techniques d’apprentissage qui nécessitent de grandes quantités de données de formation, souvent provenant d’individus. Les institutions de recherche utilisent et partagent également des données contenant des informations confidentielles. La divulgation non autorisée de ces données de quelque manière que ce soit peut causer de nombreux problèmes aux individus et aux organisations, et dans des cas graves, elle peut entraîner des poursuites judiciaires. 

Les modèles de confidentialité formels comme la confidentialité différentielle traitent tous ces problèmes. Ils sont utilisés pour protéger les informations personnelles, la localisation en temps réel et plus encore. 

En utilisant la confidentialité différentielle, les entreprises peuvent accéder à une grande quantité de données sensibles pour la recherche ou les affaires sans compromettre les données. Les institutions de recherche peuvent également développer des technologies de confidentialité différentielle spécifiques pour automatiser les processus de confidentialité dans les communautés de partage de cloud, qui deviennent de plus en plus populaires. 

Pourquoi utiliser la confidentialité différentielle ? 

La confidentialité différentielle offre quelques propriétés principales qui en font un excellent cadre pour analyser des données privées tout en garantissant la confidentialité : 

• Quantification de la perte de confidentialité : Les mécanismes et algorithmes de confidentialité différentielle peuvent mesurer la perte de confidentialité, ce qui permet de la comparer à d’autres techniques.

• Composition : Puisque vous pouvez quantifier la perte de confidentialité, vous pouvez également l’analyser et la contrôler sur plusieurs calculs, permettant le développement d’algorithmes différents.

• Confidentialité de groupe : En plus du niveau individuel, la confidentialité différentielle permet d’analyser et de contrôler la perte de confidentialité au sein de groupes plus importants.

• Sécurité dans le post-traitement : La confidentialité différentielle ne peut pas être compromise par le post-traitement. Par exemple, un analyste de données ne peut pas calculer une fonction de la sortie d’un algorithme différentiellement privé et la rendre moins différentiellement privée. 

Avantages de la confidentialité différentielle

Comme nous l’avons mentionné plus tôt, la confidentialité différentielle est meilleure que de nombreuses techniques de confidentialité traditionnelles. Par exemple, si toutes les informations disponibles sont des informations identifiées, la confidentialité différentielle facilite l’identification de tous les éléments des données. Elle est également résistante aux attaques de confidentialité basées sur des informations auxiliaires, empêchant les attaques qui peuvent être menées sur des données non identifiées. 

L’un des plus grands avantages de la confidentialité différentielle est qu’elle est compositionnelle, ce qui signifie que vous pouvez calculer la perte de confidentialité de deux analyses différentiellement privées menées sur les mêmes données. Cela se fait en additionnant les pertes de confidentialité individuelles pour les deux analyses. 

Bien que la confidentialité différentielle soit un outil nouveau et puisse être difficile à mettre en œuvre en dehors des communautés de recherche, des solutions faciles à mettre en œuvre pour la confidentialité des données deviennent plus accessibles. Dans un avenir proche, nous devrions voir un nombre croissant de ces solutions disponibles au grand public.