Wat is differentiële privacy?

We leven in de tijd van big data, wat nog meer aandacht heeft gericht op het onderwerp van gegevensbescherming. Mensen produceren een enorme hoeveelheid gegevens per seconde, en bedrijven gebruiken deze gegevens voor een breed scala aan toepassingen. Met het opslaan en delen van gegevens op een ongekende schaal, moet er meer bescherming zijn voor de privacy.

Differentiële privacy is een dergelijke benadering voor het beschermen van persoonlijke gegevens, en het heeft zich bewezen als effectiever dan veel van onze traditionele methoden. Het kan worden gedefinieerd als een systeem voor het openbaar delen van informatie over een dataset door patronen van groepen binnen de dataset te beschrijven, terwijl informatie over de individuen in de dataset wordt achtergehouden.

Differentiële privacy stelt onderzoekers en databaseanalisten in staat om waardevolle informatie uit databases te verkrijgen zonder de persoonlijke identificatiegegevens van de individuen te onthullen. Dit is cruciaal, aangezien veel databases een verscheidenheid aan persoonlijke informatie bevatten.

Een andere manier om naar differentiële privacy te kijken is dat het anonieme gegevens creëert door ruis toe te voegen aan de datasets. De ingevoerde ruis helpt de privacy te beschermen, terwijl deze nog steeds beperkt genoeg is om analisten in staat te stellen de gegevens betrouwbaar te gebruiken.

U kunt twee nagenoeg identieke datasets hebben. Eentje met uw persoonlijke informatie en eentje zonder. Met differentiële privacy kunt u ervoor zorgen dat de kans dat een statistische query een bepaald resultaat oplevert hetzelfde is, ongeacht welke database het wordt uitgevoerd.

Hoe werkt differentiële privacy?

De manier waarop differentiële privacy werkt is door een privacyverlies- of privacybudgetparameter in te voeren, die vaak wordt aangeduid als epsilon (ε), in de dataset. Deze parameters controleren hoeveel ruis of toeval aan de ruwe dataset wordt toegevoegd.

Stel bijvoorbeeld dat u een kolom in de dataset hebt met “Ja”/”Nee”-antwoorden van individuen.

Stel nu dat u voor elk individu een munt opgooit:

• Munt: het antwoord blijft zoals het is.
  
• Kop: u gooit een tweede keer, en het antwoord wordt opgenomen als “Ja” als het kop is en “Nee” als het munt is, ongeacht het echte antwoord.

Door deze procedure toe te passen, voegt u ruis toe aan de gegevens. Met een grote hoeveelheid gegevens en de informatie van de ruis toevoegingsmechanisme, blijft de dataset nauwkeurig in termen van aggregaatmetingen. De privacy komt door toe te staan dat elk individu zijn echte antwoord plausibel kan ontkennen vanwege het randomisatieproces.

Hoewel dit een simplistisch voorbeeld van differentiële privacy is, biedt het een basisniveau van begrip. In real-world toepassingen zijn de algoritmen complexer.

Het is ook belangrijk op te merken dat differentiële privacy lokaal kan worden geïmplementeerd, waar de ruis wordt toegevoegd aan individuele gegevens voordat deze worden gecentraliseerd in de database, of wereldwijd, waar de ruis wordt toegevoegd aan ruwe gegevens nadat deze zijn verzameld van individuen.

Voorbeelden van differentiële privacy

Differentiële privacy wordt toegepast in een breed scala aan toepassingen, zoals aanbevelingssystemen, sociale netwerken en locatiegebaseerde diensten.

Hier zijn enkele voorbeelden van hoe grote bedrijven gebruikmaken van differentiële privacy:

• Apple (AAPL ) gebruikt deze methode om anonieme gebruiksinzichten te verzamelen van apparaten zoals iPhones en Macs.

• Facebook (META ) gebruikt differentiële privacy om gedragsgegevens te verzamelen die kunnen worden gebruikt voor gerichte advertentiecampagnes.

• Amazon (AMZN ) vertrouwt op deze techniek om inzicht te krijgen in gepersonaliseerde winkelvoorkeuren, terwijl gevoelige informatie wordt verborgen.

Apple is vooral transparant geweest over het gebruik van differentiële privacy om inzicht te krijgen in gebruikers, terwijl hun privacy wordt beschermd.

“Apple heeft een techniek overgenomen en verder ontwikkeld die in de academische wereld bekend staat als lokale differentiële privacy om iets echt spannends te doen: inzicht te krijgen in wat veel Apple-gebruikers doen, terwijl ze helpen de privacy van individuele gebruikers te beschermen. Het is een techniek die het mogelijk maakt voor Apple om te leren over de gebruikersgemeenschap zonder te leren over individuen in de gemeenschap. Differentiële privacy transformeert de informatie die met Apple wordt gedeeld voordat deze de apparatuur van de gebruiker verlaat, zodat Apple nooit de echte gegevens kan reproduceren.”

– Apple’s Differentiële privacy-overzicht

Toepassingen van differentiële privacy

Aangezien we in deze tijd van big data leven, zijn er veel gegevenslekken die overheden, organisaties en bedrijven bedreigen. Tegelijkertijd zijn veel machine learning-toepassingen afhankelijk van leertechnieken die grote hoeveelheden trainingsgegevens vereisen, vaak afkomstig van individuen. Onderzoeksinstellingen gebruiken en delen ook gegevens met vertrouwelijke informatie. Ongepaste openbaarmaking van deze gegevens op welke manier dan ook kan veel problemen veroorzaken voor zowel het individu als de organisatie, en in ernstige gevallen kan dit leiden tot civiel aansprakelijkheid.

Formele privacy-modellen zoals differentiële privacy lossen al deze problemen op. Ze worden gebruikt om persoonlijke informatie, realtime-locatie en meer te beschermen.

Door differentiële privacy te gebruiken, kunnen bedrijven toegang krijgen tot een grote hoeveelheid gevoelige gegevens voor onderzoek of bedrijfsdoeleinden zonder de gegevens te compromitteren. Onderzoeksinstellingen kunnen ook specifieke differentiële privacytechnologieën ontwikkelen om automatisch privacyprocessen in cloud-delinggemeenschappen te automatiseren, die steeds populairder worden.

Waarom differentiële privacy gebruiken?

Differentiële privacy biedt een aantal belangrijke eigenschappen die het een uitstekend kader maken voor het analyseren van privégegevens, terwijl de privacy wordt gewaarborgd:

• Kwantificering van privacyverlies: Differentiële privacy-mechanismen en -algoritmen kunnen privacyverlies meten, waardoor het kan worden vergeleken met andere technieken.

• Samenstelling: Aangezien u privacyverlies kunt kwantificeren, kunt u het ook analyseren en controleren over meerdere berekeningen, waardoor de ontwikkeling van verschillende algoritmen mogelijk wordt.

• Groepsprivacy: Naast het individuele niveau stelt differentiële privacy u in staat om privacyverlies te analyseren en te controleren onder grotere groepen.

• Beveiligd in post-processing: Differentiële privacy kan niet worden geschaad door post-processing. Bijvoorbeeld, een data-analist kan geen functie van de uitvoer van een differentieel privé-algoritme berekenen en het minder differentieel privé maken.

Voordelen van differentiële privacy

Zoals we eerder vermeldden, is differentiële privacy beter dan veel traditionele privacytechnieken. Bijvoorbeeld, als alle beschikbare informatie geïdentificeerde informatie is, maakt differentiële privacy het gemakkelijker om alle elementen van de gegevens te identificeren. Het is ook bestand tegen privacyaanvallen op basis van aanvullende informatie, waardoor aanvallen die kunnen worden uitgevoerd op geïdentificeerde gegevens worden voorkomen.

Een van de grootste voordelen van differentiële privacy is dat het compositie is, wat betekent dat u het privacyverlies van het uitvoeren van twee differentieel privé-analyses over dezelfde gegevens kunt berekenen. Dit gebeurt door de individuele privacyverliezen voor de twee analyses op te tellen.

Hoewel differentiële privacy een nieuw instrument is en moeilijk te bereiken kan zijn buiten onderzoekscommuniteiten, worden gemakkelijk te implementeren oplossingen voor gegevensbescherming toegankelijker. In de nabije toekomst zouden we een toenemend aantal van deze oplossingen moeten zien die beschikbaar zijn voor een breder publiek.