Wat is differentiële privacy?

We leven in de tijd van big data, wat nog meer aandacht heeft gevestigd op het onderwerp van gegevensbescherming. Mensen produceren een ongelofelijke hoeveelheid gegevens per seconde, en bedrijven gebruiken deze gegevens voor een breed scala aan toepassingen. Met het opslaan en delen van gegevens in een ongekend tempo, moeten er meer technieken voor gegevensbescherming zijn. 

Differentiële privacy is een dergelijke benadering voor het beschermen van persoonlijke gegevens, en het heeft zich bewezen als effectiever dan veel van onze traditionele methoden. Het kan worden gedefinieerd als een systeem voor het openbaar delen van informatie over een dataset door patronen van groepen binnen de dataset te beschrijven, terwijl informatie over de individuen in de dataset wordt achtergehouden. 

Differentiële privacy stelt onderzoekers en database-analisten in staat om waardevolle informatie uit databases te verkrijgen zonder de persoonlijke identificatiegegevens van de individuen te onthullen. Dit is kritisch omdat veel databases een verscheidenheid aan persoonlijke informatie bevatten. 

Een andere manier om naar differentiële privacy te kijken is dat het anonieme gegevens creëert door ruis toe te voegen aan de datasets. De geïntroduceerde ruis helpt de privacy te beschermen, terwijl deze nog steeds beperkt genoeg is zodat analisten de gegevens betrouwbaar kunnen gebruiken. 

U kunt twee bijna identieke datasets hebben. Een met uw persoonlijke informatie en een zonder. Met differentiële privacy kunt u ervoor zorgen dat de kans dat een statistische query een bepaald resultaat oplevert hetzelfde is, ongeacht op welke database het wordt uitgevoerd.

Hoe werkt differentiële privacy? 

De manier waarop differentiële privacy werkt is door een privacyverlies- of privacybudgetparameter in te voeren, die vaak wordt aangeduid als epsilon (ε), in de dataset. Deze parameters controleren hoeveel ruis of toeval aan de ruwe dataset wordt toegevoegd. 

Stel dat u een kolom in de dataset hebt met “Ja”/”Nee”-antwoorden van individuen. 

Stel nu dat u voor elk individu een munt opgooit: 

• Kop: het antwoord blijft zoals het is.
  
• Munt: u gooit een tweede keer, en het antwoord wordt opgenomen als “Ja” als kop en “Nee” als munt, ongeacht het echte antwoord. 

Door dit proces toe te passen, voegt u ruis toe aan de gegevens. Met een grote hoeveelheid gegevens en de informatie van het ruis toevoegmechanisme, blijft de dataset nauwkeurig in termen van geaggregeerde metingen. De privacy komt door toe te staan dat elk individu zijn echte antwoord plausibel kan ontkennen dankzij het randomisatieproces. 

Hoewel dit een simplistisch voorbeeld van differentiële privacy is, biedt het een basisniveau van begrip. In echte toepassingen zijn de algoritmen complexer. 

Het is ook belangrijk op te merken dat differentiële privacy lokaal kan worden geïmplementeerd, waar de ruis wordt toegevoegd aan individuele gegevens voordat deze worden gecentraliseerd in de database, of globaal, waar de ruis wordt toegevoegd aan ruwe gegevens nadat deze zijn verzameld van individuen. 

Voorbeelden van differentiële privacy

Differentiële privacy wordt toegepast in een breed scala aan toepassingen, zoals aanbevelingssystemen, sociale netwerken en locatiegebaseerde diensten. 

Hier zijn enkele voorbeelden van hoe grote bedrijven gebruikmaken van differentiële privacy: 

• Apple gebruikt deze methode om anonieme gebruiksinzichten te verzamelen van apparaten zoals iPhones en Macs.

• Facebook gebruikt differentiële privacy om gedragsgegevens te verzamelen die kunnen worden gebruikt voor gerichte advertentiecampagnes.

• Amazon vertrouwt op deze techniek om inzicht te krijgen in gepersonaliseerde winkelvoorkeuren, terwijl gevoelige informatie wordt verborgen. 

Apple is vooral transparant geweest over het gebruik van differentiële privacy om inzicht te krijgen in gebruikers, terwijl hun privacy wordt beschermd. 

“Apple heeft een techniek overgenomen en verder ontwikkeld die in de academische wereld bekend staat als lokale differentiële privacy om iets echt spannends te doen: inzicht te krijgen in wat veel Apple-gebruikers doen, terwijl de privacy van individuele gebruikers wordt beschermd. Het is een techniek die het mogelijk maakt voor Apple om te leren over de gebruikersgemeenschap zonder te leren over individuen in de gemeenschap. Differentiële privacy transformeert de informatie die met Apple wordt gedeeld voordat deze de apparatuur van de gebruiker verlaat, zodat Apple nooit de echte gegevens kan reproduceren.”

 – Apple’s Differentiële privacy-overzicht 

Toepassingen van differentiële privacy

Aangezien we in deze tijd van big data leven, zijn er veel gegevenslekken die overheden, organisaties en bedrijven bedreigen. Tegelijkertijd zijn de machine learning-toepassingen van vandaag afhankelijk van leertechnieken die grote hoeveelheden trainingsgegevens vereisen, vaak afkomstig van individuen. Onderzoeksinstellingen gebruiken en delen ook gegevens met vertrouwelijke informatie. Ongepaste openbaarmaking van deze gegevens op enigerlei wijze kan veel problemen veroorzaken voor zowel het individu als de organisatie, en in ernstige gevallen kan dit leiden tot civiel aansprakelijkheid. 

Formele privacy-modellen zoals differentiële privacy lossen al deze problemen op. Ze worden gebruikt om persoonlijke informatie, real-time locatie en meer te beschermen. 

Door differentiële privacy te gebruiken, kunnen bedrijven toegang krijgen tot een grote hoeveelheid gevoelige gegevens voor onderzoek of bedrijfsdoeleinden zonder de gegevens te compromitteren. Onderzoeksinstellingen kunnen ook specifieke differentiële privacytechnologieën ontwikkelen om automatische privacyprocessen in cloud-gedeelde gemeenschappen te automatiseren, die steeds populairder worden. 

Waarom differentiële privacy gebruiken? 

Differentiële privacy biedt een aantal belangrijke eigenschappen die het een uitstekend kader maken voor het analyseren van privégegevens, terwijl de privacy wordt gewaarborgd: 

• Kwantificering van privacyverlies: Differentiële privacymechanisme en -algoritmen kunnen privacyverlies meten, waardoor het kan worden vergeleken met andere technieken.

• Samenstelling: Aangezien u privacyverlies kunt kwantificeren, kunt u het ook analyseren en controleren over meerdere berekeningen, waardoor de ontwikkeling van verschillende algoritmen mogelijk wordt.

• Groepsprivacy: Naast het individuele niveau, stelt differentiële privacy u in staat om privacyverlies te analyseren en te controleren binnen grotere groepen.

• Beveiligd in post-processing: Differentiële privacy kan niet worden geschaad door post-processing. Bijvoorbeeld, een data-analist kan een functie van de uitvoer van een differentieel privé-algoritme berekenen en deze minder differentieel privé maken. 

Voordelen van differentiële privacy

Zoals we eerder vermeldden, is differentiële privacy beter dan veel traditionele privacytechnieken. Bijvoorbeeld, als alle beschikbare informatie geïdentificeerde informatie is, maakt differentiële privacy het gemakkelijker om alle elementen van de gegevens te identificeren. Het is ook bestand tegen privacy-aanvallen op basis van aanvullende informatie, waardoor aanvallen die kunnen worden uitgevoerd op geïdentificeerde gegevens, worden voorkomen. 

Een van de grootste voordelen van differentiële privacy is dat het samengesteld is, wat betekent dat u het privacyverlies van het uitvoeren van twee verschillende privéanalyses over dezelfde gegevens kunt berekenen. Dit gebeurt door de individuele privacyverliezen voor de twee analyses op te tellen. 

Hoewel differentiële privacy een nieuw instrument is en moeilijk te bereiken kan zijn buiten onderzoekscommunities, worden gemakkelijk te implementeren oplossingen voor gegevensbescherming steeds toegankelijker. In de nabije toekomst zouden we een toenemend aantal van deze oplossingen moeten zien die beschikbaar zijn voor een breder publiek.