Hvad er Differential Privatliv?

Vi lever i en tid med big data, som har ført til endnu mere fokus på emnet data privatliv. Mennesker producerer en enorm mængde data hver sekund, og virksomheder bruger disse data til en lang række formål. Med lagring og deling af data i en hidtil uset hastighed, må der være flere privatlivsbeskyttelsesmetoder.

Differential privatliv er en sådan metode til at beskytte personlige data, og den har vist sig at være mere effektiv end mange af vores traditionelle metoder. Den kan defineres som et system for offentligt at dele information om en dataset ved at beskrive mønstre i grupper inden for datasettet, samtidig med at den holder information om de enkelte personer i datasettet hemmelig.

Differential privatliv giver forskere og database-analytikere mulighed for at få værdifuld information fra databaser uden at afsløre personlige identifikationsoplysninger om de enkelte personer. Dette er kritisk, da mange databaser indeholder en lang række personlige oplysninger.

En anden måde at se på differential privatliv er, at det skaber anonyme data ved at indføre støj i datasettet. Den indførte støj hjælper med at beskytte privatlivet, samtidig med at den er begrænset nok til, at analytikere kan bruge dataene pålideligt.

Du kan have to næsten identiske datasets. Én med dine personlige oplysninger og én uden. Med differential privatliv kan du sikre, at sandsynligheden for, at en statistisk forespørgsel vil give et bestemt resultat, er den samme uanset hvilken database det udføres på.

Hvordan fungerer Differential Privatliv?

Differential privatliv fungerer ved at indføre en privatlivs-tab eller privatlivs-budget parameter, som ofte betegnes som epsilon (ε), i datasettet. Disse parametre kontrollerer, hvor meget støj eller tilfældighed der tilføjes til det rå dataset.

For eksempel, forestil dig, at du har en kolonne i datasettet med “Ja”/”Nej”-svar fra personer.

Nu, forestil dig, at du flipper en mønt for hver person:

• Hoved: svaret bliver ladet, som det er.
  
• Haler: du flipper en anden gang og optegner svaret som “Ja”, hvis hoved, og “Nej”, hvis halen, uanset det rigtige svar.

Ved at bruge denne proces, tilføjer du støj til dataene. Med en stor mængde data og informationen fra støj-tilføjelsesmekanismen, vil datasettet forblive nøjagtigt i forhold til samlede målinger. Privatlivet kommer ind ved at give hver enkelt person mulighed for at benægte deres rigtige svar takket være randomiseringsprocessen.

Dette er et simpelt eksempel på differential privatliv, men det giver en grundlæggende forståelse. I virkelige anvendelser er algoritmerne mere komplekse.

Det er også vigtigt at bemærke, at differential privatliv kan implementeres lokalt, hvor støjen tilføjes til individuelle data før de centraliseres i databasen, eller globalt, hvor støjen tilføjes til rå data efter, at de er indsamlet fra personer.

Eksempler på Differential Privatliv

Differential privatliv anvendes på tværs af en lang række anvendelser som anbefalingsystemer, sociale netværk og lokalitetsbaserede tjenester.

Her er nogle eksempler på, hvordan store virksomheder afhænger af differential privatliv:

• Apple (AAPL ) bruger metoden til at indsamle anonyme brugsinsights fra enheder som iPhones og Macs.

• Facebook (META ) bruger differential privatliv til at indsamle adfærdsmæssige data, der kan bruges til målrettede reklamekampagner.

• Amazon (AMZN ) afhænger af teknikken til at få indsigt i personlige indkøbspræferencer, samtidig med at den skjuler følsomme oplysninger.

Apple har været særligt åben omkring deres brug af differential privatliv til at få indsigt i brugere, samtidig med at de beskytter deres privatliv.

“Apple har adopteret og yderligere udviklet en teknik, der i den akademiske verden kendes som lokal differential privatliv for at gøre noget rigtig spændende: at få indsigt i, hvad mange Apple-brugere gør, samtidig med at de hjælper med at beskytte privatlivet for de enkelte brugere. Det er en teknik, der giver Apple mulighed for at lære om brugerfællesskabet uden at lære om personer i fællesskabet. Differential privatliv transformerer den information, der deles med Apple, før den nogensinde forlader brugerens enhed, sådan at Apple aldrig kan genskabe de rigtige data.”

– Apples Differential Privatlivsoversigt

Anvendelser af Differential Privatliv

Da vi lever i denne tid med big data, er der mange data-lækager, der trueer regeringer, organisationer og virksomheder. Samtidig afhænger i dag mange maskinlæringsanvendelser af lære-teknikker, der kræver store mængder træningsdata, ofte fra personer. Forskningsinstitutioner bruger og deler også data med fortrolige oplysninger. Udviklet afsløring af disse data kan føre til mange problemer for både personen og organisationen, og i alvorlige tilfælde kan det føre til civilretlig ansvar.

Formelle privatlivsmodeller som differential privatliv løser alle disse problemer. De bruges til at beskytte personlige oplysninger, realtidslokation og mere.

Ved at bruge differential privatliv kan virksomheder få adgang til store mængder følsomme data til forskning eller forretningsformål uden at kompromittere dataene. Forskningsinstitutioner kan også udvikle specifikke differential privatlivsteknologier til at automatisere privatlivsprocesser i cloud-delingsfællesskaber, der bliver mere og mere populære.

Hvorfor bruge Differential Privatliv?

Differential privatliv tilbyder nogle vigtige egenskaber, der gør det til et fremragende rammeværk for at analysere private data, samtidig med at det sikrer privatlivet:

• Kvantificering af Privatlivstab: Differential privatlivs-mekanismer og algoritmer kan måle privatlivstab, hvilket giver mulighed for at sammenligne det med andre teknikker.

• Komposition: Da du kan kvantificere privatlivstab, kan du også analysere og kontrollere det over flere beregninger, hvilket giver mulighed for at udvikle forskellige algoritmer.

• Gruppe-privatliv: Ud over det enkelte niveau giver differential privatliv mulighed for at analysere og kontrollere privatlivstab i større grupper.

• Sikker i efterbehandling: Differential privatliv kan ikke skades af efterbehandling. For eksempel kan en data-analytiker ikke beregne en funktion af outputtet af en differential privat algoritme og gøre det mindre differentialt privat.

Fordele ved Differential Privatliv

Som vi tidligere nævnte, er differential privatliv bedre end mange traditionelle privatlivsteknikker. For eksempel, hvis alle tilgængelige oplysninger er identificerbare oplysninger, gør differential privatliv det lettere at identificere alle elementer i dataene. Det er også modstandsdygtigt over for privatlivsangreb baseret på hjælpeinformation, hvilket forhindrer angreb, der kan udføres på de-identificerede data.

En af de største fordelene ved differential privatliv er, at det er kompositionelt, hvilket betyder, at du kan beregne privatlivstab ved at udføre to forskellige differentialt private analyser over de samme data. Dette gøres ved at summerer de enkelte privatlivstabs for de to analyser.

Selvom differential privatliv er et nyt værktøj og kan være svært at opnå uden for forskningsfællesskaber, bliver det lettere at implementere løsninger for data-privatliv mere tilgængelige. I den nærmeste fremtid burde vi se en stigende mængde af disse løsninger tilgængelige for en bredere offentlighed.