Hva er Differensialt Personvern?

Vi lever i en tid med stor datainnsamling, som har ført til økt fokus på personvern. Mennesker produserer en enorm mengde data hver sekund, og selskaper bruker denne dataen til en rekke formål. Med lagring og deling av data i en aldri tidligere skådet pace, må det være flere personvernteknikker.

Differensialt personvern er en slik tilnærming til å beskytte personlige data, og det har vist seg å være mer effektivt enn mange av våre tradisjonelle metoder. Det kan defineres som et system for å dele informasjon om en datasett ved å beskrive mønster i grupper innen datasett, samtidig som informasjon om enkeltpersoner i datasett holdes tilbake.

Differensialt personvern gjør det mulig for forskere og databaseanalytikere å hente verdifull informasjon fra databaser uten å avsløre personlige identifikatorer for enkeltpersoner. Dette er kritisk, da mange databaser inneholder en rekke personlige opplysninger.

En annen måte å se på differensialt personvern er at det skaper anonyme data ved å injisere støy i datasettene. Den innførte støyen hjelper med å beskytte personvern, samtidig som den er begrenset nok til at analytikere kan bruke dataene på en pålitelig måte.

Du kan ha to nesten identiske datasett. Ett med dine personlige opplysninger og ett uten dem. Med differensialt personvern kan du sikre at sannsynligheten for at en statistisk spørring vil produsere et gitt resultat er det samme, uavhengig av hvilken database det utføres på.

Hvordan fungerer differensialt personvern?

Måten differensialt personvern fungerer er ved å innføre en personverntap eller personvernsbudsjett-parameter, som ofte betegnes som epsilon (ε), til datasett. Disse parameterne kontrollerer hvor mye støy eller tilfeldighet som legges til i de rå datasettene.

For eksempel, tenk deg at du har en kolonne i datasett med “Ja”/”Nei”-svar fra enkeltpersoner.

Nå, anta at du kaster en mynt for hver enkelt:

• Hode: svaret forblir uendret.
  
• Krone: du kaster en ny mynt, og svaret registreres som “Ja” hvis hode og “Nei” hvis krone, uavhengig av det faktiske svaret.

Ved å bruke denne prosessen, legger du til støy i dataene. Med en stor mengde data og informasjon fra støy-tilføringsmekanismen, vil datasett forblir nøyaktig i forhold til aggregatmål. Personvernet kommer inn ved å tillate hver enkelt person å plausibelt benekte sitt faktiske svar takket være tilfeldighetsprosessen.

Dette er et enkelt eksempel på differensialt personvern, og det gir en grunnleggende forståelse. I virkelige anvendelser er algoritmene mer komplekse.

Det er også viktig å merke seg at differensialt personvern kan implementeres lokalt, der støyen legges til i enkeltdata før de sentraliseres i database, eller globalt, der støyen legges til i rådata etter at de er innhentet fra enkeltpersoner.

Eksempler på differensialt personvern

Differensialt personvern brukes over en rekke anvendelser, som anbefalingsystemer, sosiale nettverk og lokalitetstjenester.

Her er noen eksempler på hvordan store selskaper bruker differensialt personvern:

• Apple (AAPL ) bruker metoden til å samle inn anonyme bruksinnsikter fra enheter som iPhone og Mac.

• Facebook (META ) bruker differensialt personvern til å samle inn atferdsdata som kan brukes til målrettede annonsekampanjer.

• Amazon (AMZN ) bruker teknikken til å få innsikt i personlige handlepreferanser samtidig som det skjuler følsomme opplysninger.

Apple har vært spesielt åpen om sin bruk av differensialt personvern for å få innsikt i brukerne samtidig som det beskytter deres personvern.

“Apple har adoptert og videreutviklet en teknikk kjent i den akademiske verden som lokal differensialt personvern for å gjøre noe virkelig spennende: å få innsikt i hva mange Apple-brukere gjør, samtidig som det hjelper med å beskytte personvernet til enkeltbrukere. Det er en teknikk som gjør det mulig for Apple å lære om brukersamfunnet uten å lære om enkeltindivider i samfunnet. Differensialt personvern transformerer informasjonen som deles med Apple før den noen gang forlater brukerens enhet, slik at Apple aldri kan reprodusere de faktiske dataene.”

– Apples oversikt over differensialt personvern

Anvendelser av differensialt personvern

Ettersom vi lever i denne tiden med stor datainnsamling, er det mange datalekkasjer som truer regjeringer, organisasjoner og selskaper. Samtidig avhenger dagens maskinlæringsapplikasjoner av læringsteknikker som krever store mengder treningsdata, ofte fra enkeltpersoner. Forskningsinstitusjoner bruker og deler også data med konfidensielle opplysninger. Ukorrekt avsløring av disse dataene kan føre til mange problemer for både enkeltindivider og organisasjoner, og i alvorlige tilfeller kan det føre til sivile ansvar.

Formelle personvernsmodeller som differensialt personvern løser alle disse problemene. De brukes til å beskytte personlige opplysninger, sanntidslokasjon og mer.

Ved å bruke differensialt personvern, kan selskaper få tilgang til store mengder følsomme data for forskning eller forretningsformål uten å kompromittere dataene. Forskningsinstitusjoner kan også utvikle spesifikke differensialt personvernsteknologier for å automatisere personvernsprosesser i skydelingsamfunn, som blir stadig mer populære.

Hvorfor bruke differensialt personvern?

Differensialt personvern tilbyr noen hovedegenskaper som gjør det til et utmerket rammeverk for å analysere private data samtidig som det sikrer personvern:

• Kvantifisering av personverntap: Differensialt personvernsmekanismer og algoritmer kan måle personverntap, noe som gjør det mulig å sammenligne det med andre teknikker.

• Komposisjon: Ettersom du kan kvantifisere personverntap, kan du også analysere og kontrollere det over flere beregninger, noe som muliggjør utvikling av ulike algoritmer.

• Gruppepersonvern: Foruten på individnivå, gjør differensialt personvern det mulig å analysere og kontrollere personverntap blant større grupper.

• Sikker i etterbehandling: Differensialt personvern kan ikke skades av etterbehandling. For eksempel kan en dataanalytiker ikke beregne en funksjon av utgangen av en differensialt personvernsmekanismen og gjøre den mindre differensialt personvern.

Fordelene med differensialt personvern

Som vi nevnte tidligere, er differensialt personvern bedre enn mange tradisjonelle personvernteknikker. For eksempel, hvis all tilgjengelig informasjon er identifiserbar informasjon, gjør differensialt personvern det lettere å identifisere alle elementer i dataene. Det er også motstandsdyktig mot personvernsangrep basert på hjelpeinformasjon, noe som forhindrer angrep som kan utføres på de-identifiserte data.

En av de største fordelene med differensialt personvern er at det er komposisjonelt, noe som betyr at du kan beregne personverntapet ved å utføre to differensialt personvernsanalyser over samme data. Dette gjøres ved å summere opp individuelle personverntap for de to analysene.

Selv om differensialt personvern er et nytt verktøy og kan være vanskelig å oppnå utenfor forskningsmiljøer, blir det lett å implementere løsninger for personvern mer tilgjengelige. I nær fremtid burde vi se en økning i antall slike løsninger som er tilgjengelige for et bredere publikum.