Ce este confidențialitatea diferențială?

Trăim în era datelor mari, care a focalizat și mai mult atenția asupra subiectului confidențialității datelor. Oamenii produc o cantitate incredibilă de date în fiecare secundă, iar companiile utilizează aceste date pentru o varietate de aplicații. Cu stocarea și partajarea datelor la un ritm fără precedent, trebuie să existe mai multe tehnici de protecție a confidențialității.

Confidențialitatea diferențială este o astfel de abordare pentru protejarea datelor personale și s-a dovedit a fi mai eficientă decât multe dintre metodele noastre tradiționale. Ea poate fi definită ca un sistem pentru partajarea publică a informațiilor despre un set de date prin descrierea modelelor de grupuri din interiorul setului de date, în timp ce se rețin informații despre indivizii din setul de date.

Confidențialitatea diferențială permite cercetătorilor și analiștilor de baze de date să obțină informații valoroase din baze de date fără a dezvălui informații de identificare personală despre indivizi. Acest lucru este critic, deoarece multe baze de date conțin o varietate de informații personale.

O altă modalitate de a privi confidențialitatea diferențială este că aceasta creează date anonime prin introducerea de zgomot în seturile de date. Zgomotul introdus ajută la protejarea confidențialității, în timp ce este suficient de limitat pentru ca analiștii să poată utiliza în mod fiabil datele.

Puteți avea două seturi de date aproape identice. Unul cu informațiile dvs. personale și unul fără ele. Cu confidențialitatea diferențială, puteți asigura că probabilitatea ca o întrebare statistică să producă un anumit rezultat este aceeași, indiferent de care bază de date este efectuată.

Cum funcționează confidențialitatea diferențială?

Modul în care funcționează confidențialitatea diferențială este prin introducerea unui parametru de pierdere a confidențialității sau buget de confidențialitate, care este adesea notat cu epsilon (ε), în setul de date. Acești parametri controlează cât de mult zgomot sau aleatoriu este adăugat la setul de date brut.

De exemplu, presupunem că aveți o coloană în setul de date cu răspunsuri “Da” / “Nu” de la indivizi.

Acum, presupunem că aruncați o monedă pentru fiecare individ:

• Cap: răspunsul rămâne așa cum este.
  
• Pajură: aruncați o a doua oară, înregistrând răspunsul ca “Da” dacă cap și “Nu” dacă pajură, indiferent de răspunsul real.

Prin utilizarea acestui proces, adăugați aleatoriu la date. Cu o cantitate mare de date și informații de la mecanismul de adăugare a zgomotului, setul de date va rămâne precis în ceea ce privește măsurătorile agregate. Confidențialitatea vine din faptul că permite fiecărui individ să nege plauzibil răspunsul real datorită procesului de randomizare.

Deși acesta este un exemplu simplist de confidențialitate diferențială, oferă o bază de înțelegere. În aplicațiile din lumea reală, algoritmii sunt mai complexi.

De asemenea, este important de remarcat că confidențialitatea diferențială poate fi implementată local, unde zgomotul este adăugat la datele individuale înainte de a fi centralizate în baza de date, sau global, unde zgomotul este adăugat la datele brute după ce sunt colectate de la indivizi.

Exemple de confidențialitate diferențială

Confidențialitatea diferențială este aplicată într-o gamă largă de aplicații, cum ar fi sisteme de recomandare, rețele sociale și servicii bazate pe locație.

Iată câteva exemple de modul în care marile companii se bazează pe confidențialitatea diferențială:

• Apple (AAPL ) utilizează metoda pentru a colecta informații anonime despre utilizare de la dispozitive precum IPhone și Mac.

• Facebook (META ) utilizează confidențialitatea diferențială pentru a colecta date comportamentale care pot fi utilizate pentru campanii publicitare țintite.

• Amazon (AMZN ) se bazează pe această tehnică pentru a obține informații despre preferințele de cumpărături personalizate, ascunzând în același timp informații sensibile.

Apple a fost deosebit de transparent cu privire la utilizarea confidențialității diferențiale pentru a obține informații despre utilizatori, păstrând în același timp confidențialitatea.

“Apple a adoptat și a dezvoltat o tehnică cunoscută în lumea academică sub numele de confidențialitate diferențială locală pentru a face ceva foarte interesant: a obține informații despre ceea ce fac mulți utilizatori Apple, ajutând în același timp la păstrarea confidențialității utilizatorilor individuali. Este o tehnică care permite Apple să învețe despre comunitatea de utilizatori fără a învăța despre indivizi din comunitate. Confidențialitatea diferențială transformă informațiile partajate cu Apple înainte de a părăsi dispozitivul utilizatorului, astfel încât Apple nu poate reproduce niciodată datele reale.”

– Prezentarea generală a confidențialității diferențiale a Apple

Aplicații ale confidențialității diferențiale

Deoarece trăim în această eră a datelor mari, există multe încălcări ale datelor care amenință guverne, organizații și companii. În același timp, aplicațiile de învățare automată de astăzi necesită tehnici de învățare care necesită cantități mari de date de antrenament, adesea provenite de la indivizi. Instituțiile de cercetare utilizează și partajează date cu informații confidențiale. Dezvăluirea necorespunzătoare a acestor date în orice mod poate cauza multe probleme atât pentru individ, cât și pentru organizație, și în cazuri grave, poate duce la răspundere civilă.

Modelele formale de confidențialitate, cum ar fi confidențialitatea diferențială, abordează toate aceste probleme. Ele sunt utilizate pentru a proteja informații personale, locația în timp real și multe altele.

Prin utilizarea confidențialității diferențiale, companiile pot accesa o cantitate mare de date sensibile pentru cercetare sau afaceri fără a compromite datele. Instituțiile de cercetare pot dezvolta, de asemenea, tehnologii de confidențialitate diferențială specifice pentru a automatiza procesele de confidențialitate în comunitățile de partajare a datelor în cloud, care devin din ce în ce mai populare.

De ce să utilizați confidențialitatea diferențială?

Confidențialitatea diferențială oferă câteva proprietăți principale care o fac un cadru excelent pentru analizarea datelor private, asigurând în același timp confidențialitatea:

• Cuantificarea pierderii de confidențialitate: mecanismele și algoritmii de confidențialitate diferențială pot măsura pierderea de confidențialitate, ceea ce permite compararea cu alte tehnici.

• Compoziție: deoarece puteți cuantifica pierderea de confidențialitate, puteți analiza și controla aceasta pe mai multe calcule, permițând dezvoltarea de algoritmi diferiți.

• Confidențialitatea grupului: pe lângă nivelul individual, confidențialitatea diferențială permite analiza și controlul pierderii de confidențialitate în rândul unor grupuri mai mari.

• Securitate în post-procesare: confidențialitatea diferențială nu poate fi afectată de post-procesare. De exemplu, un analist de date nu poate calcula o funcție a rezultatului unui algoritm de confidențialitate diferențială și face acesta mai puțin diferențial privat.

Beneficiile confidențialității diferențiale

Așa cum am menționat anterior, confidențialitatea diferențială este mai bună decât multe dintre tehniciile tradiționale de confidențialitate. De exemplu, dacă toate informațiile disponibile sunt informații de identificare, confidențialitatea diferențială face mai ușor să identificați toate elementele datelor. De asemenea, este rezistentă la atacurile de confidențialitate bazate pe informații auxiliare, prevenind atacurile care pot fi efectuate asupra datelor deidentificate.

Una dintre cele mai mari beneficii ale confidențialității diferențiale este că este compozită, ceea ce înseamnă că puteți calcula pierderea de confidențialitate a efectuării a două analize diferențial private asupra acelorași date. Acest lucru se realizează prin însumarea pierderilor de confidențialitate individuale pentru cele două analize.

Deși confidențialitatea diferențială este un instrument nou și poate fi dificil de realizat în afara comunităților de cercetare, soluții ușor de implementat pentru confidențialitatea datelor devin din ce în ce mai accesibile. În viitorul apropiat, ar trebui să vedem o creștere a numărului acestor soluții disponibile pentru un public mai larg.