Bailey Kacsmar, Candidata al Dottorato presso l’Università di Waterloo – Serie di Interviste

Bailey Kacsmar è una candidata al dottorato presso la Scuola di Informatica dell’Università di Waterloo e un membro docente in arrivo presso l’Università di Alberta. I suoi interessi di ricerca sono sviluppare tecnologie di protezione della privacy consapevoli dell’utente, attraverso lo studio parallelo di approcci tecnici per il calcolo privato e le corrispondenti percezioni, preoccupazioni e comprensione degli utenti di queste tecnologie. Il suo lavoro mira a identificare il potenziale e i limiti per la privacy nelle applicazioni di apprendimento automatico.

I tuoi interessi di ricerca sono nello sviluppo di tecnologie di protezione della privacy consapevoli dell’utente, perché la privacy nell’IA è così importante?

La privacy nell’IA è così importante, in gran parte perché l’IA nel nostro mondo non esiste senza dati. I dati, sebbene siano un’astrazione utile, descrivono in definitiva le persone e i loro comportamenti. Raramente lavoriamo con dati su popolazioni di alberi e livelli di acqua; quindi, ogni volta che lavoriamo con qualcosa che può influenzare le persone reali, dobbiamo essere consapevoli di ciò e capire come il nostro sistema possa fare del bene o del male. Ciò è particolarmente vero per l’IA, dove molti sistemi traggono vantaggio da grandi quantità di dati o sperano di utilizzare dati altamente sensibili (come i dati sanitari) per cercare di sviluppare nuove comprensioni del nostro mondo.

Quali sono alcuni modi in cui hai visto che l’apprendimento automatico ha tradito la privacy degli utenti?

Tradito è una parola forte. Tuttavia, ogni volta che un sistema utilizza informazioni sulle persone senza il loro consenso, senza informarle e senza considerare i potenziali danni, corre il rischio di tradire le norme di privacy individuali o sociali. In sostanza, ciò si traduce in un tradimento per mille piccole ferite. Tali pratiche possono includere l’addestramento di un modello sulla casella di posta elettronica degli utenti, sull’addestramento dei messaggi di testo degli utenti o sui dati sanitari; tutto senza informare i soggetti dei dati.

Potresti definire cosa è la privacy differenziale e quali sono le tue opinioni al riguardo?

La privacy differenziale è una definizione o tecnica che è emersa come importante per raggiungere la privacy tecnica. Le definizioni tecniche di privacy includono generalmente due aspetti chiave; cosa viene protetto e da chi. All’interno della privacy tecnica, le garanzie di privacy sono protezioni che vengono raggiunte se una serie di assunzioni vengono soddisfatte. Queste assunzioni possono riguardare i potenziali avversari, le complessità del sistema o le statistiche. È una tecnica incredibilmente utile che ha una vasta gamma di applicazioni. Tuttavia, è importante tenere presente che la privacy differenziale non è equivalente alla privacy.

La privacy non è limitata a una definizione o concetto e è importante essere consapevoli di nozioni al di là di essa. Ad esempio, l’integrità contestuale è una nozione concettuale di privacy che tiene conto di cose come come diverse applicazioni o diverse organizzazioni cambiano le percezioni di privacy di un individuo rispetto a una situazione. Ci sono anche nozioni giuridiche di privacy come quelle contemplate dal PIPEDA canadese, dal GDPR europeo e dalla legge sulla protezione dei consumatori della California (CCPA). Tutto ciò significa che non possiamo trattare i sistemi tecnici come se esistessero in un vuoto libero da altri fattori di privacy, anche se la privacy differenziale viene impiegata.

Un altro tipo di apprendimento automatico che migliora la privacy è l’apprendimento federato, come lo definiresti e quali sono le tue opinioni al riguardo?

L’apprendimento federato è un modo di eseguire l’apprendimento automatico quando il modello deve essere addestrato su una raccolta di set di dati distribuiti tra più proprietari o località. Non è intrinsecamente un tipo di apprendimento automatico che migliora la privacy. Un tipo di apprendimento automatico che migliora la privacy deve definire formalmente cosa viene protetto, da chi viene protetto e le condizioni che devono essere soddisfatte per queste protezioni. Ad esempio, quando pensiamo a un semplice calcolo differenzialmente privato, garantisce che qualcuno che guarda l’output non possa determinare se un certo punto di dati è stato contribuito o no.

Inoltre, la privacy differenziale non fornisce questa garanzia se, ad esempio, c’è correlazione tra i punti di dati. L’apprendimento federato non ha questa funzione; si addestra semplicemente un modello su una raccolta di dati senza richiedere ai detentori di quei dati di fornire direttamente i loro set di dati l’uno all’altro o a un terzo. Sebbene ciò sembri una funzione di privacy, ciò che è necessario è una garanzia formale che non si possa apprendere le informazioni protette date le parti intermedie e gli output che le parti non attendibili osserveranno. Questa formalità è particolarmente importante nell’ambito federato, dove le parti non attendibili includono tutti coloro che forniscono dati per addestrare il modello collettivo.

Quali sono alcune delle limitazioni attuali di questi approcci?

Le limitazioni attuali potrebbero essere descritte meglio come la natura del compromesso tra privacy e utilità. Anche se si fa tutto il resto, si comunicano le implicazioni della privacy a coloro che ne sono coinvolti, si valuta il sistema per ciò che si sta cercando di fare, ecc., alla fine si riduce a raggiungere la privacy perfetta, il che significa che non creiamo il sistema, raggiungere l’utilità perfetta non avrà generalmente alcuna protezione della privacy, quindi la domanda è come determinare quale è il “compromesso ideale”. Come possiamo trovare il punto di equilibrio giusto e costruire verso di esso in modo da raggiungere ancora la funzionalità desiderata mentre si forniscono le necessarie protezioni della privacy.

Attualmente miri a sviluppare tecnologie di protezione della privacy consapevoli dell’utente attraverso lo studio parallelo di soluzioni tecniche per il calcolo privato. Potresti entrare nei dettagli di alcune di queste soluzioni?

Ciò che intendo con queste soluzioni è che possiamo, in senso lato, sviluppare qualsiasi numero di sistemi di privacy tecnica. Tuttavia, quando lo facciamo, è importante determinare se le garanzie di privacy raggiungono coloro che ne sono coinvolti. Ciò può significare sviluppare un sistema dopo aver scoperto quali tipo di protezioni la popolazione valorizza. Ciò può significare aggiornare un sistema dopo aver scoperto come le persone utilizzano effettivamente un sistema dati i loro reali considerazioni di minaccia e rischio. Una soluzione tecnica potrebbe essere un sistema corretto che soddisfa la definizione che ho menzionato in precedenza. Una soluzione consapevole dell’utente progetterebbe il suo sistema in base agli input degli utenti e degli altri coinvolti nel dominio di applicazione previsto.

Stai attualmente cercando studenti universitari interessati per iniziare a settembre 2024, perché pensi che gli studenti dovrebbero essere interessati alla privacy dell’IA?

Penso che gli studenti dovrebbero essere interessati perché è qualcosa che crescerà solo nella sua pervasività all’interno della nostra società. Per avere un’idea di quanto rapidamente questi sistemi si stanno diffondendo, non guardate oltre l’amplificazione recente di Chat-GPT attraverso articoli di notizie, social media e dibattiti sulle sue implicazioni. Esistiamo in una società in cui la raccolta e l’uso dei dati sono così radicati nella nostra vita quotidiana che quasi costantemente forniamo informazioni su noi stessi a varie aziende e organizzazioni. Queste aziende vogliono utilizzare i dati, in alcuni casi per migliorare i loro servizi, in altri per profitto. A questo punto, sembra irrealistico pensare che queste pratiche di utilizzo dei dati aziendali cambieranno. Tuttavia, l’esistenza di sistemi di protezione della privacy che proteggono gli utenti mentre consentono ancora alcune analisi desiderate dalle aziende può aiutare a bilanciare il compromesso tra rischi e benefici che è diventato una parte così implicita della nostra società.

Grazie per la grande intervista, i lettori che desiderano saperne di più possono visitare la pagina Github di Bailey Kacsmar.