Bailey Kacsmar, PhD-kandidat ved University of Waterloo – Intervju-serie

Bailey Kacsmar er en PhD-kandidat ved School of Computer Science ved University of Waterloo og en kommende ansatt ved University of Alberta. Hennes forskningsinteresser ligger i utviklingen av brukerbevisste teknologier for å forbedre privatlivet, gjennom parallell studie av tekniske tilnærminger for privat beregning samt de tilhørende brukeropplevelser, bekymringer og forståelse av disse teknologiene. Hennes arbeid har som mål å identifisere potensialet og begrensningene for privatliv i maskinlæringsapplikasjoner.

Dine forskningsinteresser ligger i utviklingen av brukerbevisste teknologier for å forbedre privatlivet, hvorfor er privatliv i AI så viktig?

Privatliv i AI er så viktig, fordi AI i vår verden ikke eksisterer uten data. Data, selv om det er en nyttig abstraksjon, er i slutten av dagen noe som beskriver mennesker og deres atferd. Vi jobber sjelden med data om trær og vannivå; så, hver gang vi jobber med noe som kan påvirke virkelige mennesker, må vi være bevisste på det og forstå hvordan vårt system kan gjøre godt eller skade. Dette er spesielt sant for AI, der mange systemer har nytte av store mengder data eller håper å bruke svært følsomme data (som helsedata) for å utvikle nye forståelser av vår verden.

Hva er noen måter du har sett at maskinlæring har forrådt privatlivet til brukerne?

Forrådt er et sterkt ord. Men, hver gang et system bruker informasjon om mennesker uten deres samtykke, uten å informere dem, og uten å vurdere mulige skader, løper det risikoen for å forråde enkeltindividets eller samfunnets privatlivsnormer. I praksis resulterer dette i forræderi gjennom tusenvis av små kutt. Slike praksiser kan være å trene en modell på brukernes e-postinnboks, å trene på brukernes tekstmeldinger eller på helsedata; alt uten å informere dataemner om det.

Kan du definere hva differensialt privatliv er, og hva dine synspunkter på det er?

Differensialt privatliv er en definisjon eller teknikk som har steget i popularitet når det gjelder å oppnå teknisk privatliv. Tekniske definisjoner av privatliv omfatter vanligvis to nøkkelaspekter; hva som beskyttes, og fra hvem. Innen teknisk privatliv er privatlivsgarantier beskyttelser som oppnås gitt en rekke antagelser som er møtt. Disse antagelsene kan være om potensielle motstandere, systemkompleksiteter eller statistikk. Dette er en usedvanlig nyttig teknikk som har en rekke anvendelser. Men, det er viktig å huske på at differensialt privatliv ikke er ekvivalent med privatliv.

Privatliv er ikke begrenset til én definisjon eller konsept, og det er viktig å være klar over begreper utenfor dette. For eksempel kontekstuell integritet, som er et konseptuelt begrep for privatliv som tar hensyn til hvordan forskjellige applikasjoner eller organisasjoner endrer privatlivsopplevelsen til en person i forhold til en situasjon. Det finnes også juridiske begreper for privatliv, som de som omfattes av Canadas PIPEDA, Europas GDPR og Californias forbrukerbeskyttelseslov (CCPA). Alt dette er for å si at vi ikke kan behandle tekniske systemer som om de eksisterer i et vakuum fritt fra andre privatlivsfaktorer, selv om differensialt privatliv er i bruk.

En annen privatlivsforbedrende type maskinlæring er distribuert læring, hvordan ville du definere hva dette er, og hva dine synspunkter på det er?

Distribuert læring er en måte å utføre maskinlæring når modellen skal trenes på en samling datasett som er distribuert over flere eiere eller lokasjoner. Dette er ikke i seg selv en privatlivsforbedrende type maskinlæring. En privatlivsforbedrende type maskinlæring må formalisere hva som beskyttes, hvem som beskyttes fra, og betingelsene som må være oppfylt for at disse beskyttelsene skal holde. For eksempel, når vi tenker på en enkel differensialt privat beregning, garanterer det at noen som ser på utdata ikke kan bestemme om en bestemt datapunkt var bidratt eller ikke.

Videre garanterer differensialt privatliv ikke dette hvis, for eksempel, det er korrelasjon mellom datapunktene. Distribuert læring har ikke denne funksjonen; det trener bare en modell på en samling data uten å kreve at eierne av dataene må levere datasettene direkte til hverandre eller en tredje part. Selv om dette høres ut som en privatlivsfunksjon, er det nødvendig å ha en formal garanti for at man ikke kan lære beskyttet informasjon gitt mellomleddene og utdata som upålitelige parter vil observere. Denne formaliteten er spesielt viktig i distribuert setting hvor upålitelige parter inkluderer alle som bidrar med data for å trene den kollektive modellen.

Hva er noen av begrensningene ved disse tilnærmingene?

Begrensningene kan best beskrives som privatliv-nytte-avveiningen. Selv om man gjør alt annet, kommuniserer privatlivsimplikasjonene til de berørte, vurderer systemet for hva man prøver å gjøre, osv., kommer det til slutt ned til å oppnå fullstendig privatliv betyr at vi ikke lager systemet, å oppnå fullstendig nytte vil vanligvis ikke ha noen privatlivsbeskyttelse, så spørsmålet er hvordan vi bestemmer hva som er “ideell” avveining. Hvordan finner vi den riktige balansen og bygger mot den slik at vi fortsatt oppnår ønsket funksjonalitet samtidig som vi gir nødvendige privatlivsbeskyttelser.

Du har som mål å utvikle brukerbevisst privatlivsteknologi gjennom parallell studie av tekniske løsninger for privat beregning. Kan du gå inn i noen detaljer om hva noen av disse løsningene er?

Det jeg mener med disse løsningene er at vi kan, løst talt, utvikle en rekke tekniske privatlivssystemer. Men, når vi gjør dette, er det viktig å bestemme om privatlivsgarantiene når de som er berørt. Dette kan bety å utvikle et system etter å ha funnet ut hva slags beskyttelse befolkningen verdsetter. Dette kan bety å oppdatere et system etter å ha funnet ut hvordan folk faktisk bruker et system gitt deres virkelige trussel- og risikobetraktninger. En teknisk løsning kan være et riktig system som tilfredsstiller definisjonen jeg nevnte tidligere. En brukerbevisst løsning vil designe sitt system basert på innputt fra brukere og andre berørte i den tiltenkte anvendelsesdomenen.

Du søker nå interesserte masterstudenter til å starte i september 2024, hvorfor tror du studenter bør være interesserte i AI-privatliv?

Jeg tror studenter bør være interesserte fordi dette er noe som bare vil øke i omfang innen vår samfunn. For å ha en idé om hvor raskt disse systemene vokser, ser man bare på den nylige Chat-GPT-amplifiseringen gjennom nyhetsartikler, sosiale medier og debatter om implikasjonene. Vi eksisterer i et samfunn hvor innhenting og bruk av data er så innlejret i vår daglige liv at vi nesten konstant gir informasjon om oss selv til forskjellige selskaper og organisasjoner. Disse selskapene ønsker å bruke dataene, i noen tilfeller for å forbedre tjenestene, i andre for å tjene penger. På dette punktet synes det urimelig å tro at disse korporative dataanvendelsespraksisene vil endre seg. Men, eksistensen av privatlivsbeskyttende systemer som beskytter brukerne samtidig som de tillater visse analyser som ønskes av selskapene, kan hjelpe med å balansere risiko-gevinst-avveiningen som har blitt en så implisitt del av vår samfunn.

Takk for det flotte intervjuet, lesere som er interesserte i å lære mer bør besøke Bailey Kacsmars Github-side.