Bailey Kacsmar, PhD-opiskelija Waterloon yliopistossa – Haastattelusarja

Bailey Kacsmar on PhD-opiskelija tietojenkäsittelytieteen tiedekunnassa Waterloon yliopistossa ja tuleva opettaja Albertan yliopistossa. Hän tutkii käyttäjät huomioivien yksityisyyttä parantavien teknologioiden kehittämistä tutkimalla rinnakkain yksityisyyden säilyttävän laskennan teknisiä ratkaisuja sekä käyttäjien käsityksiä, huolenaiheita ja ymmärrystä näistä teknologioista. Hänen työnsä pyrkii tunnistamaan mahdollisuudet ja rajoitukset tietosuojalle koneoppimisen sovelluksissa.

Miksi tietosuojan tutkiminen on niin tärkeää?

Tietosuojan tutkiminen on tärkeää, koska tekoäly ei voi toimia ilman dataa. Data on kätevä abstraktio, joka lopulta kuvailee ihmisiä ja heidän käyttäytymistään. Harvoin työskentelemme datan parissa, joka liittyy esimerkiksi puukantoihin tai veden tasoihin, joten aina kun työskentelemme datan parissa, joka voi vaikuttaa ihmisiin, meidän on oltava tietoisia siitä ja ymmärrettävä, miten järjestelmämme voi tehdä hyvää tai vahinkoa. Tämä on erityisen totta tekoälylle, jossa monet järjestelmät hyötyvät massiivisista datamääristä tai pyrkivät käyttämään erittäin arkaluontoista dataa (kuten terveydenhuollon dataa) kehittääkseen uusia ymmärryksiä maailmasta.

Mitkä ovat joitain tapoja, joilla olet nähnyt, että koneoppiminen on pettänyt käyttäjien yksityisyyden?

Pettäminen on voimakas sana. Kuitenkin aina, kun järjestelmä käyttää tietoa ihmisistä ilman heidän suostumustaan, ilman heidän tietämistään ja ilman huomioon ottamista mahdollisista vahingoista, se aiheuttaa riskin yksilöiden tai yhteiskunnan yksityisyysnormien rikkomiseen. Kyse on vähitellen lukuisista pienistä loukkauksista syntyvästä petoksesta. Esimerkkejä ovat mallin kouluttaminen käyttäjien sähköpostilaatikoilla, tekstiviesteillä tai terveystiedoilla kertomatta siitä henkilöille, joita tiedot koskevat.

Miten määrittelet differentiaalisen tietosuojan, ja mitkä ovat sinun näkemyksesi siitä?

Differentiaalinen yksityisyys on määritelmä tai menetelmä, joka on saavuttanut merkittävyyden teknisen tietosuojan saavuttamisessa. Tekniset yksityisyyden määritelmät sisältävät yleensä kaksi olennaista osaa: mitä suojellaan ja keneltä. Teknisen tietosuojan takeet ovat suojauksia, jotka saavutetaan, kun tietyt oletukset täyttyvät. Nämä oletukset voivat liittyä potentiaalisiin vihollisiin, järjestelmien monimutkaisuuteen tai tilastoihin. Se on erittäin hyödyllinen menetelmä, jolla on laaja soveltamisala. On kuitenkin tärkeää muistaa, että differentiaalinen yksityisyys ei ole sama asia kuin yksityisyys kokonaisuutena.

Tietosuojan määrittely ei rajoitu yhteen määrittelyyn tai käsitteeseen, ja on tärkeää olla tietoinen muista käsitteistä. Esimerkiksi kontekstuaalinen eheys on tietosuojan käsite, joka ottaa huomioon, miten eri sovellukset tai organisaatiot muuttavat yksilön tietosuojan havaintoja tietyssä tilanteessa. On myös oikeudellisia tietosuojan käsitteitä, kuten Kanadan PIPEDA, Euroopan GDPR ja Kalifornian kuluttajansuojalaki (CCPA). Kaikki tämä tarkoittaa, että emme voi kohdella teknisiä järjestelmiä kuin ne olisivat tyhjiössä, erillään muista tietosuojan tekijöistä, vaikka differentiaalinen yksityisyys olisi käytössä.

Miten määrittelet federoidun oppimisen, ja mitkä ovat sinun näkemyksesi siitä?

Federoitu oppiminen on tapa tehdä koneoppimista, kun malli on koulutettava useiden omistajien tai sijaintien jakamasta tietoaineistoista. Se ei ole luonnostaan tietosuojan parantamiseen tähtäävä koneoppimisen laji. Tietosuojan parantamiseen tähtäävä koneoppiminen tarvitsee muodollisen määrittelyn siitä, mitä suojellaan, keneltä suojellaan ja mitkä ehdot on täytettävä, jotta nämä suojaukset pitävät paikkansa. Esimerkiksi, kun ajattelemme yksinkertaista differentiaalista yksityisyyttä, se takaa, ettei kukaan, joka katsoo tulosta, voi määrittää, oliko tietty datakohta osa siitä.

Lisäksi differentiaalinen yksityisyys ei anna tätä takuuta, jos esimerkiksi on korrelaatiota datapisteiden välillä. Federoitu oppiminenillä ei ole tätä ominaisuutta; se kouluttaa mallin tietoaineistoista ilman, että datan omistajien tarvitsee antaa dataa suoraan toisilleen tai kolmannelle osapuolelle. Vaikka tämä kuulostaa tietosuojan ominaisuudelta, tarvitaan muodollinen takuu, ettei voida oppia suojattua tietoa välikäsien ja tulosten avulla, joita epäluotettavat osapuolet havaitsevat. Tämä muodollisuus on erityisen tärkeää federoidun oppimisen ympäristössä, jossa epäluotettavat osapuolet sisältävät kaikki datan antavat osapuolet.

Mitkä ovat nykyisten lähestymistapojen rajoitukset?

Nykyisten lähestymistapojen rajoitukset voidaan parhaiten kuvata yksityisyyden ja hyödyllisyyden välisenä kompromissina. Vaikka tehdään kaikki muu, kuten viestintä tietosuojan vaikutuksista, arviointi järjestelmän toiminnasta, yms., lopulta täydellinen yksityisyys tarkoittaisi, ettei järjestelmää rakenneta, ja täydellinen hyödyllisyys tarkoittaisi yleensä yksityisyyden suojan puuttumista. Kysymys on siitä, miten määritämme ihanteellisen kompromissin. Mitä on oikea kynnys ja miten rakennetaan siihen, jotta toiminnallisuus saavutetaan samalla, kun tarvittavat tietosuojan suojaukset toteutetaan.

Voitko kertoa yksityiskohtia siitä, mitä nämä ratkaisut ovat?

Mitä tarkoitan näillä ratkaisuilla, on se, että voimme kehittää teknisiä tietosuojajärjestelmiä. Kuitenkin, kun tehdään niin, on tärkeää määrittää, tavoittavatko yksityisyystakuut ne ihmiset, joihin järjestelmä vaikuttaa. Tämä voi tarkoittaa järjestelmän kehittämistä sen jälkeen, kun on selvitetty, mitä suojauksia väestö arvostaa. Tämä voi tarkoittaa järjestelmän päivittämistä sen jälkeen, kun on selvitetty, miten ihmiset käyttävät järjestelmää todellisissa uhka- ja riskitilanteissa. Tekninen ratkaisu voi olla oikea järjestelmä, joka toteuttaa edellä mainitun määrittelyn. Käyttäjät huomioiva ratkaisu suunnitellaan käyttäjiltä ja muilta kyseisellä sovellusalueella vaikutusten kohteena olevilta ihmisiltä saadun palautteen perusteella.

Etsit parhaillaan jatko-opiskelijoita aloittamaan syyskuussa 2024. Miksi opiskelijoiden pitäisi olla kiinnostuneita tekoälyn yksityisyyskysymyksistä?

Mielestäni opiskelijoiden pitäisi olla kiinnostuneita, koska se on asia, joka vain kasvaa yleisyydessään yhteiskunnassamme. Katsokaa vain Chat-GPT:n nopeaa leviämistä uutisartikkeleissa, sosiaalisessa mediassa ja keskusteluissa sen vaikutuksista. Olemme yhteiskunnassa, jossa datan kerääminen ja käyttäminen on niin upottunut arkeen, että olemme lähes jatkuvasti antamassa tietoa itsestämme eri yrityksille ja organisaatioille. Nämä yritykset haluavat käyttää tätä dataa joko parantamaan palvelujaan tai voittoa varten. Tässä vaiheessa on epärealistista ajatella, että nämä yritysten datakäytännöt muuttuvat. Kuitenkin olemassa olevat tietosuojan säilyttävät järjestelmät, jotka suojaavat käyttäjiä samalla, kun sallivat tietyn analyysin, jonka yritykset haluavat, voivat auttaa tasapainottamaan riskien ja hyötyjen välisen kompromissin, josta on tullut niin implisiittinen osa yhteiskuntaamme.

Kiitos haastattelusta, lukijat, jotka ovat kiinnostuneita oppimaan lisää, voivat vierailla Bailey Kacsmarin Github-sivulla.