Patricia Thaine, Private AI:n toimitusjohtaja – Haastattelusarja

Patricia Thaine on Private AI:n perustaja ja toimitusjohtaja, tietojenkäsittelytieteen tohtorikoulutettava Toronton yliopistossa ja jatko-opiskelija Vector-instituutissa, jossa hän tekee tutkimusta yksityisyyttä suojelevasta luonnollisen kielen prosessoinnista, erityisesti soveltamalla kryptografiaa. Hän tekee myös tutkimusta laskennallisten menetelmien soveltamisesta kadonneiden kielten selvittämiseen.

Patricia on saanut NSERC:n jatko-opiskelijoiden stipendin, RBC:n jatko-opiskelijoiden stipendin, Beatrice “Trixie” Worsleyn stipendin tietojenkäsittelytieteessä ja Ontarion jatko-opiskelijoiden stipendin. Hänellä on kahdeksan vuoden tutkimus- ja ohjelmistokehityskokemus, mukaan lukien McGill Language Development Lab, Toronton yliopiston Computational Linguistics Lab, Toronton yliopiston kieliopin laitos ja Kanadan terveysministeriön virasto.

Mikä aluksi kiinnosti sinua tietojenkäsittelytieteessä?

Ongelmanratkaisun ja luovuuden yhdistäminen. Se on kuin käsityö. Näet tuotesi elävän, aivan kuin puuseppä rakentaa huonekaluja. Kuulin kerran jonkun sanovan, että ohjelmointi on viimekätinen luova työkalu. Se, että tuotteet, joita rakennat, voivat laajentua ja olla käytettävissä kaikkialla maailmassa, on kuin marja korkean päälle.

Voitko kertoa Private AI:n syntytarinaa ja miten se syntyi havaintosi perusteella, että ei ole työkaluja, jotka ovat helppoja integroida yksityisyyden suojelemiseksi?

Puhumalla ja kirjoittamalla tuotamme ja siirtämme osan arkaluontoisimmista tietojemme yrityksille, joiden palveluja käytämme. Kun harkitsimme, mitä NLP-tuotteita rakentaa, oli siinä kerroksessa yksityisyyttä, jota ei ollut olemassa markkinoilla. Käyttääkseen yksityisyyden ratkaisuja yritysten oli joko siirrettävä asiakkaidensa tietoja kolmannelle osapuolelle, käytettävä alentavaa avoimia lähdekoodia, joka ei ollut tarpeeksi hyvä suojelemaan käyttäjien yksityisyyttä, tai rakennettava ratkaisu itse, jolla ei ollut paljon asiantuntemusta yksityisyydestä. Päätimme keskittyä luomaan parhaat mahdolliset tuotteet kehittäjille ja tekoälytiimille, jotka tarvitsevat yksityisyyttä parantavien teknologioiden tuloksia helposti omiin tarpeisiinsa.

Miksi yksityisyyttä suojeleva tekoäly on tärkeää?

Arviolta 80 prosenttia tuotetusta tiedosta on rakenteetonta, ja tekoäly on ainoa tapa antaa sille merkitystä. Sitä voidaan käyttää hyviin tarkoituksiin, kuten auttamaan vanhusten kaatumisen havaitsemisessa, tai huonoihin tarkoituksiin, kuten profiiliin ja seuraamiseen aliedustettujen ryhmien yksilöitä. Varmistamalla, että yksityisyyden on sisällytetty ohjelmistoihin, joita luomme, teemme siitä paljon vaikeamman tekoälylle olla haitallista.

Miksi yksityisyydestä on kilpailuetu?

On monia syitä, mutta tässä on muutamia:

1. Yhä useammat käyttäjät välittävät yksityisyydestä, ja kun kuluttajat tulevat kasvatetuksi, tämä huolenaihe kasvaa: 70 prosenttia kuluttajista on huolissaan tietojensa yksityisyydestä.
2. On paljon helpompaa tehdä liiketoimintaa muiden yritysten kanssa, jos sinulla on oikeat tietosuojan ja -turvallisuuden teknologiat ja -menettelyt.
3. Kun olet rakentanut tuotteidesi yksityisyyttä suojelevalla tavalla, sinä pidät paremmin kirjaa siitä, missä palvelusi haavoittuvuuden kohdat ovat, ja erityisesti tietojen vähentämisen kautta, sinä poistat tiedot, joita et tarvitse, ja joista voit joutua vaikeuksiin, kun kyberhyökkäys tapahtuu.

Voitko kertoa koulutusdatan yksityisyyden tärkeydestä ja miksi se on altis reverse-engineeringille?

Tämä on erinomainen kysymys, ja siitä pitäisi olla paljon enemmän koulutusta. Yksinkertaisesti, koneoppimismallit muistavat tietoja. Mitä suuremmat mallit, sitä enemmän ne muistavat reunatapauksia. Tämä tarkoittaa, että tiedot, joilla mallit on koulutettu, voidaan tulostaa tuotannossa. Tämä on osoitettu useissa tutkimusartikkeleissa, mukaan lukien The Secret Sharer: Evaluating and Testing Unintended Memorization in Neural Networks ja Extracting Training Data from Large Language Models.

Mitkä ovat näkemyksesi hajautetusta oppimisesta ja käyttäjien yksityisyydestä?

Hajautettu oppiminen on hyvä askel, kun käyttötapa sallii. Kuitenkin on edelleen mahdollista extrahoida tietoja käyttäjän syötteistä, jotka lähetetään pilveen käyttäjän laitteelta, joten on tärkeää yhdistää hajautettu oppiminen muihin yksityisyyttä parantaviin teknologioihin (differensiaalinen yksityisyyden suoja ja homomorfisen salauksen/ turvallisen monen osapuolen laskennan). Jokainen yksityisyyttä parantava teknologia on valittava käyttötapaan perustuen – mikään niistä ei voi olla vasara, jolla ratkaistaan kaikki ongelmat. Käymme läpi päätöspuun tässä. Yksi suuri etu on, että et koskaan lähetä raakaa dataa laitteesi ulkopuolelle. Yksi suuri haitta on, että jos tarvitset dataa vianmääritykseen tai nähdäksesi, onko järjestelmä koulutettu oikein, se tulee paljon vaikeammaksi hankkia. Hajautettu oppiminen on hyvä aloitus, jossa on paljon ratkaisemattomia ongelmia, joita sekä tutkimus että teollisuus työskentelevät.

Private AI mahdollistaa kehittäjille integroida yksityisyyden analyysin muutamalla koodirivillä, miten tämä toimii?

Tekniikkamme toimii REST-rajapintana, johon asiakkaamme lähettävät POST-pyyntöjä tekstien kanssa, joita he haluavat poistaa, tunnistaa, pseudonymisoida tai korvata realistisilla tiedoilla. Jotkut asiakkaamme lähettävät puhelutallenteita, jotka on poistettava PCI-yhdenmukaisuuden vuoksi, kun taas toiset lähettävät koko keskustelun, jotta he voivat käyttää tietoja chatbottien, mielipidemittareiden tai muiden NLP-mallien kouluttamiseen. Asiakkaamme voivat myös valita, mitä entiteettejä he haluavat säilyttää tai käyttää metatietona seurataksesi, missä henkilötiedot tallennetaan. Poistamme kivun, joka liittyy oikean järjestelmän kouluttamiseen henkilötietojen havaitsemiseksi ja korvaamiseksi todella epäjohdonmukaisissa tiedoissa.

Miksi yksityisyydestä IoT-laitteissa on nykyään ongelma ja mitkä ovat näkemyksesi sen ratkaisemiseksi?

Lopulta, yksityisyyden ongelman ratkaisemisen paras tapa on hyvin riippuvainen käyttötavasta, ja IoT-laitteet eivät ole poikkeus. Vaikka jotkut käyttötavat voivat riippua reunan käyttöönotosta, reunan inferencestä ja yksityisyyttä suojelevasta hajautetusta oppimisesta (esim. joukkorientoiminen älykkäissä kaupungeissa), toiset käyttötavat voivat riippua tietojen keräämisestä ja anonymisoinnista (esim. energiankäytön tiedot). Sanottakoon, että IoT-laitteet ovat täydellinen esimerkki siitä, miten yksityisyyden ja turvallisuuden on oltava käsi kädessä. Nämä laitteet ovat mainittavasti alttiita kyberhyökkäyksille, joten on vain niin paljon, mitä yksityisyyttä parantavat teknologiat voivat tehdä ilman, että laitteen perusriskit korjataan. Toisaalta ilman, että ajattelemme keinoja parantaa käyttäjien yksityisyyttä, tietoja, jotka kerätään kodistamme, voidaan jakaa, tarkkailta, ilman, että voidaan taata tietojen turvallisuutta. Meillä on kaksi rintamaa, joissa parantaminen on tarpeen, ja Euroopan komission luonnoslailla IoT-laite turvallisuudesta saattaa olla se, mikä saa laitetoimittajat ottamaan vastuunsa kuluttajien turvallisuudesta ja yksityisyydestä.

Onko mitään muuta, mitä haluaisit jakaa Private AI:sta?

Olemme ryhmä asiantuntijoita yksityisyydestä, luonnollisesta kielestä, puhutusta kielestä, kuvankäsittelystä, tekoälymallien käyttöönotosta vähävaraisissa ympäristöissä, jota tukee M12, Microsoftin venture-rahasto.

Varmistamme, että tuotteet, joita luomme, ovat paitsi erittäin tarkkoja, myös laskennallisesti tehokkaita, jotta et joudu maksamaan massiivisia pilvilaskuja kuukauden lopussa. Asiakkaidemme tiedot eivät koskaan siirry meille – kaikki prosessointi tapahtuu heidän omassa ympäristössään.

Kiitos haastattelusta, lisätietoja saat Private AI:sta.