Patricia Thaine, uitvoerende hoof by Private KI – Onderhoudreeks

Patricia Thaine is die medestigter en uitvoerende hoof van Privaat KI, 'n Rekenaarwetenskap PhD-kandidaat aan die Universiteit van Toronto, en 'n Nagraadse Geaffilieerde by die Vector Institute wat navorsing doen oor privaatheidsbehoud van natuurlike taalverwerking, met 'n fokus op toegepaste kriptografie. Sy doen ook navorsing oor rekenaarmetodes vir verlore taalontsyfering.

Patricia is 'n ontvanger van die NSERC Nagraadse Studiebeurs, die RBC Graduate Fellowship, die Beatrice "Trixie" Worsley Graduate Scholarship in Rekenaarwetenskap, en die Ontario Graduate Scholarship. Sy het agt jaar ondervinding van navorsing en sagteware-ontwikkeling, insluitend by die McGill Language Development Lab, die Universiteit van Toronto se Computational Linguistics Lab, die Universiteit van Toronto se Departement Linguistiek, en die Openbare Gesondheidsagentskap van Kanada.

Wat het jou aanvanklik tot rekenaarwetenskap aangetrek?

Die vermoë om probleemop te los en terselfdertyd kreatief te wees. Dit is soos 'n handwerk. Jy sal sien hoe jou produkidees lewendig word, net soos 'n skrynwerker meubels bou. Soos ek iemand een keer hoor sê het: programmering is die ultieme kreatiewe hulpmiddel. Die feit dat die produkte wat jy bou kan skaal en deur mense oral in die wêreld gebruik kan word, is so 'n kersie boonop.

Kan jy die ontstaansverhaal agter Private KI bespreek en hoe dit ontstaan ​​het uit jou waarneming dat daar 'n gebrek aan gereedskap is wat maklik is om te integreer om privaatheid te bewaar?

Deur spraak en skrif word van ons mees sensitiewe inligting geproduseer en oorgedra na die maatskappye wie se dienste ons gebruik. Toe ons oorweeg het watter NLP-produkte om te bou, was daar 'n laag privaatheid wat ons sou moes integreer wat eenvoudig nie in die mark bestaan ​​het nie. Om privaatheidsoplossings te gebruik, moes maatskappye óf hul gebruikers se data na 'n derde party oordra, sub-par oopbronoplossings gebruik wat dit net nie sny om gebruikers privaatheid behoorlik te beskerm nie, óf 'n oplossing in die huis bou met baie min kundigheid in privaatheid. Ons het dus besluit om te fokus op die skep van die beste produkte moontlik vir ontwikkelaars en KI-spanne wat die uitsette van privaatheidverbeterende tegnologieë maklik vir hul behoeftes moet laat werk.

Waarom is KI belangrik om privaatheid te bewaar?

Ongeveer 80 persent van die inligting wat geproduseer word, is ongestruktureerd en KI is die enigste manier om sin te maak van al daardie data. Dit kan ten goede gebruik word, soos om te help om val vir 'n bejaarde bevolking op te spoor, of vir slegte, soos om individue van onderverteenwoordigde bevolkings te profiel en op te spoor. Om te verseker dat privaatheid ingebou is in die sagteware wat ons skep, maak dit baie moeiliker vir KI om op 'n nadelige manier gebruik te word.

Hoe is privaatheid 'n mededingende voordeel?

Daar is baie redes, maar hier is net 'n paar:

1. Al hoe meer gebruikers gee om vir privaatheid en namate verbruikers meer opgevoed word, neem hierdie kommer toe: 70 persent van verbruikers is bekommerd oor die privaatheid van hul data.
2. Dit is baie makliker om met ander besighede sake te doen as jy behoorlike databeskerming en data privaatheid protokolle en tegnologie in plek het.
3. Wanneer jy jou produkte op 'n privaatheidsbewaardende manier gebou het, hou jy beter tred met waar die punte van kwesbaarheid in jou diens is en, veral deur data-minimalisering, raak jy ontslae van die data wat jy nie nodig het nie en sal bring jou in die moeilikheid wanneer 'n kuberaanval plaasvind.

Kan jy die belangrikheid van opleiding van dataprivaatheid bespreek en hoekom dit vatbaar is vir omgekeerde ingenieurswese?

Dit is 'n groot vraag en daar moet soveel meer opvoeding hieroor wees. Simplisties memoriseer masjienleermodelle inligting. Hoe groter die modelle, hoe meer memoriseer hulle hoekhouers. Wat dit beteken, is dat die inligting waarop daardie modelle opgelei is, in produksie uitgespoeg kan word. Dit is in verskeie navorsingsartikels getoon, insluitend Die geheime deeler: die evaluering en toets van onbedoelde memorisering in neurale netwerke en Onttrek opleidingsdata uit groot taalmodelle.

Dit is ook aangetoon dat persoonlike inligting kan uit woordinbeddings onttrek word en vir diegene met enige twyfel daaroor dat dit 'n werklike probleem is, was daar ook 'n skandaal vanjaar toe 'n Koreaanse liefdesbot gebruikersbesonderhede in geselsies met ander gebruikers uitskryf.

Wat is jou siening oor gefedereerde leer en gebruikersprivaatheid?

Gefedereerde leer is 'n goeie stap wanneer die gebruiksgeval dit toelaat. Dit is egter steeds moontlik om inligting oor 'n gebruiker se insette te onttrek uit die gewigopdaterings wat na die wolk gestuur word vanaf 'n spesifieke gebruiker se toestel, daarom is dit belangrik om federatiewe leer te kombineer met ander privaatheidverbeterende tegnologieë (differensiële privaatheid en homomorfiese enkripsie/veilige veelparty-berekening ). Elke privaatheidverbeterende tegnologie moet volgens die gebruiksgeval gekies word – geeneen kan as 'n hamer gebruik word om alle probleme op te los nie. Ons gaan hier oor die besluitboom. Een groot wins is dat jy nooit jou rou data buite jou toestel stuur nie. Een groot nadeel is dat as jy data nodig het om 'n stelsel te ontfout of te sien of dit behoorlik opgelei word, dit baie moeiliker word om te verkry. Gefedereerde leer is 'n goeie begin met baie onopgeloste probleme waaraan navorsing en industrie albei werk.

Private AI stel ontwikkelaars in staat om privaatheidsanalise met verskeie reëls kode te integreer om privaatheid te verseker, hoe werk dit?

Ons tegnologie werk as 'n REST API waarna ons gebruikers POST-versoeke stuur met die teks wat hulle wil redigeer, de-identifiseer of pseudonimiseer/aanvul met realistiese data. Sommige van ons kliënte stuur deur oproeptranskripsies wat geredigeer moet word om aan PCI te voldoen, terwyl ander deur hele kletse stuur sodat hulle dan die inligting kan gebruik om kletsbotte, sentimentontleders of ander NLP-modelle op te lei. Ons gebruikers kan ook kies watter entiteite hulle moet hou of selfs as metadata moet gebruik om na te spoor waar persoonlike data gestoor word. Ons neem die pyn weg om 'n akkurate stelsel op te lei om persoonlike inligting in werklik morsige data op te spoor en te vervang.

Waarom is privaatheid vir IoT-toestelle 'n huidige kwessie en wat is jou mening oor die oplossing daarvan?

Uiteindelik is die beste manier om 'n privaatheidsprobleem op te los baie gebruik-geval afhanklik, en IoT-toestelle is nie anders nie. Terwyl verskeie gebruiksgevalle dalk staatmaak op randontplooiing, randafleiding en privaatheidsbehoud van gefedereerde leer (bv. skarewaarneming in slim stede), sal ander gebruiksgevalle dalk op data-aggregasie en anonimisering moet staatmaak (bv. energiegebruikinligting). Met dit gesê, is IoT-toestelle 'n uitstekende voorbeeld van hoe privaatheid en sekuriteit hand aan hand moet gaan. Hierdie toestelle is berug onveilig vir kuberaanvalle, so daar is net soveel privaatheidverbeterende tegnologieë wat kan doen sonder om die kernkwesbaarhede van toestelle reg te stel. Aan die ander kant, sonder om te dink aan maniere om gebruikersprivaatheid te verbeter, kan inligting wat van binne ons huise ingesamel word, ongemerk aan onbekende partye gedeel word, wat dit uiters moeilik maak om die sekuriteit van die inligting te waarborg. Ons het twee fronte om hier op te verbeter en die konsepwetgewing wat deur die Europese Kommissie oor IoT-toestelsekuriteit geskryf word, kan uiteindelik dit wees wat toestelvervaardigers skud om hul verantwoordelikheid teenoor die sekuriteit en privaatheid van verbruikers ernstig op te neem.

Is daar enigiets anders wat jy oor Private KI wil deel? 

Ons is 'n groep kundiges in privaatheid, natuurlike taal, gesproke taal, beeldverwerking, masjienleermodel-ontplooiing in laehulpbronomgewings, gerugsteun deur M12, Microsoft se waagfonds.

Ons maak seker dat die produkte wat ons skep, bo en behalwe dat dit hoogs akkuraat is, ook rekenkundig doeltreffend is, sodat jy nie 'n massiewe wolkrekening op jou hande het aan die einde van die maand nie. Ons kliënte se data word ook nooit ooit aan ons oorgedra nie – alles word in hul eie omgewing verwerk.

Dankie vir die wonderlike onderhoud, besoek om meer te wete te kom Privaat KI.