Patricia Thaine, CEO i Private AI – Intervju-serie

Patricia Thaine er medgründer og CEO i Private AI, en PhD-kandidat i datavitenskap ved Universitetet i Toronto, og en postgradert tilknytning ved Vector Institute som gjør forskning på personvernsbeskyttende naturlig språkbehandling, med fokus på anvendt kryptografi. Hun gjør også forskning på beregningsmetoder for tapte språkavkodning.

Patricia er mottaker av NSERC Postgraduate Scholarship, RBC Graduate Fellowship, Beatrice “Trixie” Worsley Graduate Scholarship i datavitenskap, og Ontario Graduate Scholarship. Hun har åtte års erfaring med forskning og programvareutvikling, inkludert ved McGill Language Development Lab, Universitetet i Torontos Computational Linguistics Lab, Universitetet i Torontos avdeling for lingvistikk, og Public Health Agency of Canada.

Hva var det som først tiltalte deg til datavitenskap?

Evnen til å løse problemer og være kreativ på samme tid. Det er som en håndverkskunst. Du får se dine produktideer bli virkelighet, likt en snekker bygger møbler. Som jeg hørte noen si en gang: programmering er det ultimate kreative verktøyet. Det faktum at produktene du bygger kan skaleres og brukes av mennesker over hele verden, er bare en ekstra bonus.

Kunne du diskutere opphavet til Private AI og hvordan det oppstod fra din observasjon av at det mangler verktøy som er enkle å integrere for å beskytte personvern?

Med tale og skriving produserer vi noen av våre mest sensitive informasjon og overfører den til selskapene som tilbyr tjenestene våre. Da vi vurderte hvilke NLP-produkter å bygge, var det et lag med personvern som vi måtte integrere, som enkelt ikke eksisterte på markedet. For å bruke personvernsløsninger, måtte selskapene overføre brukerdata til en tredjepart, bruke underlige åpne kildekodeløsninger som ikke var gode nok til å beskytte brukerpersonvern, eller bygge en løsning internt med svært liten ekspertise i personvern. Så vi bestemte oss for å fokusere på å skape de beste produktene mulig for utviklere og AI-team som trenger å ha utgangene av personvernforbedrings-teknologier lett tilgjengelig for deres behov.

Hvorfor er personvernbeskyttende AI viktig?

Omtrent 80 prosent av informasjonen som produseres er ustrukturert, og AI er den eneste måten å gi mening til all denne dataen på. Den kan brukes til gode formål, som å hjelpe med å oppdage fall hos en eldre befolkning, eller til dårlige formål, som å profilere og spore individer fra underrepresenterte befolkningsgrupper. Å sikre at personvern er bygget inn i programvaren vi skaper, gjør det mye vanskeligere for AI å brukes på en skadelig måte.

Hvorfor er personvern en konkurransefordel?

Det finnes mange grunner, men her er noen få:

1. Flere og flere brukere bryr seg om personvern, og når forbrukerne blir mer utdannet, vokser denne bekymringen: 70 prosent av forbrukerne er bekymret for personvernet til deres data.
2. Det er mye enklere å drive forretning med andre selskaper hvis du har ordentlig datasikring og personvernprotokoller og -teknologier på plass.
3. Når du har bygget produktene dine på en personvernbeskyttende måte, holder du bedre orden på hvor sårbarhetspunktene i tjenesten din er, og spesielt gjennom dataminimering, fjerner du dataen du ikke trenger og som kan få deg i trøbbel når det skjer en cyberangrep.

Kunne du diskutere viktigheten av personvern for treningdata og hvorfor det er sårbart for omvendt ingeniørkunst?

Dette er et veldig godt spørsmål, og det må være mye mer utdanning om dette. Forenklet, husker maskinlæringsmodeller informasjon. Jo større modellene er, jo mer husker de hjørnetilfeller. Dette betyr at informasjonen modellene ble trent på, kan bli avslørt i produksjon. Dette er blitt vist i flere forskningsartikler, inkludert The Secret Sharer: Evaluating and Testing Unintended Memorization in Neural Networks og Extracting Training Data from Large Language Models.

Det er også blitt vist at personlige informasjon kan bli avslørt fra ordimplikasjoner, og for de som har noen tvil om at dette er et reelt problem, var det også en skandale i år da en koreansk kjærlighetsbot skrev ut brukeropplysninger i samtaler med andre brukere.

Hva er dine synspunkter på distribuert læring og personvern?

Distribuert læring er et godt steg når brukstilfelle tillater det. Likevel er det fortsatt mulig å trekke ut informasjon om en brukers innputt fra vektoppdateringer sendt over til skyen fra en bestemt brukers enhet, så det er viktig å kombinere distribuert læring med andre personvernforbedrings-teknologier (differensialt personvern og homomorf kryptering/sikker multiparti-beregning). Hver personvernforbedrings-teknologi må velges i henhold til brukstilfelle – ingen kan brukes som en hammer til å løse alle problemer. Vi går gjennom beslutningstre på denne siden. En stor gevinst er at du aldri sender rådata utenfor din enhet. En stor ulempe er at hvis du trenger data for å feilsøke et system eller se om det blir trent korrekt, blir det mye vanskeligere å få tak i. Distribuert læring er et godt startpunkt med mange uløste problemer som både forskning og industri jobber med.

Hvordan aktiverer Private AI utviklere til å integrere personvernanalyse med noen linjer kode for å sikre personvern?

Vår teknologi kjører som en REST-API som våre brukere sender POST-forespørsler til med teksten de ønsker å redigere, anonymisere eller pseudonymisere/augmentere med realistiske data. Noen av våre kunder sender gjennom samtaletranskripter som må redigeres for å være PCI-kompatible, mens andre sender gjennom hele samtaler så de kan bruke informasjonen til å trene chatboter, holdningsanalytikere eller andre NLP-modeller. Våre brukere kan også velge hvilke enheter de trenger å beholde eller bruke som metadata for å spore hvor personlige data lagres. Vi fjerner smerten med å måtte trene opp et nøyaktig system for å oppdage og erstatte personlige informasjon i virkelig ustrukturert data.

Hvorfor er personvern for IoT-enheter et aktuelt problem, og hva er dine synspunkter på å løse det?

Til slutt er den beste måten å løse et personvernproblem avhengig av brukstilfelle, og IoT-enheter er ingen unntak. Mens noen brukstilfeller kan avhenge av edge-utplassering, edge-inferens og personvernbeskyttende distribuert læring (f.eks. crowdsensing i smarte byer), kan andre brukstilfeller måtte avhenge av dataaggregasjon og anonymisering (f.eks. informasjon om energiforbruk). Med det sagt, er IoT-enheter et primært eksempel på hvordan personvern og sikkerhet må gå hånd i hånd. Disse enhetene er notorisk usikre mot cyberangrep, så det finnes bare så mye personvernforbedrings-teknologier kan gjøre uten å fikse grunnleggende enhetsvulnerabiliteter. På den andre siden, uten å tenke på måter å forbedre brukerpersonvern, kan informasjon samlet inn fra hjemmene våre bli delt, ubeskyttet, til ukjente parter, og gjøre det ekstremt vanskelig å garantere sikkerheten til informasjonen. Vi har to fronter å forbedre her, og det foreløpige lovforslaget som er skrevet av Den europeiske kommisjon om IoT-enhetssikkerhet, kan ende opp med å være det som får enhetsprodusentene til å ta sine ansvar overfor forbrukernes sikkerhet og personvern på alvor.

Er det noe annet du ønsker å dele om Private AI?

Vi er en gruppe eksperter i personvern, naturlig språk, talt språk, bildebehandling, modellutplassering i lavresursmiljøer, støttet av M12, Microsofts venturefond.

Vi sikrer at produktene vi skaper, på toppen av å være svært nøyaktige, også er komputasjonelt effektive, så du ikke får en massiv skyregning på hånden din ved månedsslutt. Dessuten blir kundens data aldri overført til oss – alt blir prosessert i deres eget miljø.

Takk for det flotte intervjuet, for å lære mer, besøk Private AI.