Paola Zeni, Chief Privacy Officer at RingCentral – Intervju-serie

Paola Zeni er Chief Privacy Officer at RingCentral. Hun er en internasjonal privatrettsadvokat med mer enn 20 års erfaring med privatliv og en veteran i cybersikkerhetsbransjen, med erfaring fra Symantec og Palo Alto Networks, der hun bygde opp privatlivsprogrammet fra bunnen av.

Hva inspirerte deg til å søke en karriere innen datavern?

På slutten av 1990-tallet, da EU-landene implementerte EU-direktivet om datavern av 1995, begynte datavern å bli et viktig tema i Europa. Som en teknologiadvokat som arbeidet med teknologiselskaper som HP og Agilent Technologies, anså jeg dette som et relevant tema og begynte å følge med og utvikle min forståelse av kravene til privatliv. Jeg visste raskt at dette var et område jeg ønsket å være involvert i, ikke bare fordi jeg fant det juridisk interessant og utfordrende, men også fordi det er et tema som berører mange avdelinger og prosesser i hele organisasjonen. Å være involvert i datavern betyr å arbeide med ulike grupper og enkeltpersoner og å lære om flere aspekter av bedriften. Å kunne påvirke og drive endring på et viktig tema på tvers av mange funksjoner i organisasjonen, samtidig som man følger en ny og voksende juridisk område, har vært ekstremt givende. Å arbeide med datavern i dag er mer spennende enn noensinne, med tanke på de teknologiske utviklingene og de økende juridiske kompleksitetene på globalt nivå.

Da du først ble med i RingCentral, skapte du et Tillitsenter, hva er dette spesifikt?

På RingCentral tror vi at å gi kundene og partnere vår informasjon om privatliv og sikkerhet for deres data er essensielt for å bygge og opprettholde tillit til våre tjenester. Derfor fortsetter vi å lage hjelpemidler og ressurser, som produktbeskrivelser for våre kjerneprodukter, vitenskapelige artikler og retningslinjer for overholdelse, og gjøre dem tilgjengelige for kunder og partnere på vårt offentlige Tillitsenter. Nylig la vi til vår hvitbok om gjennomsiktig AI. Tillitsenteret er en kritisk komponent i vårt engasjement for åpenhet overfor våre viktigste interessenter.

Hvordan sikrer RingCentral at privatlivsprinsipper er integrert i alle AI-drevne produkter og tjenester?

Kunstig intelligens kan gi bedrifter mulighet til å låse opp nytt potensial og raskt trekke ut meningsfulle opplysninger og innsikt fra deres data – men med disse fordelene kommer ansvar. På RingCentral forblir vi ubøydende fokusert på å beskytte kunder og deres data. Vi oppnår dette gjennom privatlivspillarene som leder vår produktutviklingspraksis

Privatliv ved design: Vi utnytter vår privatliv ved design-tilnærming ved å arbeide tett med produktjurister, produktledere og produktutviklere for å innbygge privatlivsprinsipper og privatlivskrav i alle aspekter av våre produkter og tjenester som implementerer AI. Privatlivsvurderinger er integrert i produktutviklingslivssyklusen, fra ide til utrulling og vi bygger på dette for å utføre AI-gjennomgang og retningslinjer.

Gjennomsiktighet: Vi tilbyr hjelpemidler og ressurser til kunder, partnere og brukere om hvordan deres data samles inn og brukes, som en del av vårt engasjement for åpenhet og tillit til våre tjenester.

Kundekontroll: Vi gir kundene valg som gir dem mulighet til å beholde kontroll over hvordan vårt AI skal samhandle med deres data.

Kan du gi eksempler på spesifikke privatlivstiltak innbygget i RingCentrals AI-førstekommunikasjonsløsninger?

Først og fremst har vi lagt til informasjon i våre produktbeskrivelser om hvordan vi samler inn og behandler data: hvem lagrer det, hvilke tredjeparter har tilgang til det osv. i våre privatlivsdataark, som er publisert på vårt Tillitsenter. Vi spesifiserer hvilke data som tjener som inndata for AI og hvilke data som genereres som utdata fra AI. Dessuten, som en del av våre produktgjennomgang i samarbeid med produktjurister, implementerer vi åpenhetskrav for å møte vårt engasjement for åpenhet, og vi gir våre kunders administratorer valg for å kontrollere deling av data med AI.

Hvorfor er det kritisk for organisasjoner å opprettholde fullstendig åpenhet om datasamling og bruk i AI-tiden?

For å fremme tilpasning av pålitelig AI, er det avgjørende for organisasjoner å etablere tillit til hvordan AI behandler data og i nøyaktigheten av utdata. Dette omfatter data som AI er trent på, logikken som er brukt av algoritmen og naturen til utdata.

Vi tror at når leverandører er åpne og deler informasjon om deres AI, hvordan det fungerer og hva det brukes til, kan kundene ta informerte beslutninger og er i stand til å gi mer spesifikke opplysninger til sine brukere, og dermed forbedre tilpasning av AI og tillit. Når vi utvikler og tilbyr AI, tenker vi på alle interessenter: våre kunder, men også deres ansatte, partnere og kunder.

Hvilke skritt kan organisasjoner ta for å sikre at deres leverandører overholder strenge AI-brukspolitikk?

På RingCentral tror vi at utrulling av AI krever tillit mellom oss og våre leverandører. Leverandører må forplikte seg til å innbygge privatliv og datasikkerhet i arkitekturen til deres produkter. Derfor har vi bygget på vår eksisterende leverandørdue diligence-prosess ved å legge til en spesifik AI-gjennomgang, og vi har implementert en standard for bruk av tredjeparts AI, med spesifikke krav til beskyttelse av RingCentral og våre kunder.

Hvilke strategier bruker RingCentral for å sikre at data som mates inn i AI-systemer er nøyaktig og upartisk?

Med rettferdighet som en veiledende prinsipp, er vi konstant opptatt av å vurdere AI-impakt, og forblir engasjert i å opprettholde en bevissthet om potensielle fordommer og risiko, med mekanismer på plass for å identifisere og minimere eventuelle uventede konsekvenser.

• Vi har adoptert en spesifik ramme for identifisering og forebygging av fordommer som en del av vår Etisk AI-utviklingsramme, som vi anvender på alle våre produktgjennomgang.
• Våre brukstilfeller for AI involverer en menneske-i-løkken for å evaluere utdata fra våre AI-systemer. For eksempel, i våre Smart Notes, selv uten å overvåke innholdet av notatene som produseres, kan vi slutte at notatene var nøyaktige eller ikke. Hvis en bruker redigerer notatene konstant, sender det en signal til RingCentral om å justere promptene.
• Som et annet eksempel på menneske-i-løkken, tillater vår gjennopprettende genereringsprosess utdata å være strengt fokusert på spesifikke kunnskapsdatabaser og gir referanser for kildene til utdataene som genereres. Dette tillater mennesket å verifisere svaret og å grave dyptere inn i referansene selv.

Ved å sikre at vårt AI er nøyaktig, står vi ved vårt løfte om å levere forklarlig og gjennomsiktig AI.

Hvilke privatlivsutfordringer oppstår med AI i storstilte bedriftsinstallasjoner, og hvordan håndteres de?

Først og fremst er det viktig å huske at eksisterende privatlovgivning inneholder bestemmelser som er anvendelige på kunstig intelligens. Når lovene er teknologinøytrale, anvendes juridiske rammer og etiske retningslinjer på nye teknologier.. Derfor må organisasjoner sikre at deres bruk av AI overholder eksisterende privatlovgivning, som GDPR og CPRA.

For det andre er privatlivsprofesjonelles ansvar å overvåke nye og fremvoksende AI-lover, som varierer fra stat til stat og land til land. AI-lover omhandler mange aspekter av AI, men ett av de viktigste prioriteringene for ny AI-regulering er beskyttelsen av grunnleggende menneskerettigheter, inkludert privatliv.

De kritiske suksessfaktorene i å håndtere privatlivsproblemer er åpenhet overfor brukere, spesielt der AI utfører profilering eller tar automatiske beslutninger som påvirker enkeltindivider og muliggjør valg, slik at brukerne kan velge bort fra AI-bruk de ikke føler seg komfortable med.

Hvilke fremtidige trender ser du i AI og datavern, og hvordan forbereder RingCentral seg på å holde seg foran?

De viktigste trendene er nye lover som vil fortsette å bli innført, brukernes økende krav om åpenhet og kontroll, den stadig voksende behov for å håndtere AI-relatert risiko, inkludert tredjepartsrisiko, og økningen av cyberrisiko i AI.

Selskaper må etablere robuste styre og lag må samarbeide på tvers av funksjoner for å sikre intern samstemthet, minimere risiko og øke brukernes tillit. På RingCentral forblir vårt kontinuerlige engasjement for privatliv, sikkerhet og åpenhet ubestridt. Vi tar disse tingene alvorlig. Gjennom vår AI-styre og våre AI-privatlivspillarer, er RingCentral engasjert i etisk AI.

Takk for det flotte intervjuet, lesere som ønsker å lære mer bør besøke RingCentral.