Paola Zeni, Chief Privacy Officer i RingCentral – Intervju-serie

Paola Zeni er Chief Privacy Officer i RingCentral (RNG ). Hun er en internasjonal privatrettsadvokat med over 20 års erfaring med privatliv og en veteran i cybersikkerhetsbransjen, med erfaring fra Symantec og Palo Alto Networks (PANW ), hvor hun bygget opp privatlivsprogrammet fra bunnen av.

Hva inspirerte deg til å søke en karriere innen datavern?

På slutten av 1990-tallet, da EU-landene implementerte EU-direktivet om datavern fra 1995, begynte datavern å bli et viktig tema i Europa. Som teknologiadvokat som arbeidet med teknologiselskaper som HP og Agilent Technologies (A ), anså jeg dette som et relevant tema og begynte å følge med og utvikle min forståelse av kravene til privatliv. Jeg visste raskt at dette var et område jeg ville være involvert i, ikke bare fordi jeg fant det juridisk interessant og utfordrende, men også fordi det er et tema som berører mange avdelinger og prosesser i hele organisasjonen. Å være involvert i datavern betyr å arbeide med ulike grupper og enkeltpersoner og å lære om flere aspekter av bedriften. Å kunne påvirke og drive endring på et viktig tema på tvers av mange funksjoner i organisasjonen, samtidig som man følger en ny og voksende juridisk område, har vært ekstremt givende. Å arbeide med datavern i dag er mer spennende enn noen gang, med tanke på de teknologiske utviklingene og de økende juridiske kompleksitetene på globalt nivå.

Da du først ble med i RingCentral, skapte du et Tillitsenter, hva er dette spesifikt?

I RingCentral tror vi på at det er essensielt å gi kundene og partnere informasjon om privatliv og sikkerhet for deres data for å bygge og opprettholde tillit til våre tjenester. Derfor fortsetter vi å lage informasjonsmateriale og ressurser, som produktbeskrivelser for våre kjerneprodukter, hvitbøker og retningslinjer, og gjøre dem tilgjengelige for kunder og partnere på vårt offentlige Tillitsenter. Nylig la vi til vår hvitbok om AI-gjennomsiktighet. Tillitsenteret er en kritisk komponent i vårt engasjement for åpenhet overfor våre viktigste interessenter.

Hvordan sikrer RingCentral at privatlivsprinsipper er integrert i alle AI-drevne produkter og tjenester?

Kunstig intelligens kan gi bedrifter mulighet til å låse opp nytt potensial og raskt trekke ut meningsfulle informasjoner og innsikter fra deres data – men med disse fordelene kommer også ansvar. I RingCentral er vi ubøydende fokusert på å beskytte kunder og deres data. Vi oppnår dette gjennom privatlivsprinsippene som leder vår produktutviklingspraksis

Privatliv ved design: Vi utnytter vår privatliv-ved-design-tilnærming ved å arbeide tett med produktjurister, produktledere og produktutviklere for å innbygge privatlivsprinsipper og privatlivskrav i alle aspekter av våre produkter og tjenester som implementerer AI. Privatlivsvurderinger er integrert i produktutviklingslivssyklusen, fra ide til utrulling, og vi bygger på dette for å gjennomføre AI-gjennomgang og veiledning.

Gjennomsiktighet: Vi tilbyr informasjonsmateriale og ressurser til kunder, partnere og brukere om hvordan deres data samles inn og brukes, som en del av vårt engasjement for åpenhet og tillit til våre tjenester.

Kundekontroll: Vi tilbyr valg som gir kundene mulighet til å beholde kontroll over hvordan våre AI-systemer samhandler med deres data.

Kan du gi eksempler på spesifikke privatlivstiltak som er innbygget i RingCentrals AI-første kommunikasjonsløsninger?

Først og fremst har vi lagt til informasjon i våre produktbeskrivelser om hvordan vi samler inn og behandler data: hvem lagrer det, hvilke tredjeparter har tilgang til det, osv. i våre privatlivsdataark, som er publisert på vårt Tillitsenter. Vi spesifiserer også hvilke data som brukes som inndata for AI og hvilke data som genereres som utdata fra AI. I tillegg har vi, som en del av våre produktgjennomgang i samarbeid med produktjurister, implementert åpenhetskrav for å møte vårt engasjement for åpenhet, og vi tilbyr våre kunders administratorer valg for å kontrollere deling av data med AI.

Hvorfor er det kritisk for organisasjoner å opprettholde fullstendig åpenhet om datasamling og bruk i AI-tiden?

For å fremme tilpasning av tillitlig AI, er det avgjørende for organisasjoner å etablere tillit til hvordan AI prosesserer data og i nøyaktigheten av utdata. Dette omfatter data som AI er trent på, logikken som brukes av algoritmen og naturen til utdata.

Vi tror at når leverandører er åpne og deler informasjon om deres AI, hvordan det fungerer og hva det brukes til, kan kundene ta informerte beslutninger og er habilitert til å gi mer spesifikke opplysninger til deres brukere, og forbedre tilpasning av AI og tillit. Når vi utvikler og tilbyr AI, tenker vi på alle interessenter: våre kunder, men også deres ansatte, partnere og kunder.

Hvilke skritt kan organisasjoner ta for å sikre at deres leverandører overholder strenge AI-brukspolitikker?

I RingCentral tror vi på at utrulling av AI krever tillit mellom oss og våre leverandører. Leverandører må forplikte seg til å innbygge privatliv og datasikkerhet i arkitekturen til deres produkter. Derfor har vi bygget på vår eksisterende leverandør-due-diligence-prosess ved å legge til en spesifik AI-gjennomgang, og vi har implementert en standard for bruk av tredjeparts-AI, med spesifikke krav til beskyttelse av RingCentral og våre kunder.

Hvilke strategier bruker RingCentral for å sikre at data som mates inn i AI-systemer er nøyaktig og upartisk?

Med rettferdighet som en ledende prinsipp, er vi konstant opptatt av å vurdere AI-impulsene våre, og forblir kommet til å opprettholde en bevissthet om potensielle fordommer og risiko, med mekanismer på plass for å identifisere og mildne eventuelle uventede konsekvenser.

• Vi har adoptert en spesifik ramme for identifisering og forebygging av fordommer som en del av vår Etisk AI-utviklingsramme, som vi anvender på alle våre produktgjennomgang.
• Våre brukstilfeller for AI involverer en menneske-i-løkken for å evaluere utdata fra våre AI-systemer. For eksempel, i våre Smart Notes, selv uten å overvåke innholdet av notatene som produseres, kan vi slutte at notatene var nøyaktige eller ikke, hvis en bruker redigerer notatene konstant, sender det et signal til RingCentral til å justere promptene.
• Som et annet eksempel på menneske-i-løkken, tillater vår henting-augmentert-genereringsprosess at utdata er strengt fokusert på spesifikke kunnskapsdatabaser og gir referanser for kildene til de genererte utdata. Dette tillater mennesket å verifisere svaret og å grave dyptere i referansene selv.

Ved å sikre at vår AI er nøyaktig, står vi ved vårt løfte om å tilby forklarlig og gjennomsiktig AI.

Hvilke privatlivsutfordringer oppstår med AI i stor skala bedrifts-utvikling, og hvordan håndteres de?

Først og fremst er det viktig å huske at eksisterende privatlivslover inneholder bestemmelser som er anvendelige på kunstig intelligens. Når lover er teknologinøytrale, anvendes juridiske rammer og etiske retningslinjer på nye teknologier. Derfor må organisasjoner sikre at deres bruk av AI overholder eksisterende privatlivslover, som GDPR og CPRA.

For det andre er privatlivsproffesjonelles ansvar å overvåke nye og fremvoksende AI-lover, som varierer fra stat til stat og land til land. AI-lover omhandler mange aspekter av AI, men ett av de øverste prioriterte områdene for ny AI-regulering er beskyttelsen av grunnleggende menneskerettigheter, inkludert privatliv.

De kritiske suksessfaktorene i å håndtere privatlivsproblemer er åpenhet overfor brukere, spesielt når AI utfører profilering eller tar automatiske beslutninger som påvirker enkeltpersoner og muliggjør valg, slik at brukere kan velge å ikke bruke AI hvis de ikke føler seg komfortable med det.

Hvilke fremtidige trender ser du i AI og datavern, og hvordan forbereder RingCentral seg på å holde seg foran?

De viktigste trendene er nye lover som vil fortsette å bli innført, brukernes økende krav om åpenhet og kontroll, den stadig voksende behovet for å håndtere AI-relatert risiko, inkludert tredjepartsrisiko, og økningen av cyberrisiko i AI.

Selskaper må etablere robust styring og samarbeide på tvers av funksjoner for å sikre intern harmoni, minimere risiko og øke brukernes tillit. I RingCentral er vårt kontinuerlige engasjement for privatliv, sikkerhet og åpenhet ubøydende. Vi tar disse tingene alvorlig. Gjennom vår AI-styring og våre AI-privatlivspilarer, er RingCentral kommet til å være etisk AI.

Takk for det flotte intervjuet, lesere som ønsker å lære mer, kan besøke RingCentral.