Paola Zeni, Chief Privacy Officer hos RingCentral – Interviewserie

Paola Zeni er Chief Privacy Officer hos RingCentral (RNG ). Hun er en international privatretsassistent med mere end 20 års erfaring med privatliv og en veteran i cybersikkerhedsbranchen, hvor hun har arbejdet hos Symantec og hos Palo Alto Networks (PANW ), hvor hun opbyggede privatlivsprogrammet fra bunden.

Hvad inspirerede dig til at søge en karriere inden for dataprotktion?

I slutningen af 1990’erne, da EU-landene implementerede direktivet om beskyttelse af personlige oplysninger fra 1995, begyndte dataprotktion at blive en vigtig sag i Europa. Som teknologiadvokat, der arbejdede med teknologivirksomheder som HP og Agilent Technologies (A ), fandt jeg dette emne relevant og begyndte at følge med og udvikle min forståelse af privatlivskrav. Jeg vidste hurtigt, at dette var et område, jeg ville være involveret i, ikke kun fordi jeg fandt det juridisk interessant og udfordrende, men også fordi det er en sag, der berører mange teams og processer på tværs af hele organisationen. At være involveret i dataprotktion indebærer at arbejde med forskellige grupper og personer og at lære om mange aspekter af virksomheden. At kunne påvirke og drive forandring på en vigtig sag på tværs af mange funktioner i organisationen, samtidig med at man følger en ny og vækstorienteret lovgivning, har været ekstremt belønnende. At arbejde med dataprotktion i dag er mere spændende end nogensinde, når man tager i betragtning de teknologiske udviklinger og de øgede juridiske kompleksiteter på globalt plan.

Da du først startede hos RingCentral, oprettede du et Tillidscenter, hvad er dette specifikt?

Hos RingCentral mener vi, at det er essentielt at give vores kunder og partnere information om privatliv og sikkerhed for deres data for at opbygge og opretholde tillid til vores tjenester. Derfor fortsætter vi med at oprette hjælpematerialer og ressourcer, såsom produktprivatdatablade for vores kerneydelser, whitepapers og overenskomstguider, og gøre dem tilgængelige for kunder og partnere på vores offentlige Tillidscenter. Senest tilføjede vi vores AI-gennemsigtighedswhitepaper. Tillidscenteret er en kritisk komponent i vores engagement i overensstemmelse med vores nøgleinteressenter.

Hvordan sikrer RingCentral, at privatlivsprincipper er integreret i alle AI-drevne produkter og tjenester?

Kunstig intelligens kan give virksomheder mulighed for at udnytte nye muligheder og hurtigt udtrække meningsfulde oplysninger og indsigt fra deres data – men med disse fordele følger ansvar. Hos RingCentral er vi ubøjelige fokuseret på at beskytte kunder og deres data. Vi opnår dette gennem de privatlivspiller, der vejleder vores produktudviklingspraksis

Privatliv ved design: Vi udnytter vores privatliv ved design-tilgang ved at arbejde tæt sammen med produktjurister, produktchefer og produktteknikere for at integrere privatlivsprincipper og privatlivskrav på tværs af aspekterne af vores produkter og tjenester, der implementerer AI. Privatlivsvurderinger er integreret i produktudviklingslivscyklussen, fra idé til udrulning, og vi bygger videre på dette for at gennemføre AI-gennemgange og vejledning.

Gennemsigtighed: Vi tilbyder hjælpematerialer og ressourcer til kunder, partnere og brugere om, hvordan deres data indsamles og bruges, som en del af vores engagement i overensstemmelse og opbygning af tillid til vores tjenester.

Kundecontrolling: Vi giver kunder mulighed for at fastholde kontrollen over, hvordan de ønsker vores AI skal interagere med deres data.

Kan du give eksempler på specifikke privatlivsforanstaltninger, der er integreret i RingCentrals AI-førstekommunikationsløsninger?

Først og fremmest har vi tilføjet oplysninger om, hvordan vi indsamler og behandler data, til vores produktbeskrivelser: hvem gemmer det, hvilke tredjeparter har adgang til det osv. i vores privatdatablade, som er tilgængelige på vores Tillidscenter. Vi nævner specifikt, hvilke data fungerer som input for AI og hvilke data genereres som output fra AI. Desuden implementerer vi, som en del af vores produktgennemgange i samarbejde med produktjurister, åbenhedskrav for at opfylde vores engagement i overensstemmelse, og vi giver vores kunders administratorer mulighed for at kontrollere deling af data med AI.

Hvorfor er det afgørende for organisationer at opretholde fuld gennemsigtighed om dataprotktion og brug i AI-alderen?

For at fremme adoption af troværdig AI er det afgørende for organisationer at etablere tillid til, hvordan AI behandler data, og i nøjagtigheden af output. Dette omfatter de data, AI trænes på, den logik, der anvendes af algoritmen, og naturen af output.

Vi mener, at når leverandører er gennemsigtige og deler oplysninger om deres AI, hvordan det fungerer og hvad det bruges til, kan kunder træffe informerede beslutninger og er i stand til at give mere specifikke åbenhedskrav til deres brugere, hvilket forbedrer adoption af AI og tillid. Når vi udvikler og tilbyder AI, tænker vi på alle interessenter: vores kunder, men også deres medarbejdere, partnere og kunder.

Hvad kan organisationer gøre for at sikre, at deres leverandører overholder strenge AI-brugsregler?

Hos RingCentral mener vi, at udrulning af AI kræver tillid mellem os og vores leverandører. Leverandører må forpligte sig til at integrere privatliv og datasikkerhed i arkitekturen af deres produkter. Derfor har vi bygget videre på vores eksisterende leverandørdue diligence-proces ved at tilføje en specifik AI-gennemgang, og vi har implementeret en standard for brug af tredjeparts-AI med specifikke krav til beskyttelse af RingCentral og vores kunder.

Hvad strategier anvender RingCentral for at sikre, at de data, der fødes ind i AI-systemer, er nøjagtige og upartiske?

Med retfærdighed som en vejledende princip er vi konstant opmærksomme på AI’s indvirkning og forbliver engageret i at opretholde en bevidsthed om potentielle fordomme og risici, med mekanismer på plads til at identificere og afhjælpe enhver uventet konsekvens.

• Vi har antaget en specifik ramme for identifikation og forebyggelse af fordomme som en del af vores Etisk AI-udviklingsramme, som vi anvender på alle vores produktgennemgange.
• Vores brugstilfælde for AI indebærer en menneske-i-løkken til at evaluere output fra vores AI-systemer. For eksempel i vores Smart Notes, selv uden at overvåge indholdet af de producerede noter, kan vi slutte, om noterne var nøjagtige eller ej, hvis en bruger redigerer noterne konstant, sender det et signal til RingCentral om at justere prompterne.
• Som et andet eksempel på menneske-i-løkken giver vores genereringsprocess, der er forstærket med hentning, output, der er strengt fokuseret på specifikke videnbaser og giver referencer for kilderne til de producerede output. Dette giver mennesket mulighed for at verificere svaret og at dykke dybere ned i referencerne selv.

Ved at sikre, at vores AI er nøjagtig, står vi ved vores løfte om at levere forklarlig og gennemsigtig AI.

Hvilke privatlivsudfordringer opstår med AI i storstilede virksomhedsudrulninger, og hvordan håndteres de?

Først og fremmest er det vigtigt at huske, at eksisterende privatlovgivning indeholder bestemmelser, der er anvendelige på kunstig intelligens. Når love er teknologineutrale, anvendes lovmæssige rammer og etiske retningslinjer på nye teknologier. Derfor skal organisationer sikre, at deres brug af AI overholder eksisterende privatlovgivning, såsom GDPR og CPRA.

For det andet er privatlivsprofessionelles ansvar at overvåge ny og fremvoksende AI-lovgivning, som varierer fra stat til stat og land til land. AI-lovgivning omhandler mange aspekter af AI, men en af de øverste prioriteter for ny AI-regulering er beskyttelsen af grundlæggende menneskerettigheder, herunder privatliv.

De kritiske succesfaktorer i håndtering af privatlivsproblemer er gennemsigtighed over for brugere, især hvor AI udfører profilering eller træffer automatiserede beslutninger, der påvirker individer, og giver brugerne mulighed for at fravælge AI-brug, de ikke er komfortable med.

Hvilke fremtidige tendenser ser du i AI og dataprotktion, og hvordan forbereder RingCentral sig på at føre an?

De vigtigste tendenser er nye love, der vil blive gennemført, brugernes øgede krav om gennemsigtighed og kontrol, det stadig voksende behov for at håndtere AI-relateret risiko, herunder tredjepartsrisiko, og væksten af cyberrisici i AI.

Virksomheder skal have robuste styre- og ledelsesstrukturer på plads og teams skal samarbejde på tværs af funktioner for at sikre intern tilslutning, minimere risici og øge brugernes tillid. Hos RingCentral forbliver vores fortsatte engagement i privatliv, sikkerhed og gennemsigtighed ubesvaret. Vi tager disse ting alvorligt. Gennem vores AI-styre og vores AI-privatlivspiller er RingCentral engageret i etisk AI.

Tak for det gode interview, læsere, der ønsker at lære mere, skal besøge RingCentral.