Paola Zeni, Chief Privacy Officer på RingCentral – Intervju-serie

Paola Zeni är Chief Privacy Officer på RingCentral (RNG ). Hon är en internationell advokat med mer än 20 års erfarenhet av dataskydd och en veteran inom cybersäkerhetsbranschen, med tidigare roller på Symantec och Palo Alto Networks (PANW ), där hon byggde upp dataskyddsprogrammet från grunden.

Vad inspirerade dig att söka en karriär inom dataskydd?

I slutet av 1990-talet, när EU-länderna införde 1995 års dataskyddsdirektiv, började dataskydd bli en viktig fråga i Europa. Som teknisk advokat som arbetade med tekniskt företag som HP och Agilent Technologies (A ), ansåg jag att detta var ett relevant ämne och började följa utvecklingen och öka min förståelse för dataskyddskraven. Jag visste snabbt att detta var ett område som jag ville engagera mig i, inte bara för att jag fann det juridiskt intressant och utmanande, utan också för att det är en fråga som berör många avdelningar och processer inom hela organisationen. Att arbeta med dataskydd innebär att man samarbetar med olika grupper och individer och lär sig om många aspekter av verksamheten. Att kunna påverka och driva förändring på en viktig fråga över många funktioner i organisationen, samtidigt som man följer en ny och utvecklande rättslig område, har varit extremt givande. Att arbeta med dataskydd idag är mer spännande än någonsin, med tanke på de tekniska utvecklingarna och de ökade juridiska komplexiteterna på global nivå.

När du först anslöt till RingCentral, skapade du en Trust Center, vad är detta specifikt?

På RingCentral tror vi att det är viktigt att tillhandahålla information till våra kunder och partners om dataskydd och datasäkerhet för att bygga och upprätthålla förtroende för våra tjänster. Därför skapar vi kontinuerligt informationsmaterial och resurser, såsom produktspecifika dataskyddsinformationer för våra kärntjänster, vitböcker och efterlevnads guider, och gör dem tillgängliga för kunder och partners på vår offentliga Trust Center. Vi har nyligen lagt till vår vitbok om AI-transparens. Trust Center är en kritisk komponent i vårt åtagande att vara transparenta gentemot våra intressenter.

Hur säkerställer RingCentral att dataskyddsprinciper integreras i alla AI-drivna produkter och tjänster?

Artificiell intelligens kan ge företag möjlighet att utnyttja ny potential och snabbt extrahera meningsfull information och insikter från deras data – men med dessa fördelar kommer ansvar. På RingCentral är vi obevekligt fokuserade på att skydda våra kunder och deras data. Vi uppnår detta genom våra dataskyddsprinciper som vägleder vår produktutvecklingspraxis

Dataskydd från början: Vi använder vår dataskydd från början-ansats genom att arbeta nära med produktjurister, produktchefer och produktutvecklare för att integrera dataskyddsprinciper och dataskyddskrav i alla aspekter av våra produkter och tjänster som implementerar AI. Dataskyddsbedömningar är en del av produktutvecklingslivscykeln, från idé till distribution, och vi bygger vidare på detta för att genomföra AI-granskningar och riktlinjer.

Transparens: Vi tillhandahåller informationsmaterial och resurser till kunder, partners och användare om hur deras data samlas in och används, som en del av vårt åtagande att vara transparenta och bygga förtroende för våra tjänster.

Kundkontroll: Vi tillhandahåller alternativ som ger kunderna möjlighet att behålla kontrollen över hur de vill att vår AI ska interagera med deras data.

Kan du ge exempel på specifika dataskyddsåtgärder som är inbyggda i RingCentrals AI-första kommunikationslösningar?

Först och främst har vi lagt till information i våra produktdokumentationer om hur vi samlar in och bearbetar data: vem som lagrar det, vilka tredje parter som har tillgång till det, etc. i våra dataskyddsinformationer, som publiceras på vår Trust Center. Vi specificerar vilken data som används som indata för AI och vilken data som genereras som utdata från AI. Dessutom, som en del av vår produktgranskning i samarbete med produktjurister, implementerar vi avslöjanden för att uppfylla vårt åtagande att vara transparenta, och vi ger våra kunders administratörer alternativ för att kontrollera delning av data med AI.

Varför är det viktigt för organisationer att upprätthålla fullständig transparens om datainsamling och användning i AI-eran?

För att främja antagandet av pålitlig AI är det avgörande för organisationer att etablera förtroende för hur AI bearbetar data och för noggrannheten i utdata. Detta omfattar den data som AI tränas på, den logik som tillämpas av algoritmen och naturen hos utdata.

Vi tror att när leverantörer är transparenta och delar information om sin AI, hur den fungerar och vad den används för, kan kunder fatta informerade beslut och ges möjlighet att ge mer specifika avslöjanden till sina användare, vilket förbättrar antagandet av AI och förtroende. När vi utvecklar och tillhandahåller AI tänker vi på alla intressenter: våra kunder, men också deras anställda, partners och kunder.

Vilka steg kan organisationer ta för att säkerställa att deras leverantörer följer stränga AI-användningspolicyer?

På RingCentral tror vi att distribution av AI kräver förtroende mellan oss och våra leverantörer. Leverantörer måste åta sig att integrera dataskydd och datasäkerhet i arkitekturen för sina produkter. Därför har vi byggt vidare på vår befintliga leverantörsdue diligence-process genom att lägga till en specifik AI-granskning, och vi har implementerat en standard för användning av tredjeparts-AI, med specifika krav för skydd av RingCentral och våra kunder.

Vilka strategier använder RingCentral för att säkerställa att data som matas in i AI-system är korrekt och opartisk?

Med rättvisa som en ledande princip, överväger vi kontinuerligt effekterna av vår AI och förblir åtagande att upprätthålla en medvetenhet om potentiella bias och risker, med mekanismer på plats för att identifiera och mildra eventuella oavsiktliga konsekvenser.

• Vi har antagit ett specifikt ramverk för identifiering och förebyggande av bias som en del av vår etiska AI-utvecklingsram, som vi tillämpar på alla våra produktgranskningar.
• Våra användningsfall för AI involverar en mänsklig faktor för att utvärdera utdata från våra AI-system. Till exempel i våra Smarta anteckningar, även utan att övervaka innehållet i de anteckningar som produceras, kan vi sluta oss till från användarnas åtgärder om anteckningarna var korrekta eller inte. Om en användare redigerar anteckningarna konstant, skickar det en signal till RingCentral att justera prompten.
• Som ett annat exempel på mänsklig faktor, tillåter vår återvinningsskapande process att utdata ska fokuseras strikt på specifika kunskapsdatabaser och tillhandahåller referenser för källorna till de genererade utdata. Detta tillåter den mänskliga faktorn att verifiera svaret och att gräva djupare i referenserna själva.

Genom att säkerställa att vår AI är korrekt, står vi bakom vårt löfte att tillhandahålla förklarlig och transparent AI.

Vilka dataskyddsutmaningar uppstår med AI i storskaliga företagsdistributioner, och hur hanteras de?

Först och främst är det viktigt att komma ihåg att befintliga dataskyddslagar innehåller bestämmelser som är tillämpliga på artificiell intelligens. När lagar är teknikneutrala, tillämpas rättsliga ramverk och etiska riktlinjer på nya tekniker. Därför måste organisationer säkerställa att deras användning av AI följer befintliga dataskyddslagar, såsom GDPR och CPRA.

Som en andra punkt är det dataskyddsprofessionernas ansvar att övervaka ny och framväxande AI-lagar, som varierar från stat till stat och land till land. AI-lagar behandlar många aspekter av AI, men en av de främsta prioriteringarna för ny AI-reglering är skyddet av grundläggande mänskliga rättigheter, inklusive dataskydd.

De kritiska framgångsfaktorerna för att hantera dataskyddsfrågor är transparens gentemot användare, särskilt där AI utför profilering eller fattar automatiserade beslut som påverkar individer och möjliggör val, så att användare kan välja bort AI-användning som de inte känner sig bekväma med.

Vilka framtida trender ser du inom AI och dataskydd, och hur förbereder sig RingCentral för att ligga i framkant?

De stora trenderna är nya lagar som kommer att fortsätta att träda i kraft, användarnas ökande krav på transparens och kontroll, den alltmer växande behovet av att hantera AI-relaterade risker, inklusive tredjepartsrisker, och den ökande risken för cyberhot i AI.

Företag måste införa robusta styrelser och team måste samarbeta över funktioner för att säkerställa intern samstämmighet, minimera risker och öka användarnas förtroende. På RingCentral förblir vårt åtagande till dataskydd, datasäkerhet och transparens obesegrat. Vi tar dessa saker på allvar. Genom vår AI-styrning och våra AI-dataskyddsprinciper är RingCentral åtagande att etisk AI.

Tack för det utmärkta intervjun, läsare som vill lära sig mer kan besöka RingCentral.