Paola Zeni, Chief Privacy Officer at RingCentral – Interview Series

Paola Zeni is de Chief Privacy Officer bij RingCentral. Zij is een internationale privacyjurist met meer dan 20 jaar ervaring op het gebied van privacy en een veteran van de cybersecurity-industrie, waar zij heeft gewerkt bij Symantec en bij Palo Alto Networks, waar zij het privacyprogramma van de grond af aan heeft opgebouwd.

Wat inspireerde u om een carrière in gegevensbescherming na te streven?

In de late jaren 90, toen de EU-lidstaten de Richtlijn gegevensbescherming van 1995 implementeerden, begon gegevensbescherming in Europa als een belangrijk onderwerp te ontstaan. Als technologiejurist die werkte met technologiebedrijven zoals HP en Agilent Technologies, vond ik dit een relevant onderwerp en begon ik hier aandacht aan te besteden en mijn begrip van de privacyvereisten te vergroten. Ik wist al snel dat dit een gebied was waarin ik betrokken wilde zijn, niet alleen omdat ik het juridisch interessant en uitdagend vond, maar ook omdat het een onderwerp is dat veel teams en processen in de hele organisatie raakt. Betrokken zijn bij gegevensbescherming betekent werken met verschillende groepen en individuen en leren over meerdere aspecten van het bedrijf. In staat zijn om verandering te bewerkstelligen en te stimuleren op een belangrijk onderwerp over meerdere functies in de organisatie, terwijl een opkomend juridisch gebied wordt gevolgd, is extreem belonend. Werken in gegevensbescherming is vandaag meer spannend dan ooit, gezien de technologische ontwikkelingen en de toegenomen juridische complexiteit op mondiaal niveau.

Toen u voor het eerst bij RingCentral kwam, heeft u een Trust Center gecreëerd, wat is dit specifiek?

Bij RingCentral geloven we dat het verstrekken van informatie aan onze klanten en partners over de privacy en beveiliging van hun gegevens essentieel is om vertrouwen in onze diensten op te bouwen en te onderhouden. Daarom blijven we nevenproducten en middelen creëren, zoals productprivacy-informatiebladen voor onze kernaanbod, whitepapers en compliance-gidsen, en maken we deze beschikbaar voor klanten en partners op ons openbaar toegankelijke Trust Center. Onlangs hebben we onze AI-transparantie-whitepaper toegevoegd. Het Trust Center is een kritisch onderdeel van ons commitment aan transparantie met belanghebbenden.

Hoe zorgt RingCentral ervoor dat privacybeginselen geïntegreerd zijn in alle AI-gedreven producten en diensten?

Kunstmatige intelligentie kan bedrijven in staat stellen om nieuw potentieel te ontgrendelen en snel betekenisvolle informatie en inzichten uit hun gegevens te extraheren – maar met die voordelen komt verantwoordelijkheid. Bij RingCentral blijven we onvermoeibaar gefocust op het beschermen van klanten en hun gegevens. We bereiken dit door middel van de privacyzuilen die onze productontwikkelingspraktijken leiden

Privacy by Design: We gebruiken onze privacy by design-aanpak door nauw samen te werken met productjuristen, productmanagers en productingenieurs om privacybeginselen en privacyvereisten in alle aspecten van onze producten en diensten te integreren die AI implementeren. Privacybeoordelingen zijn geïntegreerd in de productontwikkelingscyclus, van ideatie tot implementatie en we bouwen daarop voort om AI-beoordelingen en richtlijnen uit te voeren.

Transparantie: We bieden nevenproducten en middelen aan klanten, partners en gebruikers over hoe hun gegevens worden verzameld en gebruikt, als onderdeel van ons commitment aan transparantie en het opbouwen van vertrouwen in onze diensten.

Klantcontrole: We bieden opties die klanten in staat stellen om de controle te behouden over hoe onze AI met hun gegevens omgaat.

Kunt u voorbeelden geven van specifieke privacymaatregelen die zijn geïntegreerd in de AI-communicatieoplossingen van RingCentral?

Allereerst hebben we aan onze productdocumentatie informatie toegevoegd over hoe we gegevens verzamelen en verwerken: wie deze opslaat, welke derden toegang hebben tot deze gegevens, enz. in onze privacy-informatiebladen, die op ons Trust Center zijn gepubliceerd. We geven specifiek aan welke gegevens als invoer voor AI dienen en welke gegevens als uitvoer van AI worden gegenereerd. Bovendien implementeren we, als onderdeel van onze productbeoordelingen in samenwerking met productjuristen, kennisgevingen om ons commitment aan transparantie na te komen, en bieden we onze klantenbeheerders opties om de sharing van gegevens met AI te controleren.

Waarom is het cruciaal voor organisaties om complete transparantie te behouden over gegevensverzameling en -gebruik in de tijd van AI?

Om het vertrouwen in AI te stimuleren, is het essentieel voor organisaties om vertrouwen op te bouwen in de manier waarop AI gegevens verwerkt en in de nauwkeurigheid van de uitvoer. Dit omvat de gegevens waarop AI is getraind, de logica die door het algoritme wordt toegepast en de aard van de uitvoer.

We geloven dat wanneer aanbieders transparant zijn en informatie delen over hun AI, hoe het werkt en waarvoor het wordt gebruikt, klanten geïnformeerd kunnen beslissen en in staat zijn om specifiekere kennisgevingen te geven aan hun gebruikers, waardoor de adoptie van AI en vertrouwen worden verbeterd. Wanneer we AI ontwikkelen en aanbieden, denken we aan alle stakeholders: onze klanten, maar ook hun werknemers, partners en klanten.

Welke stappen kunnen organisaties nemen om ervoor te zorgen dat hun leveranciers zich houden aan strikte AI-gebruiksbeleid?

Bij RingCentral geloven we dat het inzetten van AI vertrouwen tussen ons en onze leveranciers vereist. Leveranciers moeten zich ertoe verplichten om privacy en gegevensbeveiliging in de architectuur van hun producten te integreren. Daarom hebben we ons bestaande leveranciersdue-diligenceproces uitgebreid met een specifieke AI-beoordeling en hebben we een standaard ingesteld voor het gebruik van derden-AI, met specifieke vereisten voor de bescherming van RingCentral en onze klanten.

Welke strategieën gebruikt RingCentral om ervoor te zorgen dat de gegevens die aan AI-systemen worden gevoerd, accuraat en onbevooroordeeld zijn?

Met eerlijkheid als leidraad, overwegen we constant de impact van onze AI en blijven we toegewijd aan het behoud van een bewustzijn van potentiële vooroordelen en risico’s, met mechanismen om onbedoelde gevolgen te identificeren en te mitigeren.

• We hebben een specifiek kader aangenomen voor de identificatie en preventie van vooroordelen als onderdeel van ons Ethical AI Development Framework, dat we toepassen op alle onze productbeoordelingen.
• Onze use cases voor AI omvatten een human-in-the-loop om de uitvoer van onze AI-systemen te evalueren. Bijvoorbeeld, in onze Smart Notes, zelfs zonder de inhoud van de gegenereerde notities te controleren, kunnen we afleiden uit de acties van gebruikers of de notities accuraat waren of niet. Als een gebruiker de notities constant bewerkt, geeft dit een signaal aan RingCentral om de prompts aan te passen.
• Als een ander voorbeeld van human-in-the-loop, stelt ons retrieval augmented generation-proces de uitvoer strikt te focussen op specifieke kennisdatabases en biedt het referenties voor de bronnen van de gegenereerde uitvoer. Dit stelt de mens in staat om de reactie te verifiëren en dieper in de referenties zelf te graven.

Door ervoor te zorgen dat onze AI accuraat is, staan we achter ons belofte om verklarende en transparante AI te bieden.

Welke privacyuitdagingen doen zich voor met AI in grote ondernemingsimplementaties, en hoe worden deze aangepakt?

Allereerst is het belangrijk om te onthouden dat bestaande privacywetten bepalingen bevatten die van toepassing zijn op kunstmatige intelligentie. Wanneer wetten technologie-neutraal zijn, zijn juridische kaders en ethische richtlijnen van toepassing op nieuwe technologieën. Daarom moeten organisaties ervoor zorgen dat hun gebruik van AI in overeenstemming is met bestaande privacywetten, zoals de AVG en de CPRA.

Ten tweede is de verantwoordelijkheid van privacyprofessionals om toezicht te houden op opkomende en ontluikende AI-wetten, die van staat tot staat en van land tot land verschillen. AI-wetten behandelen verschillende aspecten van AI, maar een van de belangrijkste prioriteiten voor nieuwe AI-regulering is de bescherming van fundamentele mensenrechten, waaronder privacy.

De kritieke succesfactoren bij het aanpakken van privacykwesties zijn transparantie naar gebruikers, vooral waar AI profiling uitvoert of geautomatiseerde beslissingen neemt die individuen beïnvloeden, en keuzes mogelijk maken, zodat gebruikers kunnen kiezen voor AI-gebruik waar zij zich niet prettig bij voelen.

Welke toekomstige trends ziet u in AI en gegevensbescherming, en hoe bereidt RingCentral zich voor om voorop te blijven lopen?

De belangrijkste trends zijn nieuwe wetten die in werking treden, de toenemende vraag van gebruikers naar transparantie en controle, de steeds groter wordende behoefte om AI-gerelateerde risico’s te beheren, waaronder risico’s van derden, en de toename van cyberrisico’s in AI.

Bedrijven moeten robuust bestuur en teams inzetten die samenwerken over functies heen om interne uitlijning te waarborgen, risico’s te minimaliseren en het vertrouwen van gebruikers te vergroten. Bij RingCentral blijft ons voortdurend commitment aan privacy, beveiliging en transparantie ongeëvenaard. We nemen deze zaken serieus. Door middel van ons AI-bestuur en onze AI-privacyzuilen is RingCentral toegewijd aan ethische AI.

Bedankt voor het geweldige interview, lezers die meer willen leren, kunnen RingCentral bezoeken.