Paola Zeni, Directrice de la protection de la vie privée chez RingCentral – Série d’entretiens

Paola Zeni est la Directrice de la protection de la vie privée chez RingCentral (RNG ). Elle est une avocate internationale en matière de protection de la vie privée avec plus de 20 ans d’expérience en matière de protection de la vie privée et une vétérane de l’industrie de la cybersécurité, ayant travaillé chez Symantec et chez Palo Alto Networks (PANW ), où elle a créé le programme de protection de la vie privée dès le départ.

Qu’est-ce qui vous a inspirée à poursuivre une carrière dans la protection des données ?

À la fin des années 1990, lorsque les États membres de l’UE mettaient en œuvre la directive sur la protection des données de 1995, la protection des données a commencé à émerger en Europe comme un problème important. En tant qu’avocate en technologie travaillant avec des sociétés de technologie telles que HP et Agilent Technologies (A ), j’ai considéré cela comme un sujet pertinent et j’ai commencé à prêter attention et à développer ma compréhension des exigences en matière de protection des données. J’ai rapidement su que c’était un domaine dans lequel je voulais être impliquée, non seulement parce que je le trouvais juridiquement intéressant et stimulant, mais aussi parce que c’est un problème qui touche de nombreux départements et processus dans l’ensemble de l’organisation. Être impliquée dans la protection des données signifie travailler avec différents groupes et individus et apprendre sur de nombreux aspects de l’entreprise. Pouvoir influencer et conduire le changement sur un problème important à travers de nombreuses fonctions dans l’organisation, tout en suivant un domaine juridique en développement, a été extrêmement gratifiant. Travailler dans la protection des données aujourd’hui est plus excitant que jamais, compte tenu des développements technologiques et des complexités juridiques accrues au niveau mondial.

Lorsque vous avez rejoint RingCentral pour la première fois, vous avez créé un Centre de confiance, qu’est-ce que c’est spécifiquement ?

Chez RingCentral, nous croyons que fournir à nos clients et à nos partenaires des informations sur la protection des données et la sécurité de leurs données est essentiel pour établir et maintenir la confiance dans nos services. Pour cette raison, nous continuons à créer du matériel et des ressources, telles que des feuilles de données de confidentialité des produits pour nos offres principales, des livres blancs et des guides de conformité, et à les rendre disponibles à nos clients et à nos partenaires sur notre Centre de confiance public. Récemment, nous avons ajouté notre livre blanc sur la transparence de l’IA. Le Centre de confiance est un élément essentiel de notre engagement envers la transparence avec les parties prenantes clés.

Comment RingCentral garantit-il que les principes de protection des données sont intégrés dans tous les produits et services basés sur l’IA ?

L’intelligence artificielle peut permettre aux entreprises de débloquer un nouveau potentiel et d’extraire rapidement des informations et des connaissances significatives de leurs données – mais avec ces avantages, vient la responsabilité. Chez RingCentral, nous restons sans cesse concentrés sur la protection de nos clients et de leurs données. Nous y parvenons grâce aux piliers de protection des données qui guident nos pratiques de développement de produits

Protection des données dès la conception: Nous utilisons notre approche de protection des données dès la conception en travaillant en étroite collaboration avec les conseillers produits, les gestionnaires de produits et les ingénieurs de produits pour intégrer les principes et les exigences de protection des données dans tous les aspects de nos produits et services qui mettent en œuvre l’IA. Les évaluations de protection des données sont intégrées dans le cycle de vie du développement de produit, de la conception à la mise en œuvre, et nous nous appuyons sur cela pour effectuer des examens et des conseils sur l’IA.

Transparence: Nous offrons du matériel et des ressources à nos clients, à nos partenaires et à nos utilisateurs sur la façon dont leurs données sont collectées et utilisées, dans le cadre de notre engagement envers la transparence et la construction de la confiance dans nos services.

Contrôle du client: Nous offrons des options qui permettent aux clients de maintenir le contrôle de la décision sur la façon dont ils veulent que notre IA interagisse avec leurs données.

Pouvez-vous fournir des exemples de mesures de protection des données spécifiques intégrées dans les solutions de communication basées sur l’IA de RingCentral ?

Tout d’abord, nous avons ajouté à notre documentation de produit des informations détaillant la façon dont nous collectons et traitons les données: qui les stocke, quels tiers y ont accès, etc. dans nos feuilles de données de confidentialité, qui sont publiées sur notre Centre de confiance. Nous spécifions explicitement quelles données servent d’entrée pour l’IA et quelles données sont générées comme sortie de l’IA. De plus, dans le cadre de nos examens de produits en collaboration avec les conseillers produits, nous mettons en œuvre des divulgations pour remplir notre engagement envers la transparence, et nous offrons à nos administrateurs de clients des options pour contrôler le partage de données avec l’IA.

Pourquoi est-il crucial pour les organisations de maintenir une transparence complète sur la collecte et l’utilisation des données à l’ère de l’IA ?

Pour favoriser l’adoption d’une IA de confiance, il est essentiel pour les organisations d’établir la confiance dans la façon dont l’IA traite les données et dans l’exactitude de la sortie. Cela s’étend aux données sur lesquelles l’IA est formée, à la logique appliquée par l’algorithme et à la nature de la sortie.

Nous croyons que lorsque les fournisseurs sont transparents et partagent des informations sur leur IA, sur la façon dont elle fonctionne et sur ce qu’elle est utilisée, les clients peuvent prendre des décisions éclairées et sont habilités à fournir des divulgations plus spécifiques à leurs utilisateurs, améliorant ainsi l’adoption de l’IA et la confiance. Lorsque nous développons et fournissons de l’IA, nous pensons à toutes les parties prenantes: nos clients, mais également leurs employés, partenaires et clients.

Quelles étapes les organisations peuvent-elles prendre pour garantir que leurs fournisseurs adhèrent à des politiques d’utilisation de l’IA strictes ?

Chez RingCentral, nous croyons que le déploiement de l’IA nécessite la confiance entre nous et nos fournisseurs. Les fournisseurs doivent s’engager à intégrer la protection des données et la sécurité dans l’architecture de leurs produits. Pour cette raison, nous avons ajouté à notre processus de diligence raisonnable des fournisseurs un examen spécifique de l’IA, et nous avons mis en place une norme pour l’utilisation de l’IA de tiers, avec des exigences spécifiques pour la protection de RingCentral et de nos clients.

Quelles stratégies RingCentral emploie-t-il pour garantir que les données alimentant les systèmes d’IA sont exactes et non biaisées ?

Avec l’équité comme principe directeur, nous considérons constamment l’impact de notre IA et nous nous engageons à maintenir une conscience des risques et des biais potentiels, avec des mécanismes en place pour identifier et atténuer toutes les conséquences involontaires.

• Nous avons adopté un cadre spécifique pour l’identification et la prévention des biais dans le cadre de notre Cadre de développement d’IA éthique, que nous appliquons à tous nos examens de produits.
• Nos cas d’utilisation de l’IA impliquent un humain dans la boucle pour évaluer les sorties de nos systèmes d’IA. Par exemple, dans nos Notes intelligentes, même sans surveiller le contenu des notes produites, nous pouvons en déduire des actions des utilisateurs si les notes étaient exactes ou non. Si un utilisateur édite constamment les notes, cela envoie un signal à RingCentral pour ajuster les invites.
• Comme un autre exemple d’humain dans la boucle, notre processus de génération augmentée de récupération permet que la sortie soit strictement centrée sur des bases de connaissances spécifiques et fournit des références pour les sources des sorties générées. Cela permet à l’humain de vérifier la réponse et de creuser plus profondément dans les références elles-mêmes.

En garantissant que notre IA est exacte, nous tenons notre promesse de fournir une IA explicable et transparente.

Quels défis de protection des données surgissent avec l’IA dans les déploiements d’entreprise à grande échelle, et comment sont-ils abordés ?

Tout d’abord, il est important de rappeler que les lois sur la protection des données existantes contiennent des dispositions applicables à l’intelligence artificielle. Lorsque les lois sont neutres sur le plan technologique, les cadres juridiques et les guides éthiques s’appliquent aux nouvelles technologies.. Par conséquent, les organisations doivent veiller à ce que leur utilisation de l’IA soit conforme aux lois sur la protection des données existantes, telles que le RGPD et le CPRA.

Deuxièmement, la responsabilité des professionnels de la protection des données est de surveiller les lois et les réglementations émergentes sur l’IA, qui varient d’un État à l’autre et d’un pays à l’autre. Les lois sur l’IA abordent de nombreux aspects de l’IA, mais l’une des priorités principales de la nouvelle réglementation sur l’IA est la protection des droits fondamentaux de l’homme, y compris la protection des données.

Les facteurs clés de succès pour résoudre les problèmes de protection des données sont la transparence envers les utilisateurs, en particulier lorsque l’IA effectue un profilage ou prend des décisions automatisées ayant un impact sur les individus, et permettre aux utilisateurs de choisir de ne pas utiliser l’IA s’ils ne se sentent pas à l’aise.

Quelles tendances futures voyez-vous dans l’IA et la protection des données, et comment RingCentral se prépare-t-il pour rester en tête ?

Les principales tendances sont de nouvelles lois qui continueront à entrer en vigueur, les utilisateurs augmentant les exigences de transparence et de contrôle, le besoin croissant de gérer les risques liés à l’IA, y compris les risques liés aux tiers, et la montée des risques de cybersécurité dans l’IA.

Les entreprises doivent mettre en place une gouvernance robuste et les équipes doivent collaborer entre les fonctions pour garantir l’alignement interne, minimiser les risques et renforcer la confiance des utilisateurs. Chez RingCentral, notre engagement continu en faveur de la protection des données, de la sécurité et de la transparence reste inégalé. Nous prenons ces choses au sérieux. Grâce à notre gouvernance de l’IA et à nos piliers de protection des données, RingCentral est engagé en faveur d’une IA éthique.

Je vous remercie pour cette grande interview, les lecteurs qui souhaitent en savoir plus peuvent visiter RingCentral.