Paola Zeni, Directora de Privacidad en RingCentral – Serie de Entrevistas

Paola Zeni es la Directora de Privacidad en RingCentral (RNG ). Es una abogada internacional de privacidad con más de 20 años de experiencia en privacidad y una veterana de la industria de la ciberseguridad, habiendo trabajado en Symantec y en Palo Alto Networks (PANW ), donde creó el programa de privacidad desde cero.

¿Qué te inspiró a perseguir una carrera en privacidad de datos?

A fines de la década de 1990, cuando los estados miembros de la UE estaban implementando la Directiva de Protección de Datos de 1995, la privacidad de datos comenzó a surgir en Europa como un tema importante. Como abogada de tecnología que trabajaba con empresas de tecnología como HP y Agilent Technologies (A ), consideré que este era un tema relevante y comencé a prestar atención y a crecer mi comprensión de los requisitos de privacidad. Rápidamente supe que esta era un área en la que quería involucrarme, no solo porque la encontraba legalmente interesante y desafiante, sino también porque es un tema que toca muchos equipos y procesos en toda la organización. Estar involucrada en la privacidad de datos significa trabajar con diferentes grupos e individuos y aprender sobre múltiples aspectos del negocio. Poder influir y impulsar el cambio en un tema importante en toda la organización, mientras sigo una área legal en desarrollo, ha sido extremadamente gratificante. Trabajar en la privacidad de datos hoy en día es más emocionante que nunca, considerando los desarrollos tecnológicos y las complejidades legales a nivel global.

Cuando te uniste a RingCentral por primera vez, creaste un Centro de Confianza, ¿qué es específicamente?

En RingCentral creemos que proporcionar a nuestros clientes y socios información sobre la privacidad y la seguridad de sus datos es esencial para construir y mantener la confianza en nuestros servicios. Por esta razón, seguimos creando materiales y recursos, como hojas de datos de privacidad de productos para nuestras ofertas principales, documentos técnicos y guías de cumplimiento, y los hacemos disponibles para los clientes y socios en nuestro Centro de Confianza público. Recientemente agregamos nuestro Documento Técnico de Transparencia de IA. El Centro de Confianza es un componente crítico de nuestro compromiso con la transparencia hacia los partes interesadas clave.

¿Cómo garantiza RingCentral que los principios de privacidad se integren en todos los productos y servicios impulsados por IA?

La inteligencia artificial puede empoderar a las empresas para desbloquear un nuevo potencial y extraer rápidamente información y conocimientos significativos de sus datos, pero con esos beneficios viene la responsabilidad. En RingCentral, nos mantenemos enfocados implacablemente en proteger a los clientes y sus datos. Logramos esto a través de los pilares de privacidad que guían nuestras prácticas de desarrollo de productos

Diseño de privacidad: Utilizamos nuestro enfoque de diseño de privacidad trabajando en estrecha colaboración con asesores de productos, gerentes de productos y ingenieros de productos para integrar los principios de privacidad y los requisitos de privacidad en todos los aspectos de nuestros productos y servicios que implementan IA. Las evaluaciones de privacidad se integran en el ciclo de vida de desarrollo de productos, desde la conceptualización hasta la implementación, y nos basamos en eso para realizar revisiones y orientación de IA.

Transparencia: Ofrecemos materiales y recursos a los clientes, socios y usuarios sobre cómo se recopila y utiliza sus datos, como parte de nuestro compromiso con la transparencia y la construcción de la confianza en nuestros servicios.

Control del cliente: Proporcionamos opciones que permiten a los clientes mantener el control al decidir cómo quieren que nuestra IA interactúe con sus datos.

¿Puedes proporcionar ejemplos de medidas de privacidad específicas integradas en las soluciones de comunicación de IA de RingCentral?

En primer lugar, hemos agregado a nuestra documentación de productos información que detalla cómo recopilamos y procesamos los datos: quién los almacena, qué terceros tienen acceso a ellos, etc. en nuestras hojas de datos de privacidad, que se publican en nuestro Centro de Confianza. Específicamente, indicamos qué datos sirven como entrada para la IA y qué datos se generan como salida de la IA. Además, como parte de nuestras revisiones de productos en colaboración con asesores de productos, implementamos divulgaciones para cumplir con nuestro compromiso de transparencia, y proporcionamos a los administradores de nuestros clientes opciones para controlar el intercambio de datos con la IA.

¿Por qué es crucial para las organizaciones mantener la transparencia completa sobre la recopilación y el uso de datos en la era de la IA?

Para fomentar la adopción de una IA de confianza, es imperativo que las organizaciones establezcan la confianza en cómo la IA procesa los datos y en la precisión de la salida. Esto se extiende a los datos en los que se entrena la IA, la lógica aplicada por el algoritmo y la naturaleza de la salida.

Creemos que cuando los proveedores son transparentes y comparten información sobre su IA, cómo funciona y para qué se utiliza, los clientes pueden tomar decisiones informadas y están facultados para proporcionar divulgaciones más específicas a sus usuarios, lo que mejora la adopción de la IA y la confianza. Cuando desarrollamos y proporcionamos IA, pensamos en todas las partes interesadas: nuestros clientes, pero también sus empleados, socios y clientes.

¿Qué pasos pueden seguir las organizaciones para garantizar que sus proveedores cumplan con políticas de uso de IA estrictas?

En RingCentral, creemos que la implementación de IA requiere confianza entre nosotros y nuestros proveedores. Los proveedores deben comprometerse a integrar la privacidad y la seguridad de los datos en la arquitectura de sus productos. Por esta razón, hemos ampliado nuestro proceso de debida diligencia existente para proveedores agregando una revisión de IA específica, y hemos implementado un estándar para el uso de IA de terceros, con requisitos específicos para la protección de RingCentral y nuestros clientes.

¿Qué estrategias emplea RingCentral para garantizar que los datos alimentados a los sistemas de IA sean precisos y no sesgados?

Con la equidad como principio rector, estamos constantemente considerando el impacto de nuestra IA y nos comprometemos a mantener la conciencia de los posibles sesgos y riesgos, con mecanismos para identificar y mitigar cualquier consecuencia no intencionada.

• Hemos adoptado un marco específico para la identificación y prevención de sesgos como parte de nuestro Marco de Desarrollo de IA Ética, que aplicamos a todas nuestras revisiones de productos.
• Nuestros casos de uso de IA involucran un humano en el bucle para evaluar las salidas de nuestros sistemas de IA. Por ejemplo, en nuestras Notas Inteligentes, incluso sin supervisar el contenido de las notas producidas, podemos inferir de las acciones de los usuarios si las notas fueron precisas o no. Si un usuario edita las notas constantemente, envía una señal a RingCentral para ajustar las sugerencias.
• Como otro ejemplo de humano en el bucle, nuestro proceso de generación aumentada de recuperación permite que la salida se centre estrictamente en bases de datos de conocimiento específicas y proporciona referencias para las fuentes de las salidas generadas. Esto permite que el humano verifique la respuesta y profundice en las referencias en sí.

Al garantizar que nuestra IA sea precisa, nos mantenemos firmes en nuestra promesa de proporcionar IA explicable y transparente.

¿Qué desafíos de privacidad surgen con la IA en implementaciones empresariales a gran escala, y cómo se abordan?

En primer lugar, es importante recordar que las leyes de privacidad existentes contienen disposiciones que son aplicables a la inteligencia artificial. Cuando las leyes son tecnológicamente neutrales, los marcos legales y los puntos de referencia éticos se aplican a las nuevas tecnologías. Por lo tanto, las organizaciones necesitan garantizar que su uso de la IA cumpla con las leyes de privacidad existentes, como el RGPD y la CPRA.

En segundo lugar, la responsabilidad de los profesionales de la privacidad es monitorear las leyes de IA emergentes y en desarrollo, que varían de estado a estado y de país a país. Las leyes de IA abordan numerosos aspectos de la IA, pero una de las principales prioridades para la nueva regulación de la IA es la protección de los derechos humanos fundamentales, incluida la privacidad.

Los factores críticos de éxito en la abordar los problemas de privacidad son la transparencia hacia los usuarios, especialmente cuando la IA realiza perfiles o toma decisiones automatizadas que afectan a las personas y permiten a los usuarios optar por no utilizar la IA si no se sienten cómodos con ella.

¿Qué tendencias futuras ves en la IA y la privacidad de datos, y cómo se prepara RingCentral para mantenerse por delante?

Las principales tendencias son las nuevas leyes que seguirán entrando en vigor, las crecientes demandas de los usuarios de transparencia y control, la necesidad cada vez mayor de gestionar los riesgos relacionados con la IA, incluidos los riesgos de terceros, y el aumento de los riesgos cibernéticos en la IA.

Las empresas necesitan establecer una gobernanza sólida y los equipos deben colaborar a través de las funciones para garantizar la alineación interna, minimizar los riesgos y aumentar la confianza de los usuarios. En RingCentral, nuestro compromiso continuo con la privacidad, la seguridad y la transparencia sigue sin igual. Nos tomamos estas cosas en serio. A través de nuestra gobernanza de IA y nuestros pilares de privacidad de IA, RingCentral se compromete con la IA ética.

Gracias por la gran entrevista, los lectores que deseen aprender más pueden visitar RingCentral.