Paola Zeni, Diretora de Privacidade da RingCentral – Série de Entrevistas

Paola Zeni é a Diretora de Privacidade da RingCentral (RNG ). Ela é uma advogada internacional de privacidade com mais de 20 anos de experiência em privacidade e uma veterana da indústria de cibersegurança, tendo trabalhado na Symantec e na Palo Alto Networks (PANW ), onde construiu o programa de privacidade do zero.

O que a inspirou a seguir carreira em privacidade de dados?

No final dos anos 90, quando os Estados-Membros da UE estavam implementando a Diretiva de Proteção de Dados de 1995, a privacidade de dados começou a surgir na Europa como uma questão importante. Como uma advogada de tecnologia trabalhando com empresas de tecnologia, como HP e Agilent Technologies (A ), considerei este um tópico relevante e comecei a prestar atenção e a crescer meu entendimento dos requisitos de privacidade. Eu rapidamente soube que esta era uma área que eu queria estar envolvida, não apenas porque eu a achei legalmente interessante e desafiadora, mas também porque é uma questão que toca muitas equipes e muitos processos em toda a organização. Estar envolvida em privacidade de dados significa trabalhar com diferentes grupos e indivíduos e aprender sobre múltiplos aspectos do negócio. Ser capaz de influenciar e impulsionar mudanças em uma questão importante em muitas funções na organização, enquanto segue uma área jurídica em desenvolvimento, tem sido extremamente gratificante. Trabalhar em privacidade de dados hoje é mais emocionante do que nunca, considerando os desenvolvimentos tecnológicos e as complexidades legais em nível global.

Quando você se juntou à RingCentral, você criou um Centro de Confiança, o que é isso especificamente?

Na RingCentral, acreditamos que fornecer aos nossos clientes e parceiros informações sobre a privacidade e a segurança de seus dados é essencial para construir e manter a confiança em nossos serviços. Para isso, continuamos a criar materiais e recursos, como folhas de dados de privacidade de produtos para nossas ofertas principais, whitepapers e guias de conformidade, e os tornamos disponíveis aos clientes e parceiros em nosso Centro de Confiança público. Recentemente, adicionamos nosso Whitepaper de Transparência de IA. O Centro de Confiança é um componente crítico de nosso compromisso com a transparência com partes interessadas-chave.

Como a RingCentral garante que os princípios de privacidade sejam integrados em todos os produtos e serviços impulsionados por IA?

A inteligência artificial pode empoderar os negócios a desbloquear novo potencial e rapidamente extrair informações e insights significativos de seus dados – mas com esses benefícios, vem a responsabilidade. Na RingCentral, permanecemos focados em proteger os clientes e seus dados. Nós realizamos isso por meio das nossas pilares de privacidade que orientam nossas práticas de desenvolvimento de produtos

Privacidade por Design: Nós aproveitamos nossa abordagem de privacidade por design, trabalhando em estreita colaboração com conselheiros de produtos, gerentes de produtos e engenheiros de produtos para incorporar princípios de privacidade e requisitos de privacidade em todos os aspectos de nossos produtos e serviços que implementam IA. Avaliações de privacidade são integradas ao ciclo de vida do desenvolvimento de produtos, desde a concepção até a implantação, e construímos sobre isso para realizar revisões e orientação de IA.

Transparência: Nós oferecemos materiais e recursos aos clientes, parceiros e usuários sobre como seus dados são coletados e usados, como parte de nosso compromisso com a transparência e a construção da confiança em nossos serviços.

Controle do Cliente: Nós fornecemos opções que permitem aos clientes manter o controle sobre como eles querem que nossa IA interaja com seus dados.

Pode fornecer exemplos de medidas de privacidade específicas incorporadas nas soluções de comunicação de IA da RingCentral?

Em primeiro lugar, adicionamos às nossas documentações de produtos informações detalhadas sobre como coletamos e processamos dados: quem os armazena, quais terceiros têm acesso a eles, etc. em nossas folhas de dados de privacidade, que são publicadas em nosso Centro de Confiança. Nós especificamente destacamos quais dados servem como entrada para IA e quais dados são gerados como saída da IA. Além disso, como parte de nossas revisões de produtos em colaboração com conselheiros de produtos, implementamos divulgações para atender ao nosso compromisso com a transparência, e fornecemos aos administradores de nossos clientes opções para controlar a partilha de dados com IA.

Por que é crucial para as organizações manter a transparência completa sobre a coleta e uso de dados na era da IA?

Para promover a adoção de IA confiável, é imperativo que as organizações estabeleçam a confiança em como a IA processa os dados e na precisão da saída. Isso se estende aos dados nos quais a IA é treinada, à lógica aplicada pelo algoritmo e à natureza da saída.

Acreditamos que, quando os fornecedores são transparentes e compartilham informações sobre sua IA, como ela funciona e para que é usada, os clientes podem tomar decisões informadas e são capacitados a fornecer divulgações mais específicas aos seus usuários, melhorando assim a adoção da IA e a confiança. Ao desenvolver e fornecer IA, pensamos em todas as partes interessadas: nossos clientes, mas também seus funcionários, parceiros e clientes.

Quais passos as organizações podem dar para garantir que seus fornecedores adiram a políticas rigorosas de uso de IA?

Na RingCentral, acreditamos que a implantação de IA exige confiança entre nós e nossos fornecedores. Os fornecedores devem comprometer-se a incorporar privacidade e segurança de dados na arquitetura de seus produtos. Por esse motivo, construímos sobre nosso processo existente de due diligence de fornecedores, adicionando uma revisão específica de IA, e implementamos um padrão para o uso de IA de terceiros, com requisitos específicos para a proteção da RingCentral e de nossos clientes.

Quais estratégias a RingCentral emprega para garantir que os dados alimentados em sistemas de IA sejam precisos e imparciais?

Com a justiça como um princípio orientador, estamos constantemente considerando o impacto de nossa IA e permanecemos comprometidos em manter a consciência de possíveis vieses e riscos, com mecanismos em lugar para identificar e mitigar quaisquer consequências não intencionais.

• Nós adotamos um quadro específico para a identificação e prevenção de vieses como parte de nosso Quadro de Desenvolvimento de IA Ética, que aplicamos a todas as nossas revisões de produtos.
• Nosso uso de IA envolve um humano no loop para avaliar as saídas de nossos sistemas de IA. Por exemplo, em nossas Notas Inteligentes, mesmo sem monitorar o conteúdo das notas produzidas, podemos inferir das ações dos usuários se as notas foram precisas ou não. Se um usuário edita as notas constantemente, isso envia um sinal para a RingCentral para ajustar os prompts.
• Como outro exemplo de humano no loop, nosso processo de geração aumentada de recuperação permite que a saída seja estritamente focada em bases de conhecimento específicas e fornece referências para as fontes das saídas geradas. Isso permite que o humano verifique a resposta e aprofunde-se nas referências em si.

Ao garantir que nossa IA seja precisa, nos comprometemos a fornecer IA explicável e transparente.

Quais desafios de privacidade surgem com a IA em implantações de empresa em larga escala, e como são abordados?

Em primeiro lugar, é importante lembrar que as leis de privacidade existentes contêm disposições aplicáveis à inteligência artificial. Quando as leis são tecnologicamente neutras, os quadros legais e os postes de orientação ética se aplicam a novas tecnologias.. Portanto, as organizações precisam garantir que o uso de IA esteja em conformidade com as leis de privacidade existentes, como o GDPR e o CPRA.

Em segundo lugar, a responsabilidade dos profissionais de privacidade é monitorar as leis de IA emergentes e nascentes, que variam de estado para estado e de país para país. As leis de IA abordam numerosos aspectos de IA, mas uma das principais prioridades para a nova regulação de IA é a proteção dos direitos humanos fundamentais, incluindo a privacidade.

Os fatores críticos de sucesso na abordagem de questões de privacidade são a transparência para os usuários, especialmente onde a IA executa perfis ou toma decisões automatizadas que afetam indivíduos, e permite que os usuários optem por não usar a IA que não se sentem confortáveis.

Quais tendências futuras você vê em IA e privacidade de dados, e como a RingCentral está se preparando para ficar à frente?

As principais tendências são novas leis que continuarão a entrar em vigor, os usuários aumentam as demandas por transparência e controle, a necessidade crescente de gerenciar riscos relacionados à IA, incluindo riscos de terceiros, e o aumento dos riscos cibernéticos na IA.

As empresas precisam estabelecer governança robusta e as equipes devem colaborar entre funções para garantir alinhamento interno, minimizar riscos e aumentar a confiança dos usuários. Na RingCentral, nosso compromisso contínuo com a privacidade, a segurança e a transparência permanece inigualável. Nós levamos essas coisas a sério. Por meio de nossa governança de IA e de nossos pilares de privacidade de IA, a RingCentral está comprometida com a IA ética.

Obrigado pela grande entrevista, leitores que desejam aprender mais devem visitar RingCentral.