Paola Zeni, Chief Privacy Officer di RingCentral – Seri Wawancara

Paola Zeni adalah Chief Privacy Officer di RingCentral (RNG ). Ia adalah pengacara privasi internasional dengan lebih dari 20 tahun pengalaman privasi dan veteran industri keamanan siber, telah bekerja di Symantec dan di Palo Alto Networks (PANW ), di mana ia membangun program privasi dari awal.

Apa yang menginspirasi Anda untuk mengejar karir di privasi data?

Pada akhir 1990-an, ketika negara-negara anggota Uni Eropa mengimplementasikan Direktif Perlindungan Data 1995, privasi data mulai muncul di Eropa sebagai isu penting. Sebagai pengacara teknologi yang bekerja dengan perusahaan teknologi seperti HP dan Agilent Technologies (A ), saya menganggap ini sebagai topik yang relevan dan mulai memperhatikan dan memahami persyaratan privasi. Saya dengan cepat tahu bahwa ini adalah area yang ingin saya libatkan, tidak hanya karena saya menemukannya secara hukum menarik dan menantang, tetapi juga karena ini adalah isu yang menyentuh banyak tim dan proses di seluruh organisasi. Terlibat dalam privasi data berarti bekerja dengan berbagai kelompok dan individu dan mempelajari banyak aspek bisnis. Mampu mempengaruhi dan mengarahkan perubahan pada isu penting di seluruh organisasi, sambil mengikuti bidang hukum yang berkembang, sangat memuaskan. Bekerja di privasi data saat ini lebih menarik dari sebelumnya, mengingat perkembangan teknologi dan kompleksitas hukum yang meningkat di tingkat global.

Ketika Anda pertama kali bergabung dengan RingCentral, Anda membuat sebuah Pusat Kepercayaan, apa itu secara khusus?

Di RingCentral kami percaya bahwa memberikan informasi kepada pelanggan dan mitra kami tentang privasi dan keamanan data mereka sangat penting untuk membangun dan mempertahankan kepercayaan pada layanan kami. Untuk alasan ini kami terus membuat materi dan sumber daya, seperti lembar data privasi produk untuk penawaran inti kami, makalah putih, dan pedoman kepatuhan, dan membuatnya tersedia untuk pelanggan dan mitra di Pusat Kepercayaan kami. Baru-baru ini kami menambahkan Makalah Transparansi AI kami. Pusat Kepercayaan adalah komponen kritis dari komitmen kami untuk transparansi dengan pemangku kepentingan utama.

Bagaimana RingCentral memastikan bahwa prinsip privasi terintegrasi ke dalam semua produk dan layanan yang didorong oleh AI?

Kecerdasan buatan dapat memberdayakan bisnis untuk membuka potensi baru dan dengan cepat mengekstrak informasi dan wawasan yang bermakna dari data mereka – tetapi dengan manfaat tersebut, datang tanggung jawab. Di RingCentral, kami tetap fokus pada melindungi pelanggan dan data mereka. Kami mencapai ini melalui pilar privasi yang memandu praktik pengembangan produk kami

Privasi oleh Desain: Kami menggunakan pendekatan privasi oleh desain dengan bekerja sama dengan penasihat produk, manajer produk, dan insinyur produk untuk memasukkan prinsip privasi dan persyaratan privasi di seluruh aspek produk dan layanan kami yang menerapkan AI. Penilaian privasi terintegrasi dalam siklus hidup pengembangan produk, dari ideasi hingga penerapan dan kami membangun pada itu untuk melakukan tinjauan AI dan pedoman.

Transparansi: Kami menawarkan materi dan sumber daya kepada pelanggan, mitra, dan pengguna tentang bagaimana data mereka dikumpulkan dan digunakan, sebagai bagian dari komitmen kami untuk transparansi dan membangun kepercayaan pada layanan kami.

Kontrol Pelanggan: Kami menyediakan opsi yang memberdayakan pelanggan untuk mempertahankan kontrol dalam memutuskan bagaimana mereka ingin AI kami berinteraksi dengan data mereka.

Apakah Anda dapat memberikan contoh langkah-langkah privasi khusus yang tertanam dalam solusi komunikasi AI-pertama RingCentral?

Pertama-tama, kami telah menambahkan informasi rinci tentang bagaimana kami mengumpulkan dan memproses data: siapa yang menyimpannya, pihak ketiga mana yang memiliki akses ke sana, dll. dalam lembar data privasi kami, yang diposting di Pusat Kepercayaan kami. Kami secara khusus menunjukkan data mana yang digunakan sebagai input untuk AI dan data mana yang dihasilkan sebagai output dari AI. Juga, sebagai bagian dari tinjauan produk kami dalam kolaborasi dengan penasihat produk, kami menerapkan pengungkapan untuk memenuhi komitmen kami untuk transparansi, dan kami menyediakan administrator pelanggan dengan opsi untuk mengontrol berbagi data dengan AI.

Mengapa sangat penting bagi organisasi untuk mempertahankan transparansi lengkap tentang pengumpulan dan penggunaan data di era AI?

Untuk memfasilitasi adopsi AI yang dapat dipercaya, sangat penting bagi organisasi untuk membangun kepercayaan tentang bagaimana AI memproses data dan akurasi output. Ini mencakup data yang AI latih, logika yang diterapkan oleh algoritma, dan sifat output.

Kami percaya bahwa ketika penyedia transparan dan berbagi informasi tentang AI mereka, bagaimana mereka bekerja, dan apa yang mereka gunakan, pelanggan dapat membuat keputusan yang tepat dan diberdayakan untuk memberikan pengungkapan yang lebih spesifik kepada pengguna mereka, sehingga meningkatkan adopsi AI dan kepercayaan. Ketika mengembangkan dan menyediakan AI, kami memikirkan semua pemangku kepentingan: pelanggan kami, tetapi juga karyawan, mitra, dan pelanggan mereka.

Langkah apa yang dapat diambil organisasi untuk memastikan bahwa vendor mereka mematuhi kebijakan penggunaan AI yang ketat?

Di RingCentral, kami percaya bahwa penerapan AI memerlukan kepercayaan antara kami dan vendor kami. Vendor harus berkomitmen untuk memasukkan privasi dan keamanan data ke dalam arsitektur produk mereka. Untuk alasan ini kami telah membangun proses due diligence vendor yang ada dengan menambahkan tinjauan AI khusus, dan kami telah menerapkan standar untuk penggunaan AI pihak ketiga, dengan persyaratan khusus untuk perlindungan RingCentral dan pelanggan kami.

Strategi apa yang digunakan RingCentral untuk memastikan bahwa data yang diberikan ke sistem AI akurat dan tidak bias?

Dengan keadilan sebagai prinsip panduan, kami terus mempertimbangkan dampak AI kami, dan tetap berkomitmen untuk mempertahankan kesadaran tentang potensi bias dan risiko, dengan mekanisme untuk mengidentifikasi dan memitigasi konsekuensi yang tidak diinginkan.

• Kami telah mengadopsi kerangka kerja khusus untuk identifikasi dan pencegahan bias sebagai bagian dari Kerangka Pengembangan AI Etis kami, yang kami terapkan pada semua tinjauan produk kami.
• Penggunaan kasus kami untuk AI melibatkan human-in-the-loop untuk mengevaluasi output dari sistem AI kami. Sebagai contoh, di Catatan Pintar kami, bahkan tanpa memantau konten catatan yang dihasilkan, kami dapat menyimpulkan dari tindakan pengguna apakah catatan tersebut akurat atau tidak. Jika pengguna mengedit catatan secara terus-menerus, itu mengirim sinyal ke RingCentral untuk menyesuaikan prompt.
• Sebagai contoh lain dari human-in-the-loop, proses generasi yang ditingkatkan oleh pengambilan kami memungkinkan output untuk secara ketat difokuskan pada basis pengetahuan khusus dan menyediakan referensi untuk sumber output yang dihasilkan. Ini memungkinkan manusia untuk memverifikasi respons dan untuk lebih dalam ke referensi itu sendiri.

Dengan memastikan AI kami akurat, kami berdiri oleh janji kami untuk menyediakan AI yang dapat dijelaskan dan transparan.

Tantangan privasi apa yang muncul dengan AI dalam penerapan perusahaan skala besar, dan bagaimana mereka ditangani?

Pertama-tama perlu diingat bahwa hukum privasi yang ada berisi ketentuan yang berlaku untuk kecerdasan buatan. Ketika hukum teknologi-netral, kerangka hukum dan pedoman etika berlaku untuk teknologi baru.. Oleh karena itu, organisasi perlu memastikan bahwa penggunaan AI mereka mematuhi hukum privasi yang ada, seperti GDPR dan CPRA.

Kedua, tanggung jawab profesional privasi adalah untuk memantau hukum AI yang baru muncul dan berkembang, yang bervariasi dari negara ke negara. Hukum AI menangani banyak aspek AI, tetapi salah satu prioritas utama untuk regulasi AI baru adalah perlindungan hak asasi manusia dasar, termasuk privasi.

Faktor keberhasilan kritis dalam menangani masalah privasi adalah transparansi terhadap pengguna, terutama di mana AI melakukan profil atau membuat keputusan otomatis yang mempengaruhi individu dan memungkinkan pengguna untuk memilih keluar dari penggunaan AI yang mereka tidak merasa nyaman tentang.

Tren apa yang Anda lihat di masa depan dalam AI dan privasi data, dan bagaimana RingCentral mempersiapkan diri untuk tetap memimpin?

Tren utama adalah hukum baru yang akan terus berlaku, pengguna yang meningkatkan tuntutan untuk transparansi dan kontrol, kebutuhan yang terus tumbuh untuk mengelola risiko terkait AI, termasuk risiko pihak ketiga, dan meningkatnya risiko siber dalam AI.

Perusahaan perlu membangun tata kelola yang kuat dan tim harus berkolaborasi di seluruh fungsi untuk memastikan keselarasan internal, meminimalkan risiko, dan meningkatkan kepercayaan pengguna. Di RingCentral, komitmen kami yang berkelanjutan untuk privasi, keamanan, dan transparansi tetap tak tertandingi. Kami mengambil hal-hal ini dengan serius. Melalui tata kelola AI kami dan pilar privasi AI, RingCentral berkomitmen untuk AI etis.

Terima kasih atas wawancara yang luar biasa, pembaca yang ingin mempelajari lebih lanjut harus mengunjungi RingCentral.