Paola Zeni, Chief Privacy Officer tại RingCentral – Phỏng vấn

Paola Zeni là Chief Privacy Officer tại RingCentral (RNG ). Cô là một luật sư quốc tế về quyền riêng tư với hơn 20 năm kinh nghiệm về quyền riêng tư và là một chuyên gia trong ngành công nghiệp an ninh mạng, đã từng làm việc tại Symantec và tại Palo Alto Networks (PANW ), nơi cô đã xây dựng chương trình quyền riêng tư từ đầu.

Điều gì đã truyền cảm hứng cho bạn để theo đuổi sự nghiệp trong lĩnh vực quyền riêng tư dữ liệu?

Vào cuối những năm 1990, khi các quốc gia thành viên EU đang thực hiện Chỉ thị Bảo vệ Dữ liệu năm 1995, quyền riêng tư dữ liệu bắt đầu xuất hiện ở châu Âu như một vấn đề quan trọng. Là một luật sư công nghệ làm việc với các công ty công nghệ như HP và Agilent Technologies (A ), tôi coi đây là một chủ đề liên quan và bắt đầu chú ý và phát triển sự hiểu biết về các yêu cầu quyền riêng tư. Tôi nhanh chóng biết rằng đây là một lĩnh vực tôi muốn tham gia, không chỉ vì tôi thấy nó thú vị và đầy thách thức về mặt pháp lý, mà còn vì nó là một vấn đề ảnh hưởng đến nhiều nhóm và quy trình trên toàn tổ chức. Việc tham gia vào quyền riêng tư dữ liệu có nghĩa là làm việc với các nhóm và cá nhân khác nhau và tìm hiểu về nhiều khía cạnh của kinh doanh. Việc có thể ảnh hưởng và thúc đẩy thay đổi về một vấn đề quan trọng trên nhiều chức năng trong tổ chức, đồng thời theo dõi một lĩnh vực pháp lý đang phát triển, đã rất bổ ích. Làm việc trong lĩnh vực quyền riêng tư dữ liệu ngày nay thú vị hơn bao giờ hết, xét đến sự phát triển công nghệ và sự phức tạp pháp lý ngày càng tăng trên toàn cầu.

Khi bạn đầu tiên tham gia RingCentral, bạn đã tạo ra một Trung tâm Tin cậy, điều này cụ thể là gì?

Tại RingCentral, chúng tôi tin rằng việc cung cấp cho khách hàng và đối tác của mình thông tin về quyền riêng tư và bảo mật dữ liệu của họ là điều cần thiết để xây dựng và duy trì niềm tin vào các dịch vụ của chúng tôi. Vì lý do này, chúng tôi tiếp tục tạo ra các tài liệu và nguồn lực, chẳng hạn như bảng dữ liệu quyền riêng tư sản phẩm cho các dịch vụ cốt lõi của chúng tôi, sách trắng và hướng dẫn tuân thủ, và cung cấp chúng cho khách hàng và đối tác trên Trung tâm Tin cậy công khai của chúng tôi. Gần đây nhất, chúng tôi đã thêm Sách trắng Minh bạch AI của mình. Trung tâm Tin cậy là một thành phần quan trọng của cam kết minh bạch của chúng tôi với các bên liên quan chính.

Làm thế nào RingCentral đảm bảo rằng các nguyên tắc quyền riêng tư được tích hợp vào tất cả các sản phẩm và dịch vụ được thúc đẩy bởi AI?

Trí tuệ nhân tạo có thể trao quyền cho các doanh nghiệp để mở khóa tiềm năng mới và nhanh chóng trích xuất thông tin và thông tin có ý nghĩa từ dữ liệu của họ – nhưng với những lợi ích đó, đi kèm với trách nhiệm. Tại RingCentral, chúng tôi vẫn tập trung không ngừng vào việc bảo vệ khách hàng và dữ liệu của họ. Chúng tôi thực hiện việc này thông qua các nguyên tắc quyền riêng tư hướng dẫn các thực tiễn phát triển sản phẩm của chúng tôi

Thiết kế quyền riêng tư: Chúng tôi tận dụng phương pháp thiết kế quyền riêng tư của mình bằng cách làm việc chặt chẽ với cố vấn sản phẩm, quản lý sản phẩm và kỹ sư sản phẩm để nhúng các nguyên tắc quyền riêng tư và yêu cầu quyền riêng tư vào các khía cạnh của sản phẩm và dịch vụ của chúng tôi thực hiện AI. Các đánh giá quyền riêng tư được tích hợp vào chu kỳ phát triển sản phẩm, từ ý tưởng đến triển khai và chúng tôi xây dựng trên cơ sở đó để thực hiện các đánh giá và hướng dẫn AI.

Minh bạch: Chúng tôi cung cấp các tài liệu và nguồn lực cho khách hàng, đối tác và người dùng về cách thu thập và sử dụng dữ liệu của họ, như một phần của cam kết minh bạch và xây dựng niềm tin vào các dịch vụ của chúng tôi.

Kiểm soát của khách hàng: Chúng tôi cung cấp các tùy chọn cho phép khách hàng duy trì quyền kiểm soát trong việc quyết định làm thế nào họ muốn AI của chúng tôi tương tác với dữ liệu của họ.

Có thể bạn cung cấp các ví dụ cụ thể về các biện pháp quyền riêng tư được nhúng trong các giải pháp giao tiếp AI đầu tiên của RingCentral?

Trước hết, chúng tôi đã thêm thông tin chi tiết về cách chúng tôi thu thập và xử lý dữ liệu vào tài liệu sản phẩm của mình: ai lưu trữ nó, bên thứ ba nào có quyền truy cập vào nó, v.v. trong các bảng dữ liệu quyền riêng tư của chúng tôi, được đăng trên Trung tâm Tin cậy của chúng tôi. Chúng tôi đặc biệt chỉ ra dữ liệu nào được sử dụng làm đầu vào cho AI và dữ liệu nào được tạo ra làm đầu ra từ AI. Ngoài ra, như một phần của các đánh giá sản phẩm của chúng tôi cùng với cố vấn sản phẩm, chúng tôi thực hiện các tiết lộ để đáp ứng cam kết minh bạch của chúng tôi, và chúng tôi cung cấp cho các quản trị viên của khách hàng của chúng tôi các tùy chọn để kiểm soát việc chia sẻ dữ liệu với AI.

Tại sao việc duy trì tính minh bạch hoàn toàn về thu thập và sử dụng dữ liệu lại quan trọng đối với các tổ chức trong thời đại AI?

Để thúc đẩy việc áp dụng AI đáng tin cậy, điều quan trọng là các tổ chức phải thiết lập niềm tin vào cách AI xử lý dữ liệu và độ chính xác của đầu ra. Điều này bao gồm cả dữ liệu AI được đào tạo, logic được áp dụng bởi thuật toán và bản chất của đầu ra.

Chúng tôi tin rằng khi các nhà cung cấp minh bạch và chia sẻ thông tin về AI của họ, cách nó hoạt động và nó được sử dụng cho gì, khách hàng có thể đưa ra quyết định sáng suốt và được trao quyền để cung cấp các tiết lộ cụ thể hơn cho người dùng của họ, do đó cải thiện việc áp dụng AI và niềm tin. Khi phát triển và cung cấp AI, chúng tôi nghĩ về tất cả các bên liên quan: khách hàng của chúng tôi, nhưng cũng nhân viên, đối tác và khách hàng của họ.

Các bước nào mà các tổ chức có thể thực hiện để đảm bảo rằng các nhà cung cấp của họ tuân thủ các chính sách sử dụng AI nghiêm ngặt?

Tại RingCentral, chúng tôi tin rằng việc triển khai AI đòi hỏi sự tin cậy giữa chúng tôi và các nhà cung cấp của chúng tôi. Các nhà cung cấp phải cam kết nhúng quyền riêng tư và bảo mật dữ liệu vào kiến trúc của sản phẩm của họ. Vì lý do này, chúng tôi đã xây dựng trên quy trình thẩm định nhà cung cấp hiện có của mình bằng cách thêm một đánh giá AI cụ thể, và chúng tôi đã thực hiện một tiêu chuẩn cho việc sử dụng AI của bên thứ ba, với các yêu cầu cụ thể cho việc bảo vệ RingCentral và khách hàng của chúng tôi.

Các chiến lược nào mà RingCentral sử dụng để đảm bảo rằng dữ liệu được đưa vào hệ thống AI là chính xác và không bị thiên vị?

Với công bằng là một nguyên tắc hướng dẫn, chúng tôi luôn xem xét tác động của AI của chúng tôi và cam kết duy trì nhận thức về các thiên vị và rủi ro tiềm ẩn, với các cơ chế để xác định và giảm thiểu bất kỳ hậu quả không mong muốn nào.

• Chúng tôi đã áp dụng một khuôn khổ cụ thể để xác định và ngăn chặn thiên vị như một phần của Khung phát triển AI Đạo đức của chúng tôi, mà chúng tôi áp dụng cho tất cả các đánh giá sản phẩm của mình.
• Sử dụng trường hợp của chúng tôi cho AI liên quan đến một người trong vòng lặp để đánh giá đầu ra của các hệ thống AI của chúng tôi. Ví dụ, trong Ghi chú Thông minh của chúng tôi, ngay cả khi không theo dõi nội dung của các ghi chú được tạo, chúng tôi có thể suy luận từ hành động của người dùng liệu các ghi chú có chính xác hay không. Nếu người dùng chỉnh sửa các ghi chú liên tục, nó gửi một tín hiệu đến RingCentral để điều chỉnh các lời nhắc.
• Là một ví dụ khác về người trong vòng lặp, quá trình tạo tăng cường của chúng tôi cho phép đầu ra được tập trung nghiêm ngặt vào các cơ sở dữ liệu kiến thức cụ thể và cung cấp tài liệu tham khảo cho các nguồn của đầu ra được tạo. Điều này cho phép con người xác minh câu trả lời và đi sâu vào các tài liệu tham khảo chính.

Bằng cách đảm bảo AI của chúng tôi là chính xác, chúng tôi cam kết cung cấp AI giải thích được và minh bạch.

Các thách thức quyền riêng tư nào phát sinh với AI trong các triển khai doanh nghiệp quy mô lớn và chúng được giải quyết như thế nào?

Trước hết, điều quan trọng là phải nhớ rằng các luật bảo vệ dữ liệu hiện có chứa các điều khoản áp dụng cho trí tuệ nhân tạo. Khi các luật là trung lập về công nghệ, các khuôn khổ pháp lý và các điểm dẫn đường đạo đức áp dụng cho các công nghệ mới.. Do đó, các tổ chức cần đảm bảo rằng việc sử dụng AI của họ tuân thủ các luật bảo vệ dữ liệu hiện có, chẳng hạn như GDPR và CPRA.

Thứ hai, trách nhiệm của các chuyên gia quyền riêng tư là theo dõi các luật và quy định về AI mới nổi và đang phát triển, điều này khác nhau từ quốc gia này sang quốc gia khác và từ州 này sang州 khác. Các luật về AI giải quyết nhiều khía cạnh của AI, nhưng một trong những ưu tiên hàng đầu cho quy định AI mới là bảo vệ các quyền cơ bản của con người, bao gồm cả quyền riêng tư.

Các yếu tố thành công quan trọng trong việc giải quyết các vấn đề quyền riêng tư là minh bạch đối với người dùng, đặc biệt là khi AI thực hiện việc lập hồ sơ hoặc đưa ra quyết định tự động ảnh hưởng đến các cá nhân và cho phép người dùng chọn không sử dụng AI nếu họ không cảm thấy thoải mái.

Xu hướng tương lai nào bạn thấy trong AI và quyền riêng tư dữ liệu, và RingCentral đang chuẩn bị như thế nào để duy trì lợi thế?

Các xu hướng chính là các luật mới sẽ tiếp tục có hiệu lực, người dùng ngày càng đòi hỏi sự minh bạch và kiểm soát, nhu cầu quản lý rủi ro liên quan đến AI ngày càng tăng, bao gồm cả rủi ro của bên thứ ba, và sự gia tăng của các rủi ro mạng trong AI.

Các công ty cần thiết lập quản trị và các nhóm phải hợp tác trên các chức năng để đảm bảo sự phù hợp nội bộ, giảm thiểu rủi ro và tăng cường niềm tin của người dùng. Tại RingCentral, cam kết liên tục của chúng tôi đối với quyền riêng tư, bảo mật và minh bạch vẫn không có đối thủ. Chúng tôi coi những điều này rất nghiêm túc. Thông qua quản trị AI và các nguyên tắc quyền riêng tư AI của chúng tôi, RingCentral cam kết với AI đạo đức.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc muốn tìm hiểu thêm nên truy cập RingCentral.