Phỏng vấn
Paola Zeni, Chief Privacy Officer tại RingCentral – Loạt phỏng vấn
Paola Zeni là Chief Privacy Officer tại RingCentral. Bà là một luật sư quốc tế về quyền riêng tư với hơn 20 năm kinh nghiệm về quyền riêng tư và là một cựu chiến binh trong ngành an ninh mạng, đã từng làm việc tại Symantec và tại Palo Alto Networks, nơi bà đã xây dựng chương trình quyền riêng tư từ đầu.
Điều gì đã truyền cảm hứng cho bạn để theo đuổi sự nghiệp trong lĩnh vực quyền riêng tư dữ liệu?
Vào cuối những năm 1990, khi các quốc gia thành viên EU đang thực hiện Chỉ thị Bảo vệ Dữ liệu năm 1995, quyền riêng tư bắt đầu xuất hiện ở châu Âu như một vấn đề quan trọng. Là một luật sư công nghệ làm việc với các công ty công nghệ như HP và Agilent Technologies, tôi coi đây là một chủ đề liên quan và bắt đầu chú ý và phát triển sự hiểu biết về các yêu cầu quyền riêng tư. Tôi nhanh chóng biết rằng đây là một lĩnh vực tôi muốn tham gia, không chỉ vì tôi thấy nó thú vị và đầy thách thức về mặt pháp lý, mà còn vì nó là một vấn đề ảnh hưởng đến nhiều nhóm và nhiều quy trình trên toàn tổ chức. Việc tham gia vào quyền riêng tư dữ liệu có nghĩa là làm việc với các nhóm và cá nhân khác nhau và tìm hiểu về nhiều khía cạnh của kinh doanh. Việc có thể ảnh hưởng và thúc đẩy thay đổi về một vấn đề quan trọng trên nhiều chức năng trong tổ chức, đồng thời theo dõi một lĩnh vực pháp lý đang phát triển, đã rất bổ ích. Làm việc trong lĩnh vực quyền riêng tư dữ liệu ngày nay thú vị hơn bao giờ hết, xem xét sự phát triển công nghệ và sự phức tạp pháp lý ngày càng tăng trên toàn cầu.
Khi bạn đầu tiên gia nhập RingCentral, bạn đã tạo ra một Trung tâm Tin cậy, điều này cụ thể là gì?
Tại RingCentral, chúng tôi tin rằng việc cung cấp cho khách hàng và đối tác của chúng tôi thông tin về quyền riêng tư và bảo mật dữ liệu của họ là điều thiết yếu để xây dựng và duy trì niềm tin vào các dịch vụ của chúng tôi. Vì lý do này, chúng tôi tiếp tục tạo ra các tài liệu và nguồn lực, chẳng hạn như bảng dữ liệu quyền riêng tư sản phẩm cho các dịch vụ cốt lõi của chúng tôi, sách trắng và hướng dẫn tuân thủ, và làm cho chúng có sẵn cho khách hàng và đối tác trên Trung tâm Tin cậy công khai của chúng tôi. Gần đây nhất, chúng tôi đã thêm Sách trắng Minh bạch AI của mình. Trung tâm Tin cậy là một thành phần quan trọng của cam kết minh bạch của chúng tôi với các bên liên quan chính.
Làm thế nào RingCentral đảm bảo rằng các nguyên tắc quyền riêng tư được tích hợp vào tất cả các sản phẩm và dịch vụ được驱 động bởi AI?
Trí tuệ nhân tạo có thể trao quyền cho các doanh nghiệp để mở khóa tiềm năng mới và nhanh chóng trích xuất thông tin và thông tin có ý nghĩa từ dữ liệu của họ – nhưng với những lợi ích đó, đi kèm với trách nhiệm. Tại RingCentral, chúng tôi vẫn tập trung không ngừng vào việc bảo vệ khách hàng và dữ liệu của họ. Chúng tôi thực hiện điều này thông qua các trụ cột quyền riêng tư hướng dẫn các thực tiễn phát triển sản phẩm của chúng tôi
Thiết kế quyền riêng tư: Chúng tôi tận dụng cách tiếp cận thiết kế quyền riêng tư của mình bằng cách làm việc chặt chẽ với tư vấn sản phẩm, quản lý sản phẩm và kỹ sư sản phẩm để nhúng các nguyên tắc quyền riêng tư và yêu cầu quyền riêng tư trên các khía cạnh của sản phẩm và dịch vụ của chúng tôi thực hiện AI. Các đánh giá quyền riêng tư được tích hợp vào chu kỳ phát triển sản phẩm, từ ý tưởng đến triển khai và chúng tôi xây dựng trên đó để thực hiện các đánh giá và hướng dẫn AI.
Minh bạch: Chúng tôi cung cấp tài liệu và nguồn lực cho khách hàng, đối tác và người dùng về cách dữ liệu của họ được thu thập và sử dụng, như một phần của cam kết minh bạch và xây dựng niềm tin vào các dịch vụ của chúng tôi.
Kiểm soát của khách hàng: Chúng tôi cung cấp các tùy chọn cho phép khách hàng duy trì quyền kiểm soát trong việc quyết định làm thế nào họ muốn AI của chúng tôi tương tác với dữ liệu của họ.
Có thể bạn cung cấp các ví dụ cụ thể về các biện pháp quyền riêng tư được nhúng trong các giải pháp giao tiếp AI-first của RingCentral?
Trước hết, chúng tôi đã thêm thông tin vào tài liệu sản phẩm chi tiết về cách chúng tôi thu thập và xử lý dữ liệu: ai lưu trữ nó, những bên thứ ba nào có quyền truy cập vào nó, v.v. trong các bảng dữ liệu quyền riêng tư của chúng tôi, được đăng trên Trung tâm Tin cậy của chúng tôi. Chúng tôi cụ thể gọi ra dữ liệu nào phục vụ as đầu vào cho AI và dữ liệu nào được tạo ra as đầu ra từ AI. Ngoài ra, như một phần của các đánh giá sản phẩm của chúng tôi hợp tác với tư vấn sản phẩm, chúng tôi thực hiện các tiết lộ để đáp ứng cam kết minh bạch của chúng tôi, và chúng tôi cung cấp cho các quản trị viên của khách hàng của chúng tôi các tùy chọn để kiểm soát việc chia sẻ dữ liệu với AI.
Tại sao việc duy trì tính minh bạch hoàn toàn về thu thập và sử dụng dữ liệu lại quan trọng đối với các tổ chức trong thời đại AI?
Để thúc đẩy việc áp dụng AI đáng tin cậy, điều quan trọng là các tổ chức phải thiết lập niềm tin vào cách AI xử lý dữ liệu và độ chính xác của đầu ra. Điều này bao gồm dữ liệu AI được đào tạo, logic được áp dụng bởi thuật toán và bản chất của đầu ra.
Chúng tôi tin rằng khi các nhà cung cấp minh bạch và chia sẻ thông tin về AI của họ, cách nó hoạt động và nó được sử dụng cho gì, khách hàng có thể đưa ra quyết định thông minh và được trao quyền để cung cấp các tiết lộ cụ thể hơn cho người dùng của họ, do đó cải thiện việc áp dụng AI và niềm tin. Khi phát triển và cung cấp AI, chúng tôi nghĩ về tất cả các bên liên quan: khách hàng của chúng tôi, nhưng cũng nhân viên, đối tác và khách hàng của họ.
Các tổ chức có thể thực hiện những bước nào để đảm bảo rằng các nhà cung cấp của họ tuân thủ các chính sách sử dụng AI nghiêm ngặt?
Tại RingCentral, chúng tôi tin rằng việc triển khai AI đòi hỏi sự tin cậy giữa chúng tôi và các nhà cung cấp của chúng tôi. Các nhà cung cấp phải cam kết nhúng quyền riêng tư và bảo mật dữ liệu vào kiến trúc của sản phẩm của họ. Vì lý do này, chúng tôi đã xây dựng trên quy trình thẩm định nhà cung cấp hiện có của mình bằng cách thêm một đánh giá AI cụ thể, và chúng tôi đã thực hiện một tiêu chuẩn cho việc sử dụng AI của bên thứ ba, với các yêu cầu cụ thể cho việc bảo vệ RingCentral và khách hàng của chúng tôi.
RingCentral sử dụng những chiến lược nào để đảm bảo rằng dữ liệu được cung cấp cho các hệ thống AI là chính xác và không bị thiên vị?
Với công bằng as một nguyên tắc hướng dẫn, chúng tôi luôn xem xét tác động của AI của chúng tôi và vẫn cam kết duy trì nhận thức về các thiên vị và rủi ro tiềm ẩn, với các cơ chế để xác định và giảm thiểu bất kỳ hậu quả không mong muốn nào.
- Chúng tôi đã áp dụng một khuôn khổ cụ thể cho việc xác định và ngăn chặn các thiên vị as một phần của Khung phát triển AI Đạo đức của chúng tôi, mà chúng tôi áp dụng cho tất cả các đánh giá sản phẩm của chúng tôi.
- Sử dụng trường hợp của chúng tôi cho AI liên quan đến một vòng lặp con người để đánh giá đầu ra của các hệ thống AI của chúng tôi. Ví dụ, trong Ghi chú Thông minh của chúng tôi, ngay cả khi không theo dõi nội dung của các ghi chú được tạo, chúng tôi có thể suy luận từ hành động của người dùng liệu các ghi chú có chính xác hay không. Nếu người dùng chỉnh sửa các ghi chú liên tục, nó gửi một tín hiệu đến RingCentral để điều chỉnh các gợi ý.
- Como một ví dụ khác về vòng lặp con người, quá trình tạo ra sự phát triển của chúng tôi cho phép đầu ra được tập trung nghiêm ngặt vào các cơ sở dữ liệu kiến thức cụ thể và cung cấp tài liệu tham khảo cho các nguồn của đầu ra được tạo. Điều này cho phép con người xác minh phản hồi và để đào sâu vào các tài liệu tham khảo chính chúng.
Bằng cách đảm bảo AI của chúng tôi là chính xác, chúng tôi đứng sau lời hứa của mình để cung cấp AI giải thích được và minh bạch.
Các thách thức quyền riêng tư nào phát sinh với AI trong các triển khai doanh nghiệp lớn, và chúng được giải quyết như thế nào?
Trước hết, điều quan trọng là phải nhớ rằng các luật quyền riêng tư hiện có chứa các điều khoản áp dụng cho trí tuệ nhân tạo. Khi các luật pháp là trung lập về công nghệ, các khuôn khổ pháp lý và các điểm hướng dẫn đạo đức áp dụng cho các công nghệ mới.. Do đó, các tổ chức cần đảm bảo rằng việc sử dụng AI của họ tuân thủ các luật quyền riêng tư hiện có, chẳng hạn như GDPR và CPRA.
Thứ hai, trách nhiệm của các chuyên gia quyền riêng tư là theo dõi các luật AI mới nổi và đang phát triển, mà thay đổi từ州 đến quốc gia. Các luật AI giải quyết nhiều khía cạnh của AI, nhưng một trong những ưu tiên hàng đầu cho quy định AI mới là bảo vệ các quyền cơ bản của con người, bao gồm cả quyền riêng tư.
Các yếu tố thành công quan trọng trong việc giải quyết các vấn đề quyền riêng tư là tính minh bạch với người dùng, đặc biệt là nơi AI thực hiện việc tạo hồ sơ hoặc đưa ra quyết định tự động ảnh hưởng đến các cá nhân và cho phép người dùng lựa chọn không tham gia việc sử dụng AI mà họ không cảm thấy thoải mái.
Các xu hướng tương lai nào bạn thấy trong AI và quyền riêng tư, và RingCentral đang chuẩn bị để ở vị trí hàng đầu như thế nào?
Các xu hướng chính là các luật mới sẽ tiếp tục có hiệu lực, người dùng ngày càng đòi hỏi tính minh bạch và kiểm soát, nhu cầu quản lý rủi ro liên quan đến AI ngày càng tăng, bao gồm cả rủi ro của bên thứ ba, và sự gia tăng của rủi ro mạng trong AI.
Các công ty cần thiết lập quản trị và các nhóm phải cộng tác trên các chức năng để đảm bảo sự sắp xếp bên trong, giảm thiểu rủi ro và tăng cường niềm tin của người dùng. Tại RingCentral, cam kết liên tục của chúng tôi về quyền riêng tư, bảo mật và minh bạch vẫn không có đối thủ. Chúng tôi coi những điều này một cách nghiêm túc. Thông qua quản trị AI và các trụ cột quyền riêng tư của AI, RingCentral cam kết với AI đạo đức.
Cảm ơn vì cuộc phỏng vấn tuyệt vời, người đọc muốn tìm hiểu thêm nên truy cập RingCentral.
