Bailey Kacsmar, Ứng viên Tiến sĩ tại Đại học Waterloo – Loạt Phỏng vấn

Bailey Kacsmar là ứng viên tiến sĩ tại Trường Khoa học Máy tính của Đại học Waterloo và là thành viên giảng dạy sắp tới tại Đại học Alberta. Các lĩnh vực nghiên cứu của cô tập trung vào việc phát triển các công nghệ tăng cường quyền riêng tư dựa trên nhận thức của người dùng, thông qua việc nghiên cứu song song các phương pháp kỹ thuật cho tính toán riêng tư cùng với nhận thức, quan ngại và hiểu biết của người dùng về các công nghệ này. Công việc của cô nhằm xác định tiềm năng và hạn chế của quyền riêng tư trong các ứng dụng học máy.

Nghiên cứu của bạn tập trung vào việc phát triển các công nghệ tăng cường quyền riêng tư dựa trên nhận thức của người dùng, tại sao quyền riêng tư trong AI lại quan trọng?

Quyền riêng tư trong AI rất quan trọng, phần lớn vì AI trong thế giới của chúng ta không tồn tại mà không có dữ liệu. Dữ liệu, mặc dù là một trừu tượng hữu ích, nhưng cuối cùng là thứ mô tả con người và hành vi của họ. Chúng ta hiếm khi làm việc với dữ liệu về dân số cây hoặc mức nước; vì vậy, bất cứ khi nào chúng ta làm việc với thứ gì đó có thể ảnh hưởng đến con người thực sự, chúng ta cần phải nhận thức được điều đó và hiểu cách hệ thống của chúng ta có thể làm tốt hoặc gây hại. Điều này đặc biệt đúng với AI, nơi nhiều hệ thống được hưởng lợi từ lượng dữ liệu khổng lồ hoặc hy vọng sử dụng dữ liệu nhạy cảm cao (như dữ liệu sức khỏe) để cố gắng phát triển những hiểu biết mới về thế giới của chúng ta.

Bạn đã thấy những cách nào mà học máy đã phản bội quyền riêng tư của người dùng?

Phản bội là một từ mạnh. Tuy nhiên, bất cứ khi nào một hệ thống sử dụng thông tin về con người mà không có sự đồng ý của họ, không thông báo cho họ và không xem xét các tác hại tiềm ẩn, nó chạy rủi ro phản bội các chuẩn mực quyền riêng tư cá nhân hoặc xã hội. Về cơ bản, điều này dẫn đến sự phản bội bởi hàng nghìn vết cắt nhỏ. Những thực hành như vậy có thể bao gồm việc đào tạo mô hình trên hộp thư đến của người dùng, đào tạo trên tin nhắn văn bản của người dùng hoặc trên dữ liệu sức khỏe; tất cả đều không thông báo cho chủ thể của dữ liệu.

Bạn có thể định nghĩa gì là quyền riêng tư khác biệt, và quan điểm của bạn về nó là gì?

Quyền riêng tư khác biệt là một định nghĩa hoặc kỹ thuật đã nổi lên về việc sử dụng để đạt được quyền riêng tư kỹ thuật. Các định nghĩa kỹ thuật về quyền riêng tư nói chung bao gồm hai khía cạnh chính; cái gì được bảo vệ và từ ai. Trong quyền riêng tư kỹ thuật, các bảo đảm quyền riêng tư là những bảo vệ được đạt được khi một loạt các giả định được đáp ứng. Những giả định này có thể liên quan đến các đối thủ tiềm năng, sự phức tạp của hệ thống hoặc thống kê. Đây là một kỹ thuật vô cùng hữu ích có phạm vi ứng dụng rộng lớn. Tuy nhiên, điều quan trọng cần nhớ là quyền riêng tư khác biệt không tương đương với quyền riêng tư.

Quyền riêng tư không giới hạn ở một định nghĩa hoặc khái niệm, và điều quan trọng là phải nhận thức được các khái niệm vượt ra ngoài điều đó. Ví dụ, tính toàn vẹn ngữ cảnh là một khái niệm về quyền riêng tư xem xét các yếu tố như cách các ứng dụng hoặc tổ chức khác nhau thay đổi nhận thức về quyền riêng tư của một cá nhân trong một tình huống cụ thể. Ngoài ra, còn có các khái niệm pháp lý về quyền riêng tư như những khái niệm được bao gồm trong PIPEDA của Canada, GDPR của Châu Âu và Đạo luật Bảo vệ Người tiêu dùng của California (CCPA). Tất cả điều này cho thấy chúng ta không thể đối xử với các hệ thống kỹ thuật như thể chúng tồn tại trong một môi trường chân không, cách ly với các yếu tố quyền riêng tư khác, ngay cả khi quyền riêng tư khác biệt đang được sử dụng.

Một loại học máy khác tăng cường quyền riêng tư là học liên kết, bạn sẽ định nghĩa nó là gì và quan điểm của bạn về nó là gì?

Học liên kết là một cách thực hiện học máy khi mô hình cần được đào tạo trên một tập hợp các dữ liệu được phân phối trên nhiều chủ sở hữu hoặc vị trí. Về bản chất, nó không phải là một loại học máy tăng cường quyền riêng tư. Một loại học máy tăng cường quyền riêng tư cần định nghĩa rõ ràng cái gì được bảo vệ, ai được bảo vệ khỏi và các điều kiện phải được đáp ứng để những bảo vệ này có hiệu lực. Ví dụ, khi chúng ta nghĩ về một tính toán riêng tư khác biệt đơn giản, nó đảm bảo rằng người xem đầu ra sẽ không thể xác định liệu một điểm dữ liệu cụ thể có được đóng góp hay không.

Hơn nữa, quyền riêng tư khác biệt không cung cấp sự đảm bảo này nếu, ví dụ, có sự tương quan giữa các điểm dữ liệu. Học liên kết không có tính năng này; nó chỉ đào tạo một mô hình trên một tập hợp dữ liệu mà không yêu cầu chủ sở hữu dữ liệu cung cấp trực tiếp tập dữ liệu của họ cho nhau hoặc cho một bên thứ ba. Mặc dù điều đó nghe có vẻ như một tính năng quyền riêng tư, nhưng điều cần thiết là phải có một đảm bảo chính thức rằng không thể học được thông tin được bảo vệ khi có các bên trung gian và đầu ra mà các bên không đáng tin cậy sẽ quan sát. Sự chính thức này đặc biệt quan trọng trong môi trường liên kết, nơi các bên không đáng tin cậy bao gồm mọi người cung cấp dữ liệu để đào tạo mô hình tập thể.

Những hạn chế hiện tại của các phương pháp này là gì?

Các hạn chế hiện tại có thể được mô tả tốt nhất là bản chất của sự trao đổi giữa quyền riêng tư và tiện ích. Ngay cả khi bạn làm mọi thứ khác, truyền đạt các tác động quyền riêng tư đến những người bị ảnh hưởng, đánh giá hệ thống cho những gì bạn đang cố gắng làm, v.v., nó vẫn giảm xuống việc đạt được quyền riêng tư hoàn hảo có nghĩa là chúng ta không tạo ra hệ thống, đạt được tiện ích hoàn hảo nói chung sẽ không có bảo vệ quyền riêng tư, vì vậy câu hỏi là làm thế nào chúng ta xác định “điểm trao đổi lý tưởng”. Làm thế nào chúng ta tìm thấy điểm cân bằng đúng và xây dựng dựa trên đó để vẫn đạt được chức năng mong muốn trong khi cung cấp các bảo vệ quyền riêng tư cần thiết.

Bạn hiện đang phát triển công nghệ quyền riêng tư dựa trên nhận thức của người dùng thông qua việc nghiên cứu song song các giải pháp kỹ thuật cho tính toán riêng tư. Bạn có thể đi vào một số chi tiết về những giải pháp này không?

Cái mà tôi gọi là những giải pháp này là chúng ta có thể, nói một cách rộng lỏng, phát triển bất kỳ số lượng hệ thống quyền riêng tư kỹ thuật nào. Tuy nhiên, khi làm như vậy, điều quan trọng là phải xác định xem các bảo đảm quyền riêng tư có đạt được những người bị ảnh hưởng hay không. Điều này có thể có nghĩa là phát triển một hệ thống sau khi tìm hiểu những loại bảo vệ mà dân số đánh giá cao. Điều này có thể có nghĩa là cập nhật một hệ thống sau khi tìm hiểu cách mọi người thực sự sử dụng một hệ thống cho các cân nhắc về mối đe dọa và rủi ro trong đời thực. Một giải pháp kỹ thuật có thể là một hệ thống chính xác đáp ứng định nghĩa mà tôi đã đề cập trước đó. Một giải pháp dựa trên nhận thức của người dùng sẽ thiết kế hệ thống của mình dựa trên đầu vào từ người dùng và những người khác bị ảnh hưởng trong lĩnh vực ứng dụng dự định.

Bạn hiện đang tìm kiếm các sinh viên sau đại học quan tâm để bắt đầu vào tháng 9 năm 2024, tại sao bạn nghĩ sinh viên nên quan tâm đến quyền riêng tư AI?

Tôi nghĩ sinh viên nên quan tâm vì đây là điều gì đó sẽ chỉ tăng lên trong sự phổ biến của nó trong xã hội của chúng ta. Để có một ý tưởng về tốc độ mà những hệ thống này đang lan truyền, hãy nhìn không xa hơn sự khuếch đại gần đây của Chat-GPT qua các bài báo, mạng xã hội và các cuộc tranh luận về ý nghĩa của nó. Chúng ta tồn tại trong một xã hội nơi thu thập và sử dụng dữ liệu đã trở nên nhúng sâu vào cuộc sống hàng ngày của chúng ta đến mức chúng ta gần như liên tục cung cấp thông tin về bản thân cho các công ty và tổ chức khác nhau. Những công ty này muốn sử dụng dữ liệu, trong một số trường hợp để cải thiện dịch vụ của họ, trong các trường hợp khác vì lợi nhuận. Tại thời điểm này, dường như không thực tế khi nghĩ rằng các thực hành sử dụng dữ liệu doanh nghiệp này sẽ thay đổi. Tuy nhiên, sự tồn tại của các hệ thống bảo vệ quyền riêng tư giúp bảo vệ người dùng trong khi vẫn cho phép một số phân tích mong muốn của các công ty có thể giúp cân bằng sự trao đổi rủi ro-lợi ích đã trở thành một phần ngầm của xã hội của chúng ta.

Cảm ơn vì cuộc phỏng vấn tuyệt vời, những người đọc quan tâm có thể tìm hiểu thêm nên truy cập Trang Github của Bailey Kacsmar.