Differential Privacy là gì?

Chúng ta đang sống trong thời đại của dữ liệu lớn, điều này đã tập trung sự chú ý vào chủ đề bảo mật dữ liệu. Con người tạo ra một lượng dữ liệu khổng lồ mỗi giây, và các công ty sử dụng dữ liệu này cho nhiều ứng dụng khác nhau. Với việc lưu trữ và chia sẻ dữ liệu với tốc độ chưa từng có, phải có nhiều kỹ thuật bảo vệ quyền riêng tư hơn.

Bảo mật phân biệt là một phương pháp như vậy để bảo vệ dữ liệu cá nhân, và nó đã chứng minh hiệu quả hơn nhiều so với các phương pháp truyền thống của chúng tôi. Nó có thể được định nghĩa là một hệ thống để chia sẻ thông tin công khai về một tập dữ liệu bằng cách mô tả các mẫu của các nhóm trong tập dữ liệu trong khi giữ lại thông tin về các cá nhân trong tập dữ liệu.

Bảo mật phân biệt cho phép các nhà nghiên cứu và nhà phân tích cơ sở dữ liệu thu được thông tin quý giá từ các cơ sở dữ liệu mà không tiết lộ thông tin nhận dạng cá nhân về các cá nhân. Điều này rất quan trọng vì nhiều cơ sở dữ liệu chứa nhiều thông tin cá nhân.

Một cách khác để xem xét bảo mật phân biệt là nó tạo ra dữ liệu ẩn danh bằng cách tiêm nhiễu vào các tập dữ liệu. Nhiễu được giới thiệu giúp bảo vệ quyền riêng tư trong khi vẫn đủ hạn chế để các nhà phân tích có thể sử dụng dữ liệu một cách đáng tin cậy.

Bạn có thể có hai tập dữ liệu gần như giống hệt. Một với thông tin cá nhân của bạn và một không. Với bảo mật phân biệt, bạn có thể đảm bảo rằng xác suất mà một truy vấn thống kê sẽ tạo ra một kết quả nhất định là như nhau bất kể nó được thực hiện trên cơ sở dữ liệu nào.

Như thế nào là Bảo mật Phân biệt hoạt động?

Cách bảo mật phân biệt hoạt động là bằng cách giới thiệu một tham số mất mát quyền riêng tư hoặc ngân sách quyền riêng tư, thường được ký hiệu là epsilon (ε), vào tập dữ liệu. Những tham số này kiểm soát lượng nhiễu hoặc ngẫu nhiên được thêm vào tập dữ liệu thô.

Ví dụ, hãy tưởng tượng bạn có một cột trong tập dữ liệu với các câu trả lời “Có” / “Không” từ các cá nhân.

Bây giờ, hãy giả sử bạn tung một đồng xu cho mỗi cá nhân:

• Đầu: câu trả lời được giữ nguyên.
  
• Đuôi: bạn tung một đồng xu thứ hai, ghi lại câu trả lời là “Có” nếu đầu và “Không” nếu đuôi, bất kể câu trả lời thực sự là gì.

Bằng cách sử dụng quá trình này, bạn thêm nhiễu vào dữ liệu. Với một lượng lớn dữ liệu và thông tin từ cơ chế thêm nhiễu, tập dữ liệu sẽ vẫn chính xác về các phép đo tổng hợp. Quyền riêng tư đến bằng cách cho phép mỗi cá nhân phủ nhận khả năng có câu trả lời thực sự của họ nhờ vào quá trình ngẫu hóa.

Mặc dù đây là một ví dụ đơn giản về bảo mật phân biệt, nhưng nó cung cấp một mức độ hiểu biết cơ bản. Trong các ứng dụng thực tế, các thuật toán phức tạp hơn.

Điều quan trọng cần lưu ý là bảo mật phân biệt có thể được thực hiện tại địa phương, nơi nhiễu được thêm vào dữ liệu cá nhân trước khi nó được tập trung vào cơ sở dữ liệu, hoặc toàn cầu, nơi nhiễu được thêm vào dữ liệu thô sau khi nó được thu thập từ các cá nhân.

Ví dụ về Bảo mật Phân biệt

Bảo mật phân biệt được áp dụng trên nhiều ứng dụng như hệ thống khuyến nghị, mạng xã hội và dịch vụ dựa trên vị trí.

Dưới đây là một số ví dụ về cách các công ty lớn dựa vào bảo mật phân biệt:

• Apple (AAPL ) sử dụng phương pháp này để thu thập thông tin sử dụng ẩn danh từ các thiết bị như IPhone và Mac.

• Facebook (META ) sử dụng bảo mật phân biệt để thu thập dữ liệu hành vi có thể được sử dụng cho các chiến dịch quảng cáo nhắm mục tiêu.

• Amazon (AMZN ) dựa vào kỹ thuật này để có được thông tin về sở thích mua sắm cá nhân hóa trong khi che giấu thông tin nhạy cảm.

Apple đã đặc biệt minh bạch về việc sử dụng bảo mật phân biệt để có được thông tin về người dùng trong khi bảo vệ quyền riêng tư của họ.

“Apple đã áp dụng và phát triển thêm một kỹ thuật được biết đến trong thế giới học thuật là bảo mật phân biệt tại địa phương để làm điều gì đó thực sự thú vị: có được thông tin về những gì nhiều người dùng Apple đang làm, trong khi giúp bảo vệ quyền riêng tư của người dùng cá nhân. Đây là một kỹ thuật cho phép Apple tìm hiểu về cộng đồng người dùng mà không tìm hiểu về các cá nhân trong cộng đồng. Bảo mật phân biệt biến đổi thông tin được chia sẻ với Apple trước khi nó rời khỏi thiết bị của người dùng sao cho Apple không thể tái tạo lại dữ liệu thực. ”

– Tổng quan về Bảo mật Phân biệt của Apple

Ứng dụng của Bảo mật Phân biệt

Vì chúng ta đang sống trong thời đại của dữ liệu lớn, có nhiều vi phạm dữ liệu đe dọa các chính phủ, tổ chức và công ty. Đồng thời, các ứng dụng học máy hiện đại phụ thuộc vào các kỹ thuật học cần nhiều dữ liệu đào tạo, thường đến từ các cá nhân. Các cơ sở nghiên cứu cũng sử dụng và chia sẻ dữ liệu có thông tin bí mật. Việc tiết lộ không đúng cách dữ liệu này theo bất kỳ cách nào có thể gây ra nhiều vấn đề cho cả cá nhân và tổ chức, và trong các trường hợp nghiêm trọng, nó có thể dẫn đến trách nhiệm dân sự.

Các mô hình quyền riêng tư chính thức như bảo mật phân biệt giải quyết tất cả những vấn đề này. Chúng được sử dụng để bảo vệ thông tin cá nhân, vị trí thời gian thực và nhiều hơn nữa.

Bằng cách sử dụng bảo mật phân biệt, các công ty có thể truy cập một lượng lớn dữ liệu nhạy cảm cho nghiên cứu hoặc kinh doanh mà không làm tổn hại đến dữ liệu. Các cơ sở nghiên cứu cũng có thể phát triển các công nghệ bảo mật phân biệt cụ thể để tự động hóa các quy trình quyền riêng tư trong các cộng đồng chia sẻ đám mây, đang trở nên phổ biến hơn.

Tại sao Sử dụng Bảo mật Phân biệt?

Bảo mật phân biệt cung cấp một số thuộc tính chính làm cho nó trở thành một khuôn khổ tuyệt vời để phân tích dữ liệu riêng tư trong khi đảm bảo quyền riêng tư:

• Định lượng Mất mát Quyền riêng tư: các cơ chế và thuật toán bảo mật phân biệt có thể đo lường mất mát quyền riêng tư, cho phép so sánh với các kỹ thuật khác.

• Tổng hợp: vì bạn có thể định lượng mất mát quyền riêng tư, bạn cũng có thể phân tích và kiểm soát nó qua nhiều tính toán, cho phép phát triển các thuật toán khác nhau.

• Quyền riêng tư Nhóm: Ngoài cấp độ cá nhân, bảo mật phân biệt cho phép bạn phân tích và kiểm soát mất mát quyền riêng tư trong các nhóm lớn hơn.

• An toàn trong Xử lý Hậu kỳ: Bảo mật phân biệt không thể bị tổn hại bởi xử lý hậu kỳ. Ví dụ, một nhà phân tích dữ liệu không thể tính toán một hàm của đầu ra của một thuật toán bảo mật phân biệt và làm cho nó ít khác biệt về quyền riêng tư hơn.

Lợi ích của Bảo mật Phân biệt

Như chúng tôi đã đề cập trước đó, bảo mật phân biệt tốt hơn nhiều so với các kỹ thuật quyền riêng tư truyền thống. Ví dụ, nếu tất cả thông tin có sẵn là thông tin được xác định, bảo mật phân biệt làm cho nó dễ dàng hơn để xác định tất cả các yếu tố của dữ liệu. Nó cũng có khả năng chống lại các cuộc tấn công quyền riêng tư dựa trên thông tin phụ trợ, ngăn chặn các cuộc tấn công có thể được thực hiện trên dữ liệu được xác định.

Một trong những lợi ích lớn nhất của bảo mật phân biệt là nó có tính tổng hợp, có nghĩa là bạn có thể tính toán mất mát quyền riêng tư khi thực hiện hai phân tích khác biệt về quyền riêng tư trên cùng một dữ liệu. Điều này được thực hiện bằng cách cộng các mất mát quyền riêng tư cá nhân cho hai phân tích.

Mặc dù bảo mật phân biệt là một công cụ mới và có thể khó đạt được ngoài các cộng đồng nghiên cứu, nhưng các giải pháp dễ dàng triển khai cho quyền riêng tư dữ liệu đang trở nên dễ tiếp cận hơn. Trong tương lai gần, chúng ta nên thấy ngày càng nhiều giải pháp như vậy có sẵn cho công chúng rộng lớn hơn.