Các nhà nghiên cứu tin rằng AI có thể được sử dụng để giúp bảo vệ quyền riêng tư của mọi người

Hai giáo sư khoa học thông tin đã gần đây xuất bản một bài viết trên The Conversation, cho rằng AI có thể giúp bảo tồn quyền riêng tư của mọi người, khắc phục một số vấn đề mà nó đã tạo ra.

Zhiyuan Chen và Aryya Gangopadhyay cho rằng các thuật toán trí tuệ nhân tạo có thể được sử dụng để bảo vệ quyền riêng tư của mọi người, chống lại một số mối quan ngại về quyền riêng tư mà các ứng dụng khác của AI đã tạo ra. Chen và Gangopadhyay thừa nhận rằng nhiều sản phẩm được điều khiển bởi AI mà chúng ta sử dụng cho sự tiện lợi sẽ không hoạt động nếu không có quyền truy cập vào lượng lớn dữ liệu, điều này ban đầu có vẻ trái với nỗ lực bảo tồn quyền riêng tư. Hơn nữa, khi AI lan rộng sang nhiều ngành công nghiệp và ứng dụng hơn, nhiều dữ liệu hơn sẽ được thu thập và lưu trữ trong các cơ sở dữ liệu, khiến cho việc xâm phạm cơ sở dữ liệu trở nên cám dỗ. Tuy nhiên, Chen và Gangopadhyay tin rằng khi được sử dụng đúng cách, AI có thể giúp giảm thiểu những vấn đề này.

Chen và Gangopadhyay giải thích trong bài viết của họ rằng các rủi ro về quyền riêng tư liên quan đến AI đến từ ít nhất hai nguồn khác nhau. Nguồn đầu tiên là các tập dữ liệu lớn được thu thập để đào tạo các mô hình mạng nơ-ron, trong khi mối đe dọa quyền riêng tư thứ hai là các mô hình chính nó. Dữ liệu có thể “rò rỉ” từ các mô hình này, với hành vi của các mô hình có thể tiết lộ chi tiết về dữ liệu được sử dụng để đào tạo chúng.

Các mạng nơ-ron sâu bao gồm nhiều lớp nơ-ron, với mỗi lớp được kết nối với các lớp xung quanh. Các nơ-ron riêng lẻ cũng như các liên kết giữa các nơ-ron mã hóa cho các bit dữ liệu đào tạo khác nhau. Mô hình có thể chứng minh quá tốt trong việc nhớ các mẫu của dữ liệu đào tạo, ngay cả khi mô hình không bị quá拟. Các dấu vết của dữ liệu đào tạo tồn tại trong mạng và các tác nhân độc hại có thể xác định được các khía cạnh của dữ liệu đào tạo, như Đại học Cornell đã phát hiện trong một nghiên cứu của họ. Các nhà nghiên cứu của Cornell đã phát hiện ra rằng các thuật toán nhận dạng khuôn mặt có thể bị khai thác bởi các kẻ tấn công để tiết lộ hình ảnh và do đó là những người được sử dụng để đào tạo mô hình nhận dạng khuôn mặt. Các nhà nghiên cứu của Cornell đã phát hiện ra rằng ngay cả khi một kẻ tấn công không có quyền truy cập vào mô hình gốc được sử dụng để đào tạo ứng dụng, kẻ tấn công vẫn có thể thăm dò mạng và xác định xem một người cụ thể có được bao gồm trong dữ liệu đào tạo hay không chỉ bằng cách sử dụng các mô hình được đào tạo trên dữ liệu tương tự.

Một số mô hình AI hiện đang được sử dụng để bảo vệ chống lại các vi phạm dữ liệu và cố gắng đảm bảo quyền riêng tư của mọi người. Các mô hình AI thường được sử dụng để phát hiện các nỗ lực hack bằng cách nhận ra các mẫu hành vi mà các hacker sử dụng để xâm nhập các phương pháp bảo mật. Tuy nhiên, các hacker thường thay đổi hành vi của họ để cố gắng đánh lừa AI phát hiện mẫu.

Các phương pháp đào tạo và phát triển AI mới nhằm mục đích làm cho các mô hình và ứng dụng AI ít dễ bị tổn thương bởi các phương pháp hack và các chiến thuật tránh bảo mật. Học đối抗 nhằm đào tạo các mô hình AI trên các mô phỏng đầu vào độc hại hoặc có hại và làm cho mô hình trở nên mạnh mẽ hơn đối với việc khai thác, do đó có tên là “đối抗”. Theo Chen và Gangopadhyay, nghiên cứu của họ đã phát hiện ra các phương pháp để chống lại phần mềm độc hại được thiết kế để đánh cắp thông tin riêng tư của mọi người. Hai nhà nghiên cứu giải thích rằng một trong những phương pháp họ tìm thấy hiệu quả nhất trong việc chống lại phần mềm độc hại là giới thiệu sự không chắc chắn vào mô hình. Mục tiêu là làm cho nó trở nên khó khăn hơn cho các tác nhân độc hại để dự đoán cách mô hình sẽ phản ứng với bất kỳ đầu vào nào.

Các phương pháp khác để sử dụng AI để bảo vệ quyền riêng tư bao gồm việc giảm thiểu sự phơi bày dữ liệu khi mô hình được tạo và đào tạo, cũng như thăm dò để phát hiện các điểm yếu của mạng. Khi nói đến việc bảo tồn quyền riêng tư của dữ liệu, học tập liên bang có thể giúp bảo vệ quyền riêng tư của dữ liệu nhạy cảm, vì nó cho phép một mô hình được đào tạo mà không cần dữ liệu đào tạo rời khỏi các thiết bị cục bộ chứa dữ liệu, cách ly dữ liệu và nhiều tham số của mô hình khỏi gián điệp.

Cuối cùng, Chen và Gangopadhyay cho rằng trong khi sự phổ biến của AI đã tạo ra các mối đe dọa mới đối với quyền riêng tư của mọi người, AI cũng có thể giúp bảo vệ quyền riêng tư khi được thiết kế với sự quan tâm và chăm sóc.