Làm thế nào các Vườn Cây Bao (Walled Gardens) trong An Ninh Công Cộng đang Tiết Lộ Khủng Hoảng Quyền Riêng Tư Dữ Liệu của Mỹ

Phương Diện Mở Rộng Của Trí Tuệ Nhân Tạo và Dữ Liệu Nó Yêu Cầu

Trí tuệ nhân tạo đang nhanh chóng thay đổi cách chúng ta sống, làm việc và quản lý. Trong lĩnh vực sức khỏe cộng đồng và dịch vụ công, các công cụ trí tuệ nhân tạo hứa hẹn mang lại hiệu quả và quyết định nhanh hơn. Nhưng dưới bề mặt của sự chuyển đổi này là sự mất cân bằng ngày càng tăng: khả năng thu thập dữ liệu của chúng ta đã vượt quá khả năng quản lý nó một cách có trách nhiệm.

Điều này vượt ra ngoài chỉ là một thách thức công nghệ để trở thành một cuộc khủng hoảng về quyền riêng tư. Từ phần mềm cảnh sát dự đoán đến các công cụ giám sát và đọc biển số xe tự động, dữ liệu về các cá nhân đang được thu thập, phân tích và thực hiện với tốc độ chưa từng có. Và yet, hầu hết công dân không có ý tưởng về ai sở hữu dữ liệu của họ, cách nó được sử dụng hoặc liệu nó có được bảo vệ hay không.

Tôi đã thấy điều này gần gũi. Là một cựu đặc vụ FBI về An ninh Mạng và hiện là CEO của một công ty công nghệ an ninh công cộng hàng đầu, tôi đã làm việc trên cả chính phủ và khu vực tư nhân. Một điều rõ ràng: nếu chúng ta không sửa đổi cách chúng ta xử lý quyền riêng tư dữ liệu ngay bây giờ, trí tuệ nhân tạo sẽ chỉ làm cho các vấn đề hiện có trở nên tồi tệ hơn. Và một trong những vấn đề lớn nhất? Các Vườn Cây Bao (Walled Gardens).

Vườn Cây Bao là Gì và Tại Sao Chúng Nguy Hiểm trong An Ninh Công Cộng?

Vườn Cây Bao là các hệ thống đóng nơi một công ty kiểm soát quyền truy cập, luồng và sử dụng dữ liệu. Chúng phổ biến trong quảng cáo và truyền thông xã hội (như các nền tảng Facebook, Google và Amazon) nhưng ngày càng xuất hiện trong an ninh công cộng.

Các công ty an ninh công cộng đóng vai trò quan trọng trong cơ sở hạ tầng cảnh sát hiện đại, tuy nhiên, bản chất độc quyền của một số hệ thống này có nghĩa là chúng không phải lúc nào cũng được thiết kế để tương tác trơn tru với các công cụ từ các nhà cung cấp khác.

Những Vườn Cây Bao này có thể cung cấp chức năng mạnh mẽ như hình ảnh từ camera thể thao dựa trên đám mây hoặc đọc biển số xe tự động, nhưng chúng cũng tạo ra sự độc quyền về cách dữ liệu được lưu trữ, truy cập và phân tích. Các cơ quan thực thi pháp luật thường thấy mình bị khóa trong các hợp đồng dài hạn với các hệ thống độc quyền không nói chuyện với nhau. Kết quả? Sự phân mảnh, thông tin bị cô lập và sự không thể phản ứng hiệu quả trong cộng đồng khi nó quan trọng nhất.

Công Chúng Không Biết, và Đó Là Một Vấn Đề

Hầu hết mọi người không nhận ra chính xác bao nhiêu thông tin cá nhân của họ đang chảy vào các hệ thống này. Ở nhiều thành phố, vị trí, phương tiện, hoạt động trực tuyến và thậm chí trạng thái cảm xúc của bạn có thể được suy luận và theo dõi thông qua một mạng lưới các công cụ trí tuệ nhân tạo. Những công cụ này có thể được tiếp thị như các bản nâng cấp chống tội phạm, nhưng trong sự thiếu minh bạch và quy định, chúng có thể dễ dàng bị lạm dụng.

Và điều đó không chỉ là dữ liệu tồn tại, mà là nó tồn tại trong các hệ sinh thái Vườn Cây Bao được kiểm soát bởi các công ty tư nhân với sự giám sát tối thiểu. Ví dụ, các công cụ đọc biển số xe hiện đã có ở hàng nghìn cộng đồng trên toàn nước Mỹ, thu thập dữ liệu và cho nó vào mạng độc quyền của họ. Các phòng cảnh sát thường không thậm chí sở hữu phần cứng, họ thuê nó, có nghĩa là đường ống dữ liệu, phân tích và cảnh báo được quyết định bởi nhà cung cấp chứ không phải bởi sự đồng thuận của công chúng.

Tại Sao Điều Này Nên Làm Nổi Cờ Đỏ

Trí tuệ nhân tạo cần dữ liệu để hoạt động. Nhưng khi dữ liệu bị khóa trong các Vườn Cây Bao, nó không thể được tham chiếu chéo, xác thực hoặc thách thức. Điều này có nghĩa là các quyết định về ai bị dừng lại, tài nguyên đi đến đâu hoặc ai bị coi là một mối đe dọa đang được thực hiện dựa trên thông tin không đầy đủ, đôi khi không chính xác.

Rủi ro? Các quyết định kém, vi phạm tiềm năng về quyền tự do dân sự và khoảng cách ngày càng tăng giữa các phòng cảnh sát và cộng đồng họ phục vụ. Sự minh bạch bị xói mòn. Sự tin tưởng bốc hơi. Và sự đổi mới bị kìm hãm, vì các công cụ mới không thể tham gia thị trường trừ khi chúng tuân thủ các hạn chế của các hệ thống Vườn Cây Bao này.

Trong một kịch bản mà một hệ thống nhận dạng biển số xe sai lầm dựa trên dữ liệu lỗi thời hoặc chia sẻ, mà không có khả năng xác minh thông tin đó trên các nền tảng hoặc kiểm toán cách quyết định đó được thực hiện, các sĩ quan có thể hành động dựa trên các kết quả sai. Chúng tôi đã thấy các vụ việc mà công nghệ bị lỗi dẫn đến việc bắt giữ sai hoặc các cuộc đối đầu leo thang. Những kết quả này không phải là giả thuyết, chúng đang xảy ra trong các cộng đồng trên cả nước.

Điều Cảnh Sát Thực Sự Cần

Thay vì khóa dữ liệu lại, chúng ta cần các hệ sinh thái mở hỗ trợ chia sẻ dữ liệu an toàn, tiêu chuẩn hóa và tương tác. Điều đó không có nghĩa là hy sinh quyền riêng tư. Ngược lại, đó là cách duy nhất để đảm bảo rằng các biện pháp bảo vệ quyền riêng tư được thực thi.

Một số nền tảng đang làm việc theo hướng này. Ví dụ, FirstTwo cung cấp các công cụ nhận thức tình huống thời gian thực nhấn mạnh vào việc tích hợp có trách nhiệm dữ liệu công khai. Những người khác, như ForceMetrics, tập trung vào việc kết hợp các tập dữ liệu khác nhau như cuộc gọi 911, hồ sơ sức khỏe hành vi và lịch sử vụ việc trước đó để cung cấp cho các sĩ quan bối cảnh tốt hơn trên hiện trường. Nhưng quan trọng là, những hệ thống này được xây dựng với nhu cầu an ninh công cộng và sự tôn trọng cộng đồng là ưu tiên, không phải là một ý nghĩ sau cùng.

Xây Dựng Cơ Sở Hạ Tầng Quyền Riêng Tư

Một cách tiếp cận quyền riêng tư trước hết có nghĩa là hơn là xóa thông tin nhạy cảm. Nó có nghĩa là hạn chế quyền truy cập vào dữ liệu trừ khi có nhu cầu hợp pháp rõ ràng. Nó có nghĩa là ghi lại cách quyết định được thực hiện và cho phép kiểm toán của bên thứ ba. Nó có nghĩa là hợp tác với các bên liên quan của cộng đồng và các nhóm quyền dân sự để định hình chính sách và thực hiện. Những bước này dẫn đến sự tăng cường an ninh và tính hợp pháp tổng thể.

Mặc dù có những tiến bộ công nghệ, chúng ta vẫn đang hoạt động trong một khoảng trống pháp lý. Mỹ thiếu luật bảo vệ quyền riêng tư dữ liệu toàn diện, để lại các cơ quan và nhà cung cấp tự tạo ra các quy tắc khi họ đi. Châu Âu có GDPR, cung cấp một bản đồ đường cho việc sử dụng dữ liệu dựa trên sự đồng ý và trách nhiệm. Mỹ, ngược lại, có một bản vá các chính sách cấp bang không giải quyết đầy đủ các phức tạp của trí tuệ nhân tạo trong các hệ thống công.

Điều đó cần thay đổi. Chúng ta cần các tiêu chuẩn rõ ràng, có thể thực thi xung quanh cách các cơ quan thực thi pháp luật và các tổ chức an ninh công cộng thu thập, lưu trữ và chia sẻ dữ liệu. Và chúng ta cần phải bao gồm các bên liên quan của cộng đồng trong cuộc trò chuyện. Sự đồng ý, minh bạch và trách nhiệm phải được tích hợp vào mọi cấp độ của hệ thống, từ mua sắm đến thực hiện đến sử dụng hàng ngày.

Kết Luận: Không Có Tương Tác, Quyền Riêng Tư Sẽ Bị Tác Động

Trong an ninh công cộng, mạng sống đang bị đe dọa. Ý tưởng rằng một nhà cung cấp có thể kiểm soát quyền truy cập vào dữ liệu quan trọng và hạn chế cách và khi nó được sử dụng không chỉ là không hiệu quả. Đó là không đạo đức.

Chúng ta cần vượt qua khỏi quan niệm rằng đổi mới và quyền riêng tư là đối thủ. Trí tuệ nhân tạo có trách nhiệm có nghĩa là các hệ thống công bằng, hiệu quả và có trách nhiệm hơn. Nó có nghĩa là từ chối sự khóa của nhà cung cấp, ưu tiên tính tương tác và yêu cầu các tiêu chuẩn mở. Bởi vì trong một nền dân chủ, không một công ty nào nên kiểm soát dữ liệu quyết định ai nhận được sự giúp đỡ, ai bị dừng lại hoặc ai bị bỏ lại phía sau.