Mỹ chứng kiến vụ bắt giữ sai trái đầu tiên do thuật toán kém

Tuần trước, The New York Times đã đưa tin về vụ bắt giữ sai trái đầu tiên do thuật toán kém ở Hoa Kỳ. Sự việc xảy ra tại Detroit khi Robert Julian-Borchak Williams, một người đàn ông da đen, bị bắt giữ sau khi bị nhầm lẫn với một cá nhân trong đoạn phim an ninh cho thấy một người đang thực hiện hành vi trộm cắp.

Tổ chức Liberties Civil (ACLU) nhanh chóng hành động và nộp đơn khiếu nại chống lại cảnh sát Detroit. Sau khi ACLU yêu cầu vụ việc của Williams bị hủy bỏ và thông tin của anh ta bị xóa khỏi cơ sở dữ liệu tội phạm ở Detroit, các công tố viên đã thực hiện các hành động đó.

Sự phát triển này là lần đầu tiên của loại hình này ở Hoa Kỳ, và nó làm nổi bật một số mối quan ngại nghiêm trọng đang bắt đầu xuất hiện trên toàn cầu với việc sử dụng công nghệ nhận dạng khuôn mặt bởi nhà nước.

Vấn đề với hệ thống nhận dạng khuôn mặt

Hệ thống nhận dạng khuôn mặt đã trở thành chủ đề gây tranh cãi trong một thời gian, ngày càng trở thành điểm tranh luận giữa những người quan tâm đến quyền riêng tư và cáo buộc sai.

Với các cuộc biểu tình gần đây trên toàn quốc và ở nhiều nơi trên thế giới chống lại bạo lực cảnh sát và phân biệt đối xử, sự giám sát đó đã tăng lên.

Những thuật toán này đã mang lại một khía cạnh hoàn toàn mới cho việc thực thi pháp luật và đầy rẫy những khiếm khuyết.

Cáo buộc sai

Vụ trộm cắp mà Williams bị nhầm lẫn là đã thực hiện xảy ra vào tháng 10 năm 2018. Đoạn phim giám sát sau đó được tải lên cơ sở dữ liệu nhận dạng khuôn mặt của bang Michigan vào tháng 3 năm 2019.

Ảnh của Williams đã xuất hiện trong một danh sách ảnh, nơi một nhân viên bảo vệ đã xác định Williams là người đã thực hiện tội ác.

Theo ACLU, người bảo vệ đó không bao giờ chứng kiến vụ trộm cắp trực tiếp.

Vào tháng 1, Williams nhận được một cuộc gọi từ Sở Cảnh sát Detroit thông báo cho anh ta về việc bắt giữ. Khi anh ta coi cuộc gọi là một trò đùa, cảnh sát đã đến nhà anh ta chỉ một giờ sau.

Williams sau đó được đưa đến một trung tâm giam giữ nơi anh ta có ảnh chụp, vân tay và DNA được lấy, và sau đó anh ta bị giữ suốt đêm tại trạm.

Điều gì tiếp theo là một cuộc thẩm vấn về một tội ác mà anh ta không bao giờ thực hiện, tất cả đều do hệ thống nhận dạng sai.

Vụ việc của Williams đã bị hủy bỏ hai tuần sau khi anh ta bị bắt giữ, nhưng trên quy mô lớn hơn, sự việc này có nghĩa là rất nhiều và có những ý nghĩa lớn về quyền riêng tư. Với việc sử dụng ngày càng nhiều phần mềm nhận dạng khuôn mặt bởi chính phủ và cơ quan thực thi pháp luật, vụ việc này có thể là sự khởi đầu của những vi phạm nghiêm trọng, những vi phạm đã xảy ra ở các quốc gia như Trung Quốc nhưng chưa đến Hoa Kỳ, ít nhất là trong kiến thức của công chúng.

Một trong những vi phạm như vậy là mẫu DNA, ảnh chụp và vân tay của Williams hiện đang được lưu giữ như một kết quả trực tiếp của công nghệ. Không chỉ vậy, việc bắt giữ của anh ta cũng được ghi lại.

Các công ty tư nhân và thực thi pháp luật

Vụ việc của Williams xảy ra khi các công ty lớn như IBM, Microsoft (MSFT ) và Amazon (AMZN ) đã ngừng cung cấp công nghệ nhận dạng khuôn mặt cho cơ quan thực thi pháp luật.

Công ty đầu tiên thực hiện việc này là IBM khi CEO Arvind Krishna gửi một bức thư đến Quốc hội về việc không còn cung cấp phần mềm hoặc phân tích nhận dạng khuôn mặt chung. Ngoài ra, công ty đã ngừng nghiên cứu và phát triển công nghệ này.

“IBM phản đối mạnh mẽ và sẽ không dung túng cho việc sử dụng bất kỳ công nghệ nhận dạng khuôn mặt nào, bao gồm cả công nghệ nhận dạng khuôn mặt do các nhà cung cấp khác cung cấp, cho việc giám sát hàng loạt, phân biệt chủng tộc, vi phạm các quyền và tự do cơ bản của con người, hoặc bất kỳ mục đích nào không phù hợp với các giá trị và Nguyên tắc Tin cậy và Minh bạch của chúng tôi,” theo thư. “Chúng tôi tin rằng bây giờ là thời điểm để bắt đầu một cuộc đối thoại quốc gia về việc liệu và làm thế nào công nghệ nhận dạng khuôn mặt nên được sử dụng bởi các cơ quan thực thi pháp luật trong nước.”

Amazon đã làm theo khi họ宣 bố một moratorium một năm về việc cho phép cơ quan thực thi pháp luật sử dụng nền tảng nhận dạng khuôn mặt Rekognition của công ty.

Thông báo này được đưa ra chỉ vài ngày sau quyết định của IBM.

Một trong những công việc quan trọng nhất liên quan đến vấn đề phân biệt đối xử và công nghệ nhận dạng khuôn mặt là một bài báo năm 2018 được đồng tác giả bởi Joy Buolamwini và Timnit Gebru. Buolamwini là một nhà nghiên cứu tại MIT Media Lab, và Gebru là một thành viên tại Microsoft Research.

Bài báo năm 2018 cho thấy rằng “các thuật toán học máy có thể phân biệt dựa trên các lớp như chủng tộc và giới tính,” trong số những thứ khác.

Vụ việc của Robert Julian-Borchak Williams rất đáng lo ngại cho nhiều người sống ở Hoa Kỳ, nhưng nó cũng là một chỉ số cho những gì đang xảy ra trên toàn cầu. Việc sử dụng công nghệ nhận dạng khuôn mặt bởi chính phủ và cơ quan thực thi pháp luật chỉ mới bắt đầu, và có rất ít điều để ngăn chặn nó từ việc được sử dụng không đúng cách. Bất kể đó là việc sử dụng rộng rãi công nghệ nhận dạng khuôn mặt của Trung Quốc để giám sát, hay vụ việc của Williams bị nhầm lẫn ở Hoa Kỳ, công nghệ này mở ra cho dân số thế giới một tập hợp các vi phạm mới về quyền riêng tư và quyền con người mà trước đây không tồn tại.