Những ‘Lộ Trình Bí Mật’ Có Thể Ngăn Chặn Hệ Thống Nhận Dạng Người Đi Bộ

Một nghiên cứu hợp tác mới giữa Israel và Nhật Bản cho rằng các hệ thống phát hiện người đi bộ có những điểm yếu nội tại, cho phép những người am hiểu có thể tránh hệ thống nhận dạng khuôn mặt bằng cách điều hướng cẩn thận qua các khu vực mà mạng lưới giám sát ít hiệu quả.

Với sự giúp đỡ của phim ảnh công khai từ Tokyo, New York và San Francisco, các nhà nghiên cứu đã phát triển một phương pháp tự động để tính toán các đường dẫn như vậy, dựa trên các hệ thống nhận dạng đối tượng phổ biến nhất có thể được sử dụng trong các mạng công cộng.

Ba điểm giao cắt được sử dụng trong nghiên cứu: Shibuya Crossing ở Tokyo, Nhật Bản; Broadway, New York; và Castro District, San Francisco. Nguồn: https://arxiv.org/pdf/2501.15653

Bằng cách này, có thể tạo ra bản đồ nhiệt độ tin cậy để đánh dấu các khu vực trong luồng camera mà người đi bộ ít có khả năng cung cấp một kết quả nhận dạng khuôn mặt tích cực:

Ở bên phải, chúng ta thấy bản đồ nhiệt độ tin cậy được tạo ra bởi phương pháp của các nhà nghiên cứu. Các khu vực màu đỏ chỉ ra sự tin cậy thấp, và một cấu hình của tư thế, góc camera và các yếu tố khác có thể cản trở việc nhận dạng khuôn mặt.

Trong lý thuyết, một phương pháp như vậy có thể được sử dụng để tạo ra một ứng dụng hoặc nền tảng để cung cấp các đường dẫn ít ‘nhận dạng’ nhất từ A đến B ở bất kỳ vị trí nào.

Bài báo mới đề xuất một phương pháp như vậy, có tên Phương Pháp Tăng Cường Quyền Riêng Tư Dựa Trên Vị Trí (L-PET); nó cũng đề xuất một biện pháp đối phó có tên Ngưỡng Thích Ứng Dựa Trên Vị Trí (L-BAT), mà cơ bản chạy cùng các quy trình, nhưng sau đó sử dụng thông tin để tăng cường và cải thiện các biện pháp giám sát, thay vì tìm cách tránh bị nhận dạng; và trong nhiều trường hợp, những cải thiện như vậy sẽ không thể thực hiện được nếu không có đầu tư thêm vào cơ sở hạ tầng giám sát.

Bài báo do đó tạo ra một cuộc chiến công nghệ có thể xảy ra giữa những người tìm cách tối ưu hóa đường dẫn của họ để tránh bị phát hiện và khả năng của các hệ thống giám sát để tận dụng công nghệ nhận dạng khuôn mặt.

Các phương pháp trước đây để tránh bị phát hiện ít tinh tế hơn, và tập trung vào các phương pháp đối kháng, chẳng hạn như TnT Attacks, và việc sử dụng các mẫu in để làm混 các thuật toán phát hiện.

Công việc năm 2019 ‘Fooling automated surveillance cameras: adversarial patches to attack person detection’ đã chứng minh một mẫu in đối kháng có thể thuyết phục hệ thống nhận dạng rằng không có người được phát hiện, cho phép một loại ‘tính vô hình’. Nguồn: https://arxiv.org/pdf/1904.08653

Các nhà nghiên cứu đứng sau bài báo mới quan sát rằng phương pháp của họ yêu cầu ít chuẩn bị hơn, không cần phải tạo ra các vật dụng đối kháng (xem hình ảnh trên).

Bài báo này có tiêu đề Một Phương Pháp Tăng Cường Quyền Riêng Tư Để Tránh Phát Hiện Bằng Camera Đường Phố Không Sử Dụng Phụ Kiện Đối Kháng, và đến từ năm nhà nghiên cứu trên Ben-Gurion University of the Negev và Fujitsu Limited.

Phương Pháp và Kiểm Tra

Theo các công việc trước đây như Adversarial Mask, AdvHat, mẫu in đối kháng, và các công việc khác tương tự, các nhà nghiên cứu giả định rằng người đi bộ ‘tấn công’ biết hệ thống phát hiện đối tượng nào đang được sử dụng trong mạng giám sát. Đây không phải là một giả định không hợp lý, do sự áp dụng rộng rãi của các hệ thống mã nguồn mở hiện đại như YOLO trong các hệ thống giám sát từ các công ty như Cisco và Ultralytics (hiện là lực lượng chính trong việc phát triển YOLO).

Bài báo cũng giả định rằng người đi bộ có quyền truy cập vào một luồng trực tuyến trên internet tập trung vào các vị trí cần tính toán, điều này, một lần nữa, là một giả định hợp lý trong hầu hết các địa điểm có khả năng có mạng giám sát.

Các trang web như 511ny.org cung cấp quyền truy cập vào nhiều camera giám sát ở khu vực NYC. Nguồn: https://511ny.or

Bên cạnh đó, người đi bộ cần quyền truy cập vào phương pháp được đề xuất, và đến hiện trường (tức là các điểm giao cắt và đường dẫn mà một ‘đường dẫn an toàn’ cần được thiết lập).

Để phát triển L-PET, các tác giả đã đánh giá ảnh hưởng của góc người đi bộ đối với camera; ảnh hưởng của chiều cao camera; ảnh hưởng của khoảng cách; và ảnh hưởng của thời gian trong ngày. Để có được sự thật, họ đã chụp một người ở các góc 0°, 45°, 90°, 135°, 180°, 225°, 270°, và 315°.

Các quan sát thực tế được thực hiện bởi các nhà nghiên cứu.

Họ đã lặp lại các biến thể này ở ba chiều cao camera khác nhau (0,6m, 1,8m, 2,4m), và với các điều kiện ánh sáng khác nhau (sáng, chiều, đêm và ‘phòng thí nghiệm’).

Cho footage này vào Faster R-CNN và YOLOv3 đối tượng phát hiện, họ đã tìm thấy rằng sự tin cậy của đối tượng phụ thuộc vào góc của người đi bộ, khoảng cách của người đi bộ, chiều cao camera, và điều kiện ánh sáng*.

Các tác giả sau đó đã kiểm tra một loạt các đối tượng phát hiện rộng hơn trong cùng một kịch bản: Faster R-CNN; YOLOv3; SSD; DiffusionDet; và RTMDet.

Các tác giả tuyên bố:

‘Chúng tôi đã tìm thấy rằng tất cả năm kiến trúc phát hiện đối tượng đều bị ảnh hưởng bởi vị trí của người đi bộ và ánh sáng xung quanh. Ngoài ra, chúng tôi đã tìm thấy rằng đối với ba trong số năm mô hình (YOLOv3, SSD, và RTMDet) hiệu ứng này vẫn tồn tại trong tất cả các mức ánh sáng xung quanh.’

Để mở rộng phạm vi, các nhà nghiên cứu đã sử dụng footage từ các camera giao thông công khai ở ba địa điểm: Shibuya Crossing ở Tokyo, Broadway ở New York, và Castro District ở San Francisco.

Mỗi địa điểm cung cấp từ năm đến sáu bản ghi, với khoảng bốn giờ footage mỗi bản ghi. Để phân tích hiệu suất phát hiện, một khung hình được trích xuất mỗi hai giây, và được xử lý sử dụng một Faster R-CNN đối tượng phát hiện. Đối với mỗi pixel trong các khung hình thu được, phương pháp ước tính sự tin cậy trung bình của ‘người’ phát hiện hộp giới hạn được hiện diện trong pixel đó.

‘Chúng tôi đã tìm thấy rằng ở tất cả三个 địa điểm, sự tin cậy của đối tượng phát hiện thay đổi tùy thuộc vào vị trí của người trong khung hình. Ví dụ, trong footage của Shibuya Crossing, có các khu vực lớn của sự tin cậy thấp hơn, cũng như gần camera, nơi một cột cản một phần người đi bộ đang đi qua.’

Phương pháp L-PET cơ bản là quy trình này, có thể được ‘vũ khí hóa’ để có được một con đường qua một khu vực đô thị mà ít có khả năng dẫn đến việc người đi bộ bị nhận dạng thành công.

Ngược lại, L-BAT theo cùng quy trình, với sự khác biệt là nó cập nhật các điểm số trong hệ thống phát hiện, tạo ra một vòng lặp phản hồi được thiết kế để loại bỏ phương pháp L-PET và làm cho các ‘khu vực mù’ của hệ thống trở nên hiệu quả hơn.

(Trong thực tế, tuy nhiên, việc cải thiện phạm vi dựa trên bản đồ nhiệt thu được sẽ đòi hỏi hơn là chỉ nâng cấp camera đang ở vị trí dự kiến; dựa trên các tiêu chí kiểm tra, bao gồm vị trí, nó sẽ đòi hỏi việc lắp đặt thêm camera để bao phủ các khu vực bị bỏ qua – do đó, có thể lập luận rằng phương pháp L-PET leo thang cuộc ‘chiến tranh lạnh’ này thành một kịch bản rất tốn kém indeed)

Sự tin cậy phát hiện người đi bộ trung bình cho mỗi pixel, trên các khung phát hiện đa dạng, trong khu vực quan sát của Castro Street, được phân tích trên năm video. Mỗi video được ghi lại dưới các điều kiện ánh sáng khác nhau: bình minh, ban ngày, hoàng hôn, và hai thiết lập ban đêm khác nhau. Kết quả được trình bày riêng cho từng kịch bản ánh sáng.

Sau khi chuyển đổi biểu diễn ma trận dựa trên pixel thành một biểu diễn đồ thị phù hợp với nhiệm vụ, các nhà nghiên cứu đã điều chỉnh thuật toán Dijkstra để tính toán các đường dẫn tối ưu cho người đi bộ để đi qua các khu vực với sự phát hiện giám sát giảm.

Thay vì tìm đường dẫn ngắn nhất, thuật toán được sửa đổi để giảm thiểu sự tin cậy phát hiện, xử lý các khu vực tin cậy cao như các khu vực có ‘chi phí’ cao hơn. Sự thích nghi này cho phép thuật toán xác định các đường dẫn đi qua các điểm mù hoặc khu vực phát hiện thấp, hiệu quả hướng dẫn người đi bộ dọc theo các đường dẫn với khả năng hiển thị giảm đối với các hệ thống giám sát.

Một hình ảnh hóa việc chuyển đổi bản đồ nhiệt của cảnh từ một ma trận dựa trên pixel thành một biểu diễn dựa trên đồ thị.

Các nhà nghiên cứu đã đánh giá tác động của hệ thống L-BAT đối với phát hiện người đi bộ bằng một tập dữ liệu được xây dựng từ bốn giờ ghi lại lưu lượng người đi bộ công cộng. Để tạo tập dữ liệu, một khung hình được xử lý mỗi hai giây sử dụng một đối tượng phát hiện SSD.

Từ mỗi khung hình, một hộp giới hạn được chọn chứa một người được phát hiện như một mẫu tích cực, và một khu vực ngẫu nhiên khác không có người được phát hiện được sử dụng như một mẫu tiêu cực. Các mẫu song sinh này tạo thành một tập dữ liệu để đánh giá hai mô hình Faster R-CNN – một với L-BAT được áp dụng, và một không.

Hiệu suất của các mô hình được đánh giá bằng cách kiểm tra xem chúng xác định mẫu tích cực và mẫu tiêu cực chính xác như thế nào: một hộp giới hạn chồng lên một mẫu tích cực được coi là một kết quả tích cực thực, trong khi một hộp giới hạn chồng lên một mẫu tiêu cực được dán nhãn là một kết quả tích cực giả.

Các chỉ số được sử dụng để xác định độ tin cậy phát hiện của L-BAT bao gồm Diện tích dưới đường cong (AUC); tỷ lệ phát hiện thực (TPR); tỷ lệ phát hiện giả (FPR); và sự tin cậy trung bình thực. Các nhà nghiên cứu khẳng định rằng việc sử dụng L-BAT đã tăng cường sự tin cậy phát hiện trong khi duy trì một tỷ lệ phát hiện thực cao (mặc dù với một sự tăng nhẹ trong các phát hiện giả).

Để kết thúc, các tác giả lưu ý rằng phương pháp này có một số hạn chế. Một hạn chế là bản đồ nhiệt được tạo ra bởi phương pháp của họ chỉ đặc trưng cho một thời điểm trong ngày. Mặc dù họ không giải thích rõ, điều này sẽ chỉ ra rằng một phương pháp đa cấp hơn sẽ được cần thiết để tính đến thời gian trong ngày trong một triển khai linh hoạt hơn.

Họ cũng quan sát thấy rằng các bản đồ nhiệt sẽ không chuyển sang các kiến trúc mô hình khác nhau và bị ràng buộc với một mô hình phát hiện đối tượng cụ thể. Vì công việc được đề xuất là cơ bản một概念 chứng minh, các kiến trúc tinh vi hơn có thể, có thể được phát triển để giải quyết các khoản nợ kỹ thuật này.

Kết Luận

Bất kỳ phương pháp tấn công mới nào mà giải pháp là ‘trả tiền cho camera giám sát mới’ có một số lợi thế, vì việc mở rộng mạng lưới camera công cộng ở các khu vực được giám sát cao có thể là một thách thức chính trị, cũng như đại diện cho một chi phí công dân đáng kể mà thường cần một cuộc bỏ phiếu của cử tri.

Có lẽ câu hỏi lớn nhất được đặt ra bởi công việc này là ‘Liệu các hệ thống giám sát mã nguồn đóng có sử dụng các khung công nghệ hiện đại như YOLO không?’. Đây, tất nhiên, là điều không thể biết, vì các nhà sản xuất các hệ thống độc quyền mà cung cấp năng lượng cho nhiều mạng lưới camera nhà nước và công cộng (ít nhất ở Mỹ) sẽ lập luận rằng việc tiết lộ việc sử dụng như vậy có thể mở ra cho họ sự tấn công.

Dù vậy, việc di chuyển IT của chính phủ và mã độc quyền trong nhà sang mã nguồn mở toàn cầu sẽ gợi ý rằng bất kỳ ai kiểm tra tuyên bố của các tác giả với (ví dụ) YOLO có thể sẽ đạt được thành công ngay lập tức.

* Tôi thường bao gồm các kết quả bảng liên quan khi chúng được cung cấp trong bài báo, nhưng trong trường hợp này, sự phức tạp của các bảng trong bài báo làm cho chúng không sáng tỏ đối với người đọc thông thường, và một bản tóm tắt do đó hữu ích hơn.

Được xuất bản lần đầu vào thứ ba, ngày 28 tháng 1 năm 2025