Mắt watchful của Trung Quốc: Giám sát AI ở Uganda

Đây là bài đầu tiên trong một loạt bài của Unite.AI về sự kết nối ngày càng tăng giữa các cơ quan chính phủ quốc tế và giám sát AI. Trên toàn cầu, các chương trình giám sát do nhà nước tài trợ đang phát triển nhanh chóng, thường được hỗ trợ bởi các đối tác với các nhà xuất khẩu công nghệ mạnh mẽ như Trung Quốc, Israel và Nga. Uganda là một trường hợp nghiên cứu hấp dẫn, cho thấy cách giám sát AI đã được triển khai, mở rộng và biện minh cho an ninh quốc gia.

Giám sát AI ở Uganda đã trải qua sự mở rộng đáng kể, ảnh hưởng sâu sắc đến an ninh, quản lý và giám sát công cộng. Có thể có lý do để lo lắng, đặc biệt là khi chính phủ Uganda trước đây sử dụng tòa án quân sự để xét xử dân thường.

Uganda gần đây đã triển khai một hệ thống giám sát AI rộng lớn, bao gồm hàng nghìn camera giám sát (CCTV) được trang bị khả năng nhận dạng khuôn mặt. Sáng kiến này – là một phần của kế hoạch “Thành phố An toàn” toàn quốc – được triển khai với sự giúp đỡ của Huawei, gã khổng lồ viễn thông của Trung Quốc. Các quan chức Uganda cho rằng mạng lưới công nghệ cao này sẽ tăng cường an ninh công cộng và giúp giảm tỷ lệ tội phạm đang tăng. Tuy nhiên, chương trình này cũng đã gây ra tranh cãi, khi các nhà phê bình bày tỏ lo ngại về quyền riêng tư, khả năng lạm dụng công nghệ và những tác động rộng lớn hơn của giám sát nhà nước. Kinh nghiệm của Uganda thể hiện một xu hướng toàn cầu ngày càng tăng của các chính phủ áp dụng giám sát AI với tên của an ninh, đặt ra những câu hỏi quan trọng về cách cân bằng an ninh và tự do dân sự trong thời đại kỹ thuật số.

Background: Dự án Giám sát Thành phố An toàn của Uganda

Sự thúc đẩy để giám sát CCTV ở Uganda đã tăng cường sau một loạt các tội phạm bạo lực cao cấp vào năm 2017. Sau ám sát một quan chức cảnh sát cấp cao, AIGP Andrew Kaweesi vào tháng 3 năm 2017, Tổng thống Yoweri Museveni đã chỉ đạo các cơ quan an ninh lắp đặt “máy ảnh gián điệp” trên các thành phố và đường cao tốc chính. Chỉ thị chính trị này đã dẫn đến việc ra mắt một dự án giám sát Thành phố An toàn đầy tham vọng vào năm 2018, do Huawei quản lý. Dự án này có giá 458 tỷ Shilling Uganda (khoảng 126 triệu đô la).

Việc triển khai bắt đầu ở Khu vực đô thị Kampala như là giai đoạn đầu tiên. Kế hoạch này đã hình dung ra hơn 3.200 camera được triển khai trên toàn khu vực Kampala lớn, được giám sát từ các trung tâm chỉ huy tập trung. Mặc dù chúng tôi không có dữ liệu hiện tại, nhưng vào cuối năm 2019, việc triển khai ở thủ đô gần như hoàn thành – khoảng 85% giai đoạn Kampala (khoảng 2.500 camera) đã được lắp đặt. Những camera này giám sát các đường phố, ngã tư và không gian công cộng, cung cấp video cho các phòng điều khiển của cảnh sát theo thời gian thực. Hệ thống này là một phần của sáng kiến Thành phố An toàn toàn cầu của Huawei, nhằm sử dụng công nghệ để hỗ trợ thực thi pháp luật ở các khu vực đô thị. Các quan chức cảnh sát Uganda cho biết sau Kampala, mạng lưới giám sát sẽ được mở rộng đến tất cả các thành phố lớn trên toàn quốc.

Sở hữu Huawei

Huawei Technologies chính thức là một công ty tư nhân tuyên bố hoàn toàn thuộc sở hữu của nhân viên. Cấu trúc sở hữu độc đáo của nó rất không rõ ràng: khoảng 99% của Huawei được nắm giữ bởi một ủy ban công đoàn thay mặt cho nhân viên của mình, với người sáng lập Ren Zhengfei được cho là sở hữu <1% còn lại.

Nhân viên được cấp cổ phiếu ảo có quyền chia sẻ lợi nhuận, nhưng các phân tích bên ngoài cho thấy những cổ phiếu này không cung cấp quyền kiểm soát hoặc quyền biểu quyết điển hình đối với quản trị công ty.

Cấu trúc này – sở hữu thông qua một ủy ban công đoàn công ty – rất không bình thường ở Trung Quốc, đặc biệt là đối với một công ty có quy mô của Huawei.

Thiếu minh bạch về việc ai cuối cùng kiểm soát ủy ban công đoàn đã gây ra những câu hỏi về việc liệu ban quản lý của Huawei hay các bên khác có thực sự kiểm soát công ty hay không.

Mặc dù Huawei tuyên bố không có thực thể bên ngoài (bao gồm cả chính phủ) nắm giữ bất kỳ cổ phiếu nào và rằng đó là một doanh nghiệp độc lập, do nhân viên quản lý.

Mối quan hệ của Huawei với nhà nước Trung Quốc và Đảng Cộng sản là một điểm tranh cãi. Người sáng lập Huawei, Ren Zhengfei, là một kỹ sư cũ của Quân đội Giải phóng Nhân dân và đã là thành viên của Đảng Cộng sản Trung Quốc (ĐCSTQ) từ cuối những năm 1970. Giống như nhiều công ty lớn của Trung Quốc, Huawei tổ chức một ủy ban Đảng hoặc “tế bào Đảng” trong số nhân viên của mình.

Những tổ chức Đảng như vậy rất phổ biến trong các công ty Trung Quốc và được thiết kế để đảm bảo các chính sách của công ty phù hợp với các mục tiêu của nhà nước và Đảng.

Các quan chức phương Tây thường chỉ ra nền tảng quân sự của Ren và tư cách thành viên Đảng là dấu hiệu cho thấy Huawei có thể bị ảnh hưởng bởi Bắc Kinh. Bộ trưởng Ngoại giao Hoa Kỳ Mike Pompeo, ví dụ, cho biết vào năm 2019 rằng Ren đang “nói dối” về việc Huawei không có quan hệ với chính phủ.

Lý do chính thức và Tác động sớm

Lý do chính thức của chính phủ Uganda để đầu tư vào giám sát AI là tăng cường an ninh công cộng và hiện đại hóa việc chống tội phạm. Cảnh sát và quan chức chính phủ cho rằng sự gia tăng tội phạm bạo lực – bao gồm ám sát, cướp và bắt cóc – là lý do cho dự án CCTV. Việc mua hệ thống camera của Huawei được trình bày rõ ràng là một nỗ lực “giảm tội phạm bạo lực” trong nước.

Các cơ quan an ninh nhanh chóng ca ngợi những thành công ban đầu được cho là nhờ vào các công cụ giám sát mới. Vào đầu năm 2019, khi các camera được lắp đặt xung quanh Kampala, cảnh sát đã báo cáo hàng chục vụ việc đã được giải quyết hoặc hỗ trợ bởi hình ảnh CCTV. Các quan chức cho biết các camera đã giúp các điều tra viên tiến bộ trong hơn 40 vụ án trong các khu vực trung tâm và xung quanh của Kampala trong một thời gian ngắn, bao gồm cả việc xác định các đối tượng và phương tiện tham gia vào tội phạm. Lực lượng Cảnh sát Uganda ca ngợi mạng lưới CCTV là một bản nâng cấp đáng kể cho hoạt động cảnh sát, lưu ý rằng các tính năng như nhận dạng khuôn mặt và đọc biển số tự động sẽ tăng cường khả năng của họ trong việc xác định tội phạm và phản ứng nhanh chóng.

Quyền riêng tư và Lo ngại Chính trị

Mặc dù những lợi ích an ninh được hứa hẹn, chương trình giám sát AI của Uganda đã phải đối mặt với sự chỉ trích gay gắt từ các nhà lãnh đạo phe đối lập, các nhà hoạt động xã hội dân sự và các nhà bảo vệ quyền riêng tư. Những lo ngại của họ tập trung vào khả năng lạm dụng những công nghệ này trong một quốc gia có một chính phủ cầm quyền lâu dài và lịch sử đàn áp những người bất đồng chính kiến. Các nhà lãnh đạo phe đối lập đã cảnh báo rằng mạng lưới camera toàn quốc có thể dễ dàng bị biến thành một công cụ giám sát chính trị – được sử dụng để theo dõi và xác định những người chỉ trích chính phủ dưới danh nghĩa an ninh công cộng. Đặc biệt, cảnh sát Uganda đã mua hệ thống camera nhận dạng khuôn mặt ngay trước các cuộc bầu cử tổng thống năm 2021 đầy tranh cãi, làm dấy lên sự nghi ngờ về mục đích thực sự của nó.

Các tổ chức bảo vệ quyền riêng tư cũng phản đối việc thiếu các biện pháp bảo vệ pháp lý và giám sát khi việc triển khai giám sát bắt đầu. Nhóm quyền kỹ thuật số có trụ sở tại Kampala Unwanted Witness chỉ trích chính phủ vì vội vàng triển khai “máy ảnh gián điệp” mà không có luật cho phép hoặc hướng dẫn rõ ràng, cảnh báo rằng điều này có thể “đe dọa nhiều mạng sống” hơn là bảo vệ chúng. Các nhà hoạt động cho biết trong sự vắng mặt của pháp luật về quyền riêng tư và minh bạch, dữ liệu khổng lồ được thu thập bởi hệ thống CCTV và nhận dạng khuôn mặt có thể được sử dụng để theo dõi công dân vô tội, kìm hãm tự do ngôn luận hoặc nhắm vào những người đối lập chính trị.

So sánh: Giám sát AI ở Châu Phi

Uganda không đơn độc trong việc áp dụng giám sát AI – các chương trình tương tự đã được triển khai ở các quốc gia khác, gây ra những cuộc tranh luận song song về an ninh và quyền riêng tư:

• Kenya: láng giềng của Uganda đã hợp tác với Huawei để triển khai hệ thống giám sát Thành phố An toàn của riêng họ, với hơn 1.800 camera độ phân giải cao được lắp đặt ở Nairobi.
• Zimbabwe: quốc gia này đã ký một thỏa thuận gây tranh cãi với CloudWalk Technology để phát triển một chương trình nhận dạng khuôn mặt toàn quốc.

Kết luận

Sự tham gia của Uganda vào giám sát AI nhấn mạnh con dao hai lưỡi mà công nghệ này đại diện. Trong tương lai, việc đảm bảo các biện pháp bảo vệ pháp lý và giám sát sẽ rất quan trọng. Kinh nghiệm của Uganda làm nổi bật thách thức toàn cầu về việc cân bằng nhu cầu an ninh với quyền riêng tư.

Those tác động của một dân số được giám sát hoàn toàn là sâu sắc. Công dân có thể trải qua tự kiểm duyệt, hạn chế tự do ngôn luận và biểu đạt của họ vì sợ bị chính phủ trả thù. Một khí hậu giám sát hàng loạt có thể dẫn đến một hiệu ứng làm lạnh đối với bất đồng chính kiến, hoạt động và hội họp công cộng. Ngoài ra, giám sát rộng lớn thường làm xói mòn niềm tin giữa chính phủ và công chúng, vì mọi người có thể cảm thấy mình đang được theo dõi mọi lúc, kìm hãm sự thảo luận dân chủ cởi mở. Nếu không có các biện pháp bảo vệ nghiêm ngặt, những công nghệ này có thể chuyển từ công cụ phòng chống tội phạm sang công cụ kiểm soát.

Đây chỉ là bước đầu tiên trong loạt bài sâu về sự trỗi dậy toàn cầu của giám sát AI và những tác động rộng lớn của nó. Khi loạt bài này tiếp tục, chúng tôi sẽ khám phá cách các chính phủ sử dụng AI như một công cụ kiểm soát, những rủi ro mà nó gây ra cho các quyền tự do dân sự và những lo ngại ngày càng tăng về quyền riêng tư và minh bạch. Từ cảnh sát dự đoán đến thu thập dữ liệu hàng loạt, chúng tôi sẽ kiểm tra tác động thực tế của giám sát AI và ý nghĩa của nó đối với tương lai của tự do và quản trị trong một thế giới ngày càng được theo dõi.