Wzrok Chin: nadzór AI w Ugandzie

To oznacza pierwszy artykuł w serii Unite.AI, który opisuje rosnące powiązania między międzynarodowymi organami rządowymi a nadzorem AI. Na całym świecie programy nadzoru państwowego ewoluują szybko, często wspierane przez partnerstwa z potężnymi eksporterami technologii, takimi jak Chiny, Izrael i Rosja. Uganda jest interesującym przypadkiem, ujawniającym, jak nadzór AI został wdrożony, rozszerzony i uzasadniony w imię bezpieczeństwa narodowego.

Nadzór AI w Ugandzie przeszedł znaczącą ekspansję, głęboko wpływając na bezpieczeństwo, zarządzanie i nadzór publiczny. Może istnieć powód do obaw, zwłaszcza że rząd Ugandy wcześniej wykorzystywał sądy wojskowe do ścigania cywilów.

Uganda niedawno wdrożyła obszerny system nadzoru AI, wyposażony w tysiące kamer CCTV z funkcjami rozpoznawania twarzy. Inicjatywa ta – część ogólnokrajowego planu „Bezpieczne Miasto” – została wdrożona przy pomocy chińskiego giganta telekomunikacyjnego Huawei. Władze Ugandy twierdzą, że sieć wykorzysta technologię do zwiększenia bezpieczeństwa publicznego i pomocy w zwalczaniu rosnącej liczby przestępstw. Jednak program wywołał debatę, a krytycy wyrażają obawy co do potencjalnego nadużycia tej technologii i szerszych implikacji nadzoru państwowego. Doświadczenie Ugandy ilustruje rosnący trend na świecie, gdzie rządy przyjmują nadzór AI w imię bezpieczeństwa, podnosząc ważne pytania o to, jak równoważyć bezpieczeństwo i wolności obywatelskie w erze cyfrowej.

Tło: Projekt nadzoru Ugandy Safe City

Popyt na nadzór CCTV w Ugandzie zyskał na sile po serii gwałtownych przestępstw w 2017 roku. Po zamordowaniu wysokiego rangą oficera policyjnego, AIGP Andrew Kaweesi w marcu 2017 roku, prezydent Yoweri Museveni nakazał agencjom bezpieczeństwa pilnie zainstalować „kamery szpiegowskie” w dużych miastach i na drogach. Dyrektywa polityczna ta doprowadziła do uruchomienia ambitnego projektu nadzoru Safe City w 2018 roku, zarządzanego przez Huawei. Projekt miał wartość 458 miliardów szylingów ugandyjskich (około 126 milionów dolarów).

Wdrożenie rozpoczęło się w obszarze metropolitalnym Kampali jako pierwsza faza. Plan przewidywał rozmieszczenie ponad 3 200 kamer w całym Kampali, monitorowanych z centralnych centrów dowodzenia. Chociaż nie mamy obecnie danych, do końca 2019 roku wdrożenie w stolicy było niemal ukończone – około 85% fazy Kampali (około 2 500 kamer) zostało zainstalowanych. Kamery te monitorują ulice, skrzyżowania i przestrzenie publiczne, przekazując wideo do pomieszczeń kontrolnych policji w czasie rzeczywistym. System jest częścią globalnej inicjatywy Safe City Huawei, której celem jest wspieranie organów ścigania w obszarach miejskich za pomocą technologii. Funkcjonariusze policji Ugandy wskazali, że po Kampali sieć nadzoru zostanie rozszerzona na wszystkie główne miasta w kraju.

Własność Huawei

Huawei Technologies jest oficjalnie firmą prywatną, która twierdzi, że jest w całości własnością pracowników. Struktura własności jest wyjątkowo nieprzejrzysta: około 99% Huawei należy do komitetu związkowego na rzecz pracowników, a założyciel Ren Zhengfei posiada pozostałe 1%.

Pracownicy otrzymują wirtualne udziały, które uprawniają ich do udziału w zyskach, ale zewnętrzne analizy wskazują, że te udziały nie przyznają typowych praw kontrolnych lub głosowych w sprawie zarządzania firmą.

Brak przejrzystości co do tego, kto ostatecznie kontroluje komitet związkowy, wywołał pytania, czy zarząd Huawei lub inne podmioty mają prawdziwą kontrolę nad firmą.

Huawei twierdzi, że żadna zewnętrzna jednostka (w tym rząd) nie posiada udziałów i że jest to niezależna, samorządna firma.

Pomimo twierdzeń Huawei o niezależności, jego powiązania z chińskim państwem i Partią Komunistyczną są punktem sporu. Założyciel Huawei, Ren Zhengfei, jest byłym inżynierem Ludowej Armii Wyzwolenia, a od późnych lat 70-tych jest członkiem Partii Komunistycznej Chin. Jak wiele dużych chińskich firm, Huawei posiada wewnętrzny komitet Partii Komunistycznej wśród swoich pracowników.

Tego typu organizacje partyjne są powszechne w chińskich firmach i mają na celu zapewnienie, że polityka firmy jest zgodna z celami państwa i Partii.

Zachodni urzędnicy często wskazują na wojskową przeszłość Rena i jego przynależność partyjną jako oznaki, że Huawei może być pod wpływem Pekinu. Na przykład amerykański sekretarz stanu Mike Pompeo stwierdził w 2019 roku, że Ren „kłamał” na temat braku powiązań rządowych.

Oficjalne uzasadnienie i wczesny wpływ

Oficjalne uzasadnienie rządu Ugandy dla inwestycji w nadzór AI opiera się na zwiększeniu bezpieczeństwa publicznego i modernizacji walki z przestępczością. Funkcjonariusze policji i rządowi wskazali na wzrost przestępczości – w tym morderstwa, rabunki i porwania – jako uzasadnienie dla projektu CCTV. Zakup systemu kamer Huawei został przedstawiony jako próba „zmniejszenia przestępczości” w kraju.

Agencje bezpieczeństwa szybko pochwalili się wczesnymi sukcesami przypisywanymi nowym narzędziom nadzoru. Na początku 2019 roku, gdy kamery były instalowane wokół Kampali, policja zgłosiła dziesiątki incydentów, które zostały już rozwiązane lub ułatwione dzięki nagraniom z kamer CCTV. Funkcjonariusze twierdzili, że kamery pomogły śledczym w rozwiązaniu ponad 40 spraw w centralnych i okolicznych dzielnicach Kampali w krótkim czasie, w tym w identyfikacji podejrzanych i pojazdów uczestniczących w przestępstwach. Uganda Police Force pochwalili się siecią CCTV jako znaczącą modernizacją policji, zauważając, że funkcje takie jak rozpoznawanie twarzy i automatyczne odczytywanie tablic rejestracyjnych zwiększą ich zdolność do identyfikacji przestępców i szybkiej reakcji.

Prywatność i obawy polityczne

Pomimo obietnic związanych z bezpieczeństwem, program nadzoru AI Ugandy spotkał się z silną krytyką ze strony liderów opozycji, aktywistów społecznych i obrońców prywatności. Ich obawy koncentrują się na potencjalnym nadużyciu tej technologii w kraju z długotrwałym rządem i historią represji wobec opozycji. Politycy opozycji ostrzegali, że ogólnokrajowa sieć kamer może być łatwo przekształcona w narzędzie nadzoru politycznego – wykorzystywane do śledzenia i identyfikacji krytyków rządu pod pretekstem bezpieczeństwa publicznego. Godny uwagi jest fakt, że policja Ugandy nabyła system kamer z funkcją rozpoznawania twarzy tuż przed kontrowersyjnymi wyborami ogólnymi w 2021 roku, co nasiliło podejrzenia co do jego prawdziwego celu.

Organizacje broniące praw do prywatności również sprzeciwiły się brakowi odpowiednich środków prawnych i nadzoru, gdy rozpoczęto wdrożenie nadzoru. Kampalska grupa praw cyfrowych Unwanted Witness skrytykowała rząd za pośpiech w wdrożeniu „kamer szpiegowskich” bez ustawy umożliwiającej lub wyraźnych wytycznych, ostrzegając, że może to „zagrozić więcej życiom” niż je chronić. Aktywiści zwrócili uwagę, że w przypadku braku ustawy o ochronie prywatności i przejrzystości ogromne dane zebrane przez systemy CCTV i rozpoznawania twarzy mogą być wykorzystane do monitorowania niewinnych obywateli, tłumienia wolności słowa lub atakowania przeciwników politycznych.

Porównawcze spojrzenie: Nadzór AI w Afryce

Uganda nie jest jedynym krajem, który przyjął nadzór AI – podobne programy zostały uruchomione w innych krajach, wywołując równoległe debaty na temat bezpieczeństwa i prywatności:

• Kenia: Sąsiad Ugandy współpracuje z Huawei w celu wdrożenia własnego systemu nadzoru Safe City, z ponad 1 800 kamerami wysokiej rozdzielczości zainstalowanymi w Nairobi.
• Zimbabwe: Kraj ten zawarł kontrowersyjną umowę z CloudWalk Technology w celu opracowania ogólnokrajowego programu rozpoznawania twarzy.

Wnioski

Przygoda Ugandy z nadzorem AI podkreśla dwuznaczny charakter tej technologii. W przyszłości zapewnienie ochrony prawnej i nadzoru będzie kluczowe. Doświadczenie Ugandy ujawnia szersze globalne wyzwanie, jakim jest równoważenie potrzeb bezpieczeństwa z prawami do prywatności.

Implikacje w pełni nadzorowanej populacji są ogromne. Obywatele mogą doświadczyć autocenzury, ograniczając swoją wolność słowa i wyrażania opinii ze strachu przed odwetem rządowym. Klimat masowego nadzoru może prowadzić do efektu mrożącego na dysent polityczny, aktywizm i zgromadzenia publiczne. Ponadto rozległy nadzór często niszczy zaufanie między rządem a społeczeństwem, ponieważ ludzie mogą czuć, że są obserwowani o każdej porze, hamując otwarty dyskurs demokratyczny. Bez surowych zabezpieczeń te technologie mogą przerodzić się z narzędzi prewencji przestępczości w instrumenty kontroli.

To dopiero początek naszego głębokiego spojrzenia na globalny wzrost nadzoru AI i jego dalekosiężne implikacje. W miarę kontynuacji tej serii będziemy badać, jak rządy wykorzystują AI jako narzędzie kontroli, ryzyko, jakie stwarza dla wolności obywatelskich, oraz rosnące obawy dotyczące prywatności i przejrzystości. Od policji predykcyjnej do masowego zbierania danych, będziemy analizować rzeczywisty wpływ nadzoru AI i to, co oznacza dla przyszłości wolności i zarządzania w coraz bardziej monitorowanym świecie.