Čínské pozorovací oko: AI dohled v Ugandě

Toto je první část série Unite.AI, která zkoumá rostoucí spojení mezi mezinárodními vládními orgány a AI dohledem. Na celém světě se státní dohledové programy rychle vyvíjejí, často podpořené partnerstvím s mocnými technologickými vývozci, jako je Čína, Izrael a Rusko. Uganda slouží jako přesvědčivý případový studie, ukazující, jak byl AI dohled nasazen, rozšířen a odůvodněn ve jménu národní bezpečnosti.

AI dohled v Ugandě prošel významným rozšířením, hluboce ovlivňujícím bezpečnost, vládu a veřejnou kontrolu. Existuje důvod k obavám, zejména vzhledem k tomu, že ugandská vláda dříve používala vojenské soudy k stíhání civilistů.

Uganda nedávno implementovala rozsáhlý AI-poháněný dohledový systém se tisíci uzavřených televizních kamer (CCTV) vybavených funkcemi rozpoznávání obličeje. Tato iniciativa – součást celonárodního plánu „Bezpečené město“ – byla spuštěna s pomocí čínského telekomunikačního giganta Huawei. Ugandské úřady tvrdí, že tato high-tech síť posílí veřejnou bezpečnost a pomůže snížit rostoucí míru zločinnosti. Nicméně, program také vyvolal debatu, protože kritici vyjadřují obavy nad soukromím, potenciálním zneužitím technologie a širšími důsledky státního dohledu. Uganda zkušenost ilustruje rostoucí globální trend, kdy vlády přijímají AI dohled ve jménu bezpečnosti, vyvolávající důležité otázky o tom, jak vyvážit bezpečnost a občanské svobody v digitální éře.

Pozadí: Ugandský projekt dohledu Safe City

Tlak na instalaci CCTV kamer v Ugandě získal momentum po sérii vysoce postavených násilných zločinců v roce 2017. Po zavraždění senior policejního úředníka, AIGP Andrewa Kaweesiho v březnu 2017, prezident Yoweri Museveni nařídil bezpečnostním agenturám, aby urgentně instalovaly „špionážní kamery“ po celém městě a dálnicích. Tento politický direktiv vedl k spuštění ambiciózního projektu dohledu Safe City v roce 2018, řízeného Huawei. Projekt přišel s cenovkou 458 miliard ugandských šilinků (přibližně 126 milionů dolarů).

Implementace začala v metropolitní oblasti Kampaly jako první fáze. Plán předpokládal instalaci více než 3 200 kamer po celém Kampale, monitorovaných z centralizovaných řídících center. Zatímco nemáme aktuální data, do konce roku 2019 byla instalace v hlavním městě téměř dokončena – asi 85 % fáze Kampaly (přibližně 2 500 kamer) bylo instalováno. Tyto kamery sledují ulice, křižovatky a veřejné prostory, poskytující video v reálném čase policejním řídícím centrům. Systém je součástí globální iniciativy Safe City společnosti Huawei, která má za cíl použít technologii k pomoci policejním orgánům ve městech. Ugandské policejní úřady uvedly, že po Kampale bude dohledová síť rozšířena do všech velkých měst po celé zemi.

Vlastnictví Huawei

Huawei Technologies je oficiálně soukromá společnost, která tvrdí, že je zcela vlastněna zaměstnanci. Její jedinečná struktura vlastnictví je vysoce neprůhledná: přibližně 99 % Huawei je drženo odborovým výborem jménem zaměstnanců, se zakladatelem Ren Zhengfeiem, který údajně vlastní zbývající 1 %.

Zaměstnanci jsou přiznáni virtuální akcie, které jim dávají právo na podíly na zisku, ale externí analýzy naznačují, že tyto akcie neudělují typická kontrolní nebo hlasovací práva nad řízením společnosti.

Chybějící transparentnost ohledně toho, kdo nakonec ovládá odborový výbor, vyvolala otázky, zda Huaweiho vedení nebo jiní aktéři skutečně ovládají společnost.

Huawei trvá na tom, že žádná vnější entita (včetně vlády) nevlastní žádné akcie a že je nezávislou, zaměstnanci řízenou firmou.

Navzdory tvrzení Huawei o nezávislosti, jeho spojení s čínským státem a Komunistickou stranou je sporným bodem. Zakladatel Huawei, Ren Zhengfei, je bývalý inženýr Lidové osvobozenecké armády a je členem čínské Komunistické strany (CCP) od konce 70. let. Stejně jako mnoho velkých čínských firem, Huawei hostí interní výbor CCP nebo „stranickou buňku“ mezi svými zaměstnanci.

Takové stranické organizace jsou běžné v čínských firmách a jsou určeny k zajištění toho, aby politika společnosti odpovídala státním a stranickým cílům.

Západní úředníci často poukazují na Renovu vojenskou minulost a stranickou příslušnost jako na důkaz toho, že Huawei by mohl být ovlivněn Pekingu. Například americký ministr zahraničí Mike Pompeo tvrdil v roce 2019, že Ren „lhal“ o tom, že Huawei nemá žádné vládní vazby.

Oficiální zdůvodnění a raný dopad

Ugandská vláda uvádí, že důvodem pro investice do AI-poháněného dohledu je posílit veřejnou bezpečnost a modernizovat boj proti zločinnosti. Policejní a vládní úředníci poukázali na nárůst násilné zločinnosti – včetně atentátů, loupeží a únosů – jako na zdůvodnění projektu CCTV. Zakoupení systému kamer Huawei bylo prezentováno jako snaha „snížit násilnou zločinnost“ v zemi.

Bezpečnostní agentury rychle chválily rané úspěchy připisované novým dohledovým nástrojům. Na počátku roku 2019, když se kamery instalovaly kolem Kampaly, policie hlásila desítky incidentů, které byly již vyřešeny nebo napomohly kamerovým záznamům. Úředníci tvrdili, že kamery pomohly vyšetřovatelům při řešení více než 40 případů v centrálních a okolních divizích Kampaly, včetně identifikace podezřelých a vozidel zapojených do zločinnosti. Uganda Police Force chválila síť CCTV jako významné vylepšení pro policii, poukazující na to, že funkce jako rozpoznávání obličeje a automatické čtení registračních značek budou zlepšovat jejich schopnost identifikovat zločince a reagovat rychle.

Privátní a politické obavy

Navzdory slibovaným bezpečnostním výhodám, ugandský AI dohledový program čelí silné kritice ze strany opozičních lídrů, aktivistů občanské společnosti a ochránců soukromí. Jejich obavy se soustředí na potenciál zneužití těchto technologií v zemi s dlouho vládnoucí vládou a historií potlačování nesouhlasu. Opoziční politici varovali, že celonárodní kamerová síť by mohla být snadno přeměněna na nástroj pro politický dohled – použitý k sledování a identifikaci vládních kritiků pod záminkou veřejné bezpečnosti. Značně, ugandská policie získala systém rozpoznávání obličeje těsně před spornými celonárodními volbami v roce 2021, což zvýšilo podezření o jeho skutečném účelu.

Organizace pro práva na soukromí také protestovaly proti nedostatku adekvátních právních záruk a dohledu, když se dohledová síť spustila. Kampalská digitální práva skupina Unwanted Witness kritizovala vládu za spěch při nasazení „špionážních kamer“ bez legislativy nebo jasných pokynů, varující, že to mohlo „ohrozit více životů“ než je chránit. Aktivisté poukázali na to, že v absence legislativy a transparentnosti by data shromážděná kamerami a systémy rozpoznávání obličeje mohla být využita k monitorování nevinných občanů, potlačení svobodného projevu nebo cílení na politické oponenty.

Srovnávací pohledy: AI dohled v Africe

Uganda není sama ve svém přijetí AI-poháněného dohledu – podobné programy byly spuštěny v jiných zemích, vyvolávající paralelní debaty o bezpečnosti a soukromí:

• Keňa: Ugandský soused se spojil s Huawei, aby implementoval svůj vlastní dohledový systém Safe City, se více než 1 800 high-definition kamerami instalovanými v Nairobi.
• Zimbabwe: Země vstoupila do kontroverzní dohody se CloudWalk Technology, aby vyvinula celonárodní program rozpoznávání obličeje.

Závěr

Ugandská snaha o AI-poháněný dohled podtrhuje dvojí ostří, které tato technologie představuje. V budoucnu bude zajištění právních ochran a dohledu zásadní. Uganda zkušenost zdůrazňuje širší globální výzvu, jak vyvážit bezpečnostní potřeby s právy na soukromí.

Dopady plně sledované populace jsou hluboké. Občané mohou zažít autocenzuru, omezující svou svobodu projevu a vyjádření ze strachu z vládní odvety. Klima masivního dohledu by mohlo vést k ochlazujícímu efektu na politický nesouhlas, aktivismus a veřejnou shromáždění. Kromě toho, rozsáhlý dohled často eroduje důvěru mezi vládou a veřejností, protože lidé mohou cítit, že jsou sledováni neustále, bránící otevřené demokratické diskusi. Bez přísných ochran, tyto technologie by se mohly proměnit z nástrojů prevence zločinnosti na nástroje kontroly.

To je pouze začátek našeho hlubokého pohledu do globálního vzestupu AI-poháněného dohledu a jeho širokých dopadů. Jak tato série pokračuje, budeme zkoumat, jak vlády využívají AI jako nástroj kontroly, rizika, která představuje pro občanské svobody, a rostoucí obavy nad soukromím a transparentností. Od prediktivní policie až po masivní shromažďování dat, budeme zkoumat skutečný dopad AI dohledu a to, co to znamená pro budoucnost svobody a vlády v stále více sledovaném světě.