Kinas vagtsomme øje: AI-overvågning i Uganda

Dette er den første artikel i en serie af Unite.AI, der udforsker de voksende forbindelser mellem internationale regeringsorganer og AI-overvågning. Verden over udvikler statsdrevne overvågningsprogrammer sig hurtigt, ofte med støtte fra magtfulde teknologi-eksportører som Kina, Israel og Rusland. Uganda fungerer som et interessant case-study, der viser, hvordan AI-overvågning er blevet udviklet, udvidet og begrundet i navnet på national sikkerhed.

AI-overvågning i Uganda har gennemgået en betydelig udvidelse, der dybt har påvirket sikkerhed, styre og offentlig tilsyn. Der kan være grund til bekymring, især da den ugandiske regering tidligere har brugt militærdomstole til at retsforfølge civile.

Uganda har nylig implementeret et omfattende AI-drevet overvågningsystem med tusindvis af lukkede kameraer (CCTV) udstyret med ansigtsgenkendelse. Dette initiativ – en del af en landsdækkende “Sikker By”-plan – blev iværksat med hjælp fra Kinas telekommunikationsgigant Huawei. Ugandiske myndigheder hævder, at det højteknologiske netværk vil styrke offentlig sikkerhed og hjælpe med at reducere den stigende kriminalitet. Imidlertid har programmet også udløst debat, da kritikere udtrykker bekymring over privatliv, potentiel misbrug af teknologien og de bredere implikationer af statsovervågning. Ugandas erfaring eksemplificerer en voksende global tendens til, at regeringer antager AI-overvågning i navnet på sikkerhed, hvilket rejser vigtige spørgsmål om, hvordan man balancerer sikkerhed og borgerrettigheder i den digitale tidsalder.

Baggrund: Ugandas Sikker By-overvågningsprojekt

Kravet om CCTV-overvågning i Uganda fik momentum efter en række højprofilerede voldelige forbrydelser i 2017. Efter drabet på en højtstående politiofficer, AIGP Andrew Kaweesi i marts 2017, instruerede præsident Yoweri Museveni sikkerhedsmyndighederne om at installere “spionkameraer” på større byer og motorveje. Denne politiske direktiv ledte til lanceringen af et ambitiøst Sikker By-overvågningsprojekt i 2018, ledet af Huawei. Projektet havde en pris på ugandiske shillinger 458 milliarder (ca. 126 millioner dollar).

Implementeringen begyndte i Kampala Metropolitan Area som den første fase. Planen forestillede sig mere end 3.200 kameraer installeret på større områder i Kampala, overvåget fra centraliserede kommandocentre. Selv om vi ikke har aktuelle data, var udrulningen i hovedstaden næsten fuldført ved slutningen af 2019 – omkring 85% af Kampala-fasen (cirka 2.500 kameraer) var blevet installeret. Disse kameraer overvåger gader, krydsninger og offentlige rum, og sender video til politiets kontrolrum i realtid. Systemet er en del af Huaweis globale Sikker By-initiativ, der sigter på at bruge teknologi til at hjælpe politiet i byområder. Ugandiske politiofficerer angav, at efter Kampala ville overvågningsnetværket blive udvidet til alle større byer i landet.

Huaweis ejerskab

Huawei Technologies er officielt et privat selskab, der hævder at være fuldstændigt ejet af medarbejderne. Dets unikke ejerskabsstruktur er meget uigennemsigtig: omtrent 99% af Huawei ejes af en fagforeningskomité på vegne af medarbejderne, hvor grundlæggeren Ren Zhengfei angiveligt ejer de resterende 1%.

Medarbejderne får virtuelle aktier, der giver dem ret til profitdeling, men eksterne analyser viser, at disse aktier ikke giver dem typisk kontrol eller stemmeret over selskabets ledelse.

Manglende gennemsigtighed om, hvem der i sidste ende kontrollerer fagforeningskomiteen, har ført til spørgsmål om, hvorvidt Huaweis ledelse eller andre aktører har den virkelige indflydelse over selskabet.

Huawei insisterer på, at ingen eksterne enheder (herunder regeringen) ejer nogen aktier og at det er et uafhængigt, medarbejder-drevet foretagende.

Trods Huaweis påstande om uafhængighed er dets forbindelser til den kinesiske stat og Kommunistpartiet et stridspunkt. Huaweis grundlægger, Ren Zhengfei, er en tidligere ingeniør for Folkets Befrielseshær, og han har været medlem af det kinesiske Kommunistparti (KKP) siden slutningen af 1970’erne. Som mange andre store kinesiske selskaber har Huawei en intern KKP-komité eller “particelle” blandt medarbejderne.

Sådanne partiorganisationer er almindelige i kinesiske virksomheder og er ment til at sikre, at selskabets politikker er i overensstemmelse med stats- og partimål.

Vestlige embedsmænd peger ofte på Rens militære baggrund og partimedlemskab som tegn på, at Huawei kunne være påvirket af Beijing. Den amerikanske udenrigsminister Mike Pompeo påstod f.eks. i 2019, at Ren “løj” om Huaweis manglende statsforbindelser.

Officiel begrundelse og tidlig impact

Den ugandiske regerings officielle begrundelse for at investere i AI-drevet overvågning er at styrke offentlig sikkerhed og modernisere kriminalitetsbekæmpelse. Politiet og regeringsmyndighederne pegede på en stigning i voldelige forbrydelser – herunder attentater, røverier og bortførelser – som begrundelse for CCTV-projektet. Indkøbet af Huaweis kamera-system blev præsenteret som et forsøg på “at reducere voldelig kriminalitet” i landet.

Sikkerhedsmyndighederne fremhævede hurtigt tidlige successer tilskrevet de nye overvågningsværktøjer. I begyndelsen af 2019, da kameraerne blev installeret rundt om i Kampala, rapporterede politiet, at der allerede var løst eller hjulpet med over 40 sager inden for Kampalas centrale og omgivende divisioner på kort tid, herunder identificering af mistænkte og involverede køretøjer i forbrydelser. Ugandas politi roste CCTV-netværket som en betydelig opgradering af politiarbejdet og bemærkede, at funktioner som ansigtsgenkendelse og automatisk nummerpladegenkendelse ville forbedre deres evne til at identificere kriminelle og reagere hurtigt.

Privatlivs- og politiske bekymringer

Trods de lovede sikkerhedsfordele har Ugandas AI-overvågningsprogram mødt kraftig kritik fra oppositionspolitikere, civilsamfundsaktivister og privatlivsforkæmpere. Deres bekymringer handler om mulig misbrug af disse teknologier i et land med en langvarig regering og en historie af undertrykkelse af uenighed. Oppositionspolitikere har advaret om, at det landsdækkende kameranetværk let kan blive omdannet til et værktøj for politisk overvågning – brugt til at spore og identificere regeringskritikere under påskud af offentlig sikkerhed. Bemærkelsesværdigt har ugandiske politimyndigheder erhvervet ansigtsgenkendelsessystemet lige før de omtumlede præsidentvalg i 2021, hvilket har forøget mistanken om dets sande formål.

Privatlivsrettighedsorganisationer har også protesteret mod manglen på tilstrækkelige lovmæssige sikkerhedsforanstaltninger og tilsyn, da overvågningsrulningen begyndte. Den i Kampala baserede digitale rettighedsgruppe Unwanted Witness kritiserede regeringen for at skynde sig med at installere “spionkameraer” uden en habilitetslov eller klare retningslinjer, og advarede om, at dette kunne “true mere liv” end beskytte dem. Aktivister pegede på, at i manglen på privatlivslovgivning og gennemsigtighed kunne de enorme mængder af data, som blev indsamlet af CCTV- og ansigtsgenkendelsessystemer, blive brugt til at overvåge uskyldige borgere, undertrykke fri udtryk eller målrette politiske modstandere.

Sammenlignende indsigt: AI-overvågning i Afrika

Uganda er ikke alene om at antage AI-drevet overvågning – lignende programmer er blevet lanceret i andre lande, hvilket har ført til parallelle debatter om sikkerhed og privatliv:

• Kenya: Ugandas nabo har samarbejdet med Huawei om at implementere sit eget Sikker By-overvågningsystem, med over 1.800 højdefinationskameraer installeret i Nairobi.
• Zimbabwe: Landet indgik en kontroversiel aftale med CloudWalk Technology om at udvikle et landsdækkende ansigtsgenkendelsesprogram.

Konklusion

Ugandas forsøg på AI-drevet overvågning understreger den dobbelte kant, som sådan teknologi repræsenterer. Fremover vil det være afgørende at sikre lovmæssige beskyttelser og tilsyn. Ugandas erfaring fremhæver den bredere globale udfordring med at balancere sikkerhedsbehov med privatlivsrettigheder.

Implikationerne af en fuldstændig overvåget befolkning er dybtgående. Borgere kan opleve selv-censur, begrænsning af deres ytringsfrihed og udtryk af frygt for regeringsgengæld. En klima af massiv overvågning kan føre til en kølig effekt på politisk uenighed, aktivisme og offentlig samling. Desuden kan omfattende overvågning ofte undergrave tilliden mellem regeringen og offentligheden, da folk kan føle, at de bliver overvåget hele tiden, og dette kan hæmme åben demokratisk diskussion. Uden strenge sikkerhedsforanstaltninger kan disse teknologier skifte fra redskaber til forebyggelse af kriminalitet til instrumenter for kontrol.

Dette er kun begyndelsen på vores dybe dykning i den globale opblomstring af AI-drevet overvågning og dens langtrækkende implikationer. Da denne serie fortsætter, vil vi undersøge, hvordan regeringer bruger AI som et værktøj for kontrol, de risici det stiller over for borgerrettigheder, og de voksende bekymringer over privatliv og gennemsigtighed. Fra prædikativ politiarbejde til masseudsamling af data vil vi undersøge den virkelige virkning af AI-overvågning og hvad det betyder for fremtiden for frihed og styre i en verden, der bliver mere og mere overvåget.