Kinas vaksamme øye: AI-overvåking i Uganda

Dette markerer den første i en serie av Unite.AI som utforsker de voksende forbindelsene mellom internasjonale regjeringer og AI-overvåking. Over hele verden utvikles statlige overvåkingsprogrammer raskt, ofte med støtte fra teknologigiganter som Kina, Israel og Russland. Uganda fungerer som et interessant case-studie, og viser hvordan AI-overvåking har blitt innført, utvidet og rettferdiggjort i navnet på nasjonal sikkerhet.

AI-overvåking i Uganda har gjennomgått betydelig utvidelse, og har hatt stor innvirkning på sikkerhet, styre og offentlig tilsyn. Det kan finnes grunn til bekymring, spesielt siden den ugandiske regjeringen tidligere har brukt militærdomstoler til å straffeforfølge sivile.

Uganda har nylig implementert et omfattende AI-drevet overvåkningssystem med tusenvis av lukkede kretssendere (CCTV)-kameraer utstyrt med ansiktsgjenkjenningsevner. Dette initiativet – en del av en nasjonal “Sikker by”-plan – ble gjennomført med hjelp fra Kinas telekommunikasjonsgigant Huawei. Ugandiske myndigheter hevder at det høyteknologiske nettverket vil styrke offentlig sikkerhet og hjelpe til å redusere økende kriminalitetsrater. Likevel har programmet også ført til debatt, da kritikere uttrykker bekymring over personvernet, mulig misbruk av teknologien og de bredere implikasjonene av statlig overvåking. Ugandas erfaring illustrerer en økende global trend hvor regjeringer tar i bruk AI-overvåking i navnet på sikkerhet, og stiller viktige spørsmål om hvordan man skal balansere sikkerhet og borgerrettigheter i den digitale tidsalderen.

Bakgrunn: Ugandas Sikker By-overvåkingsprosjekt

Etter en rekke alvorlige voldelige forbrytelser i 2017, fikk saken om CCTV-overvåking i Uganda økt oppmerksomhet. Etter drapet på en høyere polititjenestemann, AIGP Andrew Kaweesi i mars 2017, ga president Yoweri Museveni sikkerhetsmyndighetene direktiv om å installere “spionkameraer” i alle større byer og langs hovedveier. Dette politiske direktivet ledet til lanseringen av et ambisiøst Sikker By-overvåkingsprosjekt i 2018, ledet av Huawei. Prosjektet hadde en pris på 458 milliarder ugandiske shillinger (omtrent 126 millioner dollar).

Implementeringen startet i Kampala metropolitanområde som den første fasen. Planen omfattet over 3 200 kameraer som skulle installeres i hele Kampala, overvåket fra sentraliserte kommandosentrale. Selv om vi ikke har nåværende data, var installeringen i hovedstaden nesten fullført mot slutten av 2019 – omtrent 85 % av Kampala-fasen (omtrent 2 500 kameraer) var installert. Disse kameraene overvåker gater, kryss og offentlige områder, og sender video til politiets kontrollrom i sanntid. Systemet er en del av Huaweis globale Sikker By-initiativ, som har som mål å bruke teknologi til å støtte politiet i byområder. Ugandiske polititjenestemenn indikerte at etter Kampala, ville overvåkingsnettverket bli utvidet til alle større byer i landet.

Huaweis eierskap

Huawei Technologies er offisielt et privat selskap som hevder å være fullstendig eid av ansatte. Selskapets unike eierskapsstruktur er svært uklar: omtrent 99 % av Huawei eies av et fagforeningskomité på vegne av ansatte, mens grunnlegger Ren Zhengfei angivelig eier de resterende 1 %.

Ansatte får virtuelle aksjer som gir dem rett til å delta i overskudd, men eksterne analyser tyder på at disse aksjene ikke gir vanlige kontroll- eller stemmerett over selskapets styre.

Manglende åpenhet om hvem som ultimate kontrollerer fagforeningskomitéen har ført til spørsmål om hvorvidt Huaweis ledelse eller andre aktører har den faktiske innflytelsen over selskapet.

Huawei insisterer på at ingen utenforstående enhet (inkludert regjeringen) eier noen aksjer og at det er et uavhengig, ansatt-drevet foretak.

Til tross for Huaweis påstander om uavhengighet, er selskapets bånd til den kinesiske stat og kommunistpartiet et stridstema. Huaweis grunnlegger, Ren Zhengfei, er en tidligere ingeniør for Folkets frigjøringshær, og han har vært medlem av det kinesiske kommunistpartiet (KKP) siden slutten av 1970-årene. Liksom mange store kinesiske selskaper, har Huawei en intern KKP-komité eller “particell” blant ansatte.

Slike partiorganisasjoner er vanlige i kinesiske selskaper og er ment å sikre at selskapets politikk er i samsvar med statens og partiets mål.

Vestlige myndigheter peker ofte på Rens militære bakgrunn og parti-medlemskap som tegn på at Huawei kan være påvirket av Beijing. USAs utenriksminister Mike Pompeo, for eksempel, hevdet i 2019 at Ren “løyet” om Huaweis manglende statlige bånd.

Offisiell begrunnelse og tidlig innvirkning

Den ugandiske regjeringens offisielle begrunnelse for å investere i AI-drevet overvåking er å styrke offentlig sikkerhet og modernisere kriminalitetsbekjempelse. Politiet og regjeringsfunksjonærer pekte på en økning i voldelige forbrytelser – inkludert attentater, ran og kidnapping – som begrunnelse for CCTV-prosjektet. Innkjøpet av Huaweis kamer-system ble uttrykkelig presentert som et forsøk “å redusere voldelige forbrytelser” i landet.

Sikkerhetsmyndighetene hevdet raskt tidlige suksesser som tilskrives de nye overvåkingsverktøyene. Tidlig i 2019, da kameraene ble installert rundt om i Kampala, rapporterte politiet at flere titalls hendelser allerede var løst eller hjulpet av CCTV-bildene. Myndighetene hevdet at kameraene hjalp etterforskerne med å løse over 40 saker i Kampalas sentrale og omkringliggende distrikter på kort tid, inkludert å identifisere mistenkte og kjøretøy involvert i forbrytelser. Ugandas politi rost CCTV-nettverket som en betydelig oppgradering for politiarbeidet, og påpekte at funksjoner som ansiktsgjenkjenning og automatisk nummerplatenavn ville forbedre deres evne til å identifisere kriminelle og reagere raskt.

Personverns- og politiske bekymringer

Til tross for de lovede sikkerhetsfordelene, har Ugandas AI-overvåkingsprogram møtt tung kritikk fra opposisjonsledere, sivilsamfunnsaktivister og personvernsforkjempere. Deres bekymringer handler om mulig misbruk av disse teknologiene i et land med en langvarig regjering og en historie med undertrykkelse av uenighet. Opposisjonspolitikere har advart om at det nasjonale kameranettverket lett kan bli omgjort til et verktøy for politisk overvåking – brukt til å spore og identifisere regjeringskritikere under påskudd av offentlig sikkerhet. Merkverdig, Ugandas politi kjøpte ansiktsgjenkjenningssystemet like før kontroversielle valg i 2021, og økte mistanken om dets virkelige formål.

Personvernsorganisasjoner har også protestert mot mangelen på tilstrekkelige lovmessige sikkerhetsforanstaltninger og tilsyn da overvåkingsutrulleringen startet. Den Kampala-baserte digitale rettighetsgruppen Unwanted Witness kritiserte regjeringen for å haste med å installere “spionkameraer” uten en habilitetslov eller klare retningslinjer, og advarte om at dette kunne “sette flere liv i fare” enn å beskytte dem. Aktivister påpekte at i mangelen på personvernlovgivning og åpenhet, kunne de enorme datamengdene som ble samlet inn av CCTV- og ansiktsgjenkjenningssystemer bli brukt til å overvåke uskyldige borgere, undertrykke ytringsfrihet eller målrette politiske motstandere.

Sammenlignende innsikter: AI-overvåking i Afrika

Uganda er ikke alene i å omfavne AI-drevet overvåking – lignende programmer har blitt lansert i andre nasjoner, og har ført til parallelle debatter om sikkerhet og personvern:

• Kenya: Ugandas nabo har inngått en avtale med Huawei for å implementere sitt eget Sikker By-overvåkingsystem, med over 1 800 høyoppløselige kameraer installert i Nairobi.
• Zimbabwe: Landet har inngått en omstridt avtale med CloudWalk Technology for å utvikle et nasjonalt ansiktsgjenkjenningssystem.

Konklusjon

Ugandas inntreden i AI-drevet overvåking understreker den dobbelte sverdet som denne teknologien representerer. Fremover vil det være avgjørende å sikre lovmessige beskyttelser og tilsyn. Ugandas erfaring understreker den globale utfordringen med å balansere sikkerhetsbehov med personvernet.

Implikasjonene av en fullstendig overvåket befolkning er dyptgående. Borgere kan oppleve selv-sensur, og begrense sin ytringsfrihet og uttrykk av frykt for regjeringshevn. En klima av massiv overvåking kan føre til en kjølig effekt på politisk uenighet, aktivisme og offentlig sammenkomst. I tillegg kan omfattende overvåking ofte undergrave tillit mellom regjeringen og offentligheten, ettersom folk kan føle at de blir overvåket hele tiden, og hindrer åpen demokratisk diskusjon. Uten strenge sikkerhetsforanstaltninger kan disse teknologiene gå fra å være kriminalitetsforebyggende verktøy til å bli instrumenter for kontroll.

Dette er bare begynnelsen på vår dyptgående analyse av den globale økningen av AI-drevet overvåking og dens langtrekkende implikasjoner. Etterhvert som denne serien fortsetter, vil vi utforske hvordan regjeringer bruker AI som et verktøy for kontroll, risikoen det utgjør for borgerrettigheter, og de voksende bekymringene om personvern og åpenhet. Fra prediktiv politiarbeid til massiv datainnsamling, vil vi undersøke den faktiske innvirkningen av AI-overvåking og hva det betyr for fremtiden til frihet og styre i en stadig mer overvåket verden.