Stigende krav om regulering af kunstig intelligens efter uger med nyhedsrapporter

I de seneste uger er der blevet stigende krav om en stærkere regulering af kunstig intelligens (AI). Bekymringen kommer efter, at forskellige nyhedshistorier er brudt ud, der viser de potentielle misbrug af teknologien. Nu er endnu flere spørgsmål blevet rejst med udgivelsen af Europa-Kommissionens (EU) meget ventede hvidbog om kunstig intelligens, som er det første pan-nationale forsøg på at regulere AI. Omkring samme tid udgav White House Office of Science and Technology Policy (OSTP) en rapport om deres amerikanske kunstig intelligens-initiativ.

Før udgivelsen af EU’s hvidbog, The Intercept brød en nyhedshistorie om lækkede interne EU-dokumenter. Ifølge dokumenterne overvejede EU at oprette et netværk af ansigtsgenkendelsesdatabaser i hele Europa. De nationale politistyrker i 10 EU-lande producerede en rapport, der opfordrede til oprettelse og interforbindelse af databaserne i hvert medlemsland. Mange er bekymrede for, at oprettelsen af sådanne databaser uundgåeligt vil blive forbundet med lignende databaser i USA, hvilket vil tillade konsolidering af enorme mængder af biometriske data. Mange havde forventet, at EU’s hvidbog ville foreslå et forbud mod ansigtsregulering, men det var der ikke.

Ifølge Edin Omanovic, advokatdirektør for Privacy International, “Dette er bekymrende på nationalt niveau og på europæisk niveau, især da nogle EU-lande bevæger sig mod mere autoritære regeringer.”

En af de store nyhedshistorier de seneste uger, der blev startet af en New York Times-undersøgelse i januar, handler om start-up-virksomheden Clearview AI. Virksomhedens ansigtsgenkendelsesapp genkender personer ved hjælp af en database af billeder taget fra sociale medier. Appen sammenligner et billede med databasen af over 3 milliarder billeder fra sites som Facebook, Venmo og Youtube. Når appen finder match, responderer den med links til siden, hvor billederne oprindeligt kom fra. Denne teknologi kan føre til opdagelse af personlige detaljer om en person. Ifølge rapporten er appen blevet brugt af over 600 lovgivningsmyndigheder. Mens Clearviews database har over 3 milliarder billeder, indeholder FBIs database kun 641 millioner billeder af amerikanske statsborgere.

Historien er brudt ud igen med en ny rapport fra BuzzFeed News sidste uge. Ifølge rapporten har virksomheden overvejet at udvide sig til mere end kun lovgivningsformål, med detail, ejendom, bank og internationale markeder som overvejes. Rapporten angav også, at ansigtsgenkendelsesapp’en allerede er blevet solgt til tusindvis af organisationer på verdensplan og er blevet brugt af Justitsministeriet, ICE, Macy’s, Walmart og NBA. Måske det mest problematiske på listen over kunder er en suveræn rigdomsfond i De Forenede Arabiske Emirater og tusindvis af regeringsenheder.

De nye udviklinger har forårsaget bekymring blandt privatlivsforkæmpere om mulig massovervågning. En anden bekymring er muligheden for ukorrekte resultater med teknologien, der fører til, at lovgivningsmyndighederne målretter uskyldige personer. Oven i alle privatlivsbekymringer truefter selskaber som Facebook, Google og Twitter med retslige skridt. Ud over private retslige skridt har mindst to amerikanske senatorer erklæret, at de har til hensigt at undersøge virksomheden.

Et eksempel på misbrug af denne teknologi kan ses inden for U.S. Immigration and Customs Enforcement Agency (ICE). The Washington Post rapporterede sidste uge, at ICE-myndighederne er blevet tilladt at bruge ansigtsgenkendelsesteknologi til at søge gennem millioner af billeder af kørekort i Maryland, og de kan gøre det uden at søge statens eller rettens godkendelse.

Ifølge Harrison Rudolph, en senior medarbejder ved Georgetown University Law School’s Center on Privacy and Technology, “ICE bruger biometrisk information i skyggen, uden regeringsmeddelelse eller offentlig godkendelse, for at jagte de mest sårbare personer.”

Dette er blot nogle af de mest offentlige eksempler på, hvordan denne teknologi bliver brugt, men meget mere sker bag kulisserne. På grund af dette er der blevet stigende krav om skærpet kontrol og regulering. Forøget gennemsigtighed, enten frivilligt eller gennem undersøgende journalistik, bringer mange praksisser for lyset. Uden at offentligheden har en forståelse for kunstig intelligens og hvad det kan betyde for økonomien, regeringen, lovgivningen, overvågningen og alle andre aspekter af samfundet, er der lidt håb for, at regeringer og virksomheder kan regulere sig selv. Samfundet ser både de enorme fordele ved AI og de massive bekymringer, og det sker alt for hurtigt til, at virksomheder, regeringer og personer kan følge med.