Stigende krav om regulering af kunstig intelligens efter uger med nyhedsrapporter

I de seneste uger er der blevet stillet større krav om stærkere regulering af kunstig intelligens (AI). Bekymringen kommer efter forskellige nyhedsberetninger, der viser mulige misbrug af teknologien. Nu er der endnu flere spørgsmål, der bliver stillet med udgivelsen af Den Europæiske Kommissions (EU) meget ventede hvidbog om kunstig intelligens, som er det første pan-nationale forsøg på at regulere AI. Omkring samme tid udgav Det Hvide Hus’ Kontor for Videnskab og Teknologi (OSTP) en rapport om dets amerikanske kunstig intelligens-initiativ.

Før udgivelsen af EU’s hvidbog havde The Intercept afsløret en nyhedsberetning om lækkede interne EU-dokumenter. Ifølge dokumenterne overvejede EU at oprette et netværk af ansigtsgenkendelsesdatabaser i hele Europa. De nationale politistyrker i 10 EU-medlemsstater producerede en rapport, der opfordrede til oprettelse og forbindelse af databaserne i hver medlemsstat. Mange er bekymrede for, at oprettelsen af sådanne databaser uundgåeligt vil blive forbundet med lignende i USA, hvilket vil tillade konsolidering af enorme mængder af biometriske data. Mange havde forventet, at EU’s hvidbog ville foreslå et forbud mod ansigtsregulering, men det var der ikke.

Ifølge Edin Omanovic, advokat for Privacy International, “er dette bekymrende på nationalt niveau og på europæisk niveau, især da nogle EU-lande bevæger sig mod mere autoritære regeringer.”

En af de store nyhedsberetninger i de seneste uger, der blev startet af en New York Times-undersøgelse i januar, handler om start-up-virksomheden Clearview AI. Virksomhedens ansigtsgenkendelsesapp identificerer personer ved hjælp af en database af billeder taget fra sociale medier. Appen sammenligner et billede med en database på over 3 milliarder billeder fra sites som Facebook (META ), Venmo og Youtube. Når appen finder match, responderer den med links til siden, hvor billederne oprindeligt kom fra. Denne teknologi kan føre til opdagelse af personlige detaljer om en person. Ifølge rapporten har appen været brugt af over 600 politienheder. Mens Clearviews database har over 3 milliarder billeder, har FBIs database kun 641 millioner billeder af amerikanske borgere.

Historien er brudt ud igen med en ny rapport fra BuzzFeed News (BZFD ) sidste uge. Ifølge rapporten har virksomheden overvejet at udvide sig til mere end kun politienheder, med detailhandel, ejendom, bankvæsen og internationale markeder som mulige områder. Rapporten angav også, at ansigtsgenkendelsesappen allerede er solgt til tusinder af organisationer over hele verden og er blevet brugt af Justitsministeriet, ICE, Macy’s (M ), Walmart (WMT ) og NBA. Måske det mest problematiske på listen over kunder er en suveræn rigdomsfond i De Forenede Arabiske Emirater og tusinder af regeringsenheder.

De nye udviklinger har ført til bekymring blandt privatlivsforkæmpere om mulig masseovervågning. En anden bekymring er muligheden for fejl med teknologien, der kan føre til, at politienhederne målretter uskyldige personer. Oven i alle disse privatlivsbekymringer truer selskaber som Facebook, Google (GOOGL ) og Twitter med retslige skridt. Ud over private retslige skridt har mindst to amerikanske senatorer erklæret, at de har til hensigt at undersøge virksomheden.

Et eksempel på misbrug af denne teknologi kan ses inden for U.S. Immigration and Customs Enforcement Agency (ICE). The Washington Post rapporterede sidste uge, at ICE-myndighederne har fået tilladelse til at bruge ansigtsgenkendelsesteknologi til at søge gennem millioner af billeder af kørekort i Maryland, og de kan gøre det uden at søge statens eller rettens godkendelse.

Ifølge Harrison Rudolph, en senior medarbejder ved Georgetown University Law Schools Center on Privacy and Technology, “bruger ICE biometrisk information i skyggen, uden regeringsgodkendelse eller offentlig godkendelse, til at jagte de mest sårbare personer.”

Dette er blot nogle af de mest offentlige eksempler på, hvordan denne teknologi bliver brugt, men der sker meget mere bag kulisserne. På grund af dette er der blevet stillet større krav om gennemsigtighed og regulering. Øget gennemsigtighed, enten frivilligt eller gennem undersøgende journalistik, bringer mange praksisser for lyset. Uden at offentligheden har en forståelse for kunstig intelligens og hvad det kan betyde for økonomien, regeringen, loven, overvågning og hver anden del af samfundet, er der lidt håb for, at regeringer og virksomheder kan regulere sig selv. Samfundet ser både de enorme fordele ved AI og de massive bekymringer, og det sker alt for hurtigt for virksomheder, regeringer og individer til at følge med.