Økende krav om regulering av AI etter uker med nyhetsrapporter

I løpet av de siste ukene har det vært økende krav om sterkere regulering av kunstig intelligens (AI). Bekymringen kommer etter at forskjellige nyhetshistorier har brutt ut og vist potensielle misbruk av teknologien. Nå blir enda flere spørsmål reist med utgivelsen av Den europeiske kommisjonens (EU) meget etterlengtede hvitt papir om kunstig intelligens, som er det første pan-nasjonale forsøket på å regulere AI. Omtrent samtidig ga Det hvite hus’ kontor for vitenskap og teknologipolitikk (OSTP) ut en rapport om sitt amerikanske kunstig intelligens-initiativ.

Før utgivelsen av EU’s hvite papir, The Intercept brøt en nyhetshistorie om lekkede interne europeiske uniondokumenter. Ifølge dokumentene vurderte EU å opprette et nettverk av ansiktsgjenkjenningdatabaser i hele Europa. Nasjonale politistyrker i 10 EU-land har lagt frem en rapport som oppfordrer til å opprette og koble sammen databaser i hvert medlemsland. Mange er bekymret for at opprettelsen av slike databaser uunngåelig vil bli koblet til lignende databaser i USA, og tillate konsolidering av store mengder biometriske data. Mange forventet at EU’s hvite papir ville foreslå et forbud mot ansiktsregulering, men det var ikke der.

Ifølge Edin Omanovic, advokatdirektør for Privacy International, “Dette er bekymringsfullt på nasjonalt nivå og på europeisk nivå, særlig siden noen EU-land nærmer seg mer autoritære regjeringer.”

En av de store nyhetshistoriene de siste ukene, startet av en New York Times-undersøkelse i januar, handler om starten av Clearview AI. Selskapets ansiktsgjenkjenning-app identifiserer personer ved hjelp av en database av bilder tatt fra sosiale medier. Appen sammenligner et foto med databasen på over 3 milliarder bilder fra nettsteder som Facebook, Venmo og Youtube. Når appen finner treff, responderer den med lenker til nettstedet hvor bildene opprinnelig kom fra. Denne teknologien kan føre til å avdekke personlige detaljer om en person. Ifølge rapporten har appen blitt brukt av over 600 politienheter. Mens Clearviews database har over 3 milliarder bilder, har FBIs database bare 641 millioner bilder av amerikanske borgere.

Historien har brutt ut igjen med en ny rapport fra BuzzFeed News forrige uke. Ifølge rapporten har selskapet vurdert å utvide seg utover bare politibruk, med detaljhandel, eiendom, bank og internasjonale markeder som mulige områder. Rapporten fastslo også at ansiktsgjenkjenning-appen allerede er solgt til tusenvis av organisasjoner over hele verden og brukes av Justisdepartementet, ICE, Macy’s, Walmart og NBA. Kanskje mest problematisk på listen over kunder er et suverent investeringsfond i De forente arabiske emirater og tusenvis av regjeringsenheter.

De nye utviklingene har ført til bekymring blant privatlivsaktivister om mulig masseovervåkning. En annen bekymring er muligheten for feil med teknologien, som kan føre til at politiet tar sikte på uskyldige personer. I tillegg til alle privatlivsproblemer, truer selskaper som Facebook, Google og Twitter med rettslige skritt. Foruten private rettslige skritt, har minst to amerikanske senatorer uttalt at de har til hensikt å undersøke selskapet.

Et eksempel på misbruk av denne teknologien kan sees i U.S. Immigration and Customs Enforcement Agency (ICE). The Washington Post rapporterte forrige uke at ICE-tjenestemenn har fått tillatelse til å bruke ansiktsgjenkjenningsteknologi til å søke gjennom millioner av Marylands førerkortfotografier, og de kan gjøre det uten å søke om statlig eller rettslig godkjenning.

Ifølge Harrison Rudolph, en senior medarbeider ved Georgetown University Law Schools senter for privatliv og teknologi, “ICE bruker biometriske opplysninger i skyggen, uten regjeringsvarsel eller offentlig godkjenning, for å jage ned de mest sårbare menneskene.”

Dette er bare noen av de mest offentlige eksemplene på hvordan denne teknologien brukes, men mye mer skjer bak kulissene. På grunn av dette har det vært økt krav om skarpe øyne og regulering. Økt transparens, enten frivillig eller gjennom undersøkende journalistikk, bringer mange praksiser til lyset. Uten at offentligheten har en forståelse av kunstig intelligens og hva det kan bety for økonomien, regjeringen, politiet, overvåking og alle andre aspekter av samfunnet, er det liten håp for at regjeringer og selskaper kan regulere seg selv. Samfunnet ser både de enorme fordelene med AI og de massive bekymringene, med alt som skjer for raskt for at selskaper, regjeringer og enkeltpersoner kan holde pace.