Økende krav om regulering av kunstig intelligens etter uker med nyhetsrapporter

I løpet av de siste ukene har det vært økende krav om sterkere regulering av kunstig intelligens (AI). Bekymringen kommer etter at flere nyhetshistorier har brutt ut og vist potensialet for misbruk av teknologien. Nå blir enda flere spørsmål reist med utgivelsen av Den europeiske kommisjonens (EU) meget etterlengtede hvitt papir om kunstig intelligens, som er det første pan-nasjonale forsøket på å regulere AI. Omtrent samtidig ga Det hvite hus’ kontor for vitenskap og teknologipolitikk (OSTP) ut en rapport om sitt amerikanske kunstig intelligens-initiativ.

Før utgivelsen av EU’s hvite papir, The Intercept rapporterte en nyhetsstory om lekkede interne europeiske uniondokumenter. Ifølge dokumentene vurderte EU å opprette et nettverk av ansiktsgjenkjenningdatabaser over hele Europa. Nasjonale politistyrker i 10 EU-land produserte en rapport som oppfordret til å opprette og koble sammen databaser i hver medlemsstat. Mange er bekymret for at opprettelsen av slike databaser uunngåelig vil bli koblet til lignende databaser i USA, og at enorme mengder biometriske data vil bli konsolidert. Mange forventet at EU’s hvite papir ville foreslå et forbud mot ansiktsregulering, men det var ikke der.

Ifølge Edin Omanovic, advokatdirektør for Privacy International, “Dette er bekymringsfullt på nasjonalt nivå og på europeisk nivå, spesielt siden noen EU-land nærmer seg mer autoritære regjeringer.”

En av de største nyhetshistoriene de siste ukene, startet av en New York Times-undersøkelse i januar, handler om start-up-selskapet Clearview AI. Selskapets ansiktsgjenkjenning-app identifiserer mennesker ved hjelp av en database av bilder tatt fra sosiale medier. Appen sammenligner et bilde med databasen på over 3 milliarder bilder fra nettsteder som Facebook (META ), Venmo og Youtube. Når appen finner treff, responderer den med lenker til nettstedet hvor bildene opprinnelig kom fra. Denne teknologien kan føre til å avdekke personlige detaljer om en person. Ifølge rapporten har appen blitt brukt av over 600 politienheter. Mens Clearviews database har over 3 milliarder bilder, har FBIs database bare 641 millioner bilder av amerikanske borgere.

Historien har brutt ut igjen med en ny rapport fra BuzzFeed News (BZFD ) forrige uke. Ifølge rapporten har selskapet vurdert å utvide seg utenfor bare politibruk, med detaljhandel, eiendom, bank og internasjonale markeder som mulige områder. Rapporten fastslo også at ansiktsgjenkjenning-appen allerede er blitt solgt til tusenvis av organisasjoner over hele verden og brukt av Justisdepartementet, ICE, Macy’s (M ), Walmart (WMT ) og NBA. Kanskje mest problematisk på listen over kunder er et suverent investeringsfond i De forente arabiske emirater og tusenvis av regjeringsenheter.

De nye utviklingene har ført til bekymringer blant personvernsforkjempere om mulig masseovervåking. En annen bekymring er muligheten for feil med teknologien, som kan føre til at politiet tar sikte på uskyldige personer. I tillegg til alle personvernsbekymringene truer selskaper som Facebook, Google (GOOGL ) og Twitter med rettslige skritt. Foruten private rettslige skritt har minst to amerikanske senatorer uttalt at de har til hensikt å undersøke selskapet.

Et eksempel på misbruk av denne teknologien kan sees i U.S. Immigration and Customs Enforcement Agency (ICE). The Washington Post rapporterte forrige uke at ICE-tjenestemenn har fått tillatelse til å bruke ansiktsgjenkjenningsteknologi til å søke gjennom millioner av Maryland-førerkortfotos, og de kan gjøre det uten å søke om statlig eller rettslig godkjenning.

Ifølge Harrison Rudolph, en senior medarbeider ved Georgetown University Law School’s Center on Privacy and Technology, “ICE bruker biometriske opplysninger i skyggen, uten regjeringsgodkjenning eller offentlig godkjenning, for å jage ned de mest sårbare menneskene.”

Dette er bare noen av de mest offentlige eksemplene på hvordan denne teknologien brukes, men mye mer skjer bak kulissene. På grunn av dette har det vært en økende etterspørsel etter skarpe øyne og regulering. Økt åpenhet, enten frivillig eller gjennom undersøkende journalistikk, bringer mange praksiser til lyset. Uten at offentligheten har en forståelse av kunstig intelligens og hva det kan bety for økonomien, regjeringen, loven, overvåkingen og alle andre aspekter av samfunnet, er det liten håp for regjeringer og selskaper til å regulere seg selv. Samfunnet ser både de enorme fordelene med AI og de massive bekymringene, med alt som skjer for raskt for selskaper, regjeringer og individer til å holde følge.