Ökande krav på AI-reglering efter veckor av nyhetsrapporter

Under de senaste veckorna har det funnits ökande krav på starkare reglering av artificiell intelligens (AI). Oron kommer efter att olika nyhetsberättelser har brutits som visar den potentiella missbruket av tekniken. Nu ställs ännu fler frågor med utgivningen av Europeiska kommissionens (EU) mycket efterlängtade vitbok om artificiell intelligens, som är det första pan-nationella försöket att reglera AI. Ungefär samtidigt släppte Vita husets kontor för vetenskap och teknologi (OSTP) en rapport om sin amerikanska artificiella intelligensinitiativ.

Före utgivningen av EU:s vitbok bröt The Intercept en nyhetsberättelse om läckta interna europeiska unionens dokument. Enligt dokumenten övervägde EU att skapa ett nätverk av ansiktsigenkänningssdatabaser i hela Europa. De nationella polismyndigheterna i 10 EU-medlemsstater producerade en rapport som krävde skapandet och interkopplingen av databaserna i varje medlemsstat. Många är oroliga för att skapandet av sådana databaser oundvikligen kommer att kopplas till liknande i USA, vilket tillåter stora mängder biometrisk data att konsolideras. Många förväntade sig att EU:s vitbok skulle föreslå ett förbud mot ansiktsreglering, men det fanns inte där.

Enligt Edin Omanovic, advokat för Privacy International, “är detta oroande på nationell nivå och på europeisk nivå, särskilt som vissa EU-länder närmar sig mer auktoritära regeringar.”

En av de stora nyhetsberättelserna under de senaste veckorna, som startades av en New York Times-utredning i januari, handlar om start-up-företaget Clearview AI. Företagets ansiktsigenkänning-app identifierar människor med hjälp av en databas av bilder tagna från sociala medier. Appen jämför en foto med databasen med över 3 miljarder bilder från webbplatser som Facebook, Venmo och Youtube. När appen hittar matchningar svarar den med länkar till webbplatsen där fotona ursprungligen kom från. Denna teknik kan leda till upptäckten av personliga detaljer om en individ. Enligt rapporten har appen använts av över 600 brottsbekämpande myndigheter. Medan Clearviews databas har över 3 miljarder bilder innehåller FBI:s databas endast 641 miljoner bilder av amerikanska medborgare.

Berättelsen har blossat upp igen med en ny rapport från BuzzFeed News förra veckan. Enligt rapporten har företaget övervägt att expandera till mer än bara brottsbekämpande ändamål, med detaljhandel, fastigheter, banker och internationella marknader som övervägs. Rapporten angav också att ansiktsigenkänning-appen redan har sålts till tusentals organisationer över hela världen och använts av justitiedepartementet, ICE, Macy’s, Walmart och NBA. Kanske mest problematiskt på listan över kunder är en suverän fond i Förenade Arabemiraten och tusentals statliga enheter.

De nya utvecklingarna har orsakat oro bland integritetsförespråkare om möjlig massövervakning. En annan oro är möjligheten till inkonsekvens med tekniken, vilket leder till att brottsbekämpande myndigheter riktar sig mot oskyldiga individer. Utöver alla integritetsproblem hotar företag som Facebook, Google och Twitter med rättsliga åtgärder. Utöver privata rättsliga åtgärder har minst två amerikanska senatorer förklarat att de avser att undersöka företaget.

Ett exempel på missbruk av denna teknik kan ses inom U.S. Immigration and Customs Enforcement Agency (ICE). The Washington Post rapporterade förra veckan att ICE-tjänstemän har fått tillstånd att använda ansiktsigenkänningsteknik för att söka igenom miljontals Maryland-förarlicensfoton, och de kan göra det utan att söka statlig eller domstolsgodkännande.

Enligt Harrison Rudolph, en senior medarbetare vid Georgetown University Law Schools Center on Privacy and Technology, “använder ICE biometrisk information i skuggan, utan regeringsmeddelande eller offentligt godkännande, för att jaga de mest utsatta människorna.”

Detta är bara några av de mest offentliga exemplen på hur denna teknik används, men mycket mer händer bakom kulisserna. På grund av detta har det funnits en ökad efterfrågan på granskning och reglering. Ökad transparens, antingen villig eller genom undersökande rapportering, bringar många metoder till ljuset. Utan att allmänheten har en förståelse för artificiell intelligens och vad det kan betyda för ekonomin, regeringen, brottsbekämpningen, övervakningen och varje annan aspekt av samhället, finns det liten hopp för regeringar och företag att självreglera. Samhället ser både de enorma fördelarna med AI och de massiva problemen, med allt som händer för fort för företag, regeringar och individer att hålla jämna steg.