Ökande krav på AI-reglering efter veckor av nyhetsrapporter

Under de senaste veckorna har det funnits ökande krav på starkare reglering av artificiell intelligens (AI). Oroande beror på att olika nyhetsartiklar har visat den potentiella missbruket av tekniken. Nu har ännu fler frågor rests med utgivningen av Europeiska kommissionens (EU) mycket efterlängtade vitbok om artificiell intelligens, som är det första pan-nationella försöket att reglera AI. Samtidigt släppte Vita husets kontor för vetenskap och teknologi (OSTP) en rapport om sitt amerikanska initiativ för artificiell intelligens.

Före utgivningen av EU:s vitbok avslöjade The Intercept en nyhetsartikel om läckta interna EU-dokument. Enligt dokumenten övervägde EU att skapa ett nätverk av ansiktsigenkänningsdatabaser i hela Europa. De nationella polismyndigheterna i 10 EU-medlemsstater producerade en rapport som förespråkade skapandet och anslutningen av databaserna i varje medlemsstat. Många är oroliga för att skapandet av sådana databaser oundvikligen kommer att kopplas till liknande i USA, vilket tillåter stora mängder biometrisk data att konsolideras. Många förväntade sig att EU:s vitbok skulle föreslå ett förbud mot ansiktsreglering, men det fanns inte där.

Enligt Edin Omanovic, advokat för Privacy International, “är detta oroande på nationell nivå och på europeisk nivå, särskilt som vissa EU-länder närmar sig mer auktoritära regeringar.”

En av de stora nyhetsartiklarna under de senaste veckorna, som startade med en New York Times-utredning i januari, handlar om startuppen Clearview AI. Företagets ansiktsigenkänningsapp identifierar människor med hjälp av en databas av bilder tagna från sociala medier. Appen jämför en bild med databasen som består av över 3 miljarder bilder från webbplatser som Facebook (META ), Venmo och Youtube. När appen hittar matchningar svarar den med länkar till webbplatsen där bilderna ursprungligen kom från. Denna teknik kan leda till upptäckten av personliga detaljer om en individ. Enligt rapporten har appen använts av över 600 brottsbekämpande myndigheter. Medan Clearviews databas har över 3 miljarder bilder innehåller FBI:s databas endast 641 miljoner bilder av amerikanska medborgare.

Historien har blossat upp igen med en ny rapport från BuzzFeed News (BZFD ) förra veckan. Enligt rapporten har företaget övervägt att expandera till mer än bara brottsbekämpande ändamål, med detaljhandel, fastigheter, bankväsen och internationella marknader som övervägs. Rapporten uppgav också att ansiktsigenkänningsappen redan har sålts till tusentals organisationer över hela världen och använts av justitiedepartementet, ICE, Macy’s (M ), Walmart (WMT ) och NBA. Kanske det mest problematiska på listan över kunder är ett suveränt förmögenhetsfond i Förenade Arabemiraten och tusentals statliga enheter.

De nya utvecklingarna har orsakat oro bland integritetsförespråkare om möjlig massövervakning. En annan oro är möjligheten till felaktighet med tekniken, vilket leder till att brottsbekämpande myndigheter riktar sig mot oskyldiga individer. Utöver alla integritetsproblem hotar företag som Facebook, Google (GOOGL ) och Twitter med rättsliga åtgärder. Utöver privata rättsliga åtgärder har minst två amerikanska senatorer uppgivit att de avser att undersöka företaget.

Ett exempel på missbruk av denna teknik kan ses inom den amerikanska invandrings- och tullmyndigheten (ICE). The Washington Post rapporterade förra veckan att ICE-tjänstemän har fått tillstånd att använda ansiktsigenkännings-teknik för att söka igenom miljontals Marylands körkortsfoton, och de kan göra det utan att behöva statligt eller domstolsgodkännande.

Enligt Harrison Rudolph, senior medarbetare vid Georgetown University Law Schools centrum för integritet och teknik, “använder ICE biometrisk information i skuggan, utan regeringsmeddelande eller offentligt godkännande, för att jaga de mest utsatta människorna.”

Detta är bara några av de mest offentliga exemplen på hur denna teknik används, men mycket mer händer bakom kulisserna. På grund av detta har det funnits en ökad efterfrågan på granskning och reglering. Ökad transparens, antingen frivillig eller genom undersökande rapportering, bringar många metoder till ljuset. Utan att allmänheten har en förståelse för artificiell intelligens och vad den kan betyda för ekonomin, regeringen, brottsbekämpningen, övervakningen och varje annan aspekt av samhället, finns det liten hopp för regeringar och företag att självreglera. Samhället ser både de enorma fördelarna med AI och de massiva problemen, med allt som händer för fort för företag, regeringar och individer att hålla jämna steg.