Stor teknologi kommer sannolikt att fastställa AI-policy i USA. Vi kan inte låta det hända

Innovation är nyckeln till framgång inom alla områden av teknik, men för artificiell intelligens är innovation mer än nyckeln – det är avgörande. Världen av AI utvecklas snabbt, och många nationer – särskilt Kina och Europa – är i en hård konkurrens med USA om ledarskapet inom detta område. Vinnarna i denna konkurrens kommer att se stora framsteg inom många områden – tillverkning, utbildning, medicin och mycket mer – medan de som blir kvar kommer att bli beroende av de ledande nationernas goda vilja för den teknik de behöver för att fortsätta.

Men de nya regler som utfärdats av Vita Huset kan kväva den innovationen, inklusive den som kommer från små och medelstora företag. Den 30 oktober utfärdade Vita Huset en “Executiv order om säker, säker och tillförlitlig utveckling och användning av artificiell intelligens”, som syftar till att utveckla policy på ett brett spektrum av frågor relaterade till AI. Och medan många skulle hävda att vi verkligen behöver regler för att säkerställa att AI används på ett sätt som tjänar oss säkert och säkert, gör EO, som kräver att myndigheter ska lämna in rekommendationer om AI-policy, det troligt att inga AI-företag utöver branschledarna – de nästan-oligopolerna som Microsoft, IBM, Amazon, Alphabet (Google) och ett fåtal andra – kommer att ha insyn i dessa policyrekommendationer. Med AI som en kraftfull teknik som är så viktig för framtiden är det naturligt att regeringar vill engagera sig – och USA har gjort just det. Men den väg som föreslås av presidenten är mycket trolig att kväva, om inte helt stoppa, AI-innovation.

Pursuing important goals in the wrong way

En 110-sidig dokumentjätte, EO syftar till att säkerställa, bland annat, att AI är “säker och säker”, att det “främjar ansvarsfull innovation, konkurrens och samarbete”, att AI-utveckling “stöder amerikanska arbetare”, att “amerikanernas integritet och medborgerliga friheter skyddas” och att AI är tillägnad “att främja jämlikhet och medborgerliga rättigheter”. EO kräver en serie kommittéer och ställningstaganden som ska publiceras under de kommande månaderna som ska underlätta utvecklingen av policy – och, i synnerhet, begränsningar – för vad som kan eller bör utvecklas av AI-forskare och företag.

Detta låter verkligen som önskvärda mål, och de kommer som svar på giltiga farhågor som har uttryckts både inom och utanför AI-samhället. Ingen vill ha AI-modeller som kan generera fejkvideo och bilder som är omöjliga att skilja från verkligheten, eftersom hur skulle du kunna tro på någonting? Massarbetslöshet orsakad av de nya teknologierna vore önskvärt för samhället, och skulle troligen leda till sociala oroligheter – vilket vore dåligt för både rika och fattiga. Och felaktig data på grund av ras- eller etniskt obalanserade datainsamlingsmekanismer som kunde snedvrida databaser skulle, naturligtvis, producera snedvridna resultat i AI-modeller – förutom att öppna propagandisterna för dessa system till en värld av rättegångar. Det är i regeringens och den privata sektorns intresse att säkerställa att AI används ansvarsfullt och korrekt.

A larger more diverse range of experts should shape policy

Frågan är hur EO försöker fastställa policy, med tillit endast till toppregeringschefer och ledande storföretag. Ordern kräver initialt att rapporter ska utvecklas baserat på forskning och resultat från dussintals byråkrater och politiker, från utrikesministern till biträdande presidenten och chefen för jämställdhetsrådet till “cheferna för sådana andra myndigheter, oberoende regleringsmyndigheter och verkställande kontor” som Vita Huset kan rekrytera när som helst. Det är baserat på dessa rapporter som regeringen kommer att fastställa AI-policy. Och sannolikheten är att tjänstemännen kommer att få en stor del av sin information för dessa rapporter, och fastställa sina policyrekommendationer, baserat på arbete från toppexperter som redan sannolikt arbetar för toppföretag, medan de ignorerar eller exkluderar små och medelstora företag, som ofta är de verkliga motorerna för AI-innovation.

Medan finansministern, till exempel, sannolikt känner till mycket om penningförsörjning, räntepåverkan och valutaväxling, är de mindre benägna att ha sådan ingående kunskap om AI-mekanik – hur maskinlärande skulle påverka ekonomisk policy, hur databasmodeller som använder valutakorgar byggs, och så vidare. Den informationen är sannolikt att komma från experter – och tjänstemännen kommer sannolikt att söka information från experterna på de största och etablerade företagen som redan är djupt involverade i AI.

Det finns inget problem med det, men vi kan inte ignorera de innovativa idéerna och tillvägagångssätten som finns inom hela teknikbranschen, och inte bara hos jättarna; EO behöver innehålla bestämmelser för att säkerställa att dessa företag är en del av samtalet, och att deras innovativa idéer beaktas när det gäller policyutveckling. Sådana företag, enligt många studier, inklusive flera från Världsekonomiskt forum, är “katalysatorer för ekonomisk tillväxt både globalt och lokalt”, och lägger till betydande värde till nationella BNP.

Många av de teknologier som utvecklas av teknikjättarna är faktiskt inte frukten av deras egen forskning – utan resultatet av förvärv av små företag som uppfunnit och utvecklat produkter, teknologier och till och med hela sektorer av teknik ekonomin. Startup Mobileye, till exempel, uppfunnit i princip varningssystemen, som nu är nästan standard i alla nya bilar, som använder kameror och sensorer som varnar förare att de måste vidta åtgärder för att undvika en olycka. Och det är bara ett exempel på hundratals sådana företag som förvärvats av företag som Alphabet, Apple, Microsoft och andra teknikjättar.

Driving Creative Innovation is Key

Det är input från små och medelstora företag som vi behöver för att få en fullständig bild av hur AI kommer att användas – och vad AI-policy bör handla om. Att förlita sig på AI-teknikoligopolen för policyvägledning är nästan ett recept för misslyckande; när ett företag blir större, är det nästan oundvikligt att byråkrati och pappersarbete kommer i vägen, och vissa innovativa idéer kommer att falla bort. Och att låta oligopolen ha exklusiv kontroll över policyrekommendationer kommer i princip att förstärka deras ledande roller, inte stimulera verklig konkurrens och innovation, och ge dem en regulatorisk konkurrensfördel – och skapa en miljö som är precis motsatsen till den innovativa miljö vi behöver för att förbli i täten i detta spel. Och det faktum att förslag måste granskas av dussintals byråkrater är ingen hjälp heller.

Om Vita Huset känner att de måste införa dessa regler på AI-branschen, har de ett ansvar att säkerställa att alla röster – inte bara de från branschledarna – hörs. Att underlåta att göra det kan resultera i policyer som ignorerar eller direkt förbjuder viktiga områden där forskning behöver äga rum – områden som våra konkurrenter inte kommer att tveka att utforska och utnyttja. Om vi vill förbli i täten, kan vi inte låta innovationen kvävas – och vi måste säkerställa att rösterna från startup-företag, som är motorerna för innovation, är inkluderade i policyrekommendationer.