Googles VD kräver ökad reglering för att undvika “negativa konsekvenser av AI”

Förra året såg vi en ökning av uppmärksamheten kring regleringen av AI-branschen, och detta år verkar fortsätta trenden. Alldeles nyligen uttryckte Sundar Pichai, VD för Google och Alphabet Inc., stöd för reglering av AI vid en ekonomisk tankesmedja i Brugel.

Pichais kommentarer gjordes troligen i förväntan av nya EU-planer för att reglera AI, som kommer att avslöjas om några veckor. Det är möjligt att EU:s regler kan innehålla policys som lagligen ålägger vissa standarder för AI som används inom transport, hälsovård och andra högrisksektorer. De nya EU-reglerna kan också kräva ökad transparens när det gäller AI-system och plattformar.

Enligt Bloomberg, har Google tidigare försökt utmana konkurrensavgifter och upphovsrättsenforcement i EU. Trots tidigare försök att motarbeta vissa regleringsramar i Europa, sa Pichai att reglering är välkommen så länge den tar “en proportionerlig ansats, balanserande potentiella skador med sociala möjligheter”.

Pichai skrev nyligen en åsiktspiece i Financial Times, där han erkände att AI, tillsammans med många möjligheter att förbättra samhället, också har potentialen att missbrukas. Pichai sa att regleringar bör hjälpa till att undvika “negativa konsekvenser av AI”, och citerade missbruk av ansiktsigenkänning och deepfakes som negativa tillämpningar av AI. Pichai sa att internationell samstämmighet är nödvändig för att regleringsprinciper ska fungera, och att det därför behövs en överenskommelse om kärnvärden. Utöver detta sa Pichai att det är AI-företag som Google som har ansvar för att överväga hur AI kan användas på ett etiskt sätt, och att det är därför Google antog sina egna standarder för etisk AI-användning 2018.

Pichai sa att regleringsorgan och policys kommer att spela en viktig roll i att säkerställa att AI används etiskt, men att dessa organ inte behöver börja från scratch. Pichai föreslog att regleringsentiteter kan se till tidigare etablerade regler för inspiration, såsom Europas allmänna dataskyddsförordning. Pichai skrev också att etisk AI-reglering kan vara både bred och flexibel, med reglering som ger allmän vägledning som kan anpassas för specifika tillämpningar inom specifika AI-sektorer. Nyare teknologier som självkörande fordon kommer att kräva nya regler och policys som väger fördelar och kostnader mot varandra, medan för mer etablerad mark som medicinska enheter kan befintliga ramar vara en bra utgångspunkt.

Till slut sa Pichai att Google vill samarbeta med reglerare för att utveckla policys och hitta lösningar som kommer att balansera avvägningar, Pichai skrev i Financial Times:

“Vi vill vara en hjälpsam och engagerad partner till reglerare när de brottas med de oundvikliga spänningarna och avvägningarna. Vi erbjuder vår expertis, erfarenhet och verktyg när vi navigerar dessa frågor tillsammans.”

Medan vissa har applåderat Google för att ha tagit ställning för behovet av reglering för att säkerställa etisk AI-användning, pågår debatten om utsträckningen till vilken AI-företag bör vara involverade i skapandet av regleringsramar.

Vad gäller de kommande EU-reglerna i sig, är det möjligt att EU följer en riskbaserad regleringssystem, som skulle lägga strängare begränsningar på högrisktillämpningar av AI. Detta inkluderar begränsningar som kan vara strängare än vad Google hoppas på, inklusive en möjlig flerårig förbud mot ansiktsigenkänningsteknologi (med undantag för forskning och säkerhet). I kontrast till EU:s mer restriktiva tillvägagångssätt har USA förespråkat relativt lätta regler. Det återstår att se hur de olika regleringsstrategierna kommer att påverka AI-utvecklingen och samhället i stort, i de två olika regionerna i världen.