EU ska lansera första AI-regler

Den 21 april kommer Europeiska unionen att tillkännage sitt första regleringsramverk för användning av artificiell intelligens. De nya reglerna kommer att förbjuda “högrisk”-maskinlärningssystem och införa minimistandarder för andra maskinlärningsteknologier, med straff på 20 miljoner euro eller 4% av företagets omsättning för brott.

En utkast till den nya lagen, som erhållits av Politico, syftar till att främja innovation och utveckling av AI-system för det allmänna bästa i EU:s ekonomi och samhälle, inom områden som tillverkning, förbättrad energoeffektivitet och klimatmodellering; men det kommer att förbjuda användningen av maskinlärning i kreditscoringssystem, automatiserad utvärdering av straff och bedömning av lämplighet för sociala trygghetsförmåner och asyl- eller visumansökningar, bland andra förbud som kommer att avslöjas senare.

Utkastet slår explicit fast att kinesiska sociala poängsystem för individer och företag strider mot EU:s värderingar och kommer att förbjudas enligt reglerna, tillsammans med “massövervakningstekniker” som drivs av AI.

Tillsynsreglering

Efter att ha utnämnt en högnivågrupp för artificiell intelligens i mars 2021, avser EU också att inrätta en ny europeisk AI-styrelse, med varje medlemsstat representerad, tillsammans med en representant från Europeiska kommissionen och EU:s dataskyddsmyndighet.

Kanske den mest omfattande och potentiellt kontroversiella bestämmelsen i utkastet är att det förbjuder system som orsakar skada för EU:s befolkning genom “att manipulera deras beteende, åsikter eller beslut”, vilket skulle kunna inkludera många tekniker som driver analysen av kommersiell och politisk marknadsföring.

Reglerna kommer att göra undantag för bekämpning av allvarliga brott, och tillåta användning av ansiktsigenkänningssystem inom vissa gränser för användning och varaktighet.

Liksom den breda tillämpningen av GDPR, verkar det som att dessa nya regler kan vara tillräckligt allmänna för att orsaka en “kylningsverkan” i områden där strikta riktlinjer för användning av AI inte tillhandahålls, med risk för att företag utsätts för skada om deras användning av maskinlärning hamnar i ett potentiellt grått område inom reglerna.

Fördomar under nya EU AI-regler

Men den största utmaningen och möjliga rättsliga tvist kommer i form av utkastets bestämmelse att datamängder inte får “innehålla några avsiktliga eller oavsiktliga fördomar” som kan underlätta diskriminering.

Datafördomar är en av de mest utmanande aspekterna i utvecklingen av maskinlärningssystem – svåra att bevisa, svåra att åtgärda och djupt förknippade med de centrala kulturerna i datainsamling. Frågan placerar alltmer privata och statliga forskningsorgan i en motström mellan behovet av att exakt representera distinkta grupper (i princip det grundläggande målet för beräkningsmatematik och empirisk statistisk analys) och risken för att sprida rasprofilering och kulturell demonisering, bland andra överväganden.

Därför är det troligt att icke-EU-marknader kommer att hoppas att den nya regeln kommer att tillhandahålla åtminstone några specifika områden för vägledning och en uppsättning tillämpliga definitioner i detta avseende.

Yttre motstånd mot EU AI-reglering

Den nya regeln kommer sannolikt att ha en djup inverkan på de rättsliga konsekvenserna av att använda maskinlärning för att analysera offentligt tillgängliga data – samt på sådan data som fortfarande kan extraheras från webbanvändare i den post-spårningsålder som för närvarande införs av Apple, Firefox och (i mindre utsträckning) Chrome.

Jurisdiktion kan behöva definieras tydligt, till exempel i fall där FAANG-jättarna samlar in användardata i enlighet med GDPR, men bearbetar data genom maskinlärningssystem utanför Europeiska unionen. Det är inte klart om algoritmer som härrör från sådana system kan tillämpas på plattformar inom EU, och ännu mindre klart hur en sådan tillämpning kan bevisas.

I fallet med användning av AI för att informera om beslut om förvar och straff, en växande trend i USA, skulle Storbritanniens egna tillfälliga experiment inom detta område ha omfattats av de nya reglerna om landet inte hade lämnat Europeiska unionen.

År 2020 fastställde ett utkast till Vita husets promemoria om AI-reglering den amerikanska inställningen till låg reglering av AI, och förklarade att ‘Federala myndigheter måste undvika reglerande eller icke-reglerande åtgärder som onödigt hindrar AI-innovation och tillväxt’. Detta synsätt verkar troligt att överleva Trump-administrationen under vilken promemorian publicerades, men snarare reflekterar den kommande friktionen mellan USA och EU i kölvattnet av den nya regeln.

På samma sätt uttrycker Storbritanniens AI-råds ‘AI-vägkarta’ stor entusiasm för de ekonomiska fördelarna med AI-antagande, men en allmän oro för att nya regler inte ska tillåtas hindra denna utveckling.

Den första riktiga lagen för AI

EU:s åtagande att ta en rättslig ståndpunkt i fråga om AI är innovativt. De senaste tio åren har kännetecknats av en blizzard av vitböcker och preliminära kommittébeslut och rekommendationer från regeringar runt om i världen, som fokuserar på AI-etiken, med få faktiska lagar som antagits.

Geografisk fördelning av utgivare av etiska AI-riktlinjer efter antal utgivna dokument, i en undersökning från 2019. Det högsta antalet etiska riktlinjer publiceras i USA och inom Europeiska unionen, följt av Storbritannien och Japan. Kanada, Island, Norge, Förenade Arabemiraten, Indien, Singapore, Sydkorea, Australien representeras med 1 dokument vardera. Efter att ha bidragit till ett specifikt G7-uttalande markeras medlemsstater i G7-länder separat. Källa: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf

Ytterligare läsning

Nationella AI-politiker & strategier (OECD)