Reglering
EU ska lansera första AI-regler
Den 21 april kommer Europeiska unionen att tillkännage sitt första regleringsramverk för användningen av artificiell intelligens. De nya reglerna kommer att förbjuda “högrisk”-maskinlärningssystem helt och införa minimistandarder för andra maskinlärningsteknologier, med påföljder på 20 miljoner euro, eller 4 % av företagets omsättning, för brott.
En utkast till rapporten om den nya lagen, som erhållits av Politico, syftar till att främja innovation och utveckling av AI-system för den allmänna nyttan av EU:s ekonomi och samhälle, inom områden som tillverkning, förbättrad energoeffektivitet och klimatmodellering; men det kommer att förbjuda användningen av maskinlärning i kreditscoringssystem, automatisk utvärdering av straff och bedömning av lämplighet för socialförsäkringsförmåner och asyl- eller visumansökningar, bland andra förbud som kommer att avslöjas senare.
Utkastet slår explicit fast att kinesiska sociala poängsystem för individer och företag strider mot Europeiska unionens värderingar och kommer att förbjudas enligt regleringen, tillsammans med ‘massövervakningsteknologier’ som drivs av AI.
Regleringsöversikt
Efter utnämningen av en högnivåexpergrupp för artificiell intelligens i mars 2021, avser EU också att inrätta en ny europeisk AI-styrelse, med varje medlemsstat representerad, tillsammans med en representant från Europeiska kommissionen och EU:s dataskyddsmyndighet.
Kanske den mest omfattande och potentiellt kontroversiella förordningen i utkastet är att det förbjuder system som orsakar skada för EU:s befolkning genom ‘att manipulera deras beteende, åsikter eller beslut’, vilket skulle kunna inkludera många teknologier som driver analysen av kommersiell och politisk marknadsföring.
Reglerna kommer att göra undantag för bekämpning av allvarliga brott, och tillåta föreskrivna distributioner av ansiktsigenkänningsystem, inom ramen för användningens omfattning och varaktighet.
Liksom den breda tillämpningen av GDPR, verkar det som att dessa nya regler kan vara tillräckligt allmänna för att orsaka en ‘kylningsverkan’ i områden där stränga riktlinjer för användningen av AI inte tillhandahålls, med risk för att företag utsätts där deras användning av maskinlärning hamnar i ett potentiellt grått område inom reglerna.
Fördomar under nya EU AI-regler
Men den största utmaningen och möjliga rättsliga tvist kommer i form av utkastets bestämmelse att datamängder inte får ‘inkorporera några avsiktliga eller oavsiktliga fördomar’ som kan underlätta diskriminering.
Datafördomar är ett av de mest utmanande aspekterna i utvecklingen av maskinlärningssystem – svåra att bevisa, svåra att åtgärda och djupt förknippade med de centrala kulturerna i datainsamlingssammanhang. Frågan orsakar alltmer att privata och statliga forskningsorgan hamnar i en motström mellan behovet av att exakt representera distinkta grupper (i praktiken det grundläggande målet för beräkningsmatematik och empirisk statistisk analys) och risken att sprida rasprofilering och kulturell demonisering, bland annat överväganden.
Därför är det troligt att icke-EU-marknader hoppas att den nya regleringen kommer att tillhandahålla åtminstone vissa specifika områden för vägledning och en rad tillämpliga definitioner i detta avseende.
Yttre motstånd mot EU AI-reglering
Den nya regleringen kommer sannolikt att ha en djup inverkan på de rättsliga konsekvenserna av att använda maskinlärning för att analysera offentligt tillgängliga data – samt på sådan data som fortfarande kan extraheras från webbanvändare i den post-spårningsålder som för närvarande införs av Apple, Firefox och (i mindre utsträckning) Chrome.
Jurisdiktion kan behöva definieras tydligt, till exempel i fall där FAANG-jättarna samlar in användardata i enlighet med GDPR, men bearbetar data genom maskinlärningssystem utanför Europeiska unionen. Det är inte klart om algoritmer som härrör från sådana system kan tillämpas på plattformar inom EU, och ännu mindre klart hur en sådan tillämpning kan bevisas.
I fallet med användningen av AI för att informera om frihetsberövande beslut och straff, en växande trend i USA, skulle Storbritanniens egna tillfälliga experiment inom detta område ha omfattats av de nya reglerna om landet inte hade lämnat Europeiska unionen.
År 2020 fastställde ett utkast till Vita husets promemoria om AI-reglering den amerikanska inställningen till låg reglering av AI, och förklarade att ‘Federala myndigheter måste undvika reglerande eller icke-reglerande åtgärder som onödigt hindrar AI-innovation och tillväxt’. Detta synsätt verkar sannolikt att överleva Trump-administrationen under vilken promemorian publicerades, men snarare reflekterar den kommande friktionen mellan USA och EU i kölvattnet av den nya regleringen.
På samma sätt uttrycker Storbritanniens AI-råds ‘AI-vägkarta’ stor entusiasm för de ekonomiska fördelarna med AI-antagande, men en allmän oro för att nya regler inte ska tillåtas hindra denna utveckling.
Den första riktiga lagen för AI
EU:s åtagande att ha en rättslig ståndpunkt i fråga om AI är innovativt. De senaste tio åren har kännetecknats av en storm av vitböcker och preliminära kommittébeslut och rekommendationer från regeringar runt om i världen, som fokuserar på AI-etiken, med få faktiska lagar som antagits.
Geografisk fördelning av utgivare av etiska AI-riktlinjer per antal dokument som släppts, i en undersökning från 2019. Det högsta antalet etiska riktlinjer släpps i USA och inom Europeiska unionen, följt av Storbritannien och Japan. Kanada, Island, Norge, Förenade Arabemiraten, Indien, Singapore, Sydkorea, Australien representeras med 1 dokument vardera. Efter att ha bidragit till ett specifikt G7-uttalande markeras medlemsstater i G7-länderna separat. Källa: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf
Ytterligare läsning
