reglering
EU kommer att lansera First AI Regulations
Den 21 april kommer Europeiska unionen att tillkännage sitt första regelverk som styr användningen av artificiell intelligens. De nya förordningarna kommer att helt förbjuda maskininlärningssystem med "hög risk" och införa minimistandarder för andra maskininlärningstekniker, med böter på 20 miljoner euro, eller 4 % av företagets omsättning, för överträdelser.
Ett utkast till betänkande av den nya lagen, erhållna av Politico, skulle syfta till att främja innovation och utveckling av AI-system till allmän nytta för EU:s ekonomi och samhälle, inom områden som tillverkning, förbättrad energieffektivitet och klimatförändringsmodellering; men det skulle förbjuda användningen av maskininlärning i kreditvärderingssystem, automatiserad utvärdering av straffrättsliga påföljder och bedömning av lämplighet för socialförsäkringsförmåner och asyl- eller visumansökningar, bland andra förbud som kommer att avslöjas senare.
I utkastet anges det uttryckligen Kinesisk stil Sociala poängsystem för individer och företag strider mot Europeiska unionens värderingar och kommer att förbjudas enligt förordningen, tillsammans med "massövervakningstekniker" som drivs av AI.
Regulatorisk tillsyn
Efter dess tidsbeställning av en expertgrupp på hög nivå för artificiell intelligens i mars 2021, avser EU också att inrätta en ny europeisk nämnd för artificiell intelligens, med varje medlemsland representerat, tillsammans med en representant från Europeiska kommissionen och EU:s dataskyddsmyndighet.
Det kanske mest omfattande och potentiellt kontroversiella påbudet i utkastet är att det förbjuder system som skadar EU:s befolkning genom att "manipulera deras beteende, åsikter eller beslut", vilket utan tvekan skulle inkludera många tekniker som driver analysen av kommersiell och politisk marknadsföring.
Reglerna kommer att göra undantag för bekämpning av grov brottslighet och tillåta föreskrivna utplaceringar av system för ansiktsigenkänning, inom gränserna för omfattning och varaktighet av användning.
Såsom med brett svep av GDPR verkar det som att dessa nya regler kan vara tillräckligt generella för att skapa en "avkylningseffekt" inom områden där strikta riktlinjer för användning av AI inte finns, där företag riskerar att exponeras där deras användning av maskininlärning faller inom en potentiell gråzon inom reglerna.
Bias under nya EU AI-förordningar
Den absolut största utmaningen och det möjliga rättsliga träsket kommer dock i form av utkastet till förordningsbestämmelse om att datamängder inte "innehåller några avsiktliga eller oavsiktliga partiskheter" som kan underlätta diskriminering.
Databias är en av de mest utmanande aspekterna i utvecklingen av system för maskininlärning – svår att bevisa, svår att ta itu med och djupt förbunden med de centrala kulturerna i datainsamlingsorgan. Frågan placerar alltmer privata och statliga forskningsorgan i en korsström mellan behovet av att korrekt representera distinkta grupper (praktiskt sett grundmålet för beräkningsmatematik och empirisk statistisk analys) och potentialen att sprida rasprofilering och kulturell demonisering, bland andra överväganden. .
Därför är det troligt att marknader utanför EU kommer att hoppas att den nya förordningen kommer att ge åtminstone vissa specifika vägledningsområden och en rad tillämpliga definitioner i detta avseende.
Externt motstånd mot EU:s AI-förordning
Den nya förordningen kommer sannolikt att ha en djupgående inverkan på de rättsliga konsekvenserna av att använda maskininlärning för att analysera offentlig data – såväl som på sådan data som det fortfarande kommer att vara möjligt att utvinna från webbanvändare i den post-tracking-ålder som för närvarande inleds av Apple, firefox och (till a mindre utsträckning), krom.
Jurisdiktion kan behöva definieras tydligt, till exempel i fall där FAANG-jättarna samlar in användardata i enlighet med GDPR, men bearbetar dessa data genom maskininlärningssystem utanför Europeiska unionen. Det är inte klart om algoritmer som härletts via sådana system skulle kunna tillämpas på plattformar inom EU, och ännu mindre tydligt hur en sådan tillämpning eventuellt skulle kunna bevisas.
Vid användning av AI för att informera om frihetsberövande beslut och straff, a växande trend i USA, Storbritanniens egen tillfälliga experiment inom denna sektor skulle ha omfattats av de nya reglerna om landet inte hade lämnat Europeiska unionen.
År 2020 angav ett utkast till memorandum från Vita huset om AI-reglering det amerikanska argumentet för låg reglering av AI, och förklarade att "Federala myndigheter måste undvika reglerande eller icke-reglerande åtgärder som i onödan hämmar AI-innovation och tillväxt". Förmodligen verkar denna inställning sannolikt överleva Trump-administrationen under vilken memorandumet publicerades, utan speglar snarare kommande slitningar mellan USA och EU i kölvattnet av den nya förordningen.
På samma sätt har UK AI Councils AI-färdplan uttrycker stor entusiasm för de ekonomiska fördelarna med att använda AI, men en allmän oro över att nya regler inte tillåts hämma dessa framsteg.
Den första riktiga lagen för AI
EU:s engagemang för en rättslig hållning i fråga om AI är innovativt. De senaste tio åren har präglats av en snöstorm av vitböcker och preliminära kommittéresultat och rekommendationer från regeringar runt om i världen, med fokus på AI-etiken, med få faktiska lagar som antas.
Geografisk fördelning av utfärdare av etiska AI-riktlinjer efter antal utgivna dokument, i en undersökning från 2019. Det högsta antalet etiska riktlinjer släpps i USA och inom EU, följt av Storbritannien och Japan. Kanada, Island, Norge, Förenade Arabemiraten, Indien, Singapore, Sydkorea, Australien är representerade med 1 dokument vardera. Efter att ha bidragit till ett specifikt G7-uttalande markeras medlemsländerna i G7-länderna separat. Källa: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf
