EU skal lancere de første AI-reguleringer

Den 21. april vil Den Europæiske Union annoncere sin første reguleringsskema for brugen af kunstig intelligens. De nye reguleringer vil helt forbyde ‘højrisiko’ maskinlærings-systemer og introducere minimumsstandarder for andre maskinlærings-teknologier, med straffe på 20 millioner euro eller 4% af virksomhedens omsætning for overtrædelser.

En udkast til den nye lov, fået af Politico, søger at fremme innovation og udvikling af AI-systemer til det generelle bedste for EU’s økonomi og samfund, på områder som produktion, forbedret energi-effektivitet og klimaforandringsmodellering; men det vil forbyde brugen af maskinlærings-systemer i kreditscoring-systemer, automatiseret vurdering af strafdomme og vurdering af egnethed til sociale sikringsydelser og asyl- eller visumansøgninger, blandt andre forbud som vil blive afsløret senere.

Udkastet fastslår eksplicit, at kinesisk-inspirerede sociale scorings-systemer for personer og virksomheder er i modstrid med EU’s værdier og vil blive forbudt under reguleringen, sammen med ‘massive overvågnings’-teknologier drevet af AI.

Reguleringstilsyn

Herefter sin udpegning af en højniveauer-gruppe på kunstig intelligens i marts 2021, har EU også til hensigt at etablere en ny Europæisk Kunstig Intelligens-bestyrelse, med hver medlemsstat repræsenteret, sammen med en repræsentant fra Den Europæiske Kommission og EU’s datatilsynsmyndighed.

Måske det mest omfattende og potentielt kontroversielle dekret i udkastet er, at det forbyder systemer, der forårsager skade på EU’s befolkninger ved ‘at manipulere deres adfærd, meninger eller beslutninger’, hvilket ville inkludere mange teknologier, der driver analyse af kommerciel og politisk marketing.

Reguleringerne vil gøre undtagelser for bekæmpelse af alvorlig kriminalitet, og tillade brug af ansigtsgenkendelse-systemer, inden for rammerne af omfang og varighed af brug.

Som med den bredde af GDPR, synes det, at disse nye reguleringer måske er generelle nok til at fremkalde en ‘køleffekt’ i områder, hvor der ikke er givet strenge retningslinjer for brugen af AI, med virksomheder, der risikerer eksponering, hvor deres brug af maskinlærings-systemer falder ind i et potentielt gråt område inden for reguleringerne.

Forudindtagethed under nye EU AI-reguleringer

Men langt det største udfordring og mulige juridiske morads er i form af udkastets bestemmelse om, at datasæt ikke ‘inkluderer nogen intentionelle eller uintentionelle forudindtagelser’ som kan lette diskrimination.

Data-forudindtagethed er en af de mest udfordrende aspekter i udviklingen af maskinlærings-systemer – svær at bevise, svær at tackle, og dybt forbundet med de centrale kulturer i dataindsamlingssammenhænge. Spørgsmålet er mere og mere placerer private og statslige forskningsinstitutioner i en krydsild mellem behovet for at repræsentere distinkte grupper (praktisk set det grundlæggende formål med beregningsmatematik og empirisk statistisk analyse) og muligheden for at fremme raciale profiler og kulturel dæmonisering, blandt andre overvejelser.

Derfor er det sandsynligt, at ikke-EU-markeder vil håbe, at den nye regulering vil give mindst nogle specifikke områder for vejledning, og en række anvendelige definitioner i denne henseende.

Ekstern modstand mod EU AI-regulering

Den nye regulering vil sandsynligvis have en dyb indvirkning på de juridiske konsekvenser af at bruge maskinlærings-systemer til at analysere offentligt tilgængelige data – samt på sådanne data, som det stadig vil være muligt at trække ud af webbrugere i den post-tracking-æra, der nu indføres af Apple, Firefox og (i mindre udstrækning) Chrome.

Jurisdiktion kan være nødt til at blive tydeligt defineret, for eksempel i tilfælde, hvor FAANG-giganterne indsamler brugerdata i overensstemmelse med GDPR, men behandler disse data gennem maskinlærings-systemer uden for Den Europæiske Union. Det er ikke klart, om algoritmer, der er afledt via sådanne systemer, kan anvendes på platforme inden for EU, og endnu mindre klart, hvordan en sådan anvendelse kunne være mulig at bevise.

I tilfælde af brugen af AI til at informere om fængselsbeslutninger og straffedomme, en voksende trend i USA, ville Storbritanniens egne lejlighedsvise eksperimenter i dette sektor være dækket af den nye regulering, hvis landet ikke havde forladt Den Europæiske Union.

I 2020 udstedte Det Hvide Hus et udkast til en erklæring om AI-regulering, som fastslog den amerikanske sag for lav regulering af AI, og erklærede, at ‘Føderale myndigheder må undgå regulering eller ikke-regulering, der unødigt hæmmer AI-innovation og vækst’. Sandsynligvis vil denne holdning overleve Trump-administrationen, under hvilken erklæringen blev offentliggjort, men snarere afspejler den kommende gnidning mellem USA og EU i kølvandet på den nye regulering.

Ligesom Storbritanniens AI-råds ‘AI-vejviser’ udtrykker stor entusiasme for de økonomiske fordele ved AI-adopteringsgrad, men en generel bekymring for, at nye reguleringer ikke må tillades at hæmme denne fremgang.

Den første rigtige lov for AI

EU’s engagement i en juridisk holdning til AI er innovativ. De sidste ti år har været kendetegnet ved en blizzard af hvidbøger og foreløbige komiteudtalelser og anbefalinger fra regeringer verden over, koncentreret om AI’s etik, med få faktiske love, der er vedtaget.

Geografisk distribution af udgivere af etiske AI-retningslinjer efter antal udgivne dokumenter, i en undersøgelse fra 2019. Det højeste antal etiske retningslinjer er udgivet i USA og inden for Den Europæiske Union, efterfulgt af Storbritannien og Japan. Canada, Island, Norge, De Forenede Arabiske Emirater, Indien, Singapore, Sydkorea, Australien er repræsenteret med 1 dokument hver. Efter at have bidraget til en bestemt G7-erklæring er medlemsstater af G7-lande fremhævet separat. Kilde: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf

Fremtidig læsning

National AI-politikker & strategier (OECD)