EU skal lansere første AI-reguleringer

Den 21. april vil Den europeiske union annonserer sin første reguleringer for bruk av kunstig intelligens. De nye reguleringene vil helt forby “høyrisiko” maskinlæringsystemer og innføre miniminormer for andre maskinlærings-teknologier, med bøter på 20 millioner euro eller 4% av selskapets omsetning for brudd.

En utkast til den nye loven, fått av Politico, ville søke å fremme innovasjon og utvikling av AI-systemer for det generelle godt av EU’s økonomi og samfunn, i områder som produksjon, forbedret energi-effektivitet og klimamodellering; men det ville forbys bruk av maskinlæring i kredittvurderingssystemer, automatisert vurdering av straffeutmåling og vurdering av egnethet for sosial trygd og asyl eller visumansøkninger, blant andre forbud som skal avdekkes senere.

Utkastet slår uttrykkelig fast at kinesisk-stil sosialt vurderingssystemer for personer og selskaper er i motstrid med EU’s verdier og vil bli forbudt under reguleringen, sammen med ‘massovervåkning’ teknologier drevet av AI.

Reguleringer og tilsyn

Etter at utnevnelsen av en høy-nivå ekspertgruppe på kunstig intelligens i mars 2021, har EU også til hensikt å etablere en ny europeisk kunstig intelligens-styret, med hver medlemsstat representert, samt en representant fra Den europeiske kommisjon og EU’s datasikkerhetsmyndighet.

Kanskje det mest omfattende og potensielt kontroversielle dekret i utkastet er at det forbyr systemer som forårsaker skade på EU-befolkningen ved å “manipulere deres atferd, mening eller beslutninger”, som ville kunne inkludere mange teknologier som driver analyse av kommersiell og politisk markedsføring.

Reguleringene vil gjøre unntak for bekjempelse av alvorlig kriminalitet, og tillate bestemte anvendelser av ansiktsgjenkjenningssystemer, innenfor grenser for omfang og varighet av bruk.

Som med den bredde av GDPR, synes det som om disse nye reguleringene kan være generelle nok til å fremkalle en ‘kjøleffekt’ i områder hvor strengte retningslinjer for bruk av AI ikke er gitt, med selskaper som risikerer å bli utsatt for å bli satt i en potensiell gråsone innenfor reguleringene.

Forutinntatt holdning under nye EU AI-reguleringer

Imidlertid er det største utfordringen og mulige juridiske problemet forbundet med utkastets bestemmelse om at datasamlinger ikke må “inkorporere noen bevisst eller ubevisst forutinntatt holdning” som kan fremme diskriminering.

Data-forutinntatt holdning er ett av de mest utfordrende aspektene i utviklingen av maskinlærings-systemer – vanskelig å bevise, vanskelig å håndtere, og dypt forbundet med de sentrale kulturene i datainnsamling. Problemet plasserer stadig private og statlige forskningsinstitusjoner i en motstrid mellom behovet for å representere distinkte grupper (praktisk talt det grunnleggende målet for beregningsmatematikk og empirisk statistisk analyse) og muligheten for å fremme raseprofilering og kulturell demonisering, blant andre overveielser.

Derfor er det sannsynlig at ikke-EU-markeder vil håpe at den nye reguleringen vil gi i alle fall noen bestemte områder for veiledning, og en rekke anvendelige definisjoner i denne hensikt.

Ekstern motstand mot EU AI-regulering

Den nye reguleringen vil sannsynligvis ha en dyp innvirkning på de juridiske konsekvensene av å bruke maskinlæring til å analysere offentlig tilgjengelig data – samt på slik data som det fortsatt vil være mulig å hente fra web-brukere i den post-sporingsalderen som nå innføres av Apple, Firefox og (i mindre grad) Chrome.

Jurisdiksjon kan trenge å bli tydelig definert, for eksempel i tilfeller hvor FAANG-gigantene samler inn brukerdata i samsvar med GDPR, men behandler denne dataene gjennom maskinlærings-systemer utenfor Den europeiske union. Det er ikke klart om algoritmer som er avledet via slike systemer kan bli anvendt på plattformer innenfor EU, og enda mindre klart hvordan en slik anvendelse kan bli bevist.

I tilfelle bruken av AI til å informere om fengselsavgjørelser og straffeutmåling, en voksende trend i USA, ville Storbritannias egne tilfeldige eksperimenter i dette sektoren ha blitt dekket av den nye reguleringen hvis landet ikke hadde forlatt Den europeiske union.

I 2020 utga Det hvite hus en utkast til direktiv om AI-regulering, som fastslo den amerikanske posisjonen for lav regulering av AI, og erklærte at ‘Føderale byråer må unngå regulering eller ikke-regulering handlinger som unødvendig hindrer AI-innovasjon og vekst’. Det kan hevdes at denne holdningen sannsynligvis vil overleve Trump-administrasjonen under hvilken direktivet ble offentliggjort, men heller reflekterer den kommende friksjonen mellom USA og EU i kjølvannet av den nye reguleringen.

På lignende måte uttrykker Storbritannias AI-råds ‘AI-veikart’ stor entusiasme for de økonomiske fordelene ved AI-tilpasning, men en generell bekymring for at nye reguleringer ikke må tillates å hindre denne fremgangen.

Den første virkelige loven for AI

EU’s forpliktelse til en lovgivning på AI er innovativ. De siste ti årene har vært preget av en snøstorm av hvite papirer og preliminære komitéfunn og anbefalinger fra regjeringer over hele verden, konsentrert om etikk i AI, med få faktiske lover som er vedtatt.

Geografisk distribusjon av utgivere av etiske AI-retningslinjer etter antall dokumenter utgitt, i en undersøkelse fra 2019. Den høyeste antallet etiske retningslinjer er utgitt i USA og innenfor Den europeiske union, etterfulgt av Storbritannia og Japan. Canada, Island, Norge, De forente arabiske emirater, India, Singapore, Sør-Korea, Australia er representert med 1 dokument hver. Etter å ha bidratt til en bestemt G7-erklæring, er medlemslandene i G7-landene høylysnet separat. Kilde: https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf

Videre lesning

Nasjonale AI-politikker og strategier (OECD)