Misslyckandena med utkastet till EU:s artificiell intelligenslag

En ny juridisk granskning av Europeiska unionens utkast till “AI-lag” riktar en lång rad kritiker mot de föreslagna reglerna som släpptes i april, och drar slutsatsen att mycket av dokumentet är “sömmat ihop” från knappt tillämpliga 1980-talets konsumentregler; att det faktiskt främjar en avreglerad AI-miljö i Europa, snarare än att föra sektorn under sammanhängande reglering; och – bland en mängd andra kritiker – att förslagen kartlägger en framtida regleringsram för AI som har “lite mening och påverkan”.

Med titeln Demystifiering av utkastet till EU:s artificiell intelligenslag är förtrycket ett samarbete mellan forskare från UCL London och Radboud University i Nijmegen.

Arbetet tillför en växande mängd negativa åsikter om den föreslagna implementeringen (snarare än den mycket beundrade avsikten) av en regleringsram för AI, inklusive påståendet i april av en av utkastets till regleringens egna bidragsgivare att de föreslagna riktlinjerna är “halvhjärtade, kortblickade och medvetet otydliga”, som karakteriserar Europeiska kommissionens dokument som en förespråkare för “falsk etik”.

Manipulativa AI-system

Den nya artikeln hävdar att AI-lagens föreslagna begränsningar för “manipulativa system” är hämmade av en vag och till och med motsägelsefull definition av “skada”, och kommenterar att “[e]n cyniker kan känna att kommissionen är mer intresserad av förbuds retoriska värde än praktisk effekt”.

De utkastade reglerna anger två påstådda förbjudna metoder:

(a)  att placera en AI-tjänst på marknaden, ta i bruk eller använda en AI-tjänst som använder undermedvetna tekniker bortom en persons medvetande för att materiellt förvränga en persons beteende på ett sätt som orsakar eller sannolikt kommer att orsaka skada eller annan person fysisk eller psykisk skada;

(b)  att placera en AI-tjänst på marknaden, ta i bruk eller använda en AI-tjänst som utnyttjar någon av sårbarheterna hos en specifik grupp av personer på grund av deras ålder, fysisk eller psykisk funktionshinder, för att materiellt förvränga beteendet hos en person som tillhör den gruppen på ett sätt som orsakar eller sannolikt kommer att orsaka skada eller annan person fysisk eller psykisk skada;

Forskarna hävdar att dessa begränsningar inte tar upp om en AI-leverantörs tjänster eller programvara är framgångsrik i att främja sina egna mål, utan endast om slutanvändaren lider “skada” under processen. De tillägger att utkastets definition av skada är dödligt begränsad till enskilda användare, snarare än den typ av kollektiv eller samhällelig skada som kan rimligen härledas från en mängd AI-baserade kontroverser under de senaste åren, som Cambridge Analytica-skandalen.

Artikeln observerar att “I verkligheten kan skada ackumuleras utan att ett enda händelse utlöser en tröskel för allvar, vilket gör det svårt att bevisa”.

Skadliga AI-system tillåtna, men inte för EU-konsumtion

AI-lagen föreslår att förbjuda “real-tids” biometiska system i offentliga utrymmen av brottsbekämpande myndigheter. Även om viss offentlig skepsis har riktats mot undantagen som förslagen gör för anti-terrorism, barnhandel och efterforskning av en europeisk arresteringsorder, noterar forskarna också att ingenting hindrar leverantörer från att sälja biometrika system som strider mot dessa till förtryckande regimer.

Artikeln observerar att detta redan är historisk praxis, som avslöjades i en rapport från Amnesty International 2020.

Den påpekar vidare att AI-lagens specificering av “real-tids” biometriskt system är godtycklig och exkluderar offline-analytiska system, såsom senare bearbetning av videoinspelningar från protestevenemang.

Dessutom noteras att förslagen inte erbjuder någon mekanism för att begränsa biometrika system som inte är relaterade till brottsbekämpning, vilka i stället nonchalant överlämnas till GDPR; och att GDPR själv “ställer krav på högkvalitativ, individuell samtycke för varje skannad person som är praktiskt taget omöjligt att uppfylla”.

Formuleringen av denna del av AI-lagen kommer också under kritik från forskarna. Utkastet föreskriver att förhandsgodkännande kommer att krävas för distributionen av biometrika system för behöriga myndigheters “enskilda användning” av sådana system – men klargör inte vad “enskild användning” betyder i detta sammanhang. Artikeln noterar att kontroversiella warrant kan vara tematiska, och relatera till breda organisationer, syften och platser.

Dessutom föreskriver utkastet inte någon transparensmekanism för antalet och typen av utfärdade tillstånd, vilket gör det svårt för allmänheten att granska.

Utläggning av reglering till “harmoniserade standarder”

Forskningen påstår att de viktigaste enheterna i AI-lagen faktiskt inte nämns ens en gång i utkastet till regler: CEN (Europeiska kommittén för standardisering) och CENELEC (Europeiska kommittén för elektroteknisk standardisering) – två av de tre europeiska standardiseringsorganisationerna (ESO) som Europeiska kommissionen kan ge i uppdrag att formulera harmoniserade standarder, som i många fall kommer att förbli de styrande regleringsramarna för vissa typer av AI-tjänster och distributioner.

Detta innebär i praktiken att AI-tillverkare kan välja att följa standarderna för vad som i själva verket är konkurrerande snarare än kompletterande regler, snarare än att uppfylla de väsentliga kraven som anges i AI-lagen. Detta tillåter leverantörer att mer löst tolka de föreslagna reglerna när de träder i kraft 2024-5.

Forskarnas artikeln menar också att de ingripande åren av industriell lobbyverksamhet bland standardiseringsorgan kan komma att omdefiniera dessa “väsentliga standarder” avsevärt, och föreslår att “ideala” regler bör börja på en högre etisk nivå och lagstiftningsklarhet, om inte annat för att ta hänsyn till denna oundvikliga process av uttunnning.

Legitimering av felaktigheten i känsloriktningsystem

AI-lagen innehåller bestämmelser mot distributionen av känsloriktnings- och kategoriseringssystem – ramverk som inte nödvändigtvis identifierar en enskild person, men antingen påstår sig förstå vad de känner eller kunna kategorisera dem i termer av kön, etnicitet och olika andra ekonomiska och sociala tecken.

Forskarna hävdar att denna klausul är meningslös, eftersom GDPR redan ålägger leverantörerna av sådana system att tillhandahålla användarna tydlig information om användningen av sådana system, så att användarna kan välja att inte använda dem (vilket kan innebära att inte använda en online-tjänst eller inte gå in i ett område där sådana system meddelas finnas).

Viktigare är att artikeln hävdar att denna klausul legitimerar en avfärdad teknik, och karakteriserar FACS-liknande känsloriktningsystem i ljuset av den skamliga historien om frenologi och andra nästan schamanistiska tillvägagångssätt för social kategorisering från den tidiga industriella eran.

‘De som påstår sig upptäcka känslor använder förenklade, tvivelaktiga taxonomier; antar felaktigt universalitet över kulturer och sammanhang; och riskerar att ‘[föra oss tillbaka till frenologins förflutna]’ av att analysera karaktärsdrag från ansiktsstrukturer. Lagens bestämmelser om känsloriktnings- och biometrisk kategorisering verkar otillräckliga för att mildra riskerna.’

En alltför blygsam förslag

Förutom dessa tar forskarna upp andra upplevda brister i AI-lagen i fråga om reglering av deepfakes, brist på tillsyn för koldioxidutsläpp från AI-system, dubblering av regleringsövervakning med andra ramverk och otillräcklig definition av åtalbara rättsliga enheter.

De uppmanar lagstiftare och medborgaraktivister att vidta åtgärder för att åtgärda de identifierade problemen, och noterar dessutom att även deras omfattande dekonstruktion av utkastet till regler har varit tvungen att utelämna många andra områden av oro på grund av brist på utrymme.

Ändå hyllar artikeln lagens banbrytande försök att införa ett system för horisontell reglering av AI-system, med hänvisning till dess många “sensibla element”, såsom att skapa en hierarki av riskbedömningsnivåer, ha åtagandet att införa förbud, och föreslå en offentlig databas över system som leverantörerna måste bidra till för att få europeisk legitimitet, även om de noterar de rättsliga tvivel som denna senare krav sannolikt kommer att väcka.