Svigtene i Udkastet til EU’s Kunstig Intelligenslov

En ny juridisk kritik af Den Europæiske Unions udkast til ‘Kunstig Intelligenslov’ retter en lang række kritikker mod de foreslåede regler offentliggjort i april, og konkluderer, at meget af dokumentet er ‘syet sammen’ af kun lidt anvendelige forbrugerregler fra 1980’erne; at det i virkeligheden fremmer en dereguleret kunstig intelligens-miljø i Europa, snarere end at bringe sektoren under koherent regulering; og – blandt en række andre kritikker – at forslagene tegner et fremtidigt regulativt rammeværk for kunstig intelligens, som har ‘meget lidt mening og virkning’.

Titel Demystificering af Udkastet til EU’s Kunstig Intelligenslov, er en samarbejdsprojekt mellem forskere fra UCL London og Radboud Universitet i Nijmegen.

Dokumentet tilføjer til en voksende mængde af negative meninger om den foreslåede implementering (i stedet for den meget beundrede hensigt) af et regulativt rammeværk for kunstig intelligens, herunder påstanden i april af en af forfatterne bag udkastet, at de foreslåede retningslinjer er ‘lunkne, kortsigtede og bevidst vage’, hvilket karakteriserer Den Europæiske Kommissions dokument som en forkæmper for ‘falsk etik’.

Manipulerende Kunstig Intelligens Systemer

Den nye rapport påstår, at Kunstig Intelligenslovens foreslåede begrænsninger for ‘manipulerende systemer’ er handicappet af en vag og endda modstridende definition af ‘skade’, og kommenterer, at ‘[e]n cyniker kunne mene, at Kommissionen er mere interesseret i forbudenes retoriske værdi end deres praktiske effekt’.

De udkast til reglerne fastlægger to påståede forbudte praksisser:

(a)  det at bringe en kunstig intelligens på markedet, sætte det i drift eller bruge det, som anvender underbevidsthedsteknikker ud over en persons bevidsthed for at materielt forvrænge en persons adfærd på en måde, der kan forårsage eller sandsynligvis kan forårsage fysisk eller psykisk skade for den pågældende person eller en anden person;

(b)  det at bringe en kunstig intelligens på markedet, sætte det i drift eller bruge det, som udnytter en bestemt gruppes persons sårbarhed på grund af deres alder, fysisk eller psykisk handicap, for at materielt forvrænge en persons adfærd, der hører til den pågældende gruppe, på en måde, der kan forårsage eller sandsynligvis kan forårsage fysisk eller psykisk skade for den pågældende person eller en anden person;

Forskerne argumenterer for, at disse begrænsninger ikke behandler, om en kunstig intelligens-udbyders tjenester eller software er succesfuld i at fremme deres egne mål, men kun om slutbrugeren lider ‘skade’ i processen. De tilføjer, at udkastets definition af skade er dødeligt begrænset til enkelte brugere, snarere end den slags kollektive eller samfundsmæssige skade, der kan rimeligt sluttes fra en række kunstig intelligens-baserede kontroverser i de seneste år, såsom Cambridge Analytica-skandalen.

Rapporten påpeger, at ‘I virkeligheden kan skade akkumuleres uden, at en enkelt begivenhed udløser en alvorlighedstræshold, hvilket gør det svært at bevise’.

Skadelige Kunstig Intelligens Systemer Tilladt, men Ikke til EU’s Forbrug

Kunstig Intelligensloven foreslår at implementere et forbud mod ‘real-tids’ biometriske systemer i offentlige rum af lovmyndigheder. Selv om der har været offentlig skepsis rettet mod undtagelserne i forslaget for anti-terrorisme, børnehandel og efterfølgning af en europæisk arrestordre, påpeger forskerne også, at intet ville forhindre leverandører i at sælge biometriske systemer, der strider mod loven, til undertrykkende regimer.

Rapporten påpeger, at dette allerede er historisk praksis, som afsløret i en rapport fra Amnesty International i 2020.

Den fastslår yderligere, at Kunstig Intelligenslovens specifikation af ‘real-tids’ biometriske systemer er arbitrær og udelukker off-line analytiske systemer, såsom efterfølgende behandling af videooptagelser fra protestbegivenheder.

Derudover påpeges det, at forslaget ikke tilbyder nogen mekanisme til at begrænse biometriske systemer, der ikke er relateret til lovmyndigheder, som i stedet er dovne henvisninger til GDPR; og at GDPR selv ‘stiller et krav om højkvalitets, individuel samtykke for hver scannet person, som effektivt er umuligt at opfylde’.

Formuleringen af denne del af Kunstig Intelligensloven kommer også under kritik fra forskerne. Udkastet fastlægger, at forhåndsgodkendelse skal kræves for anvendelsen af biometriske systemer for kompetente myndigheders ‘enkelte brug’ af sådanne systemer – men klargør ikke, hvad ‘enkelte brug’ betyder i denne sammenhæng. Rapporten påpeger, at kontroversielle arrestordrer kan være tematiske og relaterer til brede organisationer, formål og steder.

Yderligere fastlægger udkastet ikke en gennemsigtighedsmechanisme for antallet og typen af udstedte tilladelser, hvilket gør offentlig gennemskuelighed problematisk.

Udlicitering af Regulering til ‘Harmoniserede Standarder’

Forskningen fastslår, at de vigtigste enheder i Kunstig Intelligensloven faktisk ikke nævnes en enkelt gang i udkastet til reglerne: CEN (Den Europæiske Standardiseringskomité) og CENELEC (Den Europæiske Standardiseringskomité for Elektroteknik) – to af tre europæiske standardiseringsorganisationer (ESO’er), som Den Europæiske Kommission kan pålægge at formulere harmoniserede standarder, som i mange tilfælde vil være de styrende regulative rammer for bestemte typer kunstig intelligens-tjenester og -installationer.

Dette betyder effektivt, at kunstig intelligens-producenter kan vælge at følge standarderne for, hvad der i virkeligheden er konkurrerende snarere end komplementære regler, i stedet for at opfylde de væsentlige krav, der er fastlagt i Kunstig Intelligensloven. Dette giver leverandører mulighed for at mere løst fortolke de foreslåede regler, når de træder i kraft i 2024-5.

Forskerne mener også, at de indgribende år af industrielt lobbyarbejde blandt standardiseringsorganisationer sandsynligvis vil omdefinere disse ‘væsentlige standarder’ betydeligt og foreslår, at ‘ideelle’ regler burde starte på et højere etisk niveau og lovgivningsklarhed, hvis ikke andet for at tage højde for denne uundgåelige proces af udtynding.

Gyldiggørelse af Faldacyen for Følelseserkendelsessystemer

Kunstig Intelligensloven indeholder en bestemmelse mod anvendelsen af følelseserkendelse og -kategoriseringssystemer – rammer, der ikke nødvendigvis identificerer en enkelt person, men enten påstår at forstå, hvad de føler, eller at kunne kategorisere dem i forhold til køn, etnicitet og andre økonomiske og sociale tegn.

Forskerne argumenterer for, at denne klausul er meningsløs, da GDPR allerede forpligter udbyderne af sådanne systemer til at give brugerne klare oplysninger om brugen af disse systemer, så brugerne kan fravælge (hvad der kan indebære, at de ikke bruger en online-tjeneste eller ikke går ind i et område, hvor sådanne systemer er annonceret til at eksistere).

Endnu vigtigere påstår rapporten, at denne klausul gyldiggør en afvist teknologi og karakteriserer FACS-lignende følelseserkendelsessystemer i lyset af den skammelige historie om frenologi og andre næsten-shamanistiske tilgange til social kategorisering fra den tidlige industrielle æra.

‘De, der påstår at kunne registrere følelser, anvender forenklede, tvivlsomme taksonomier; antager forkert universalitet på tværs af kulturer og sammenhænge; og risikerer at ‘tage os tilbage til frenologiens fortid’ med at analysere karaktertræk fra ansigtsstrukturer. Bestemmelserne i loven om følelseserkendelse og biometrisk kategorisering synes utilstrækkelige til at afhjælpe risikoen.’

Et For Beskedent Forslag

Ud over disse punkter behandler forskerne andre formodede svagheder i Kunstig Intelligensloven i forhold til regulering af deepfakes, en mangel på tilsyn med kulstofemissioner fra kunstig intelligens-systemer, duplication af regulativt tilsyn med andre rammer, og utilstrækkelig definition af strafbare juridiske enheder.

De opfordrer lovgivere og civile aktivister til at tage skridt for at rette de identificerede problemer og påpeger yderligere, at selv deres omfattende dekonstruktion af udkastet til reglerne har måttet udelade mange andre områder af bekymring på grund af manglende plads.

Ikke desto mindre rosmer rapporten lovens pionerforsøg på at indføre et system for horisontal regulering af kunstig intelligens-systemer, og citerer mange ‘sensible elementer’, såsom oprettelse af en hierarki af risikovurderingsniveauer, forpligtelsen til at indføre forbud, og forslaget om en offentlig database over systemer, som udbydere skal bidrage til for at opnå europæisk legitimitet, selv om det noteres, at dette sidste krav sandsynligvis vil rejse juridiske tvivlsspørgsmål.