Tankeledere
Ja, EUs KI-forordning omfatter agentisk KI – slik gjør den det

Viktige punkterAgentisk AI faller allerede inn under EUs AI-forordning fordi det oppfyller…
Vis mer
- Agentisk AI faller allerede inn under EUs AI-forordning fordi det oppfyller definisjonen av et AI-system.
- AI-forordningen regulerer hva teknologien gjør og hvilke risikoer den skaper, i stedet for å navngi spesifikke teknologier.
- Teknologigiganter som lobber mot AI-forordningen, driver frem selvregulering som i praksis er regulatorisk overtakelse.
Det er for tiden en utbredt fortelling om at agentisk KI og KI-agenter faller utenfor regelverket – at EUs KI-forordning ikke er egnet til å regulere dette. Vi har lest dette i anerkjente norske medier (Morgenbladet og Dagensnæringsliv), og det er blitt gjentatt av ledende akademikere (Universitetet i Oslo). Vi ser to grunnleggende svakheter ved disse påstandene … og mener de bygger på frykt, ikke fakta.
For det første er agentisk KI regulert av EUs KI-forordning.
For det andre undergraver slike påstander eksisterende regelverk. De forsterker forestillingen om at KI-selskapene er bedre egnet til å håndtere risikoen knyttet til sine egne systemer – et vanlig argument som fører til regulatorisk kapring.
Vi arbeider ganske tett med KI-forordningen som oppnevnte medlemmer av Standards Norways nasjonale KI-komité. Vi sitter også i de europeiske komiteene som utarbeider harmoniserte standarder for tilbydere av KI-systemer med høy risiko. Disse standardene hjelper selskapene med å oppfylle de juridiske kravene i KI-forordningen.
Agentisk KI er regulert på flere måter i EUs KI-forordning
Europakommisjonen har publisert flere lettfattelige spørsmål og svar om «agenter» og «agentisk KI», og har presisert at de omfattes av regelverket, ganske enkelt fordi de oppfyller den bredere definisjonen av et KI-system (Hvordan omtales KI-agenter i KI-forordningen? | KI-forordningens brukerstøtte). Her er noen flere eksempler:
- Agentisk KI er ofte bygget på store språkmodeller, som reguleres som KI-modeller for generelle formål.
- Når et agentisk KI-system samhandler med mennesker, utløses også kravene til åpenhet i regelverket.
- Hvis en KI-modell klassifiseres som en modell med systemisk risiko, gjelder det ytterligere krav til tilbyderen. Disse kravene omfatter blant annet vurderinger av modellens evner – inkludert dens autonome og agentiske funksjoner.
KI-forordningen nevner ikke ordet «agent», men det er fordi den ikke regulerer bestemte typer teknologi. Den regulerer i stedet hva teknologien er utformet for å gjøre, og risikoene som er knyttet til disse funksjonene.
KI-forordningen skal beskytte våre grunnleggende rettigheter
Mye av kritikken mot KI-forordningen fra dem som ønsker mer regulering, skyldes at det strukturelt sett er umulig å fjerne all risiko. Men det ville vært umulig for et internasjonalt regelverk å forutse enhver framtidig risiko.
KI-forordningen retter seg i stedet mot risikoer ved KI-systemer som kan påvirke helse, sikkerhet og grunnleggende rettigheter – et poeng som står i aller første setning i den første artikkelen.

Skjermbilde fra EUR-Lex – 02024R1689-20260727 – EN – EUR-Lex
Det vi ikke har fremhevet i denne første setningen, er også avgjørende: KI-forordningen er markedsorientert. Den skal fremme bruken av KI. Den skal støtte innovasjon. KI-forordningen er med andre ord positiv til KI. Innenfor denne rammen reguleres bestemte bruksområder og sektorer.
Enkelte områder er på forhånd klassifisert som høyrisiko
Noen eksempler er KI-systemer som brukes innenfor:
- rekruttering
- tildeling av grunnleggende tjenester
- medisinsk utstyr
- systemer som er integrert i kritisk infrastruktur, der sikkerheten er avgjørende.
Tilbydere av KI-systemer (enten de er agentiske eller ikke) som kan påvirke rettighetene våre, må etablere omfattende risikostyringssystemer. Dette omfatter blant annet å vurdere hvordan brukere kan misbruke KI-systemet.
Regulatorisk kapring: Når tilbydere foreslår selvregulering
Hvis vi lytter til Anthropic, OpenAI og Meta, samt enkelte stemmer i den norske debatten, kan man få inntrykk av at KI og agentisk KI er for komplekse for KI-forordningen. For avanserte for EU. For farlige til at andre enn selskapene selv kan regulere dem.
Vi bør være varsomme når verdens mektigste teknologiselskaper – som har drevet intens lobbyvirksomhet for en mindre streng gjennomføring av KI-forordningen – nå hevder at regelverket ikke er tilstrekkelig til å regulere deres mest avanserte systemer. Løsningen de foreslår, er å «regulere» seg selv.
Dette er en klassisk form for regulatorisk kapring, en prosess der lover og regler gradvis formes av nettopp de aktørene de er ment å regulere, til aktørenes egen fordel.
USA er et tydelig eksempel på dette (Innledningen til superintelligensens æra – Det hvite hus). Det hvite hus’ avtale om superintelligens er en «frivillig pakt» med ledere fra X, Meta, Anthropic, OpenAI og Google, der selskapene lover å selvregulere. Dokumentet bemerker at lover kanskje kan være passende på et hypotetisk tidspunkt i framtiden: «Med tiden kan det være fornuftig å lovfeste disse tiltakene.» Med tiden. Kanskje. Det kan være rimelig å vurdere reguleringer.
Foreløpig forventes amerikanerne imidlertid å stole på at disse store teknologiselskapene regulerer seg selv.
I motsetning til USA har Europa en bindende lov: KI-forordningen.
Likevel er regulatorisk kapring fortsatt en risiko, blant annet ved at tilliten til denne loven svekkes. Hvis teknologigigantene kan overbevise folk om at KI-forordningen ikke er god nok, vil vi ikke lenger støtte håndhevingen av den. Påstander om at agentisk KI angivelig er for avansert, smart eller farlig til at KI-forordningen kan håndtere den, svekker støtten vår til regulering.
Når regulatorisk kapring først får fotfeste, er det vanskelig å snu utviklingen.
Vi deler bekymringen for at enkelte KI-systemer kan føre til konsekvenser som er vanskelige å forutse. Nettopp derfor trenger vi prosedyrer for risikostyring – slik KI-forordningen også krever. (Dr. Muller arbeider i komiteen som snart er ferdig med å utvikle den harmoniserte standarden for risikostyring, 18228.)
EUs KI-forordning er ikke perfekt, og den må sannsynligvis videreutvikles. Å framstille agentisk KI som et område som faller utenfor EUs KI-forordning, skaper imidlertid bare usikkerhet, ikke trygghet.













