Tankeledere
Ja, EU’s AI-forordning omfatter agentisk AI – sådan gør den

NøglepunkterAgentisk AI falder allerede ind under EU's AI-forordning, fordi det opfylder…
Vis mere
- Agentisk AI falder allerede ind under EU's AI-forordning, fordi det opfylder definitionen på et AI-system.
- AI-forordningen regulerer, hvad teknologien gør, og hvilke risici den skaber, frem for at navngive specifikke teknologier.
- Techgiganter, der lobbyer imod AI-forordningen, fremmer selvregulering, som reelt svarer til regulatorisk overtagelse.
Der er i øjeblikket en stærk fortælling om, at agentisk AI og AI-agenter falder ind under et regulatorisk tomrum – at EU’s AI-forordning ikke er egnet til at regulere dem. Vi har læst det i anerkendte norske medier (Morgenbladet og Dagensnæringsliv), og førende akademikere (University of Oslo) har gentaget det. Vi ser to grundlæggende fejl i disse påstande … og mener, at de bygger på frygt, ikke på fakta.
For det første er agentisk AI reguleret af EU’s AI-forordning.
For det andet underminerer sådanne påstande den eksisterende regulering. De styrker forestillingen om, at AI-virksomheder er bedre rustet til at håndtere de risici, der er forbundet med deres egne systemer – et almindeligt argument, som fører til regulatorisk indfangning.
Vi arbejder tæt sammen med AI-forordningen som udpegede medlemmer af Standards Norways nationale AI-udvalg. Vi deltager også i de europæiske udvalg, der udarbejder harmoniserede standarder for udbydere af højrisiko-AI-systemer. Disse standarder hjælper virksomheder med at opfylde AI-forordningens juridiske krav.
Agentisk AI er reguleret på flere måder under EU’s AI-forordning
Europa-Kommissionen har offentliggjort flere letforståelige ofte stillede spørgsmål om »agenter« og »agentisk AI« og har præciseret, at de er omfattet af forordningen, ganske enkelt fordi de falder ind under den bredere definition af et AI-system (Hvordan behandles AI-agenter i AI-forordningen? | AI Act Service Desk). Her er nogle flere eksempler:
- Agentisk AI bygger ofte på store sprogmodeller, der er reguleret som AI-modeller til almen brug.
- Når et agentisk AI-system interagerer med mennesker, udløses også forordningens krav om gennemsigtighed.
- Hvis en AI-model klassificeres som en model, der udgør en systemisk risiko, gælder der yderligere krav til udbyderen. Kravene omfatter blandt andet vurderinger af modellens egenskaber, herunder dens autonome og agentiske funktioner.
AI-forordningen nævner ikke ordet »agent«, men det skyldes, at den ikke regulerer bestemte typer teknologi. I stedet regulerer den, hvad teknologien er udviklet til at gøre, og de risici, der er forbundet med disse funktioner.
AI-forordningen skal beskytte vores grundlæggende rettigheder
En stor del af kritikken af AI-forordningen fra dem, der ønsker mere regulering, skyldes, at det strukturelt er umuligt at fjerne alle risici. Men det ville have været umuligt for en international lovgivningsramme at forudse enhver fremtidig risiko.
AI-forordningen fokuserer i stedet på de risici, som AI-systemer udgør, og som kan påvirke sundhed, sikkerhed og grundlæggende rettigheder – et punkt, der nævnes i den allerførste sætning i den første artikel.

Skærmbillede fra EUR-Lex – 02024R1689-20260727 – EN – EUR-Lex
Det er også afgørende, hvad vi ikke har fremhævet i denne første sætning: AI-forordningen er markedsorienteret. Den skal fremme brugen af AI. Den skal støtte innovation. AI-forordningen er med andre ord positivt indstillet over for AI. Inden for denne ramme reguleres visse anvendelser og områder.
Visse områder er på forhånd klassificeret som højrisiko
Her er nogle eksempler på områder, hvor AI-systemer anvendes:
- rekruttering
- fordeling af væsentlige tjenester
- medicinsk udstyr
- systemer, der er integreret i kritisk infrastruktur, hvor sikkerheden er altafgørende.
Udbydere af AI-systemer – agentiske eller ej – der kan påvirke vores rettigheder, skal etablere omfattende risikostyringssystemer, herunder vurdere, hvordan brugere kan misbruge AI-systemet.
Regulatorisk indfangning: Når udbydere foreslår selvregulering
Hvis vi lytter til Anthropic, OpenAI og Meta samt visse stemmer i den norske debat, kan man få indtryk af, at AI og agentisk AI er for komplekse til AI-forordningen. For avancerede for EU. For farlige til at blive reguleret af andre end virksomhederne selv.
Vi bør være forsigtige, når verdens mest magtfulde teknologivirksomheder – som har lobbyet hårdt for en mindre stram implementering af AI-forordningen – nu hævder, at reguleringen ikke er tilstrækkelig til at styre deres mest avancerede systemer. Den løsning, de foreslår, er at »regulere« sig selv.
Dette er en klassisk form for regulatorisk indfangning, en proces, hvor lovgivning og regler gradvist formes af netop de aktører, de skal regulere, til fordel for aktørerne selv.
USA er et tydeligt eksempel på dette (Indledningen på superintelligensens æra – Det Hvide Hus). Det Hvide Hus’ aftale om superintelligens er en »frivillig pagt« med ledere fra X, Meta, Anthropic, OpenAI og Google, hvor virksomhederne lover at regulere sig selv. I dokumentet står der, at love måske kan være passende på et hypotetisk tidspunkt i fremtiden: »Med tiden kan det give mening at indarbejde disse tiltag i love eller regler.« Med tiden. Måske. Det kan være rimeligt at overveje regulering.
Indtil videre forventes amerikanerne dog at stole på, at disse store teknologivirksomheder regulerer sig selv.
I modsætning til USA har Europa en bindende lov: AI-forordningen.
Alligevel er regulatorisk indfangning fortsat en risiko, blandt andet fordi tilliden til denne lov kan blive undermineret. For hvis techgiganterne kan overbevise folk om, at AI-forordningen ikke er god nok, vil vi ikke længere støtte håndhævelsen af den. Påstande om, at agentisk AI ganske enkelt er for avanceret/smart/farlig til, at AI-forordningen kan håndtere den, svækker vores opbakning til regulering.
Når først regulatorisk indfangning har fået fodfæste, er den vanskelig at rulle tilbage.
Vi deler bekymringen for, at nogle AI-systemer kan føre til konsekvenser, der er vanskelige at forudse. Netop derfor har vi brug for procedurer for risikostyring – sådan som AI-forordningen også kræver. (Dr. Muller arbejder i det udvalg, der næsten er færdigt med at udarbejde den harmoniserede standard for risikostyring, 18228.)
EU’s AI-forordning er ikke perfekt, og den skal sandsynligvis videreudvikles. At fremstille agentisk AI som et område, der ligger uden for EU’s AI-forordning, skaber imidlertid kun usikkerhed, ikke sikkerhed.













