Thought leaders
Ja, de EU AI-verordening is ook van toepassing op agentische AI — zo zit dat

Belangrijkste puntenAgentische AI valt al onder de EU AI-verordening omdat het voldoet aan de definitie van…
Meer weergeven
- Agentische AI valt al onder de EU AI-verordening omdat het voldoet aan de definitie van een AI-systeem.
- De AI-verordening reguleert wat technologie doet en welke risico's zij creëert in plaats van specifieke technologieën bij naam te noemen.
- Techgiganten die lobbyen tegen de AI-verordening dringen aan op zelfregulering die neerkomt op regulatory capture.
Er doet momenteel een sterk verhaal de ronde dat agentische AI en AI-agenten buiten de regelgeving vallen — dat de EU AI-verordening niet geschikt is om hierop toezicht te houden. We hebben dit gelezen in gerenommeerde Noorse nieuwsmedia (Morgenbladet en Dagensnæringsliv) en hoorden het ook van vooraanstaande academici (University of Oslo). We zien twee fundamentele tekortkomingen in deze beweringen… en denken dat ze voortkomen uit angst, niet uit feiten.
Ten eerste wordt agentische AI wel gereguleerd onder de EU AI-verordening.
Ten tweede ondermijnen zulke beweringen de bestaande regelgeving. Ze versterken het idee dat AI-bedrijven beter in staat zijn om de risico’s van hun eigen systemen te beheersen — een veelgehoord argument dat leidt tot het kapen van de regelgeving.
We werken nauw samen met de AI-verordening als benoemde leden van de nationale AI-commissie van Standards Norway. Ook zijn we lid van de Europese commissies die geharmoniseerde normen ontwikkelen voor aanbieders van AI-systemen met een hoog risico. Deze normen helpen bedrijven te voldoen aan de wettelijke eisen van de AI-verordening.
Agentische AI wordt op verschillende manieren gereguleerd onder de EU AI-verordening
De Europese Commissie heeft verschillende FAQ’s in duidelijke, begrijpelijke taal gepubliceerd over ‘agenten’ en ‘agentische AI’ en heeft verduidelijkt dat ze inderdaad onder de verordening vallen, simpelweg omdat ze voldoen aan de bredere definitie van een AI-systeem (Hoe worden AI-agenten behandeld in de AI-verordening? | AI Act Service Desk). Enkele andere voorbeelden:
- Agentische AI is vaak gebaseerd op grote taalmodellen, die worden gereguleerd als AI-modellen voor algemene doeleinden.
- Wanneer een agentisch AI-systeem met mensen communiceert, worden ook de transparantievereisten van de verordening van kracht.
- Als een AI-model wordt aangemerkt als een model dat een systeemrisico vormt, gelden er aanvullende eisen voor de aanbieder. Het gaat onder meer om beoordelingen van de mogelijkheden van het model, waaronder de autonome en agentische functies ervan.
De AI-verordening noemt het woord ‘agent’ niet, omdat ze geen specifieke soorten technologie reguleert. Ze reguleert juist waarvoor de technologie is ontworpen en welke risico’s met die functies samenhangen.
De AI-verordening is bedoeld om onze grondrechten te beschermen
Veel kritiek op de AI-verordening van mensen die meer regelgeving willen, komt voort uit de structurele onmogelijkheid om alle risico’s volledig weg te nemen. Maar het zou voor een internationaal regelgevingskader onmogelijk zijn geweest om op elk toekomstig risico te anticiperen.
De AI-verordening richt zich in plaats daarvan op de risico’s van AI-systemen die gevolgen kunnen hebben voor de gezondheid, de veiligheid en de grondrechten — een punt dat al in de allereerste zin van het eerste artikel wordt genoemd.

Schermafbeelding van EUR-Lex – 02024R1689-20260727 – EN – EUR-Lex
Ook een cruciaal punt dat we in die eerste zin niet hebben benadrukt, is dat de AI-verordening marktgericht is. Ze moet het gebruik van AI stimuleren. Ze moet innovatie ondersteunen. Met andere woorden: de AI-verordening is pro-AI. Binnen die context worden bepaalde toepassingen en domeinen gereguleerd.
Bepaalde gebieden zijn vooraf aangemerkt als gebieden met een hoog risico
Enkele voorbeelden van gebieden waarin AI-systemen worden gebruikt:
- werving en selectie
- de toewijzing van essentiële diensten
- medische hulpmiddelen
- systemen die zijn geïntegreerd in kritieke infrastructuur, waar veiligheid van het grootste belang is.
Aanbieders van AI-systemen — al dan niet agentisch — die gevolgen kunnen hebben voor onze rechten, moeten uitgebreide risicobeheersystemen opzetten. Daaronder valt ook een beoordeling van de manieren waarop gebruikers het AI-systeem kunnen misbruiken.
Het kapen van de regelgeving: wanneer aanbieders zelfregulering voorstellen
Als we luisteren naar Anthropic, OpenAI en Meta, en naar bepaalde stemmen in het Noorse debat, zouden we de indruk kunnen krijgen dat AI en agentische AI te complex zijn voor de AI-verordening. Te geavanceerd voor de EU. Te gevaarlijk om door anderen dan de bedrijven zelf te worden gereguleerd.
We moeten op onze hoede zijn wanneer ’s werelds machtigste technologiebedrijven — die hard hebben gelobbyd voor een minder strenge uitvoering van de AI-verordening — nu beweren dat de regelgeving niet toereikend is om toezicht te houden op hun krachtigste systemen. Hun voorgestelde oplossing is om zichzelf te ‘reguleren’.
Dit is een klassiek mechanisme van het kapen van de regelgeving: een proces waarbij wetten en regels geleidelijk worden vormgegeven door juist de entiteiten waarop ze toezicht moeten houden, en wel in hun eigen voordeel.
De Verenigde Staten bieden hiervan een duidelijk voorbeeld (Het tijdperk van superintelligentie inluiden – The White House). Het Akkoord van het Witte Huis over superintelligentie is een ‘vrijwillig pact’ met leiders van X, Meta, Anthropic, OpenAI en Google, waarin deze bedrijven beloven zichzelf te reguleren. In het document staat dat wetgeving op een hypothetisch moment in de toekomst passend zou kunnen zijn: ‘Na verloop van tijd kan het zinvol zijn om deze stappen vast te leggen in wetten of regels.’ Na verloop van tijd. Misschien. Het kan redelijk zijn om regelgeving te overwegen.
Voorlopig wordt echter van Amerikanen verwacht dat ze erop vertrouwen dat deze grote technologiebedrijven zichzelf zullen reguleren.
In tegenstelling tot de Verenigde Staten heeft Europa een bindende wet: de AI-verordening.
Toch blijft het risico bestaan dat de regelgeving door de sector wordt gekaapt, onder meer doordat het vertrouwen in deze wet wordt ondermijnd. Want als techgiganten mensen ervan kunnen overtuigen dat de AI-verordening niet goed genoeg is, zullen we de handhaving ervan niet langer steunen. Beweringen dat agentische AI te geavanceerd, intelligent of gevaarlijk zou zijn voor de AI-verordening om aan te kunnen, zijn argumenten die onze steun voor regelgeving verzwakken.
Zodra de regelgeving door de sector is gekaapt, is dat moeilijk terug te draaien.
We delen de bezorgdheid dat sommige AI-systemen kunnen leiden tot gevolgen die moeilijk te voorzien zijn. Juist daarom hebben we procedures voor risicobeheer nodig, zoals ook de AI-verordening vereist. (Dr. Muller is lid van de commissie die bijna klaar is met het ontwikkelen van de geharmoniseerde norm voor risicobeheer, 18228.)
De AI-verordening van de EU is niet perfect en moet waarschijnlijk verder worden ontwikkeld. Agentische AI voorstellen als een terrein dat buiten de AI-verordening van de EU valt, schept echter alleen onzekerheid en geen veiligheid.













