Tankeledare

Ja, EU:s AI-förordning omfattar agentisk AI – så här

Dr. Ley Muller Gyda Grodås Christiansen
Lägg till Unite.AI bland dina föredragna källor på Google
Viktiga punkterAgentisk AI omfattas redan av EU:s AI-förordning eftersom den uppfyller definitionen av…
Visa mer
  • Agentisk AI omfattas redan av EU:s AI-förordning eftersom den uppfyller definitionen av ett AI-system.
  • AI-förordningen reglerar vad tekniken gör och vilka risker den skapar i stället för att namnge specifika teknologier.
  • Teknikjättar som lobbar mot AI-förordningen driver självreglering som innebär regulatorisk infångning.

Just nu är det vanligt att hävda att agentisk AI och AI-agenter hamnar i ett slags regulatoriskt vakuum – att EU:s AI-förordning inte är lämpad för att reglera dem. Vi har läst detta i välrenommerade norska medier (Morgenbladet och Dagensnæringsliv), och ledande akademiker har upprepat det (University of Oslo). Vi ser två grundläggande brister i dessa påståenden … och menar att de bygger på rädsla, inte fakta.

För det första regleras agentisk AI av EU:s AI-förordning.

För det andra undergräver sådana påståenden befintliga regler. De förstärker föreställningen att AI-företagen är bättre lämpade att hantera riskerna med sina egna system – ett vanligt argument som leder till regulatorisk kapning.

Vi arbetar nära med AI-förordningen i egenskap av utsedda ledamöter i Standard Norges nationella AI-kommitté. Vi ingår också i de europeiska kommittéer som utarbetar harmoniserade standarder för leverantörer av AI-system med hög risk. Dessa standarder hjälper företagen att uppfylla AI-förordningens rättsliga krav.

Agentisk AI regleras på flera sätt genom EU:s AI-förordning

Europeiska kommissionen har publicerat flera lättlästa frågor och svar på klarspråk om ”agenter” och ”agentisk AI” och har klargjort att ja, de omfattas av förordningen, helt enkelt eftersom de uppfyller den bredare definitionen av ett AI-system (Hur behandlas AI-agenter i AI-förordningen? | AI-förordningens servicedesk). Här är några fler exempel:

  • Agentisk AI bygger ofta på stora språkmodeller, som regleras som AI-modeller för allmänna ändamål.
  • När ett agentiskt AI-system interagerar med människor utlöses också förordningens transparenskrav.
  • Om en AI-modell klassificeras som en modell som utgör en systemrisk gäller ytterligare krav för leverantören. Kraven omfattar bland annat bedömningar av modellens förmågor – däribland dess autonoma och agentiska egenskaper.

AI-förordningen nämner inte ordet ”agent”, eftersom den inte reglerar specifika typer av teknik. I stället reglerar den vad tekniken är utformad för att göra och riskerna med dessa funktioner.

AI-förordningen ska skydda våra grundläggande rättigheter

Mycket av kritiken mot AI-förordningen från dem som vill ha mer reglering handlar om att det strukturellt sett är omöjligt att undanröja alla risker. Men det hade varit omöjligt för ett internationellt regelverk att förutse alla framtida risker.

I stället fokuserar AI-förordningen på risker med AI-system som kan påverka hälsa, säkerhet och grundläggande rättigheter – något som anges redan i den allra första meningen i den första artikeln.

Det som vi inte har lyft fram i den första meningen är också avgörande: AI-förordningen är marknadsorienterad. Den ska främja användningen av AI. Den ska stödja innovation. AI-förordningen är med andra ord positiv till AI. Inom denna ram regleras vissa tillämpningar och områden.

Vissa områden klassificeras i förväg som högriskområden

Några exempel är AI-system som används inom:

  • rekrytering
  • fördelning av samhällsviktiga tjänster
  • medicintekniska produkter
  • system som ingår i kritisk infrastruktur där säkerheten är av största vikt.

Leverantörer av AI-system (agentiska eller andra) som kan påverka våra rättigheter måste införa heltäckande system för riskhantering, däribland bedöma hur användare kan missbruka AI-systemet.

Regulatorisk kapning: när leverantörer förespråkar självreglering

Om vi lyssnar på Anthropic, OpenAI och Meta, liksom vissa röster i den norska debatten, kan man få intrycket att AI och agentisk AI är för komplexa för AI-förordningen. För avancerade för EU. För farliga för att regleras av någon annan än företagen själva.

Vi bör vara försiktiga när världens mäktigaste teknikföretag – som har bedrivit intensiv lobbying för en mindre sträng tillämpning av AI-förordningen – nu hävdar att regleringen inte räcker för att styra deras mest kraftfulla system. Lösningen de föreslår är att ”reglera” sig själva.

Detta är ett klassiskt exempel på regulatorisk kapning, en process där lagar och regler gradvis utformas av just de aktörer som de är avsedda att reglera, till aktörernas egen fördel.

USA är ett tydligt exempel på detta (Inleder superintelligensens era – Vita huset). Vita husets överenskommelse om superintelligens är en ”frivillig pakt” med ledare från X, Meta, Anthropic, OpenAI och Google, där företagen lovar att självreglera. I dokumentet står det att lagar kan bli lämpliga någon hypotetisk gång i framtiden: ”Med tiden kan det vara lämpligt att lagfästa dessa åtgärder i lagar eller förordningar.” Med tiden. Kanske. Det kan vara rimligt att överväga reglering.

För närvarande förväntas amerikanerna dock lita på att de här stora teknikföretagen reglerar sig själva.

Till skillnad från USA har Europa en bindande lag: AI-förordningen.

Och ändå kvarstår risken för regulatorisk infångning, bland annat genom att förtroendet för den här lagen urholkas. För om teknikjättarna kan övertyga människor om att AI-förordningen inte är tillräckligt bra, kommer vi inte längre att stödja att den upprätthålls. Påståenden om att agentisk AI skulle vara alltför avancerad/smart/farlig för att AI-förordningen ska kunna hantera den är argument som försvagar vårt stöd för reglering.

När den regulatoriska infångningen väl har fått fäste är den svår att vända.

Vi delar oron för att vissa AI-system kan leda till konsekvenser som är svåra att förutse. Just därför behöver vi rutiner för riskhantering – vilket AI-förordningen också kräver. (Dr. Muller arbetar i den kommitté som nästan har slutfört arbetet med att ta fram den harmoniserade standarden för riskhantering, 18228.)

EU:s AI-förordning är inte perfekt och kommer sannolikt att behöva vidareutvecklas. Att framställa agentisk AI som ett område utanför EU:s AI-förordning skapar dock bara osäkerhet, inte trygghet.

Dr. Ley Muller är specialiserad på etisk styrning av AI. Hon är ledamot i kommittéer för AI-standardisering och driver även konsultföretaget Values-driven AI, som arbetar med AI-styrning. Hälften av tiden hjälper hon europeiska AI-leverantörer att uppfylla kraven i AI-förordningen; den andra hälften hjälper hon stora offentliga organisationer att hantera användningen av skugg-AI och skapa bredare samsyn bland intressenter kring AI-strategier.

Gyda Grodås Christiansen är senior rådgivare inom digital hälsa, hälsoinformatik och styrning av artificiell intelligens. Hon bidrar till internationell standardisering genom CEN/CENELEC:s gemensamma tekniska kommitté 21 och Standard Norway. Hennes arbete fokuserar på interoperabilitet, hälsodata och ansvarsfullt införande av AI inom hälso- och sjukvården.