Én politik, tusindvis af agenter: Derfor bryder styringen af AI i virksomheder sammen i stor skala

Meget af debatten om anvendelsen af autonome AI-agenter har med rette handlet om styring som en afgørende udfordring. Gartner forudsagde for nylig, at 40 % af virksomhederne vil nedgradere eller afvikle deres autonome AI-agenter inden 2027 – ikke fordi teknologien slog fejl, men fordi deres styring gjorde det. Ifølge Gartner-direktør og senioranalytiker Shiva Varma er synderen »binær styring«: at behandle agenter som enten fuldstændig låste eller fuldt betroede, uden nogen mellemvej.

I øjeblikket hælder mange organisationer enten til at forbyde AI-værktøjer fuldstændigt eller til at udrulle agenter uden tilstrækkelige sikkerhedsforanstaltninger. Ingen af delene fungerer godt i stor skala. Selv når IT forbyder eksterne AI-værktøjer, forekommer skygge-AI stadig. Udviklere vil naturligt gerne bygge løsninger og løse problemer; hvis styringen opleves som alt for bureaukratisk, går de uden om kontrollerne og bruger uprøvede værktøjer for at holde arbejdet i gang. Omvendt udsætter utilstrækkelige sikkerhedsforanstaltninger organisationer for sikkerheds-, compliance- og driftsrisici, som vokser over tid. 

Udfordringen er, at AI-agenter ikke kan styres ensartet med en statisk standardtilgang, der skal passe til alle.  Tiden med en sådan standardiseret styring er ved at være forbi, fordi disse systemer ikke har samme risikoprofil. De adskiller sig med hensyn til den underliggende software, deres funktioner, adgangsniveauer og graden af autonomi. Det fungerer ikke at anvende statiske kontroller fra industrialiseringens æra på software, der arbejder i maskinhastighed.  Effektiv styring afhænger af, at organisationer forstår softwareforsyningskæden bag hver agent og tilpasser kontrollerne til de risici, den medfører.  

Styring af agentbaserede softwareudviklingsmiljøer

Reel kontrol kræver effektiv styring af alle de softwareelementer, der indgår i agenten. Mange teams betragter fejlagtigt disse agenter som »pålidelige og betroede« og overser de standardelementer, der påvirker deres funktionalitet og sikkerhed. 

Alle autonome AI-agenter er bygget op af en velkendt stak: en grundmodel, MCP-servere (Model Context Protocol), der forbinder agenten med virksomhedens data og eksterne systemer, plugins, der udvider dens funktioner, og færdighedsfiler, der beskriver, hvordan den skal opføre sig. IT-ledere bør huske på følgende: 

• AI-agenter er softwareøkosystemer: De bygger på en standardopsætning, der omfatter  modeller, MCP’er, værktøjer, plugins, færdigheder og open source-software.
• MCP-servere kan udgøre en risiko: De forbinder agenter med virksomhedens data og kan downloades som al anden software. Hvis de ikke bliver kontrolleret, kan de give hackere adgang til jeres system. For eksempel fremhæver nyere sikkerhedsforskning fra JFrog netop disse risici i softwareforsyningskæden i mcp-run-python, herunder en sårbarhed for forfalskning af serveranmodninger (SSRF) (CVE-2026-25904) og en sårbarhed som følge af manglende isolation (CVE-2026-25905), der kan føre til fuldstændig overtagelse af en MCP.
• Plugins kan øge risikoen: Forskellige agenter kræver forskellige plugins (f.eks. fungerer et OpenAI-plugin ikke i Microsoft Copilot), hvilket betyder, at virksomheder ofte må håndtere flere varianter, hvor et enkelt skadeligt plugin kan stjæle følsomme oplysninger.
• Færdigheder definerer agentens adfærd: Disse instruktionsfiler fortæller agenten, hvordan den skal arbejde. Da udviklere henter dem fra fællesskabskilder, kan en kompromitteret færdighed i det skjulte ændre agentens måde at fungere på.
• Risici ved open source-software: Grundlaget for al funktionalitet i løsninger, der er udviklet ved hjælp af agentbaseret kodning, er brugen af binære filer med åben kildekode til at levere funktionaliteten. Kodeagenter kan lige så let anvende skadelige pakker i stedet for sikre uden at være klar over risikoen.
• Overblik er afgørende: Mange teams ved ikke, at disse problemer findes, og det gør deres agenter særdeles sårbare. Organisationer håndterer stadig softwareafhængigheder ud fra tillid i stedet for grundige kontroller.

Den rolle, et autoritativt system spiller i effektiv AI-styring

Kapløbet om at udrulle AI-agenter i virksomheder kan ikke vindes med en forældet tankegang. Hvis man indfører tunge, centraliserede kæder af manuelle godkendelser for alle arbejdsgange, hæmmer det innovationen, mens agenter, der ikke overvåges, skaber unødvendige risici.

For at skalere AI sikkert skal organisationer indføre en lagdelt tilgang til styring og sikring af softwarekomponenter, herunder pakker, binære filer, MCP’er, færdigheder og afhængigheder. Ved at etablere et autoritativt system kan virksomheder udvælge alle de anvendte komponenter, scanne dem alle før brug, håndhæve politikker på det rette tidspunkt i udviklingsforløbet og bevare muligheden for øjeblikkeligt at rulle ændringer tilbage. Når den næste sårbarhed offentliggøres, kan svaret på spørgsmålet »er vi berørt?« derfor gives på få minutter i stedet for dage.

AI-agenter udvider imidlertid angrebsfladen og får den til at udvikle sig betydeligt hurtigere. Agenter med høj grad af autonomi kan træffe hundredvis af beslutninger i minuttet, kæde værktøjskald sammen, tilgå data og udføre kode hurtigere, end traditionelle kontroller ved modtagelsen kan følge med. Indledende gennemgange og godkendelsesprocesser spiller stadig en vigtig rolle, men de kan ikke i sig selv sikre systemer, der arbejder i maskinhastighed.

Disse agenter kræver dynamisk håndhævelse under afviklingen, så unormal adfærd kan opdages, så snart den opstår, og der kan gribes ind, før skaden breder sig. Tænk på det som en afbryder: Adgangen til en kompromitteret færdighed tilbagekaldes, en ikke-betroet datakontekst afbrydes, eller et bestemt værktøjskald blokeres, så snart noget går galt.

På vej væk fra »én løsning til alle«

Stiv, ensartet styring er en sikker vej til fiasko. Muligheden for at komme dette i forkøbet er ved at lukke sig, og styringsgælden vokser, efterhånden som udrulningen af agenter accelererer. Derfor er her fire skridt, som ledere inden for sikkerhed og teknik kan tage nu for at styrke deres virksomhedssystemer:

1. Få overblik over, hvad der allerede kører. De fleste virksomheder kan ikke gøre fuldt rede for de AI-agenter, der findes i organisationen, endsige de MCP-servere, plugins og skill-filer, der driver dem. Før du kan vurdere risikoen eller styre noget som helst, skal du vide, hvad der findes.
2. Behandl AI-komponenter som softwareartefakter. MCP-servere, skill-filer og plugins er ikke konfiguration – de er kode med de samme risici i forsyningskæden som enhver open source-afhængighed. Brug samme kontrol, scanning og sporing af oprindelse, som du ville bruge på et hvilket som helst tredjepartsbibliotek.
3. Klassificér agenter efter graden af autonomi, og tilpas kontrollerne derefter. Definér, hvad »høj grad af autonomi« betyder for din organisation, og opbyg en politikramme med flere niveauer omkring det. Agenter med høj grad af autonomi kræver håndhævelse under afviklingen, ikke kun kontroller ved modtagelsen. Begynd med dine mest følsomme systemer, og arbejd dig ud derfra.
4. Sørg for, at styringen er hurtig nok til, at udviklere – menneskelige eller agentbaserede – ikke går uden om den. Skygge-AI er et friktionsproblem. Hvis det tager to uger at godkende en ny MCP-server, finder udviklerne en anden måde. Automatiseret scanning med tydelig håndhævelse af politikker er den eneste model, der kan følge med det tempo, AI-udviklingen faktisk bevæger sig i.

Styringen bliver langt mere effektiv, når den afspejler de faktiske risici ved hver enkelt agent i stedet for at behandle dem alle ens. De virksomheder, der kommer foran, vil være dem, der tilpasser styringen til den enkelte agents virkelighed, understøttet af et autoritativt registreringssystem, der håndhæver politikker ved hver grænse, giver overblik over hver komponent og gør det muligt for teams at reagere, så snart noget går galt.