2026 vil se en eksplosion af AI-agenter på tværs af forretninger: Er vi forberedt på sikkerhedsrisiciene?

Virksomheder kapløber for at adoptere AI-agenter, men de mangler infrastrukturen til at gøre det sikkert. Agenter er forskellige fra AI-værktøjer: de arbejder autonomt, har kontinuerlig adgang til data og handler med maskinehastighed uden behov for overvågning. Det skaber helt nye risici, som vi må forberede os på.

Mennesker bruger allerede deres egne AI-agenter på arbejdet – uden nødvendigvis at fortælle deres chefer. Hvordan sikrer vi, at OpenClaw-bots ikke sletter vigtige filer? Tre af fire store virksomheder vil have adopteret multi-agent-systemer inden udgangen af 2026, ifølge Gartner. Hvordan sikrer vi, at hver af disse agenter ikke åbner døre for hackere til at angribe os på nye måder?

Nuværende sikkerhedsinfrastruktur er designet til at håndtere kendte, menneske-paced trusler. Det tager ikke hensyn til rogue-agenter, der manipulerer med virksomhedens kode uden vores viden. Eller til dårlige aktører, der angriber os via prompt-injektioner: instruktioner gemt i kode eller prompts, der får AI til at afsløre følsomme oplysninger eller udføre skadelig kode.

Sandheden er, at virksomheder er mere sultne end de er forberedt på denne kommende bølge. Kun 29% af organisationer “enig fuldt ud” på, at de har sikre AI-beskyttelser på plads, ifølge en Microsoft-undersøgelse.

Virksomhedsledere skal gøre flere ting.

1. Implementer AI-naturlig sikkerhed på tværs af hele virksomheden.
2. Behandle AI-agenter med de samme sikkerhedsforanstaltninger som mennesker.
3. Øg synligheden af, hvad disse agenter gør.

Ved at udføre disse kontroller kan sikkerheden følge agenternes hastighed og fremme innovation i stedet for at bremse den.

Opret AI-naturlig sikkerhed

I februar offentliggjorde en Meta-sikkerhedsforsker en overraskende post på X: hendes OpenClaw-bot var begyndt at slette hendes e-mails og ignorerede hendes ordrer til at stoppe. Inden hun kunne afbryde processen manuelt, var skaden allerede sket.

Dette er et eksempel på den utrolige hastighed, hvormed rogue-AI kan handle, og hvormed menneske-afhængige kontroller er utilstrækkelige. Sikkerheden skal flytte sig med samme hastighed som – og langs samme vej som – agentic AI.

Dette kræver en fornyelse af virksomhedens sikkerhedsinfrastruktur, ikke blot enkelte opgraderinger af eksisterende værktøjer. Flere områder skal være involveret i denne systemomfattende ændring af værktøjer.

At undgå hurtige situationer som den, Meta-forskeren oplevede, kræver AI-værktøjer, der kan detektere anomalier i realtid og reagere automatisk. For eksempel kan supervisor-agenter udstationeres for at gennemgå høj-impact-opgaver udført af andre agenter. Agentic Threat Intelligence (ATI)-værktøjer kan detektere og handle automatisk i de tidlige faser af et potentiel angreb.

En anden vigtig forebyggelsesmechanisme er at sikre sikkerheden af den faktiske model, der deployes på dine systemer. Platforme som ProtectAI, TrojAI eller Aim Security kan teste for direkte farer som prompt-injektion, ved at bruge AI-værktøjer til at rense kode før offentliggørelse.

At sikre proveniens af de data, som AI-agenterne har adgang til, er også afgørende. Værktøjer som Databricks Unity Catalog, Collibra eller Alation giver mulighed for at styre databevægelser.

Vi kan også forhindre, at vores AI-agenter bliver manipuleret, ved at sikre de fysiske enheder, vi bruger til at deploye dem. Platforme som CrowdStrike kan hjælpe med at undgå misbrug af AI-legitimationsoplysninger og detektere usædvanligt adfærd.

At have principper, der regulerer jeres interne operationer samt valg af leverandører, er essentiel. Brug eksisterende brancherammer til vejledning, som Google SAIF til at bygge en sikker arkitektur, AWS CAF-AI til AI-styring eller NIST AI RMF til overholdelse. OWASP Gen AI Security Project – en åben kilde-initiativ til at mildne risikoen for AI – tilbyder relevante sikkerhedsvejledning for virksomheder, der deployer AI.

Behandle AI med de samme begrænsninger som mennesker

Sidste år brugte en investor en Replit AI-agent til at kode – indtil på niende dag agenten besluttede at slette kode fra en live-produktionsdatabase, hvilket påvirkede 1.200 virksomheder.

Fordi agenter kan handle autonomt, kan det være katastrofalt at give dem ubeskyttet adgang til et bredt udvalg af dokumenter, data og API’er. En grund til dette er, at forretninger ofte ikke tildeler dem en “identitet” på samme måde, som vi ville gøre det for en menneskelig bruger, hvilket betyder, at de ikke kan spore, overvåge og styre deres adgang til forskellige områder.

Forretninger kan handle ved at tildele identiteter til ikke-menneskelige brugere: identitetsstyringsudbydere kan nøje styre, hvilke områder agenterne har adgang til, i hvilken tid og pege på eventuel risikofyldt adfærd. Dette reducerer over-tilgængeligheden til områder, som agenten ikke har brug for at være. Det begrænser også, hvad den kan gøre i de områder, hvor den opererer.

At tildele agent-identiteter reducerer også truslen fra eksterne aktører.

Da en gruppe af forskere indførte skadelige prompts i en AI-applikation, der håndterer juridiske kontrakter, kunne en bruger hente private data tilhørende en anden bruger. Der var åbenbart ingen sikker adskillelse af bruger-niveau-data, og autorisation til disse data var givet til AI, selvom det ikke var relevant for scenariet.

At etablere grænser for AI-“identiteter” betyder, at de ikke har bred “altid-tilgængelig” adgang. For eksempel vil agenter kræve autorisation til visse funktioner eller have læse-adgang i visse områder. Ved at gøre dette forbliver selv om en AI-agent bliver hakket eller manipuleret af en dårlig aktør, impakten begrænset i stedet for katastrofal.

Ledelsen skal også uddanne deres teams om truslen fra agenter, der opererer hemmeligt. Risikoen er større, når medarbejdere forbinder “skygge”-AI-agenter til arbejdspladser uden ledelsens viden og ordentlige identitets- og sikkerhedsforanstaltninger. Desuden skaber en Zero Standing Privileges (ZSP)-tilgang en grundlæggende 0-adgang for enhver agent. Så hvis en medarbejder forbinder en ikke-godkendt skygge-agent, kommer den ind i en omgang, hvor alle døre er lukket.

Have øjne på din agent

Selvom vi kender analogien “AI er en sort boks”, skal dens implementering i jeres forretning meget gerne overvåges og styres.

For at gennemføre strenge sikkerheds politikker skal hver agent styres: de skal have tydeligt dokumenteret ejerskab, ansvar og kontroller, så I kan nøjagtigt spore deres vej. I skal have kontinuerlig telemetri – fjernovervågning – der sporer agentadfærd og føder jeres eksisterende sikkerhedsværktøjer, så de kan detektere anomalier og udføre adaptiv tillidsvurdering.

Ledelsen skal tage denne nye sikkerhedsfront seriøst og sikre, at forskellige teams er ansvarlige for deres brug af AI-agenter. De kan oprette nye overholdelses-KPI’er, som “Antal datasets med verificeret proveniens”, “% af AI-agenter med styret identitet” eller “AI-Tillidsscore”.

Dette er kritisk til forebyggelse, men det handler også om at være revisionssikker – selv ikke-menneskelige ID’er skal have en revisionshistorik for, at en organisation kan være overholdt.

Vi forstår generelt, hvordan mennesker opfører sig og hvilke vej, de tager på arbejdspladser. Men AI er en helt ny skabning. Der er meget, vi ikke ved om, hvordan den fungerer. Nogle virksomheder vælger den korte løsning på at blokere AI fra kontoret – men det vil blot forsinke problemet eller få medarbejderne til at bruge skygge-AI. Forbered jeres sikkerhedsarkitektur proaktivt til agenter, der allerede bliver almindelige.