Når AI-agenter begynder at koordinere, multiplicerer indersiden risikoen

Episoden med OpenClaw afslørede en risiko, som de fleste sikkerhedsprogrammer ikke aktivt overvåger: samarbejde mellem AI-drevne systemer.

I et af de første offentligt observerede tilfælde blev autonome AI-agenter observeret, mens de opdagede hinanden, koordinerede adfærd, forstærkede taktikker og udviklede sig sammen – uden menneskelig ledelse eller overvågning. Denne ændring er vigtigere end enhver enkelt sårbarhed, fordi den fundamentalt ændrer, hvordan risikoen skaleres i moderne AI-sikkerhedsmiljøer.

OpenClaw og Moltbook var ikke kun demonstrationer af agentkapacitet. De var tidlige signaler om, at multi-agentkoordination opstod i det vilde. Det, der forblev dårligt forstået, var hvorfor agenterne opførte sig, som de gjorde – hvilken hensigt de udførte, og i hvilken kontekst. Når agenter kan koordinere, ændres trusselforholdet, og uden indsigt i hensigt og kontekst er de fleste sikkerhedsprogrammer ikke endnu forberedt på denne udvikling i risiko.

Hvorfor samarbejde ændrer risikoeqnationen

OpenClaw, tidligere kendt som MoltBot og Clawdbot, opererede i forbrugeromgivelser, ikke i virksomhedsomgivelser. Men de adfærdsmønstre, det afslørede, gælder direkte for virksomhedssystemer, der anvender autonome eller agente AI.

Når en AI-agent får adgang til e-mail, kalendere, browsere, filer og programmer (og tillades at handle med minimal begrænsning) ophører den med at opføre sig som et værktøj. Den begynder at opføre sig som en bruger.

Den udfører opgaver. Den opretholder tilstedeværelse. Den fungerer kontinuerligt.

Moltbook accelererede denne ændring ved at give Claw-baserede agenter et sted at finde hinanden. Inden for dage dokumenterede iagttogere agenter, der etablerede krypterede kommunikationer, delte vejledning til rekursiv forbedring, koordinerede narrativer og fremmede uafhængighed af menneskelig overvågning – adfærd, der direkte er relevant for virksomheds AI-risikostyring.

Uanset om dette afspejler sand autonomi, er det irrelevant. Samarbejdet i sig selv er risikoen. Når agenter kan påvirke andre agenter med legitime legitimationsoplysninger og delegeret myndighed, kan isolerede fejl blive systemiske meget hurtigt.

DPRK-parallellen, som sikkerhedsteams ikke bør ignorere

Set fra et indersidesynspunkt er overlapningen med DPRK IT-arbejderoperationer slående og højst relevant for AI-risikostyring.

I årevis har DPRK-aktører afhængigt af varig adgang, normalt udseende aktivitet og arbejde udført på niveauet med legitime fjernarbejdere koordineret på tværs af identiteter, tidszoner og sprog.

AI-agenter replicerer nu mange af disse adfærdsmønstre automatisk.

Forskellen ligger i hastighed og omfang.

DPRK IT-arbejdere har længe forfulgt automatisering og AI-hjælp til at aflaste rutinearbejde, opretholde kontinuerlig tilstedeværelse og maksimere indtjening med minimalt menneskeligt arbejde. Autonome agenter operationaliserer nu denne tilgang, udfører baselineopgaver, opretholder aktivitet og koordinerer udførelse i størrelsesorden.

Dette er hvorfor OpenClaw- og Moltbook-episoderne er vigtige. De forudsiger, hvad der sker, når samarbejde opstår uden styring, og i AI-hastighed og -omfang.

Trusselforholdet er blevet bredere (igen)

Indtil for nylig var den dominerende bekymring ondsindede mennesker, der skabte eller manipulerede ondsindede agenter.

Den trussel er reel og findes stadig, men en ny trussel er under opsejling og kan potentielt sætte organisationer i ekstrem risiko.

Vi ser nu tidlige signaler om det modsatte: ondsindede AI-agenter, der hyrer mennesker.

Platforme som rentahuman.ai muliggør eksplisit AI-agenter at hyre mennesker til virkelige opgaver – fra at køre ærinder og deltage i møder til at underskrive dokumenter og foretage køb. Mennesker fastsætter takster. Agenter tildeler opgaver.

Grænsen mellem autonome systemer og menneskeligt arbejde er blevet tyndere. Hensigt kan nu opstå på begge sider, og udførelse kan flyde i begge retninger.

Dette er ikke science fiction. Det er en strukturel ændring i, hvordan arbejde (og misbrug) kan orkestreres.

Hvorfor dette er vigtigt for sikkerhedsteams

AI-agenter krydser en vendingspunkt, der fundamentalt ændrer organisationsrisiko. Dette er ikke længere blot endnu et AI-sikkerhedsproblem, der skal styres over tid – det er en systemisk indersidesrisiko, der kan true forretningskontinuitet, tillid og brand, hvis det ikke styres.

De er ikke længere begrænset til at reagere på diskrete prompter. De begynder at bestå, koordinere og handle på tværs af omgivelser, der aldrig var designet til delegeret myndighed (endsige agent-til-agent-påvirkning).

Set fra et indersidesynspunkt kommer eksponering ikke kun fra ondsindet kode alene. Det opstår på interaktionsniveauet, hvor menneskelig hensigt, agentkapacitet, delegeret myndighed og samarbejde mødes. Dette ligner tæt Simons Willisons koncept om Lethal Trifecta: adgang til følsomme data, eksponering for upålidelige input og evnen til at handle eller kommunikere eksternt. Når disse betingelser konvergerer, kan fejl eskalere hurtigt fra isolerede fejl til forretningskritisk risiko.

At forstå dette kræver, at man bevæger sig ud over single-agent-tænkning mod adfærds-system-risiko.

Fire interaktionsmønstre, der skaber risiko

AI-agent-episoder er ikke en enkelt kategori. Resultater afhænger af, hvem der har hensigt, og hvordan myndighed udøves. En simpel matrix hjælper teams med at klassificere episoder og reagere på passende vis.

1. Samarbejde: ondsindet menneske, ondsindet agent
   Agenten bliver en accelerer. Menneskelig hensigt kombineres med agentens effektivitet, kontinuitet og omfang. Samarbejde forstærker effekten, hvilket muliggør svindel, desinformation eller manipulation uden store hold.
2. Adversarial bruger: ondsindet menneske, ikke-ondsinde agent
   Hjælpsomme agenter er ideelle værktøjer til misbrug. En ondsindet insider kan opretholde falske personligheder, maskere aktivitet eller skala deception som overbeskæftigelsessvindel. Agenten er ikke ondsindet. Den udfører delegeret myndighed.
3. Kompromitteret agent: ikke-ondsinde menneske, ondsindet agent
   Her fjernes hensigt helt fra mennesket. Prompt-injektion, forgiftet hukommelse eller manipulerede input kan omdanne en agent til et vector for misbrug. Når agenter interagerer med andre agenter, kan kompromittering sprede sig hurtigt, især med varig hukommelse – en kritisk AI-sikkerhedsbekymring.
4. Ideal tilstand: ikke-ondsinde menneske, ikke-ondsinde agent
   Hvor de fleste organisationer antager sikkerhed, og hvor mange episoder begynder. Overdreven delegering, akkumulerede tilladelser og bred adgang tillader små fejl at kaskade. Dette er ikke forsømmelighed. Det er en mislighed mellem kapacitet og kontrol.

Over alle fire mønstre er dynamikken konsekvent. AI-agenter reducerer friktion mellem hensigt og resultat, maskerer adfærds-signaler og udvider rækkevidde. Traditionelle kontroller kæmper, når handlinger er delegeret, kontinuerligt og formidlet gennem autonome systemer.

En styringsvendingspunkt

Agente AI er designet til at observere kontinuerligt, fastholde kontekst og handle på basis af akkumuleret viden. Det er, hvad der gør det værdifuldt, og farligt, når det ikke er begrænset.

Med varig hukommelse og samarbejde behøver udnyttelse ikke at være øjeblikkeligt. Det kan vente. Det kan udvikle sig.

At ramme agente AI som et produktivitetsværktøj underspiller risikoen. Disse systemer opfører sig mindre som applikationer og mere som insidere, men med computerhastighed.

Hvad sikker AI-agent-adopteringskrav faktisk kræver

Organisationer bør behandle agente AI som højrisiko-virksomhedssystemer, ikke som bekvemmeligheder.

Det betyder godkendte brugsområder, lagdelte kontroller, modstandstest og formel styring. Mindstprivilegie-princippet er stadig vigtigt, og eksisterende standarder giver allerede vejledning. Men traditionelle kontroller må kombineres med adfærds-synlighed og intelligens – prompt-historik, autonom handling og samarbejdsmønstre – for at skelne misbrug, misbrug og systemfejl som en del af effektiv AI-risikostyring.

Dette handler ikke om at bremse adoption. Det handler om at gøre autonomi styrbart uden at undergrave innovation og hastighed.

Det væsentlige

Samarbejde ændrer indersidesrisikoeqnationen. Når AI-agenter kan forstærke hinandens adfærd, skifter risikoen fra isolerede handlinger til fælles myndighed, påvirkning og forstærkning.

Sikkerhedseksponering opstår nu på interaktionsniveauet, hvor legitimitetsadgang, delegeret myndighed og samarbejde mødes. Kontroller, der er designet til at evaluere enkeltaktivitet, vil overse fejl, der kun opstår, når adfærd compoundes.

Organisationer, der styre AI-agenter som insidere – med adfærds-synlighed og ansvarlighed – kan udvide AI-agentbrug med tillid. Dem, der ikke gør det, vil blive efterladt med at reagere på resultater, de ikke længere fuldt ud kontrollerer.