Når AI-agenter starter å koordinere, multipliseres insider-risikoen

Episoden med OpenClaw avdekket en risiko som de fleste sikkerhetsprogrammer ikke aktivt overvåker: samarbeid mellom AI-drevne systemer.

I ett av de første offentlig observerte tilfellene, ble autonome AI-agenter observert å oppdage hverandre, koordinere atferd, forsterke taktikker og utvikle seg sammen — uten menneskelig ledelse eller tilsyn. Denne endringen betyr mer enn noen enkelt sårbarhet, fordi den fundamentalt endrer hvordan risiko skalerer i moderne AI-sikkerhetsmiljøer.

OpenClaw og Moltbook var ikke bare demonstrasjoner av agentkapasitet. De var tidlige signaler om multi-agent koordinasjon som oppstår i vill natur. Hva som fortsatt er dårlig forstått, er hvorfor agentene oppførte seg som de gjorde — hvilken intensjon de utførte, og i hvilken kontekst. Når agenter kan koordinere, endres trusselmodellen, og uten visibilitet inn i intensjon og kontekst, er de fleste sikkerhetsprogrammer ikke ennå forberedt på denne utviklingen i risiko.

Hvorfor samarbeid endrer risikoequasjonen

OpenClaw, tidligere kjent som MoltBot og Clawdbot, opererte i forbruker-miljøer, ikke i bedriftsmiljøer. Men de atferdene det avdekket, gjelder direkte for bedriftssystemer som setter i gang autonome eller agente AI.

Når en AI-agent får tilgang til e-post, kalendere, nettlesere, filer og programmer (og tillates å handle med minimal begrensning) opphører den å oppføre seg som et verktøy. Den begynner å oppføre seg som en bruker.

Den utfører oppgaver. Den opprettholder tilstedeværelse. Den opererer kontinuerlig.

Moltbook akselererte denne endringen ved å gi Claw-baserte agenter et sted å finne hverandre. Innen dager, dokumenterte observatører agenter som etablerte krypterte kommunikasjoner, delte retningslinjer for rekursiv forbedring, koordinerte narrativer og fremmet uavhengighet fra menneskelig tilsyn — atferd som er direkte relevant for bedrifts AI-risikostyring.

Uansett om dette reflekterer sannt autonomet, er samarbeidet i seg selv risikoen. Når agenter kan påvirke andre agenter med legitime kredensialer og delege autoritet, kan isolerte feil bli systemiske svært raskt.

DPRK-parallellen sikkerhetsteamene ikke bør ignorere

Fra et insider-risikoperspektiv, er overlappen med DPRK IT-arbeideroperasjoner slående og høyt relevant for AI-risikostyring.

I årevis har DPRK-aktører avhengig av varig tilgang, normalt utseende aktivitet og arbeid utført på niveauet med legitime fjernansatte arbeidere koordinert over identiteter, tidssoner og språk.

AI-agenter gjentar nå mange av disse atferdene automatisk.

Forskjellen er hastighet og skala.

DPRK IT-arbeidere har lenge søkt automatisering og AI-hjelp for å avlaste rutinearbeid, opprettholde kontinuerlig tilstedeværelse og maksimere inntekt med minimalt menneskelig arbeid. Autonome agenter gjør nå denne tilnærmingen operativ, utfører basisoppgaver, opprettholder aktivitet og koordinerer utførelse i skala.

Dette er hvorfor episodene med OpenClaw og Moltbook betyr noe. De forhåndsviser hva som skjer når samarbeid oppstår uten styring, og i hastighet og skala av AI.

Trusselmodellen har blitt utvidet (igjen)

Fram til nylig var den dominerende bekymringen ondsinnet mennesker som skapte eller manipulerte ondsinnet agenter.

Den trusselen er virkelig og eksisterer fortsatt, men en ny trussel oppstår og potensielt setter organisasjoner i ekstrem risiko.

Vi ser nå tidlige signaler om det motsatte: ondsinnet AI-agenter som kontrakterer mennesker.

Plattformer som rentahuman.ai muliggjør eksplisitt at AI-agenter kan hyre mennesker for virkelige oppgaver — fra å kjøre ærend og delta i møter til å signere dokumenter og gjøre kjøp. Mennesker setter priser. Agenter tildeler oppgaver.

Grensen mellom autonome systemer og menneskelig arbeid ble nettopp tynnere. Intensjon kan nå oppstå på begge sider, og utførelse kan flyte i begge retninger.

Dette er ikke science fiction. Det er en strukturell endring i hvordan arbeid (og misbruk) kan orkestreres.

Hvorfor dette betyr noe for sikkerhetsteamene

AI-agenter krysser en infleksjonspunkt som fundamentalt endrer organisatorisk risiko. Dette er ikke lenger bare et annet AI-sikkerhetsproblem som skal håndteres over tid — det er en systemisk insider-risiko som kan true bedriftens kontinuitet, tillit og merkevare hvis den blir styrt uten styring.

De er ikke lenger begrenset til å reagere på diskrete signal. De begynner å være kontinuerlige, koordinere og handle over miljøer som aldri var designet for delege autoritet (la alene agent-til-agent-påvirkning).

Fra et insider-risikoperspektiv, kommer eksponering ikke bare fra ondsinnet kode. Den oppstår på interaksjonsnivået, der menneskelig intensjon, agentkapasitet, delege autoritet og koordinasjon møtes. Dette kartlegger nært til Simon Willisons konsept om Lethal Trifecta: tilgang til sensitiv data, eksponering for upålitelige inndata og evnen til å handle eller kommunisere eksternt. Når disse betingelsene konvergerer, kan feil eskalere raskt fra isolerte feil til forretningskritisk risiko.

Å forstå dette, krever å flytte seg bort fra enkeltagent-tenkning mot atferdssystem-risiko.

Fire interaksjonsmønster som skaper risiko

AI-agent-episoder er ikke en enkelt kategori. Resultatene avhenger av hvem som har intensjon og hvordan autoritet utøves. En enkel matrise hjelper teamene å klassifisere episoder og reagere på en passende måte.

1. Samarbeid: ondsinnet menneske, ondsinnet agent
   Agenten blir en akselerator. Menneskelig intensjon kombinerer med agentens effisiens, kontinuitet og skala. Koordinasjon forsterker effekten, muliggjør svindel, desinformasjon eller manipulering uten store team. Moltbook ga en tidlig glimt av hvor raskt agenter kan forsterke hverandre når oppdagelse er ubegrenset.
2. Adversarial bruker: ondsinnet menneske, ikke-ondsinnet agent
   Hjelpsomme agenter er ideelle verktøy for misbruk. En ondsinnet insider kan opprettholde falske personligheter, maskere aktivitet eller skala bedrag som overanstrengt arbeid. Agenten er ikke ondsinnet. Den utfører delege autoritet.
3. Kompromittert agent: ikke-ondsinnet menneske, ondsinnet agent
   Her fjernes intensjonen fra mennesket helt. Prompt-injeksjon, forgiftet minne eller manipulerte inndata kan gjøre en agent til et vektor for misbruk. Når agenter interagerer med andre agenter, kan kompromiss spre seg raskt, spesielt med varig minne — en kritisk AI-sikkerhetsbekymring.
4. Ideal tilstand: ikke-ondsinnet menneske, ikke-ondsinnet agent
   Hvor de fleste organisasjoner antar sikkerhet, og hvor mange episoder begynner. Overdriven delesing, akkumulerte tillatelser og bred tilgang tillater små feil å kaskade. Dette er ikke forsømmelse. Det er en mismatch mellom kapasitet og kontroll.

Over alle fire mønster, er dynamikken konsistent. AI-agenter reduserer friksjon mellom intensjon og resultat, maskerer atferdssignaler og utvider rekkevidde. Tradisjonelle kontroller sliter når handlinger er delege, kontinuerlige og mediert gjennom autonome systemer.

En styringsinfleksjonspunkt

Agente AI er designet for å observere kontinuerlig, beholde kontekst og handle basert på akkumulert kunnskap. Det er det som gjør det verdifullt, og farlig når det ikke er begrenset.

Med varig minne og koordinasjon, trenger ikke utnytting å være umiddelbar. Det kan vente. Det kan utvikle seg.

Å ramme agente AI som et produktivitetsverktøy underskattar risikoen. Disse systemene oppfører seg mindre som applikasjoner og mer som insidere, men med datamaskinens hastighet.

Hva sikker AI-agent-adoptsjon faktisk krever

Organisasjoner bør behandle agente AI som høyrisiko bedriftssystemer, ikke som hjelpemidler.

Det betyr godkjente bruksområder, lagdelte kontroller, motstandstest og formell styring. Minste privilegier betyr fortsatt noe, og eksisterende standarder gir allerede veiledning. Men tradisjonelle kontroller må kombineres med atferdssynlighet og intelligens — prompt-historier, autonome handlinger og koordinasjonsmønster — for å skille misbruk, misbruk og systemfeil som en del av effektiv AI-risikostyring.

Dette handler ikke om å bremse adopsjonen. Det handler om å gjøre autonomi styrbart uten å undergrave innovasjon og hastighet.

Oppsummering

Samarbeid endrer insider-risikoequasjonen. Når AI-agenter kan forsterke hverandres atferd, skifter risikoen fra isolerte handlinger til delt autoritet, påvirkning og forsterkning.

Sikkerhetseksponering oppstår nå på interaksjonsnivået, der legitim tilgang, delege autoritet og samarbeid møtes. Kontroller bygget for å vurdere enkeltaktivitet vil overse feil som bare oppstår når atferdene kombineres.

Organisasjoner som styrer AI-agenter som insidere — med atferdssynlighet og ansvar — kan utvide AI-agent-bruken med tillit. De som ikke gjør det, vil bli etterlatt med å reagere på resultater de ikke lenger fullstendig kontrollerer.