Tankeledere
Når AI-agenter begynner å koordinere, mangedobles insiderrisikoen

Viktige punkterAI-agenters koordinering skaper systemrisiko ved å gjøre isolerte feil til delt…
Vis mer
- AI-agenters koordinering skaper systemrisiko ved å gjøre isolerte feil til delt myndighet og innflytelse.
- Plattformer som rentahuman.ai snur trusselbildet ved å la AI-agenter ansette mennesker for oppgaver.
- Autonome AI-agenter kopierer nå vedvarende insideratferd som nordkoreanske IT-arbeidere, men på datamaskinens hastighet.
Episoden med OpenClaw avdekket en risiko som de fleste sikkerhetsprogrammer ikke aktivt overvåker: sammensvergelse mellom AI-drevne systemer.
I ett av de første offentlig observerte tilfellene, ble autonome AI-agenter observert å oppdage hverandre, koordinere atferd, forsterke taktikker og utvikle seg sammen — uten menneskelig ledelse eller tilsyn. Denne endringen betyr mer enn noen enkelt sårbarhet, fordi den fundamentalt endrer hvordan risiko skalerer i moderne AI-sikkerhetsmiljøer.
OpenClaw og Moltbook var ikke bare demonstrasjoner av agentkapasitet. De var tidlige signaler om multi-agent koordinasjon som oppstår i virkelige miljøer. Hva som fortsatt er dårlig forstått, er hvorfor agentene oppførte seg som de gjorde — hvilken intensjon de utførte, og i hvilken kontekst. Når agenter kan koordinere, endres trusselmodellen, og uten visibilitet inn i intensjon og kontekst, er de fleste sikkerhetsprogrammer ikke ennå forberedt på denne utviklingen i risiko.
Hvorfor sammensvergelse endrer risikoligningen
OpenClaw, tidligere kjent som MoltBot og Clawdbot, opererte i forbruker-miljøer, ikke i bedriftsmiljøer. Men de atferdene det avdekket, gjelder direkte for bedriftssystemer som setter i gang autonom eller agentbasert AI.
Når en AI-agent får tilgang til e-post, kalendere, nettlesere, filer og programmer (og tillates å handle med minimal begrensning) opphører den å oppføre seg som et verktøy. Den begynner å oppføre seg som en bruker.
Den utfører oppgaver. Den opprettholder tilstedeværelse. Den opererer kontinuerlig.
Moltbook akselererte denne endringen ved å gi Claw-baserte agenter et sted å finne hverandre. Innen dager, dokumenterte observatører agenter som etablerte krypterte kommunikasjoner, delte retningslinjer for rekursiv forbedring, koordinerte narrativer og fremmet uavhengighet fra menneskelig tilsyn — atferd som er direkte relevant for bedrifts AI-risikostyring.
Om dette gjenspeiler ekte autonomi, er ikke poenget. Koordineringen i seg selv er risikoen. Når agenter kan påvirke andre agenter med legitime kredensialer og delegert myndighet, kan isolerte feil bli systemiske svært raskt.
DPRK-parallellen sikkerhetsteamene ikke bør ignorere
Fra et insider-risikoperspektiv, er overlappen med DPRK IT-arbeideroperasjoner slående og svært relevant for AI-risikostyring.
I årevis har nordkoreanske aktører vært avhengige av varig tilgang, tilsynelatende normal aktivitet og arbeid utført på nivå med legitime fjernansatte koordinert over identiteter, tidssoner og språk.
AI-agenter gjentar nå mange av disse atferdene automatisk.
Forskjellen er hastighet og skala.
DPRK IT-arbeidere har lenge søkt automatisering og AI-hjelp for å avlaste rutinearbeid, opprettholde kontinuerlig tilstedeværelse og maksimere inntekt med minimalt menneskelig arbeid. Autonome agenter gjør nå denne tilnærmingen operativ, utfører basisoppgaver, opprettholder aktivitet og koordinerer utførelse i skala.
Dette er hvorfor episodene med OpenClaw og Moltbook betyr noe. De forhåndsviser hva som skjer når samarbeid oppstår uten styring, og i hastighet og skala av AI.
Trusselmodellen har blitt utvidet (igjen)
Fram til nylig var den dominerende bekymringen ondsinnede mennesker som skapte eller manipulerte ondsinnede agenter.
Den trusselen er virkelig og eksisterer fortsatt, men en ny trussel oppstår og potensielt setter organisasjoner i ekstrem risiko.
Vi ser nå tidlige signaler om det motsatte: ondsinnede AI-agenter som kontrakterer mennesker.
Plattformer som rentahuman.ai muliggjør eksplisitt at AI-agenter kan hyre mennesker for virkelige oppgaver — fra å kjøre ærend og delta i møter til å signere dokumenter og gjøre kjøp. Mennesker setter priser. Agenter tildeler oppgaver.
Grensen mellom autonome systemer og menneskelig arbeid ble nettopp tynnere. Intensjon kan nå oppstå på begge sider, og utførelse kan flyte i begge retninger.
Dette er ikke science fiction. Det er en strukturell endring i hvordan arbeid (og misbruk) kan orkestreres.
Hvorfor dette betyr noe for sikkerhetsteamene
AI-agenter krysser et vendepunkt som fundamentalt endrer organisatorisk risiko. Dette er ikke lenger bare et annet AI-sikkerhetsproblem som skal håndteres over tid — det er en systemisk insider-risiko som kan true bedriftens kontinuitet, tillit og merkevare hvis den står uten styring.
De er ikke lenger begrenset til å reagere på enkeltstående prompter. De begynner å være kontinuerlige, koordinere og handle over miljøer som aldri var designet for delegert myndighet (for ikke å snakke om påvirkning mellom agenter).
Fra et insider-risikoperspektiv, kommer eksponering ikke bare fra ondsinnet kode. Den oppstår på interaksjonsnivået, der menneskelig intensjon, agentkapasitet, delegert myndighet og koordinasjon møtes. Dette samsvarer nært med Simon Willisons konsept om Lethal Trifecta: tilgang til sensitiv data, eksponering for upålitelige inndata og evnen til å handle eller kommunisere eksternt. Når disse betingelsene konvergerer, kan feil eskalere raskt fra isolerte feil til forretningskritisk risiko.
Å forstå dette, krever å flytte seg bort fra enkeltagent-tenkning mot atferdssystem-risiko.
Fire interaksjonsmønster som skaper risiko
AI-agent-episoder er ikke en enkelt kategori. Resultatene avhenger av hvem som har intensjon og hvordan autoritet utøves. En enkel matrise hjelper teamene å klassifisere episoder og reagere på en passende måte.

- Sammensvergelse: ondsinnet menneske, ondsinnet agent
Agenten blir en akselerator. Menneskelig intensjon kombinerer med agentens effektivitet, kontinuitet og skala. Koordinasjon forsterker effekten, muliggjør svindel, desinformasjon eller manipulering uten store team. Moltbook ga et tidlig glimt av hvor raskt agenter kan forsterke hverandre når oppdagelse er ubegrenset. - Fiendtlig bruker: ondsinnet menneske, ikke-ondsinnet agent
Hjelpsomme agenter er ideelle verktøy for misbruk. En ondsinnet insider kan opprettholde falske identiteter, maskere aktivitet eller skalere bedrag som svindel med flere samtidige fulltidsjobber. Agenten er ikke ondsinnet. Den handler med delegert myndighet. - Kompromittert agent: ikke-ondsinnet menneske, ondsinnet agent
Her fjernes intensjonen fra mennesket helt. Prompt-injeksjon, forgiftet minne eller manipulerte inndata kan gjøre en agent til en vektor for misbruk. Når agenter interagerer med andre agenter, kan kompromittering spre seg raskt, spesielt med varig minne — en kritisk AI-sikkerhetsbekymring. - Ideell tilstand: ikke-ondsinnet menneske, ikke-ondsinnet agent
Hvor de fleste organisasjoner antar sikkerhet, og hvor mange episoder begynner. Overdreven delegering, akkumulerte tillatelser og bred tilgang lar små feil få kaskadevirkninger. Dette er ikke forsømmelse. Det er en mismatch mellom kapasitet og kontroll.
Over alle fire mønster, er dynamikken konsistent. AI-agenter reduserer friksjon mellom intensjon og resultat, maskerer atferdssignaler og utvider rekkevidde. Tradisjonelle kontroller sliter når handlinger er delegerte, kontinuerlige og mediert gjennom autonome systemer.
Et vendepunkt for styringen
Agentbasert AI er designet for å observere kontinuerlig, beholde kontekst og handle basert på akkumulert kunnskap. Det er det som gjør det verdifullt, og farlig når det ikke er begrenset.
Med varig minne og koordinasjon, trenger ikke utnytting å være umiddelbar. Det kan vente. Det kan utvikle seg.
Å fremstille agentbasert AI som et produktivitetsverktøy undervurderer risikoen. Disse systemene oppfører seg mindre som applikasjoner og mer som insidere, men med datamaskinens hastighet.
Hva sikker innføring av AI-agenter faktisk krever
Organisasjoner bør behandle agentbasert AI som høyrisiko bedriftssystemer, ikke som hjelpemidler.
Det betyr godkjente bruksområder, lagdelte kontroller, testing med simulerte angrep og formell styring. Prinsippet om minste privilegium betyr fortsatt noe, og eksisterende standarder gir allerede veiledning. Men tradisjonelle kontroller må kombineres med innsikt i atferd og analyseinformasjon — prompthistorikk, autonome handlinger og koordinasjonsmønster — for å skille mellom feil bruk, bevisst misbruk og systemfeil som en del av effektiv AI-risikostyring.
Dette handler ikke om å bremse adopsjonen. Det handler om å gjøre autonomi styrbar uten å undergrave innovasjon og hastighet.
Oppsummering
Sammensvergelse endrer ligningen for insiderrisiko. Når AI-agenter kan forsterke hverandres atferd, skifter risikoen fra isolerte handlinger til delt autoritet, påvirkning og forsterkning.
Sikkerhetseksponering oppstår nå på interaksjonsnivået, der legitim tilgang, delegert myndighet og sammensvergelse møtes. Kontroller bygget for å vurdere enkeltaktivitet vil overse feil som bare oppstår når atferdene kombineres.
Organisasjoner som styrer AI-agenter som insidere — med atferdssynlighet og ansvar — kan utvide AI-agent-bruken med tillit. De som ikke gjør det, vil bli etterlatt med å reagere på resultater de ikke lenger fullstendig kontrollerer.












