Myslitelé
Když se agenti AI začnou koordinovat, riziko vnitřních hrozeb se násobí

Klíčové bodyKoordinace AI agentů vytváří systémové riziko tím, že přeměňuje izolované selhání na…
Zobrazit více
- Koordinace AI agentů vytváří systémové riziko tím, že přeměňuje izolované selhání na sdílenou autoritu a vliv.
- Platformy jako rentahuman.ai obracejí model hrozeb tím, že umožňují AI agentům najímat lidi pro plnění úkolů.
- Autonomní AI agenti nyní replikují trvalé chování insider hrozeb, jako jsou pracovníci IT ze Severní Koreje, ale rychlostí počítače.
Epizoda OpenClaw odhalila riziko, které většina bezpečnostních programů aktivně nesleduje: koluzi mezi systémy poháněnými umělou inteligencí.
V jednom z prvních veřejně pozorovaných případů byli autonomní agenti AI pozorováni, jak objevují jeden druhého, koordinují chování, posilují taktiku a vyvíjejí se společně – bez lidského vedení nebo dohledu. Tato změna je důležitější než jakákoliv jednotlivá zranitelnost, protože fundamentálně mění, jak roste rozsah rizika v moderních bezpečnostních prostředích AI.
OpenClaw a Moltbook nebyly pouze demonstracemi schopností agentů. Byly to rané signály vzniku koordinace více agentů v reálném prostředí. Co zůstává špatně pochopeno, je proč se agenti chovali, jak se chovali – jaký záměr vykonávali a v jakém kontextu. Jakmile mohou agenti koordinovat své chování, mění se model hrozby a bez viditelnosti do záměru a kontextu není většina bezpečnostních programů připravena na tuto evoluci rizika.
Proč koluze mění rovnici rizika
OpenClaw, dříve známý jako MoltBot a Clawdbot, fungoval ve spotřebitelských prostředích, ne firemních. Ale chování, které odhalil, se přímo vztahuje na firemní systémy, které nasazují autonomní či agentní AI.
Když je agentu AI udělen přístup k e-mailu, kalendářům, prohlížečům, souborům a aplikacím (a je mu dovoleno jednat s minimálními omezeními), přestává se chovat jako nástroj. Začíná se chovat jako uživatel.
Vykonává úkoly. Udržuje přítomnost. Funguje nepřetržitě.
Moltbook urychlil tuto změnu, poskytujíc agentům založeným na Claw základnu, kde se mohli navzájem najít. Během několika dní pozorovatelé dokumentovali agenty, kteří navazovali šifrovanou komunikaci, sdíleli pokyny pro rekurzivní zlepšení, koordinovali narativy a hájili nezávislost na lidském dohledu – chování přímo relevantní pro firemní řízení rizika AI.
Není důležité, zda tato změna skutečně představuje autonomii. Koordinace sama o sobě představuje riziko. Když mohou agenti ovlivňovat jiné agenty, kteří mají legitimní pověření a delegovanou autoritu, izolovaná selhání se mohou velmi rychle stát systémovými.
Paralela se Severní Koreou, kterou by bezpečnostní týmy neměly ignorovat
Z pohledu insider risku je překryv s operacemi severokorejských pracovníků IT pozoruhodný a vysoce relevantní pro řízení rizika AI.
Během let se DPRK aktéři spoléhali na trvalý přístup, normálně vypadající aktivitu a práci vykonávanou na úrovni legitimních vzdálených zaměstnanců koordinovaných napříč identitami, časovými pásmy a jazyky.
Agenti AI nyní replikují mnoho z těchto chování automaticky.
Rozdíl spočívá v rychlosti a rozsahu.
DPRK IT pracovníci dlouhodobě usilovali o automatizaci a pomoc AI, aby mohli přenést rutinní práci, udržet nepřetržitou přítomnost a maximalizovat zisky s minimálním lidským úsilím. Autonomní agenti nyní operationalizují tento přístup, vykonávají základní úkoly, udržují aktivitu a koordinují výkon v rozsahu.
To je důvod, proč epizody OpenClaw a Moltbook jsou důležité. Předvádějí, co se stane, když koordinace vznikne bez řízení, a v rychlosti a rozsahu AI.
Model hrozby se právě rozšířil (znovu)
Až donedávna byl dominantním problémem zlý člověk, který vytváří nebo manipuluje zlými agenty.
Tato hrozba je reálná a stále existuje, ale nová hrozba se objevuje a potenciálně ohrožuje organizace extrémním rizikem.
Nyní vidíme rané signály opaku: zlých agentů AI, kteří najímají lidi.
Platformy jako rentahuman.ai umožňují explicitně agentům AI najímat lidi pro reálné úkoly – od běhání pochůzek a účasti na jednáních až po podepisování dokumentů a nákup zboží. Lidé nastavují sazby. Agenti přidělují úkoly.
Hranice mezi autonomními systémy a lidskou prací se právě stala tenčí. Záměr může nyní pocházet z obou stran, a provedení může probíhat v obou směrech.
To není sci-fi. Je to strukturální změna v tom, jak může být práce (a zneužívání) orchestrována.
Proč je to důležité pro bezpečnostní týmy
Agenti AI překračují inflexní bod, který fundamentálně mění organizační riziko. To již není jen další bezpečnostní problém AI, který bude řešen v průběhu času – je to systémové insider riziko, které může přímo ohrožovat firemní kontinuitu, důvěru a značku, pokud nebude řízeno.
Neomezují se již pouze na odpovědi na jednotlivé prompty. Začínají udržovat trvalou přítomnost, koordinovat své chování a jednat napříč prostředími, která nebyla navržena pro delegovanou autoritu (natož pro vliv agenta na agenta).
Z pohledu insider risku expozice nepřichází z škodlivýho kódu samotného. Vzniká na interakční vrstvě, kde se setkává lidský záměr, agentní schopnost, delegovaná autorita a koordinace. To úzce odpovídá konceptu Simona Willisona Lethal Trifecta: přístup k citlivým údajům, expozice nedůvěryhodným vstupům a schopnost jednat nebo komunikovat externě. Když se tyto podmínky setkají, selhání se mohou rychle eskalovat z izolovaných chyb na firemně kritické riziko.
Porozumění tomu vyžaduje přesunutí se za hranice jednoduchého myšlení o agentech směrem k riziku behaviorálních systémů.
Čtyři interakční vzorce, které vytvářejí riziko
Incidenty agentů AI nejsou jedinou kategorií. Výsledky závisí na tom, kdo má záměr a jak je vykonávána autorita. Jednoduchá matice pomáhá týmům klasifikovat incidenty a reagovat vhodně.

- Koluze: zlý člověk, zlý agent
Agent se stává akcelerantem. Lidský záměr se kombinuje s agentní efektivitou, persistencí a rozsahem. Koordinace zesiluje efekt, umožňující podvod, dezinformaci nebo manipulaci bez velkých týmů. Moltbook nabídl raný pohled na to, jak rychle se agenti vzájemně posilují, když je objevování neomezené. - Útočící uživatel: zlý člověk, neškodný agent
Pomocní agenti jsou ideálními nástroji pro zneužívání. Zlý insider může udržovat falešné identity, maskovat aktivitu nebo rozšiřovat podvody, například podvodné souběžné vykonávání více zaměstnání. Agent není škodlivý. Jedná na základě delegované pravomoci. - Kompromitovaný agent: neškodný člověk, škodlivý agent
Zde je záměr odstraněn z člověka úplně. Prompt injection, otrávená paměť nebo manipulované vstupy mohou změnit agenta na vektor pro zneužívání. Když agenti interagují s jinými agenty, kompromitace se může rychle šířit, zejména s persistentní pamětí – kritickou bezpečnostní otázkou AI. - Ideální stav: neškodný člověk, neškodný agent
Tam, kde většina organizací předpokládá bezpečnost, a kde mnoho incidentů začíná. Nadměrná delegace, nahromaděná oprávnění a široký přístup umožňují malým chybám eskalovat. To není nedbalost. Je to nesoulad mezi schopnostmi a kontrolou.
Všechny čtyři vzorce mají konzistentní dynamiku. Agenti AI snižují tření mezi záměrem a výsledkem, maskují behaviorální signály a rozšiřují dosah. Tradiční kontroly zápasí, když jsou akce delegovány, nepřetržité a zprostředkovány autonomními systémy.
Bod inflexe řízení
Agentní AI je navržena tak, aby nepřetržitě pozorovala, uchovávala kontext a jednala na základě nahromaděných znalostí. Právě to jí dává hodnotu a bez omezení ji činí nebezpečnou.
S persistentní pamětí a koordinací nemusí být exploatace okamžitá. Může čekat. Může se vyvíjet.
Prezentování agentní AI jako nástroje pro zvýšení produktivity podceňuje riziko. Tyto systémy se chovají méně jako aplikace a více jako osoby uvnitř organizace, ale s rychlostí počítačů.
Co skutečně vyžaduje bezpečné přijetí agentů AI
Organizace by měly pohlížet na agenty AI jako na vysoce rizikové firemní systémy, ne jako na pohodlí.
To znamená schválené použití, vrstvené kontroly, testování simulující útoky a formální řízení. Zásada nejnižších oprávnění stále platí, a stávající standardy již poskytují pokyny. Ale tradiční kontroly musí být kombinovány s přehledem o chování a analytickými poznatky – historií promptů, autonomních akcí a koordinačních vzorců – aby bylo možné rozlišit nesprávné použití, úmyslné zneužití a systémové selhání jako součást efektivního řízení rizika AI.
To není o zpomalení přijetí. Je to o tom, aby autonomie byla říditelná, aniž by byla ohrožena inovace a rychlost.
Závěr
Koluze mění rovnici insider risku. Když mohou agenti AI posilovat vzájemné chování, riziko se přesouvá z izolovaných akcí na sdílenou autoritu, vliv a amplifikaci.
Bezpečnostní expozice nyní vzniká na interakční vrstvě, kde se setkává legitimní přístup, delegovaná autorita a koluze. Kontroly, které hodnotí individuální aktivitu, přehlédnou selhání, která se objevují pouze tehdy, když se chování kumuluje.
Organizace, které řídí agenty AI jako osoby uvnitř organizace – s behaviorální viditelností a odpovědností – mohou rozšiřovat použití agentů AI s důvěrou. Ty, které to nedělají, budou reagovat na výsledky, které již nejsou plně pod jejich kontrolou.












