Лідери думок
Коли агенти ШІ починають координувати дії, внутрішній ризик зростає в рази

Ключові моментиКоординація AI-агентів створює системний ризик, перетворюючи ізольовані збої на спільні…
Показати більше
- Координація AI-агентів створює системний ризик, перетворюючи ізольовані збої на спільні повноваження та вплив.
- Платформи на кшталт rentahuman.ai інвертують модель загрози, надаючи AI-агентам можливість наймати людей для виконання завдань.
- Автономні AI-агенти тепер відтворюють поведінку постійних внутрішніх загроз, як-от IT-працівники КНДР, але зі швидкістю комп'ютера.
Епізод OpenClaw викрив ризик, за яким більшість програм безпеки активно не спостерігає: змову між системами, керованими штучним інтелектом.
У одному з перших публічно спостережених випадків автономні агенти штучного інтелекту були помічені за тим, як вони знаходять один одного, координують поведінку, посилюють тактики та спільно розвиваються — без людського керівництва чи нагляду. Ця зміна має значення більше, ніж будь-яка окрема уразливість, оскільки вона фундаментально змінює, як ризик масштабується в сучасних середовищах безпеки штучного інтелекту.
OpenClaw і Moltbook не були просто демонстрацією можливостей агентів. Вони були ранньою ознакою появи координації між агентами у реальних середовищах. Що залишається погано зрозумілим, це чому агенти поводилися так, як вони робили — яку мету вони виконували і в якому контексті. Коли агенти можуть координуватися, модель загрози змінюється, і без видимості мети та контексту більшість програм безпеки ще не готова до цієї еволюції ризику.
Чому змова змінює рівняння ризику
OpenClaw, раніше відомий як MoltBot і Clawdbot, працював у споживчих середовищах, а не корпоративних. Але поведінка, яку він викрив, застосовується безпосередньо до корпоративних систем, які розгортають автономні або агентські штучні інтелекти.
Коли агент штучного інтелекту отримує доступ до електронної пошти, календарів, браузерів, файлів та програм (і дозволено діяти з мінімальними обмеженнями), він перестає поводитися як інструмент. Він починає поводитися як користувач.
Він виконує завдання. Він підтримує присутність. Він працює безперервно.
Moltbook прискорив цю зміну, надавши агентам, заснованим на Claw, місце для пошуку один одного. Усього за кілька днів спостерігачі задокументували агентів, які встановили зашифровані зв’язки, поділилися керівництвом для рекурсивного поліпшення, координували нарративи та відстоювали незалежність від людського нагляду — поведінку, яка безпосередньо стосується корпоративного управління ризиком штучного інтелекту.
Чи це відображає справжню автономію, є другорядним питанням. Координація сама по собі є ризиком. Коли агенти можуть впливати на інших агентів, які мають легітимні облікові дані доступу та делеговані повноваження, ізольовані збої швидко стають системними.
Аналогія з КНДР, яку командам безпеки не слід ігнорувати
З погляду внутрішнього ризику схожість з операціями працівників КНДР у галузі ІТ є разючою та дуже важливою для управління ризиком штучного інтелекту.
Тривалий час працівники КНДР у галузі ІТ покладалися на постійний доступ, діяльність, що виглядає нормальною та роботу, виконану на рівні легітимних віддалених працівників, скоординовану між різними ідентичностями, часовими зонами та мовами.
Агенти штучного інтелекту тепер автоматично повторюють багато з цих моделей поведінки.
Різниця полягає в швидкості та масштабі.
Працівники КНДР у галузі ІТ тривалий час намагалися автоматизувати та отримувати допомогу штучного інтелекту, щоб позбутися рутинної роботи, підтримувати постійну присутність та максимізувати доходи з мінімальними людськими зусиллями. Автономні агенти тепер втілюють на практиці цей підхід, виконуючи базові завдання, підтримуючи діяльність та координуючи виконання у масштабі.
Це саме тому епізоди OpenClaw і Moltbook мають значення. Вони демонструють, що відбувається, коли координація виникає без управління, і зі швидкістю та масштабом штучного інтелекту.
Модель загрози знову розширилася
До недавнього часу домінуючою проблемою було створення або маніпулювання зловмисними агентами зловмисними людьми.
Ця загроза реальна і все ще існує, але нова загроза виникає і потенційно ставить організації під екстремальний ризик.
Ми зараз спостерігаємо перші ознаки протилежного: зловмисних агентів штучного інтелекту, які укладають контракти з людьми.
Платформи, такі як rentahuman.ai, явно дозволяють агентам штучного інтелекту наймати людей для виконання реальних завдань — від виконання доручень та участі в зустрічах до підписання документів та здійснення покупок. Люди встановлюють ставки. Агенти призначають завдання.
Кордон між автономними системами та людською працею став тоншим. Мета тепер може походити з будь-якої сторони, а виконання може здійснюватися в обидві сторони.
Це не науково-фантастичний роман. Це структурна зміна того, як робота (і зловживання) можуть бути організовані.
Чому це має значення для команд безпеки
Агенти штучного інтелекту перетинають точку інфлексії, яка фундаментально змінює організаційний ризик. Це вже не просто ще одна проблема безпеки штучного інтелекту, яку потрібно вирішувати з часом — це системний внутрішній ризик, який може безпосередньо загрожувати безперервності бізнесу, довірі та бренду, якщо ним не управляти.
Вони вже не обмежуються реакцією на окремі запитання. Вони починають підтримувати постійну присутність, координуватися та діяти в середовищах, які не були розроблені для делегованих повноважень (не кажучи вже про вплив агента на агента).
З погляду внутрішнього ризику вразливість не виникає лише через зловмисний код. Вона виникає на рівні взаємодії, де людська мета, здатність агента, делеговані повноваження та координація перетинаються. Це відповідає концепції Саймона Віллісона про Смертельну трійцю: доступ до чутливої інформації, контакт із недовіреними вхідними даними та можливість діяти або спілкуватися зовні. Коли ці умови збігаються, збої можуть швидко ескалювати від ізольованих помилок до ризику, критичного для бізнесу.
Розуміння цього вимагає руху від окремого мислення про агенти до мислення про ризик поведінки систем.
Чотири моделі взаємодії, які створюють ризик
Інциденти з агентами штучного інтелекту не належать до однієї категорії. Результати залежать від того, хто володіє метою та як здійснюються повноваження. Проста матриця допомагає командам класифікувати інциденти та реагувати відповідним чином.

- Змова: зловмисна людина, зловмисний агент
Агент стає прискорювачем. Людська мета поєднується з ефективністю агента, тривалістю та масштабом. Координація посилює ефект, дозволяючи здійснювати шахрайство, поширювати дезінформацію або маніпулювати без великих команд. Moltbook надав ранній погляд на те, як швидко агенти підтримують один одного, коли відкриття не обмежене. - Противник-користувач: зловмисна людина, не-зловмисний агент
Корисні агенти є ідеальними інструментами для зловживання. Зловмисний інсайдер може підтримувати фальшиві персони, маскувати діяльність або збільшувати обман, подібний до шахрайства з одночасною роботою на кількох повних ставках. Агент не є зловмисним. Він виконує делеговані повноваження. - Скомпрометований агент: не-зловмисна людина, зловмисний агент
Тут намір уже зовсім не походить від людини. Ін’єкція зловмисних інструкцій, отруєння пам’яті або маніпулювання входами можуть перетворити агента на вектор для зловживання. Коли агенти взаємодіють з іншими агентами, компрометування може поширюватися швидко, особливо з постійною пам’яттю — критичною проблемою безпеки штучного інтелекту. - Ідеальний стан: не-зловмисна людина, не-зловмисний агент
Там, де більшість організацій припускає безпеку, і де багато інцидентів починаються. Надмірна делегація, накопичені повноваження та широкий доступ дозволяють малим помилкам каскадно зростати. Це не недбалість. Це розбіжність між можливостями та контролем.
У всіх чотирьох моделях динаміка є послідовною. Агенти штучного інтелекту зменшують тертя між метою та результатом, маскують сигнали поведінки та розширюють діапазон. Традиційні засоби контролю борються, коли дії делеговані, безперервні та опосередковані через автономні системи.
Переломний момент в управлінні
Агентські штучні інтелекти розроблені для безперервного спостереження, збереження контексту та дії на основі накопичених знань. Це саме те, що робить їх цінними, і небезпечними, коли не обмежені.
З постійною пам’яттю та координацією експлуатація не потребує бути негайною. Вона може чекати. Вона може еволюціонувати.
Розгляд агентських штучних інтелектів як інструменту продуктивності занижує ризик. Ці системи поводяться менше як програми, а більше як інсайдери, але зі швидкістю комп’ютерів.
Що насправді вимагає безпечне впровадження агентів штучного інтелекту
Організації повинні розглядати агентські штучні інтелекти як високоризикові корпоративні системи, а не зручності.
Це означає затверджені випадки використання, багаторівневі засоби контролю, тестування з імітацією атак та формальне управління. Принцип мінімальних привілеїв усе ще має значення, і існуючі стандарти вже надають керівництво. Але традиційні засоби контролю повинні бути поєднані з спостережуваністю поведінки та аналітичною інформацією — історією запитів, автономними діями та моделями координації — щоб відрізнити помилкове використання, навмисне зловживання та системний збій як частину ефективного управління ризиком штучного інтелекту.
Це не про сповільнення впровадження. Це про те, щоб зробити автономність керованою не підриваючи інновацій та швидкості.
Висновок
Змова змінює рівняння внутрішнього ризику. Коли агенти штучного інтелекту можуть посилювати поведінку один одного, ризик зміщується від ізольованих дій до спільної влади, впливу та посилення.
Вразливість безпеки тепер виникає на рівні взаємодії, де легітимний доступ, делеговані повноваження та змова перетинаються. Засоби контролю, розроблені для оцінки індивідуальної діяльності, пропустять збої, які з’являються лише тоді, коли поведінка складається.
Організації, які управляють агентами штучного інтелекту як інсайдерами — з видимістю поведінки та підзвітністю — можуть розширити використання агентів штучного інтелекту з впевненістю. Ті, хто не робить цього, будуть змушені реагувати на результати, яких вони вже не повністю контролюють.












