Anaconda поєднує рої AI‑агентів з автономним тестуванням безпеки

Надання AI‑агенту більшої кількості інструментів може зробити його кориснішим. Надання кільком агентам цих інструментів одночасно створює складніше питання: як підприємству відстежувати, що робить кожен з них, і зупинити небажану дію, перш ніж вона досягне реальної системи?

Розширення платформи Anaconda 6 жовтня вирішує цю проблему, поєднуючи координовану розробку ШІ з автономним тестуванням безпеки. Воно об’єднує технології Kilo Code, Enkrypt AI та Outerbounds у межах робочих просторів розробки, засобів безпеки та оркестрації виробництва.

Стратегічна ідея полягає у з’єднанні місць, де агенти створюють програмне забезпечення, де їхня поведінка піддається випробуванням, і де виконуються отримані робочі процеси. Anaconda називає це AI Dev Factory. Для підприємств практичне питання — чи полегшують ці зв’язки інспекцію та управління зростаючою автономністю агентів.

Як агенти Kilo координують свою роботу

Рой агентів розподіляє пов’язані завдання між кількома AI‑агентами. Один може досліджувати дизайн автентифікації, поки інший пише тести або реалізує окремий компонент. Потенційна перевага — паралельний прогрес, за умови, що агенти можуть ділитися відкриттями та уникати протилежних дій.

Технічний опис Swarm від Kilo пояснює механізм координації: головна сесія та її підлеглі агенти діляться дошкою повідомлень. Агенти можуть публікувати результати та читати дошку під час продовження роботи, замість того, щоб чекати завершення кожного підзавдання перед обміном результатами.

Це розрізнення має значення. Тестувальний агент може дізнатися про рішення щодо автентифікації перед написанням набору, який передбачає інший результат. Kilo повідомляє, що ранні внутрішні оцінки свідчать про можливість зменшення дублювання роботи, що може скоротити витрати токенів, проте числових результатів для цього твердження не опубліковано.

Те ж саме документація також визначає межу, яку варто розуміти: повідомлення на дошці не пробуджують, не відновлюють і не схвалюють агентів, а повідомлення про утримання або вето не зупиняють їх автоматично. Кожен учасник може переглянути повну історію дошки. Тому координацію слід розрізняти від здійснених дозволів та контролю виконання.

Anaconda сторінка запуску розміщує ці робочі процеси у VS Code та описує паралельну роботу над різними робочими деревами. Вона також представляє Kilo Desktop у бета-версії, поєднуючи інженерію, науку про дані та управління середовищем Python з доступом до понад 500 моделей та локальним виведенням.

Тестування безпеки, що змінює тактику

Enkrypt AI забезпечує сторону платформи, що відповідає за адверсаріальне тестування. Anaconda повідомляє, що розширений пакет безпеки тестує моделі, агентів та інтеграції MCP у більш ніж 300 категоріях атак, разом із захистом під час виконання.

У своєму технічному поясненні автономного red teaming Anaconda описує початок з відомих шаблонів атак, а потім використання агентів для адаптації їх підходу до реакцій цілі. Агент формує гіпотезу щодо вразливості, тестує її, аналізує результат і вирішує, що пробувати далі.

Відмова, наприклад, може спровокувати зміну стратегії, а не ще одну перефразовку того ж запиту. Система використовує пам’ять сесії, щоб уникнути повторення невдалих підходів, і паралельне дослідження, щоб одночасно вивчати різні ризики. Anaconda повідомляє, що це тестування виконується всередині середовища клієнта та налаштоване під модель загроз розгортання.

Такий підхід актуальний для агентів, які споживають інформацію з інструментів та зовнішніх джерел. Ризик не обмежується лише небезпечними відповідями: інструкція, прихована у отриманому матеріалі, може спрямувати подальший виклик інструменту. Тестування повинно аналізувати ланцюги поведінки, включаючи те, які дані агент вважає достовірними та які дії слідують за ними.

Контрзаходи під час виконання вирішують іншу проблему

Виявлення вразливості під час тестування та запобігання небезпечній дії під час експлуатації — це окремі завдання. Продукт Guardrails від Enkrypt AI розроблений для схвалення, модифікації або блокування ризикованої поведінки серед агентів, інструментів, генерації з підтримкою отримання та з’єднань Model Context Protocol.

Компанія визначає ін’єкції запитів, небезпечні дії інструментів, порушення меж привілеїв та витік конфіденційних даних серед ризиків, на які вона орієнтується. Акцент на аудиту рішень робить шар контролю релевантним як для розслідування інцидентів, так і для запобігання.

Запуск Anaconda також включає оцінки ризику моделей у Kilo та Реєстр інцидентів агентів, що містить публічні звіти про інциденти з підтвердженням джерела. Це може допомогти у виборі моделей та пріоритетах тестування. Їх слід розглядати як вхідні дані в процес безпеки, а не як доказ безпеки конкретного розгортання.

Показники масштабу потребують аналогічної обережності. Anaconda повідомляє, що 63 % респондентів у її опитуванні будівельників, орієнтованих на ШІ, переходять до використання роїв у тій чи іншій формі. У оголошенні також згадується дослідження Enkrypt, яке виявило вразливості у 73 % з 25 264 серверів MCP, сканованих протягом чотирьох місяців. Це дані, повідомлені постачальником, про респондентів та досліджені системи, а не вимірювання всіх розгортань агентів у підприємствах.

Чому виробниче середовище має бути в історії

Anaconda платформа AI Orchestration, раніше Outerbounds розглядає, що відбувається після розробки. На її веб‑сайті описані відтворювані запускі робочих процесів, відстеження артефактів і їх походження, з обчислювальними ресурсами, доступними в кількох хмарах, та управлінням, застосованим до пакетів і моделей.

Це забезпечує спосіб пов’язати результат із середовищем і залежностями, які його створили. Коли робочий процес змінюється, команда повинна знати, яка модель, пакет або політика змінилася разом із ним. Відтворюваність робить розслідування та порівняння практичнішими.

Жовтневий запуск додає рідний доступ до керованих артефактів у межах оркестраційних робочих процесів. На сторінці ширшого випуску також описується Fast Bakery, який створює образи контейнерів з залежностями conda і PyPI, включаючи рідні бібліотеки, та розширений каталог понад 19 000 відібраних пакетів і 77 перевірених моделей з відкритим кодом.

Розширення дає Anaconda ширшу роль, ніж лише постачання компонентів Python. Тепер її пропозиція охоплює розробку за допомогою агентів, протидіючі оцінки, контроль часу виконання та повторювану доставку. Справжнім випробуванням буде те, чи ці елементи забезпечать командам надійний запис того, що створили агенти, що було протестовано і що їм дозволено робити, коли програмне забезпечення починає працювати.