Anaconda объединяет рой AI‑агентов с автономным тестированием безопасности

Предоставление AI‑агенту большего количества инструментов делает его более полезным. Предоставление этих инструментов сразу нескольким агентам ставит более сложный вопрос: как предприятию отслеживать, что делает каждый из них, и предотвратить вредное действие до того, как оно достигнет реальной системы?

расширение платформы Anaconda от 6 октября решает эту проблему, сочетая согласованную разработку AI с автономным тестированием безопасности. Оно объединяет технологии Kilo Code, Enkrypt AI и Outerbounds в рамках рабочих пространств разработки, средств безопасности и оркестрации производства.

Стратегическая идея состоит в том, чтобы связать места, где агенты создают программное обеспечение, где их поведение проверяется, и где выполняются получившиеся рабочие процессы. Anaconda называет это AI Dev Factory. Для предприятий практический вопрос состоит в том, облегчат ли такие связи проверку и управление растущей автономией агентов.

Как агенты Kilo координируют свою работу

Рой агентов распределяет связанные задачи между несколькими AI‑агентами. Один может исследовать дизайн аутентификации, пока другой пишет тесты или реализует отдельный компонент. Потенциальное преимущество — параллельный прогресс, при условии, что агенты могут делиться открытиями и избегать работы вразрез друг с другом.

техническое описание Swarm от Kilo объясняет механизм координации: основная сессия и её дочерние агенты используют общую доску сообщений. Агенты могут публиковать результаты и читать доску, пока работа продолжается, вместо того чтобы ждать завершения каждой подзадачи перед обменом результатами.

Это различие имеет значение. Тестирующий агент может узнать о решении по аутентификации до того, как напишет набор тестов, предполагающий иное. Kilo заявляет, что ранние внутренние оценки показывают, что уменьшение дублирующей работы может снизить расход токенов, однако численные результаты этого утверждения не опубликованы.

Та же документация также определяет границу, которую стоит понять: сообщения на доске не пробуждают, не возобновляют и не одобряют агентов, а сообщения о рекомендациях удержания или вето не останавливают их автоматически. Каждый участник может прочитать полную историю доски. Поэтому координацию следует отличать от принудительных разрешений и средств управления выполнением.

Anaconda страница запуска размещает эти рабочие процессы в VS Code и описывает параллельную работу по рабочим деревьям. Она также представляет Kilo Desktop в бета‑версии, объединяя инженерные задачи, науку о данных и управление средой Python с доступом к более чем 500 моделям и локальному выводу.

Тестирование безопасности, меняющее тактику

Enkrypt AI обеспечивает сторону платформы, связанную с адверсариальным тестированием. Anaconda заявляет, что расширенный набор средств безопасности тестирует модели, агентов и интеграции MCP более чем в 300 категориях атак, а также обеспечивает защиту во время выполнения.

В её техническое объяснение автономного red teaming Anaconda описывает начало с известных шаблонов атак, а затем использование агентов для адаптации подхода к реакциям цели. Агент формирует гипотезу о слабости, тестирует её, анализирует результат и решает, что пробовать дальше.

Отказ, например, может вызвать изменение стратегии, а не очередную перефразировку того же запроса. Система использует память сессии, чтобы не повторять неудачные подходы, и параллельное исследование, чтобы одновременно изучать разные риски. Anaconda заявляет, что это тестирование выполняется внутри среды заказчика и адаптировано к модели угроз развертывания.

Этот подход актуален для агентов, которые потребляют информацию из инструментов и внешних источников. Риск ограничивается не только небезопасным ответом: инструкция, скрытая в полученном материале, может направить последующий вызов инструмента. Тестирование должно изучать цепочки поведения, включая то, какую информацию агент считает достоверной и какие действия следуют за этим.

Средства защиты во время выполнения решают другую задачу

Выявление уязвимости во время тестирования и предотвращение небезопасного действия в процессе эксплуатации — отдельные задачи. продукт Guardrails от Enkrypt AI предназначен для одобрения, изменения или блокировки рискованного поведения агентов, инструментов, генерации с поддержкой извлечения и соединений Model Context Protocol.

Компания выделяет внедрение подсказок, небезопасные действия инструментов, нарушения границ привилегий и утечку конфиденциальных данных среди рисков, на которые она ориентируется. Акцент на проверяемых решениях делает слой управления актуальным как для расследования инцидентов, так и для их предотвращения.

Запуск Anaconda также включает оценки риска моделей в Kilo и реестр инцидентов агентов, содержащий публичные отчёты об инцидентах с подтверждёнными источниками. Они могут помочь в выборе моделей и определении приоритетов тестирования. Их следует рассматривать как входные данные в процесс обеспечения безопасности, а не как доказательство того, что конкретное развертывание безопасно.

Цифры масштабов требуют аналогичной осторожности. Anaconda сообщает, что 63 % респондентов её опроса разработчиков, работающих с AI‑нативными решениями, переходят к использованию рой в той или иной форме. В объявлении также приводятся данные исследования Enkrypt, согласно которым уязвимости обнаружены в 73 % из 25 264 серверов MCP, просканированных за четыре месяца. Это данные, предоставленные поставщиком, о респондентах и исследованных системах, а не измерение всех развертываний агентов в предприятиях.

Почему производственная среда важна в этой истории

Anaconda платформа оркестрации ИИ, ранее Outerbounds решает, что происходит после разработки. На её веб‑сайте описываются воспроизводимые запуски рабочих процессов, отслеживание артефактов и их происхождение, а также вычислительные ресурсы, доступные в нескольких облаках, и управление, применяемое к пакетам и моделям.

Это предоставляет способ связать вывод с окружением и зависимостями, которые его создали. Когда рабочий процесс меняется, командам необходимо знать, какая модель, пакет или политика изменились вместе с ним. Воспроизводимость делает расследование и сравнение более практичными.

Запуск в октябре добавляет нативный доступ к управляемым артефактам внутри оркестрационных рабочих процессов. На более широкой странице релиза также описывается Fast Bakery, который собирает контейнерные образы из зависимостей conda и PyPI, включая нативные библиотеки, а также расширенный каталог из более чем 19 000 отобранных пакетов и 77 проверенных моделей с открытым исходным кодом.

Это расширение предоставляет Anaconda более широкую роль, чем просто поставка компонентов Python. Сейчас их предложение охватывает разработку с поддержкой агентов, адверсариальное оценивание, контроль времени выполнения и повторяемую доставку. По‑настоящему важным испытанием будет то, смогут ли эти элементы обеспечить командам надёжный журнал того, что построили агенты, что было протестировано и что им разрешено было делать, когда программное обеспечение начало работать.