Baseten запускает песочницы для длительно работающих ИИ-агентов с сохранением состояния

Baseten представила Sandboxes 5 ноября 2026 года: это изолированные среды на базе микроВМ для ИИ-агентов, в которых между задачами сохраняются файлы, память и работающие процессы. Сервис выполнения задач уже доступен и будет бесплатным до 16 ноября 2026 года. Это первый компонент запланированного облака Baseten для агентов.

В документации продукта установлен лимит по умолчанию — 10 одновременно работающих песочниц на организацию; служба поддержки может его увеличить. Команды могут назначать отдельные среды конкретным пользователям или проектам, а также создавать и удалять их по мере изменения состава пользователей и проектов. Например, агент может написать и запустить код сайта для пользователя или загрузить источники, проанализировать их и собрать результаты исследования.

Изоляция на уровне микроВМ и сохранение состояния

Каждая среда изолирована в отдельной микроВМ с собственным ядром и аппаратной изоляцией. По словам Baseten, такой подход обеспечивает более высокий уровень изоляции, чем контейнерные решения, и позволяет агентам выполнять ненадёжный код, работать с файлами и запускать процессы без горизонтального перемещения. Система сохранения состояния решает другую задачу: позволяет сохранять ход работы, не поддерживая вычислительные ресурсы постоянно активными.

При отключении создаётся снимок файловой системы, памяти и активных процессов. Пока среда находится в спящем режиме, вычислительные ресурсы высвобождаются; при возобновлении работы восстанавливается сохранённое состояние, поэтому работу можно продолжать в разных сеансах или приостанавливать, ожидая действий человека. Таким образом, приостановка одновременно обеспечивает непрерывность работы и помогает управлять ресурсами: множество рабочих сред можно хранить в сохранённом состоянии, выделяя активные вычислительные ресурсы тем, в которых выполняется работа.

По данным Baseten, возобновление работы занимает 25 миллисекунд; за несколько секунд число песочниц можно увеличить до тысяч, а скорость работы — до пяти раз выше, чем у других инструментов для изолированных сред. Целевой показатель задержки учитывает совокупный эффект: время запуска, чтения и записи файлов, а также обмена данными с системой инференса могут накапливаться в длительных циклах работы агента.

На панели мониторинга отображаются данные в реальном времени о запросах к API, частоте ошибок, загрузке ЦП и использовании памяти, а также сведения о развёртывании: регион, объём ОЗУ, образ и метки. Встроенные средства наблюдаемости позволяют видеть, что происходит в среде агента, без отдельной настройки мониторинга.

Образы, доступ и хранение данных

Каждая песочница запускается на основе образа. Baseten поддерживает встроенные варианты, а команды могут создавать собственные образы из Dockerfile или импортировать их из реестра; версии образов управляются отдельно для каждой команды. Образ может содержать операционную систему и среды выполнения языков программирования, пакеты и инструменты командной строки, исходный код или данные, а также настройки памяти и портов по умолчанию. Сервер API Sandbox обрабатывает команды и операции с файлами для инструментов MCP.

После успешной сборки пользовательскому образу присваивается версия с тегом, и каждая новая песочница создаётся на основе копии этой версии. Файлы, созданные или изменённые во время выполнения, не меняют образ. Разработчики могут создавать среды с помощью Baseten CLI, выполнять команды или открывать интерактивный терминал; те же команды CLI доступны и агентам для написания кода.

Для сохранённого состояния предусмотрено условие удаления. При удалении песочницы, в том числе по истечении срока её действия, локальные данные удаляются безвозвратно. Чтобы результаты сохранились после удаления песочниц, их необходимо записывать за пределами среды или хранить на подключённом томе песочницы.

Хранение данных и сетевые функции пока в планах

В основе архитектурного подхода Baseten лежит предположение, что прежние облачные примитивы создавались для одного приложения, обслуживающего миллионы пользователей, тогда как агенты меняют эту модель на миллионы микро-приложений для небольшого числа пользователей — людей или агентов. Каждой среде при этом нужны собственные инструменты, накопленные результаты работы и файлы, а вычислительные ресурсы, хранилище, сеть и система идентификации должны быть спроектированы как единое целое.

Sandboxes дополняют выделенный инференс, Model APIs, Training, Loops и Grid на платформе Baseten, добавляя выполнение задач к её продуктам для инференса, обучения, маршрутизации и управления. Для хранения данных Agent Drive должен обеспечить распределённую удалённую файловую систему, общую для разных песочниц и оптимизированную для большого объёма операций записи и небольших файлов, таких как код и документы Markdown. Agent Proxy будет контролировать правила подключений за пределами песочницы и подставлять учётные данные при выполнении чувствительных запросов, например при оплате через Stripe, не раскрывая их агенту. Более широкая архитектура также предусматривает разрешения, журналирование аудита, межсетевую фильтрацию, статические IP-адреса и настраиваемые средства контроля. Baseten ожидает, что Agent Drive и Agent Proxy появятся в ближайшие месяцы.

На практике Sandboxes позволяют сохранять рабочее состояние агента во время пауз, однако результаты, которые должны сохраниться после удаления песочницы, по-прежнему необходимо хранить за пределами среды или на подключённом томе. Общая файловая система и контроль учётных данных, обеспечиваемый извне, пока остаются в планах. Поэтому сейчас облако для агентов начинается с выполнения задач, а не со всей системы вычислений, хранения данных и сетевых функций, которую описывает Baseten.