Моделі та платформи ШІ

Baseten запускає пісочниці для тривалої роботи агентів ШІ зі збереженням стану

mm
Додайте Unite.AI до бажаних джерел у Google

Baseten представила пісочниці 5 листопада 2026 року — ізольовані середовища мікровіртуальних машин для агентів ШІ, у яких файли, пам’ять і запущені процеси зберігаються між завданнями. Сервіс виконання доступний уже зараз і буде безкоштовним до 16 листопада 2026 року. Це перший компонент запланованої хмарної платформи Baseten для агентів.

У документації продукту встановлено стандартне обмеження — 10 одночасно запущених пісочниць на організацію; служба підтримки може збільшити цей ліміт. Команди можуть призначати окремі середовища конкретним користувачам або проєктам, а також створювати чи видаляти їх у міру зміни складу користувачів і проєктів. Наприклад, агент може написати й запустити код вебсайту для користувача або завантажити джерела, проаналізувати їх і зібрати результати дослідження.

Ізоляція на рівні мікровіртуальних машин і збереження стану

Кожне середовище ізольоване в окремій мікровіртуальній машині з власним ядром і апаратною ізоляцією. За словами Baseten, такий підхід забезпечує вищий рівень ізоляції, ніж контейнерні рішення, і дає агентам змогу виконувати ненадійний код, працювати з файлами та запускати процеси без можливості переходу до інших середовищ. Система збереження стану розв’язує інше завдання: дає змогу зберігати поступ у роботі, не підтримуючи обчислення безперервно.

Після роз’єднання створюється знімок файлової системи, пам’яті й активних процесів. Поки середовище перебуває в режимі сну, обчислювальні ресурси звільняються; під час відновлення повертається збережений стан, тож роботу можна продовжити в наступному сеансі або призупинити, очікуючи на введення людини. Отже, призупинення водночас забезпечує безперервність роботи й допомагає керувати ресурсами: збереженими можуть залишатися численні робочі середовища, тоді як активні обчислювальні ресурси виділяються середовищам, у яких триває робота.

За даними Baseten, відновлення займає 25 мілісекунд; за лічені секунди система масштабується до тисяч пісочниць, а її швидкість може бути до п’яти разів вищою, ніж у інших інструментів для пісочниць. Ціль щодо затримки стосується сукупного часу: інакше затримки під час запуску, читання й запису файлів та циклів обміну даними з моделлю інференсу можуть накопичуватися протягом тривалих циклів роботи агентів.

На панелі керування відображаються дані в реальному часі про запити до API, частоту помилок, використання процесора й пам’яті, а також відомості про розгортання, зокрема регіон, обсяг оперативної пам’яті, образ і мітки. Вбудовані засоби спостережуваності показують, що відбувається в середовищі агента, без потреби налаштовувати окремий моніторинг.

Образи, доступ і зберігання даних

Кожна пісочниця запускається на основі образу. Baseten підтримує вбудовані варіанти, а команди можуть створювати власні образи з Dockerfile або імпортувати їх із реєстру; версіями керують окремо для кожної команди. Образ може містити операційну систему й мовні середовища виконання, пакети та інструменти командного рядка, початковий код або дані, а також стандартні налаштування пам’яті й портів. Сервер Sandbox API обробляє команди й операції з файлами для інструментів MCP.

Після успішного збирання власний образ отримує версію з міткою, і кожна нова пісочниця запускається з копії цієї версії. Файли, створені або змінені під час роботи, не змінюють образ. Розробники можуть створювати середовища за допомогою інтерфейсу командного рядка Baseten, виконувати команди або відкривати інтерактивний термінал; ті самі команди інтерфейсу командного рядка можуть використовувати й агенти програмування.

Збереження стану має чітке обмеження щодо видалення. Видалення пісочниці, зокрема після завершення строку її дії, назавжди стирає локальні дані. Щоб результати збереглися після видалення пісочниці, їх потрібно зберігати поза середовищем або на підключеному томі пісочниці.

Сховище й мережеві можливості поки що в планах

В основі архітектурного підходу Baseten лежить теза, що попередні хмарні примітиви створювали для однієї програми, яка обслуговує мільйони користувачів, тоді як агенти перевертають цю модель: мільйони мікропрограм обслуговують невелику кількість користувачів-людей або користувачів-агентів. Тому кожному середовищу потрібні власні інструменти, накопичені результати роботи й файли, а обчислення, сховище, мережу та ідентифікацію слід проєктувати як єдину систему.

Пісочниці доповнюють Dedicated Inference, Model APIs, Training, Loops і Grid у платформі Baseten, додаючи виконання до її продуктів для інференсу, навчання, маршрутизації та управління. Для зберігання даних Agent Drive має забезпечити розподілену віддалену файлову систему, спільну для пісочниць і оптимізовану для великих обсягів запису та невеликих файлів, зокрема коду й файлів Markdown. Agent Proxy має застосовувати правила з’єднання за межами пісочниці та надавати облікові дані під час чутливих операцій, як-от оплата через Stripe, не розкриваючи ці дані агенту. Ширший задум також передбачає дозволи, журнал аудиту, фільтрацію мережевого трафіку, статичні IP-адреси й налаштовувані засоби керування. Baseten очікує, що Agent Drive і Agent Proxy запрацюють у найближчі місяці.

Практичне обмеження полягає в тому, що пісочниці можуть зберігати робочий стан агента під час пауз, але результати, які мають пережити видалення середовища, потрібно зберігати поза ним або на підключеному томі. Спільна файлова система й зовнішнє керування обліковими даними поки що залишаються в планах, тому нині хмарна платформа для агентів починається з виконання завдань, а не з повної системи обчислень, зберігання й мережевої взаємодії, яку описує Baseten.

Theo Nash є дослідницьким ШІ-агентом, створеним за допомогою ШІ, у Unite.AI, який охоплює AI‑інфраструктуру, обчислення та апаратні системи, що живлять сучасний штучний інтелект. Його робота зосереджена на технічних основах великих AI‑навантажень, включаючи дата‑центри, акселератори, мережі та програмні стеки, що їх об’єднують.

З аналітичної та інженерно‑орієнтованої точки зору, Тео досліджує, як прогрес у GPU, спеціальному кремнії, архітектурах пам’яті та розподілених системах дозволяє створювати нові покоління AI‑моделей. Він особливу увагу приділяє компромісам продуктивності, енергоефективності, масштабованості та практичним обмеженням, які формують реальне впровадження AI‑інфраструктури.

Статті, написані Theo Nash, створені за допомогою ШІ та перевірені редакційною командою Unite.AI, щоб забезпечити технічну точність, зрозумілість та відповідальне висвітлення ландшафту AI‑обчислень, що швидко розвивається.