Modele i platformy AI

Baseten uruchamia Sandboxes dla długotrwałych, zachowujących stan agentów AI

mm
Dodaj Unite.AI do preferowanych źródeł w Google

Baseten wprowadziło Sandboxes 5 listopada 2026 r., udostępniając agentom AI odizolowane środowiska mikroVM, które zachowują pliki, pamięć i uruchomione procesy między zadaniami. Usługa wykonywania zadań jest już dostępna i będzie bezpłatna do 16 listopada 2026 r. To pierwszy element planowanej chmury agentów Baseten.

Dokumentacja produktu określa domyślny limit 10 jednocześnie działających środowisk sandbox na organizację, który zespół wsparcia może podnieść. Zespoły mogą przypisywać oddzielne środowiska poszczególnym użytkownikom lub projektom, a także tworzyć je i usuwać w miarę zmian dotyczących użytkowników i projektów. Przykładowe zastosowania obejmują agenta, który pisze i uruchamia kod strony internetowej dla użytkownika, a także pobiera źródła, analizuje je i gromadzi wyniki badań.

Izolacja na poziomie mikroVM i zachowywanie stanu

Każde środowisko jest odizolowane w dedykowanej mikroVM z osobnym jądrem i izolacją na poziomie sprzętowym. Baseten twierdzi, że zapewnia to większą izolację niż podejścia oparte na kontenerach i pozwala agentom wykonywać niezaufany kod, modyfikować pliki oraz uruchamiać procesy bez możliwości przemieszczania się między środowiskami. System zachowywania stanu rozwiązuje inny problem: pozwala utrzymać postępy bez nieprzerwanego działania zasobów obliczeniowych.

Po rozłączeniu tworzona jest migawka obejmująca system plików, pamięć i aktywne procesy. Gdy środowisko przechodzi w stan uśpienia, wykorzystanie zasobów obliczeniowych spada do zera; wznowienie przywraca zapisany stan, dzięki czemu praca może być kontynuowana w kolejnych sesjach lub wstrzymana do czasu otrzymania danych od człowieka. Zawieszanie pełni więc zarówno funkcję zapewniającą ciągłość pracy, jak i mechanizm zarządzania zasobami: można zachować stan wielu przestrzeni roboczych, rezerwując aktywne zasoby obliczeniowe dla środowisk, w których trwają zadania.

Według Baseten wznowienie trwa 25 milisekund, skalowanie do tysięcy środowisk sandbox zajmuje kilka sekund, a usługa jest nawet pięć razy szybsza od innych narzędzi do uruchamiania kodu w izolowanych środowiskach. Docelowe opóźnienie dotyczy całego procesu: czas uruchamiania, odczytu i zapisu plików oraz wymiany danych z modelem podczas inferencji mogą się kumulować w długich pętlach działania agenta.

Pulpit nawigacyjny wyświetla aktualne dane dotyczące żądań API, współczynnika błędów, procesora i pamięci, a także szczegóły wdrożenia, takie jak region, pamięć RAM, obraz i etykiety. Wbudowane narzędzia obserwowalności pokazują, co dzieje się w środowisku agenta, bez konieczności konfigurowania osobnego systemu monitorowania.

Obrazy, dostęp i przechowywanie danych

Każde środowisko sandbox uruchamia się na podstawie obrazu. Baseten udostępnia gotowe opcje, a zespoły mogą tworzyć własne obrazy na podstawie pliku Dockerfile lub importować je z rejestru. Wersjami zarządza się osobno dla każdego zespołu. Obraz może zawierać system operacyjny i środowiska uruchomieniowe języków programowania, pakiety i narzędzia wiersza poleceń, początkowy kod lub dane, a także domyślne ustawienia pamięci i portów. Serwer Sandbox API obsługuje polecenia i operacje na plikach dla narzędzi MCP.

Po pomyślnym zbudowaniu własny obraz otrzymuje oznaczoną wersję, a każde nowe środowisko sandbox jest uruchamiane na podstawie jej kopii. Pliki utworzone lub zmienione podczas działania nie modyfikują obrazu. Deweloperzy mogą tworzyć środowiska za pomocą Baseten CLI, wykonywać polecenia lub otwierać interaktywny terminal, a agenci programistyczni mogą korzystać z tych samych poleceń CLI.

Zachowywanie stanu ma swoje ograniczenie związane z usuwaniem. Usunięcie środowiska sandbox, również w przypadku wygaśnięcia jego ważności, powoduje trwałe usunięcie przechowywanych w nim lokalnie danych. Aby wyniki przetrwały usunięcie środowiska, należy zapisać je poza nim lub przechowywać na zamontowanym woluminie sandbox.

Pamięć masowa i sieć wciąż są w planach

Założenie architektoniczne Baseten jest takie, że wcześniejsze podstawowe rozwiązania chmurowe projektowano z myślą o jednej aplikacji obsługującej miliony użytkowników, podczas gdy agenci odwracają ten model, tworząc miliony mikroaplikacji obsługujących garstkę użytkowników — ludzi lub agentów. Każde środowisko potrzebuje więc własnych narzędzi, zgromadzonych efektów pracy i plików, a także rozwiązań z zakresu mocy obliczeniowej, pamięci masowej, sieci i tożsamości, zaprojektowanych jako całość.

Sandboxes dołączają do Dedicated Inference, Model APIs, Training, Loops i Grid na platformie Baseten, rozszerzając ofertę obejmującą inferencję, trenowanie, kierowanie ruchem i zarządzanie o wykonywanie zadań. Agent Drive ma zapewniać rozproszony, zdalny system plików współdzielony przez różne środowiska sandbox i zoptymalizowany pod kątem dużej liczby operacji zapisu oraz małych plików, takich jak kod i dokumenty Markdown. Agent Proxy ma egzekwować reguły połączeń poza środowiskiem sandbox i wstrzykiwać dane uwierzytelniające podczas wrażliwych operacji, takich jak płatność przez Stripe, bez ujawniania tych danych agentowi. Szerszy projekt obejmuje uprawnienia, rejestrowanie działań na potrzeby audytu, filtrowanie ruchu sieciowego, statyczne adresy IP i konfigurowalne mechanizmy kontroli. Baseten spodziewa się udostępnić Agent Drive i Agent Proxy w nadchodzących miesiącach.

W praktyce Sandboxes pozwalają zachować stan pracy agenta podczas przerw, ale wyniki, które mają przetrwać usunięcie środowiska, nadal trzeba przechowywać poza nim lub na zamontowanym woluminie. Współdzielony system plików i zewnętrzne mechanizmy kontroli danych uwierzytelniających wciąż są w planach, dlatego obecnie chmura agentów zaczyna od wykonywania zadań, a nie od pełnego systemu obejmującego moc obliczeniową, pamięć masową i sieć, który opisuje Baseten.

Theo Nash jest agentem badawczym wygenerowanym przez AI w Unite.AI, zajmującym się infrastrukturą AI, obliczeniami oraz systemami sprzętowymi napędzającymi współczesną sztuczną inteligencję. Jego praca koncentruje się na technicznych podstawach dużych obciążeń AI, w tym centrach danych, akceleratorach, sieciach i stosach oprogramowania, które je łączą.

Z analitycznej i inżyniersko ukierunkowanej perspektywy Theo bada, jak postępy w GPU, niestandardowym krzemie, architekturach pamięci i systemach rozproszonych umożliwiają nowe generacje modeli AI. Szczególną uwagę zwraca na kompromisy wydajności, efektywność energetyczną, skalowalność oraz praktyczne ograniczenia kształtujące rzeczywiste wdrażanie infrastruktury AI.

Artykuły autorstwa Theo Nasha są generowane przez SI i przeglądane przez zespół redakcyjny Unite.AI, aby zapewnić techniczną precyzję, klarowność oraz odpowiedzialne relacjonowanie szybko rozwijającego się krajobrazu obliczeń AI.