Baseten lancia Sandboxes per agenti IA di lunga durata con stato persistente

Baseten ha presentato Sandboxes il 5 novembre 2026, offrendo agli agenti IA ambienti microVM isolati che conservano file, memoria e processi in esecuzione tra un’attività e l’altra. Il servizio di esecuzione è già disponibile e sarà gratuito fino al 16 novembre 2026, come primo componente del cloud per agenti che Baseten prevede di realizzare.

La documentazione del prodotto stabilisce un limite predefinito di 10 sandbox simultanee per organizzazione, che il supporto può aumentare. I team possono assegnare ambienti separati a singoli utenti o progetti e crearli o eliminarli man mano che utenti e progetti cambiano. Tra gli usi possibili, un agente può scrivere ed eseguire il codice di un sito web per un utente, oppure scaricare fonti, analizzarle e raccogliere i risultati della ricerca.

Isolamento tramite microVM e stato salvato

Il confine di isolamento è costituito da una microVM dedicata per ogni ambiente, con un kernel separato e isolamento a livello hardware. Baseten afferma che questo offre un isolamento maggiore rispetto agli approcci basati su container e consente agli agenti di eseguire codice non attendibile, manipolare file e avviare processi senza possibilità di movimento laterale. Il sistema di gestione dello stato risponde a un’esigenza diversa: conservare i progressi senza mantenere costantemente attive le risorse di calcolo.

La disconnessione attiva un’istantanea che comprende il file system, la memoria e i processi attivi. Quando l’ambiente è in sospensione, le risorse di calcolo vengono azzerate; alla ripresa, lo stato salvato viene ripristinato, così il lavoro può proseguire tra diverse sessioni o fermarsi in attesa dell’intervento di una persona. La sospensione è quindi sia una funzionalità di continuità sia un meccanismo di gestione delle risorse: numerosi ambienti di lavoro possono restare salvati, mentre le risorse di calcolo attive vengono riservate agli ambienti in cui si sta lavorando.

Baseten dichiara un tempo di ripresa di 25 millisecondi, la possibilità di scalare fino a migliaia di sandbox in pochi secondi e una velocità fino a cinque volte superiore a quella di altri strumenti di sandboxing. L’obiettivo di latenza riguarda il tempo cumulativo: altrimenti, nelle lunghe sequenze iterative degli agenti, i tempi di avvio, lettura e scrittura dei file e andata e ritorno delle richieste di inferenza possono sommarsi.

Il pannello di controllo include metriche in tempo reale sulle richieste API, il tasso di errore, la CPU e la memoria, oltre ai dettagli della distribuzione, come area geografica, RAM, immagine ed etichette. Gli strumenti di osservabilità integrati mostrano le attività svolte nell’ambiente di un agente senza richiedere una configurazione di monitoraggio separata.

Immagini, accesso e conservazione dei dati

Ogni sandbox viene avviata a partire da un’immagine. Baseten gestisce opzioni integrate, mentre i team possono creare immagini personalizzate da un Dockerfile o importarle da un registro, gestendone le versioni per ciascun team. Un’immagine può includere sistemi operativi e ambienti di esecuzione dei linguaggi, pacchetti e strumenti da riga di comando, codice o dati iniziali e impostazioni predefinite di memoria e porte. Un server API Sandbox gestisce i comandi e le operazioni sui file per gli strumenti MCP.

Dopo la creazione corretta di un’immagine personalizzata, le viene assegnata una versione contrassegnata e ogni nuova sandbox viene avviata da una copia di quella versione. I file creati o modificati durante un’esecuzione non modificano l’immagine. Gli sviluppatori possono creare ambienti tramite la CLI di Baseten, eseguire comandi o aprire un terminale interattivo; gli agenti di programmazione possono usare gli stessi comandi CLI.

Lo stato salvato è soggetto a un limite di conservazione: l’eliminazione di una sandbox, anche quando scade, rimuove definitivamente i dati locali. Per conservarli tra una sandbox e l’altra, i risultati devono essere salvati all’esterno dell’ambiente oppure mantenuti in un volume sandbox montato.

Archiviazione e rete restano nella tabella di marcia

La premessa architetturale di Baseten è che le primitive cloud precedenti fossero progettate per un’unica applicazione al servizio di milioni di utenti, mentre gli agenti capovolgono questo modello, dando vita a milioni di microapplicazioni al servizio di pochi utenti, umani o agenti. Ogni ambiente ha quindi bisogno dei propri strumenti, del lavoro accumulato e dei propri file, con risorse di calcolo, archiviazione, rete e identità progettate per funzionare insieme.

Sandboxes si affianca a Dedicated Inference, Model APIs, Training, Loops e Grid nella piattaforma Baseten, aggiungendo l’esecuzione ai suoi prodotti di inferenza, addestramento, instradamento e governance. Per l’archiviazione, Agent Drive offrirebbe un file system remoto distribuito e condiviso tra le sandbox, ottimizzato per grandi volumi di scrittura e file di piccole dimensioni, come codice e Markdown. Agent Proxy applicherebbe regole di connessione al di fuori della sandbox e inserirebbe le credenziali durante le chiamate sensibili, per esempio un pagamento Stripe, senza esporle all’agente. Il progetto più ampio comprende autorizzazioni, registri di controllo, protezione firewall, indirizzi IP statici e controlli configurabili. Baseten prevede di rendere disponibili Agent Drive e Agent Proxy nei prossimi mesi.

In pratica, Sandboxes può conservare lo stato di lavoro di un agente durante le pause, ma i risultati che devono sopravvivere all’eliminazione richiedono comunque un’archiviazione esterna all’ambiente o un volume montato. Il file system condiviso e i controlli delle credenziali applicati esternamente sono ancora nella tabella di marcia; per ora, quindi, il cloud per agenti si limita all’esecuzione e non comprende ancora l’intero sistema di risorse di calcolo, archiviazione e rete descritto da Baseten.