Baseten bringt Sandboxes für lang laufende, zustandsbehaftete KI-Agenten auf den Markt

Baseten führte Sandboxes ein am 5. November 2026 und stellt KI-Agenten damit isolierte MicroVM-Umgebungen bereit, in denen Dateien, Arbeitsspeicher und laufende Prozesse zwischen Aufgaben erhalten bleiben. Der Ausführungsdienst ist ab sofort verfügbar und bis zum 16. November 2026 kostenlos nutzbar. Er ist die erste Komponente der geplanten Agenten-Cloud von Baseten.

Die Produktdokumentation legt standardmäßig ein Limit von 10 gleichzeitig laufenden Sandboxes pro Organisation fest, das der Support erhöhen kann. Teams können einzelnen Nutzern oder Projekten separate Umgebungen zuweisen und diese erstellen oder löschen, wenn sich Nutzer und Projekte ändern. Mögliche Anwendungsfälle sind etwa ein Agent, der für einen Nutzer den Code einer Website schreibt und ausführt, oder Quellen herunterlädt, analysiert und Rechercheergebnisse zusammenträgt.

MicroVM-Isolierung und gespeicherter Zustand

Die Isolierungsgrenze bildet eine eigene MicroVM für jede Umgebung, mit einem separaten Kernel und Isolierung auf Hardwareebene. Laut Baseten bietet dies eine stärkere Isolierung als containerbasierte Ansätze und ermöglicht es Agenten, nicht vertrauenswürdigen Code auszuführen, Dateien zu bearbeiten und Prozesse ohne laterale Bewegungen auszuführen. Das Zustandssystem löst ein anderes Problem: den Arbeitsfortschritt zu bewahren, ohne Rechenressourcen dauerhaft zu beanspruchen.

Wird die Verbindung getrennt, wird ein Schnappschuss erstellt, der das Dateisystem, den Arbeitsspeicher und aktive Prozesse umfasst. Während die Umgebung inaktiv ist, werden die Rechenressourcen auf null heruntergefahren. Beim Fortsetzen wird der gespeicherte Zustand wiederhergestellt, sodass die Arbeit sitzungsübergreifend weitergehen oder für menschliche Eingaben pausieren kann. Dadurch ist das Anhalten sowohl eine Funktion zur Kontinuität als auch ein Mechanismus zur Ressourcenverwaltung: Zahlreiche Arbeitsbereiche können gespeichert bleiben, während aktive Rechenressourcen den Umgebungen vorbehalten sind, in denen gerade gearbeitet wird.

Baseten gibt eine Wiederaufnahmezeit von 25 Millisekunden, eine Skalierung auf Tausende von Sandboxes innerhalb von Sekunden und einen Geschwindigkeitsvorteil von bis zu fünfmal gegenüber anderen Sandbox-Tools an. Das Latenzziel gilt für die Gesamtdauer: Andernfalls können sich Startzeit, Lese- und Schreibvorgänge von Dateien sowie Inferenz-Rundläufe in langen Agentenschleifen summieren.

Das Dashboard umfasst Live-Messwerte zu API-Anfragen, Fehlerrate, CPU und Arbeitsspeicher sowie Bereitstellungsdetails wie Region, RAM, Image und Labels. Die integrierte Beobachtbarkeit zeigt, was in der Umgebung eines Agenten geschieht, ohne dass eine separate Überwachung eingerichtet werden muss.

Images, Zugriff und Datenaufbewahrung

Jede Sandbox wird ausgehend von einem Image gestartet. Baseten stellt integrierte Optionen bereit; Teams können außerdem eigene Images anhand einer Dockerfile erstellen oder aus einer Registry importieren und deren Versionen teamweise verwalten. Ein Image kann Betriebssysteme und Sprachlaufzeitumgebungen, Pakete und Kommandozeilenwerkzeuge, Ausgangscode oder -daten sowie Standardeinstellungen für Arbeitsspeicher und Ports enthalten. Ein Sandbox-API-Server übernimmt Befehle und Dateioperationen für MCP-Tools.

Nach einem erfolgreichen Build erhält ein benutzerdefiniertes Image eine Version mit Kennzeichnung, und jede neue Sandbox wird als Kopie dieser Version gestartet. Während eines Durchlaufs erstellte oder geänderte Dateien verändern das Image nicht. Entwickler können Umgebungen über die Baseten-CLI erstellen, Befehle ausführen oder ein interaktives Terminal öffnen; Programmieragenten können dieselben CLI-Befehle verwenden.

Für gespeicherte Zustände gilt eine Löschgrenze. Wird eine Sandbox gelöscht – auch, wenn sie nach Ablauf ihrer Gültigkeit gelöscht wird –, werden ihre lokalen Daten dauerhaft entfernt. Ergebnisse müssen außerhalb der Umgebung gespeichert oder auf einem eingebundenen Sandbox-Volume aufbewahrt werden, damit sie auch nach dem Wechsel zwischen Sandboxes erhalten bleiben.

Speicher und Netzwerk bleiben auf der Roadmap

Basetens Architektur beruht auf der Annahme, dass frühere Cloud-Grundlagen für eine einzelne Anwendung entwickelt wurden, die Millionen von Nutzern bedient, während Agenten dieses Modell umkehren: Millionen von Mikroanwendungen bedienen jeweils eine Handvoll menschlicher Nutzer oder Agenten. Jede Umgebung benötigt dann eigene Tools, angesammelte Arbeit und Dateien, unterstützt durch gemeinsam konzipierte Rechenleistung, Speicher, Netzwerk und Identitätsverwaltung.

Sandboxes ergänzen Dedicated Inference, Model APIs, Training, Loops und Grid auf der Plattform von Baseten und erweitern dessen Produkte für Inferenz, Training, Routing und Governance um Ausführungsfunktionen. Für die Speicherung soll Agent Drive ein verteiltes, externes Dateisystem bereitstellen, das von mehreren Sandboxes gemeinsam genutzt werden kann und für ein hohes Schreibvolumen sowie kleine Dateien wie Code und Markdown optimiert ist. Agent Proxy soll Verbindungsregeln außerhalb der Sandbox durchsetzen und bei sensiblen Anfragen, etwa einer Stripe-Zahlung, Zugangsdaten einschleusen, ohne sie dem Agenten offenzulegen. Das umfassendere Konzept umfasst Berechtigungen, Audit-Protokollierung, Firewall-Regeln, statische IP-Adressen und konfigurierbare Steuerungsmöglichkeiten. Baseten rechnet damit, Agent Drive und Agent Proxy in den kommenden Monaten bereitzustellen.

Die praktische Einschränkung besteht darin, dass Sandboxes den Arbeitszustand eines Agenten über Pausen hinweg bewahren können, Ergebnisse, die eine Löschung überdauern müssen, jedoch weiterhin außerhalb der Umgebung oder auf einem eingebundenen Volume gespeichert werden müssen. Das gemeinsam genutzte Dateisystem und die extern durchgesetzten Zugangsdatenkontrollen stehen noch auf der Roadmap. Die Agenten-Cloud beginnt daher derzeit mit der Ausführung und umfasst noch nicht das vollständige System aus Rechenleistung, Speicher und Netzwerk, das Baseten beschreibt.