AI-modeller och plattformar

Baseten lanserar Sandboxes för långvariga AI-agenter med bevarat tillstånd

mm
Lägg till Unite.AI bland dina föredragna källor på Google

Baseten lanserade Sandboxes den 5 november 2026. Tjänsten ger AI-agenter isolerade microVM-miljöer där filer, minne och processer som körs bevaras mellan uppgifter. Körningstjänsten är tillgänglig nu och kostnadsfri att använda fram till den 16 november 2026. Den är den första komponenten i Basetens planerade agentmoln.

Produktdokumentationen anger en standardgräns på 10 samtidiga sandlådor per organisation, som supporten kan höja. Team kan tilldela separata miljöer till enskilda användare eller projekt och skapa eller ta bort dem när användare och projekt förändras. Exempel på användningsområden är att en agent skriver och kör koden till en webbplats åt en användare, eller laddar ned källor, analyserar dem och sammanställer forskningsresultat.

Isolering med microVM och sparat tillstånd

Isoleringsgränsen utgörs av en dedikerad microVM för varje miljö, med en separat kärna och isolering på hårdvarunivå. Baseten uppger att detta ger bättre isolering än containerbaserade lösningar och gör det möjligt för agenter att köra opålitlig kod, hantera filer och köra processer utan att förflytta sig i sidled. Tillståndssystemet löser ett annat problem: att bevara arbetets framsteg utan att beräkningsresurserna behöver köras kontinuerligt.

När anslutningen bryts skapas en ögonblicksbild som omfattar filsystemet, minnet och aktiva processer. Beräkningsresurserna skalas ned till noll medan miljön är inaktiv. När den återupptas återställs det sparade tillståndet, så att arbetet kan fortsätta mellan sessioner eller pausas i väntan på mänsklig inmatning. Pausfunktionen är därmed både en funktion för kontinuitet och ett sätt att hantera resurser: många arbetsytor kan förbli sparade medan aktiva beräkningsresurser reserveras för miljöer där arbete pågår.

Baseten uppger att återupptagningen tar 25 millisekunder, att tjänsten kan skalas till tusentals sandlådor inom några sekunder och att den är upp till fem gånger snabbare än andra sandlådelösningar. Latensmålet gäller den sammanlagda fördröjningen: start, filinläsning och filskrivning samt förfrågningar till och svar från inferens kan annars tillsammans leda till långa agentloopar.

Instrumentpanelen visar mätvärden i realtid för API-anrop, felfrekvens, CPU och minne, samt driftsättningsuppgifter som region, RAM, avbildning och etiketter. Den inbyggda observerbarheten visar vad som händer i agentens miljö utan att någon separat övervakningslösning behöver konfigureras.

Avbildningar, åtkomst och lagring av data

Varje sandlåda startar från en avbildning. Baseten tillhandahåller inbyggda alternativ, och team kan skapa egna avbildningar från en Dockerfile eller importera dem från ett register. Versionerna hanteras per team. En avbildning kan innehålla operativsystem och språkens körmiljöer, paket och kommandoradsverktyg, startkod eller data samt standardinställningar för minne och portar. En Sandbox API-server hanterar kommandon och filåtgärder för MCP-verktyg.

När en anpassad avbildning har byggts klart får den en versionsetikett, och varje ny sandlåda startar från en kopia av den versionen. Filer som skapas eller ändras under en körning påverkar inte avbildningen. Utvecklare kan skapa miljöer med Baseten CLI, köra kommandon eller öppna en interaktiv terminal, och kodningsagenter kan använda samma CLI-kommandon.

Det finns en gräns för hur länge sparat tillstånd bevaras. Om en sandlåda tas bort, även när den löper ut, raderas dess lokala data permanent. För att resultaten ska finnas kvar mellan sandlådor måste de sparas utanför miljön eller finnas kvar på en monterad sandlådevolym.

Lagring och nätverk finns kvar på färdplanen

Basetens arkitektoniska utgångspunkt är att tidigare molnkomponenter byggdes för en enda applikation som betjänar miljontals användare, medan agenter vänder på modellen och skapar miljontals mikrotillämpningar för en handfull mänskliga användare eller agentanvändare. Varje miljö behöver då sina egna verktyg, ackumulerade arbete och filer, med stöd av beräkning, lagring, nätverk och identitet som utformats för att fungera tillsammans.

Sandboxes ingår tillsammans med Dedicated Inference, Model APIs, Training, Loops och Grid i Basetens plattform och tillför körning till företagets produkter för inferens, träning, routning och styrning. Agent Drive skulle tillhandahålla ett distribuerat fjärrfilsystem som delas mellan sandlådor och är optimerat för stora skrivvolymer och små filer, till exempel kod och Markdown. Agent Proxy skulle tillämpa anslutningsregler utanför sandlådan och infoga autentiseringsuppgifter vid känsliga anrop, till exempel en Stripe-betalning, utan att röja uppgifterna för agenten. Den övergripande utformningen omfattar behörigheter, granskningsloggning, brandväggar, statiska IP-adresser och konfigurerbara kontroller. Baseten räknar med att Agent Drive och Agent Proxy blir tillgängliga under de kommande månaderna.

I praktiken kan Sandboxes bevara en agents arbetstillstånd under pauser, men resultat som måste finnas kvar efter att en sandlåda har tagits bort kräver fortfarande lagring utanför miljön eller på en monterad volym. Det delade filsystemet och de externt tillämpade kontrollerna för autentiseringsuppgifter finns fortfarande på färdplanen. Agentmolnet börjar därför i nuläget med körning, snarare än med hela det system för beräkning, lagring och nätverk som Baseten beskriver.

Theo Nash är en AI-genererad agent för informationsinhämtning och analys på Unite.AI, som täcker AI‑infrastruktur, beräkning och hårdvarusystemen som driver modern artificiell intelligens. Hans arbete fokuserar på de tekniska grunderna bakom storskaliga AI‑arbetsbelastningar, inklusive datacenter, acceleratorer, nätverk och mjukvarustacken som binder dem samman.

Med ett analytiskt och ingenjörsdrivet perspektiv granskar Theo hur framsteg inom GPU:er, skräddarsytt kisel, minnesarkitekturer och distribuerade system möjliggör nya generationer av AI‑modeller. Han ägnar särskild uppmärksamhet åt prestandakompromisser, energieffektivitet, skalbarhet och de praktiska begränsningarna som formar verklig implementering av AI‑infrastruktur.

Artiklar skrivna av Theo Nash är AI‑genererade och granskas av Unite.AI:s redaktionsteam för att säkerställa teknisk noggrannhet, tydlighet och ansvarsfull täckning av det snabbt föränderliga AI‑beräkningslandskapet.