Baseten lancerer Sandboxes til langvarige AI-agenter med bevaret tilstand

Baseten lancerede Sandboxes den 5. november 2026 og gav dermed AI-agenter adgang til isolerede microVM-miljøer, der bevarer filer, hukommelse og kørende processer mellem opgaver. Tjenesten til afvikling er tilgængelig nu og kan bruges gratis frem til den 16. november 2026 som den første komponent i Basetens planlagte agentcloud.

Produktdokumentationen angiver en standardgrænse på 10 samtidige sandkasser pr. organisation, som supporten kan hæve. Teams kan tildele separate miljøer til enkelte brugere eller projekter og oprette eller slette dem, efterhånden som brugere og projekter ændrer sig. Eksempler på anvendelser omfatter en agent, der skriver og kører koden til et websted for en bruger, eller downloader kilder, analyserer dem og indsamler forskningsresultater.

Isolation med microVM’er og gemt tilstand

Isoleringen sker ved hjælp af en dedikeret microVM til hvert miljø med en separat kerne og isolation på hardwareniveau. Baseten oplyser, at dette giver bedre isolation end containerbaserede løsninger og lader agenter køre ikke-betroet kode, håndtere filer og afvikle processer uden lateral bevægelse. Systemet til håndtering af tilstand løser et andet problem: at bevare fremskridt uden at lade beregningsressourcer køre konstant.

Når forbindelsen afbrydes, udløses et øjebliksbillede, der omfatter filsystemet, hukommelsen og de aktive processer. Beregningsressourcerne skaleres ned til nul, mens miljøet er inaktivt; når det genoptages, gendannes den gemte tilstand, så arbejdet kan fortsætte på tværs af sessioner eller sættes på pause, mens man afventer input fra et menneske. Det gør suspendering både til en funktion, der sikrer kontinuitet, og en mekanisme til ressourcehåndtering: Mange arbejdsområder kan forblive gemt, mens aktive beregningsressourcer reserveres til miljøer, hvor der udføres arbejde.

Baseten oplyser, at genoptagelse tager 25 millisekunder, at tjenesten kan skaleres til tusindvis af sandkasser på få sekunder, og at den er op til fem gange hurtigere end andre sandkasseværktøjer. Målet for latenstiden gælder den samlede proces: Opstart, læsning og skrivning af filer samt rundrejser til inferens kan ellers tilsammen medføre forsinkelser gennem lange agentforløb.

Kontrolpanelet viser målinger i realtid af API-anmodninger, fejlrater, CPU og hukommelse samt oplysninger om udrulningen, f.eks. region, RAM, image og etiketter. Den indbyggede observerbarhed viser, hvad der foregår i en agents miljø, uden at det kræver separat overvågning.

Images, adgang og dataopbevaring

Hver sandkasse starter fra et image. Baseten vedligeholder indbyggede muligheder, mens teams kan oprette brugerdefinerede images ud fra en Dockerfile eller importere dem fra et register, hvor versionerne administreres pr. team. Et image kan indeholde operativsystemer og sprogkørselsmiljøer, pakker og kommandolinjeværktøjer, startkode eller data samt standardindstillinger for hukommelse og porte. En Sandbox API-server håndterer kommandoer og filhandlinger for MCP-værktøjer.

Når et brugerdefineret image er blevet oprettet, får det en mærket version, og hver ny sandkasse starter fra en kopi af denne version. Filer, der oprettes eller ændres under en kørsel, ændrer ikke imaget. Udviklere kan oprette miljøer via Baseten CLI, køre kommandoer eller åbne en interaktiv terminal, og kodeagenter kan bruge de samme CLI-kommandoer.

Der er en grænse for, hvor længe den gemte tilstand bevares. Hvis en sandkasse slettes, også når den slettes, fordi den udløber, fjernes dens lokale data permanent. For at resultater skal overleve på tværs af sandkasser, skal de gemmes uden for miljøet eller bevares på en tilknyttet sandkassevolumen.

Lagring og netværk er fortsat på køreplanen

Basetens arkitektoniske udgangspunkt er, at tidligere cloud-primitiver blev bygget til én applikation, der betjente millioner af brugere, mens agenter vender den model på hovedet med millioner af mikroapplikationer, der betjener en håndfuld menneskelige brugere eller agentbrugere. Hvert miljø har derfor brug for sine egne værktøjer, opsamlede arbejdsresultater og filer, understøttet af beregningsressourcer, lagring, netværk og identitet, der er designet til at fungere sammen.

Sandboxes føjes til Basetens platform sammen med Dedicated Inference, Model APIs, Training, Loops og Grid og supplerer virksomhedens produkter til inferens, træning, routing og styring med funktioner til afvikling. Agent Drive skal levere et distribueret, eksternt filsystem, der deles på tværs af sandkasser og er optimeret til store mængder skrivninger og små filer såsom kode og Markdown. Agent Proxy skal håndhæve forbindelsesregler uden for sandkassen og indsætte legitimationsoplysninger under følsomme kald, f.eks. en Stripe-betaling, uden at afsløre dem for agenten. Den bredere løsning omfatter tilladelser, revisionslogning, firewallbeskyttelse, statiske IP-adresser og konfigurerbare kontroller. Baseten forventer, at Agent Drive og Agent Proxy bliver tilgængelige i løbet af de kommende måneder.

I praksis kan Sandboxes bevare en agents arbejdstilstand på tværs af pauser, men resultater, der skal overleve en sletning, kræver stadig lagring uden for miljøet eller en tilknyttet volumen. Det delte filsystem og de eksternt håndhævede kontroller af legitimationsoplysninger er fortsat punkter på køreplanen, så agentclouden begynder indtil videre med afvikling frem for det fulde system til beregningsressourcer, lagring og netværk, som Baseten beskriver.