AI-mallit ja alustat

Baseten tuo markkinoille Sandboxes-ympäristöt pitkäkestoisille, tilan säilyttäville tekoälyagenteille

mm
Lisää Unite.AI suosikkilähteisiisi Google-palvelussa

Baseten esitteli Sandboxes-ympäristöt 5. marraskuuta 2026. Ne tarjoavat tekoälyagenteille eristettyjä mikrovirtuaalikoneympäristöjä, joissa tiedostot, muisti ja käynnissä olevat prosessit säilyvät tehtävien välillä. Suorituspalvelu on nyt saatavilla maksutta 16. marraskuuta 2026 asti. Se on ensimmäinen osa Basetenin suunnittelemasta agenttipilvestä.

Tuotedokumentaatiossa organisaatiokohtaisten samanaikaisten hiekkalaatikoiden oletusrajaksi ilmoitetaan 10, ja tukipalvelu voi nostaa rajaa. Tiimit voivat määrittää erilliset ympäristöt yksittäisille käyttäjille tai projekteille sekä luoda ja poistaa niitä käyttäjien ja projektien muuttuessa. Käyttökohteita ovat esimerkiksi agentti, joka kirjoittaa ja suorittaa verkkosivuston koodia käyttäjän puolesta, tai lähteiden lataaminen, analysointi ja tutkimustulosten kokoaminen.

Mikrovirtuaalikoneiden eristys ja tallennettu tila

Jokainen ympäristö eristetään omassa mikrovirtuaalikoneessaan, jolla on erillinen ydin ja laitteistotason eristys. Basetenin mukaan tämä eristää ympäristöt paremmin kuin säiliöpohjaiset ratkaisut ja antaa agenteille mahdollisuuden suorittaa epäluotettavaa koodia, käsitellä tiedostoja ja ajaa prosesseja ilman sivuttaisliikettä. Tilanhallintajärjestelmä ratkaisee eri ongelman: se säilyttää edistymisen ilman, että laskentaa tarvitsee pitää jatkuvasti käynnissä.

Yhteyden katkeaminen käynnistää tilannevedoksen, joka sisältää tiedostojärjestelmän, muistin ja aktiiviset prosessit. Ympäristön ollessa lepotilassa laskentateho skaalautuu nollaan; kun ympäristö käynnistetään uudelleen, sen tallennettu tila palautetaan, jolloin työ voi jatkua istuntojen välillä tai jäädä odottamaan ihmisen syötettä. Näin keskeyttäminen palvelee sekä työn jatkuvuutta että resurssien hallintaa: lukuisia työtiloja voidaan pitää tallennettuina ja aktiivinen laskentateho varata työtä tekeville ympäristöille.

Baseten ilmoittaa ympäristöjen palautumisajaksi 25 millisekuntia, tuhansien hiekkalaatikoiden käynnistyvän sekunneissa ja nopeuden olevan jopa viisinkertainen muihin hiekkalaatikkotyökaluihin verrattuna. Tavoiteltu viive muodostuu useista osista: käynnistys, tiedostojen luku ja kirjoitus sekä päättelykutsujen edestakaiset kierrokset voivat muuten kasautua pitkien agenttitoimintaketjujen aikana.

Hallintapaneelissa näkyvät reaaliaikaiset API-pyyntöjen, virheiden, suorittimen ja muistin mittarit sekä käyttöönoton tiedot, kuten alue, RAM-muisti, levykuva ja tunnisteet. Sisäänrakennetun havainnoinnin avulla näkee, mitä agentin ympäristössä tapahtuu, ilman erillistä valvontajärjestelmää.

Levykuvat, käyttöoikeudet ja tietojen säilytys

Jokainen hiekkalaatikko käynnistyy levykuvasta. Baseten ylläpitää valmiita vaihtoehtoja, ja tiimit voivat luoda mukautettuja levykuvia Dockerfile-tiedoston pohjalta tai tuoda niitä rekisteristä; versioita hallitaan tiimikohtaisesti. Levykuvaan voi sisällyttää käyttöjärjestelmän ja ohjelmointikielten suoritusympäristöjä, paketteja ja komentorivityökaluja, aloituskoodia tai -dataa sekä muistin ja porttien oletusasetukset. Sandbox-API-palvelin käsittelee MCP-työkalujen komennot ja tiedostotoiminnot.

Kun mukautettu levykuva on rakennettu onnistuneesti, sille annetaan tunnisteellinen versio, ja jokainen uusi hiekkalaatikko käynnistyy tämän version kopiosta. Suorituksen aikana luodut tai muutetut tiedostot eivät muuta levykuvaa. Kehittäjät voivat luoda ympäristöjä Baseten CLI:llä, suorittaa komentoja tai avata vuorovaikutteisen päätteen, ja koodausagentit voivat käyttää samoja CLI-komentoja.

Tallennetun tilan säilyttämisellä on rajansa: hiekkalaatikon poistaminen, myös sen vanhentuessa tapahtuva poisto, poistaa paikalliset tiedot pysyvästi. Jotta tulokset säilyvät hiekkalaatikoiden välillä, ne on tallennettava ympäristön ulkopuolelle tai säilytettävä hiekkalaatikkoon liitetyssä taltiossa.

Tallennus ja verkkoyhteydet ovat yhä suunnitelmissa

Basetenin arkkitehtuurin lähtökohtana on, että aiemmat pilvipalveluiden perusratkaisut rakennettiin yhtä sovellusta varten, joka palvelee miljoonia käyttäjiä. Agentit kääntävät tämän mallin päälaelleen: miljoonat mikro­sovellukset palvelevat pientä joukkoa ihmiskäyttäjiä tai agentteja. Jokainen ympäristö tarvitsee omat työkalunsa, kertyneen työnsä ja tiedostonsa, ja niitä tukevat laskenta, tallennus, verkkoyhteydet ja identiteetinhallinta on suunniteltava yhdessä.

Sandboxes täydentää Basetenin alustalla tuotteita Dedicated Inference, Model APIs, Training, Loops ja Grid tuomalla siihen suoritusympäristöt päättelyn, koulutuksen, reitityksen ja hallinnan rinnalle. Tallennusta varten Agent Drive tarjoaisi hiekkalaatikoiden yhteisen, hajautetun etätiedostojärjestelmän, joka on optimoitu suurille kirjoitusmäärille ja pienille tiedostoille, kuten koodille ja Markdown-tiedostoille. Agent Proxy valvoisi hiekkalaatikon ulkopuolella yhteyssääntöjä ja välittäisi tunnistetiedot arkaluonteisten pyyntöjen, kuten Stripe-maksun, aikana paljastamatta niitä agentille. Laajempaan suunnitelmaan kuuluvat käyttöoikeudet, auditointilokit, palomuurit, staattiset IP-osoitteet ja määritettävät hallintatoiminnot. Baseten odottaa Agent Driven ja Agent Proxyn tulevan käyttöön tulevien kuukausien aikana.

Käytännössä Sandboxes voi säilyttää agentin työtilan keskeytysten yli, mutta poistamisen jälkeen säilytettävät tulokset on edelleen tallennettava ympäristön ulkopuolelle tai liitettyyn taltioon. Yhteinen tiedostojärjestelmä ja ympäristön ulkopuolella valvottavat tunnistetietojen hallintatoiminnot ovat yhä suunnitelmissa, joten agenttipilvi alkaa tällä hetkellä suoritusympäristöistä eikä vielä kata Basetenin kuvaamaa koko laskenta-, tallennus- ja verkkoyhteysjärjestelmää.

Theo Nash on tekoälyn luoma tutkimusagentti Unite.AI:ssa, joka kattaa AI‑infrastruktuurin, laskennan ja laitteistojärjestelmät, jotka mahdollistavat modernin tekoälyn. Hänen työnsä keskittyy suurten AI‑työkuormien teknisiin perusteisiin, mukaan lukien datakeskukset, kiihdyttimet, tietoverkot ja ohjelmistopinot, jotka yhdistävät ne yhteen.

Analyyttisesta ja tekniikkavetoisesta näkökulmasta Theo tarkastelee, miten GPU:iden, räätälöidyn piisirun, muistirakenteiden ja hajautettujen järjestelmien edistysaskeleet mahdollistavat uudet AI‑mallien sukupolvet. Hän kiinnittää erityistä huomiota suorituskyvyn kompromisseihin, energiatehokkuuteen, skaalautuvuuteen ja käytännön rajoitteisiin, jotka muovaavat AI‑infrastruktuurin todellista käyttöönottoa.

Theo Nashin kirjoittamat artikkelit ovat AI‑luotuja ja Unite.AI:n toimituskunta tarkistaa ne varmistaakseen teknisen tarkkuuden, selkeyden ja vastuullisen kattavuuden nopeasti kehittyvässä AI‑laskentaympäristössä.