AWS uudistaa Bedrock AgentCore Runtime -ympäristön elastiseksi muistiksi, nopeiksi kylmiksi käynnistyksiksi

Amazon Web Services julkaisi uuden AgentCore runtime -ympäristön 18. syyskuuta 2026, uudistettu versio hallitusta laskentakerroksesta Amazon Bedrock AgentCore:ssa, jonka yritys sanoo vapauttavan muistin agenttisessioiden vapautuessa ja tarjoavan tasaiset kylmän käynnistyksen ajat riippumatta konttikuvan koosta tai samanaikaisuudesta.

AgentCore runtime on hallittu laskentakerros, joka tarjoaa kehittäjille täysin hallitun ympäristön agenttien käyttöönottoon ja suorittamiseen ilman infrastruktuurin rakentamista tai ylläpitoa. AWS:n mukaan tuhannet tiimit ovat käyttäneet sitä tuotantoon otettujen agenttien ajamiseen lanseerauksesta lähtien, ja että ensimmäinen versio loi serverittömän perustan istunnon eristämisellä, nollaan skaalaavalla käyttäytymisellä ja käytön mukaan maksullisella hinnoittelulla. Tämä kulutusmalli jatkuu: laskutus perustuu resurssien käyttöön ilman maksua odottavasta CPU:sta I/O:n odottamisen aikana, ja alusta skaalaa täysin nollaan, kun agentilla ei ole tehtäviä.

Julkaisun ratkaisemat ongelmat

Alkuperäisessä runtime-ympäristössä istunto piti varatun muistinsa alokoinnin hetkestä istunnon päättymiseen saakka, koska mikään ei vapauttanut sitä matkan varrella. AWS:n mukaan tämä jätti pitkäkestoiset tai piikkimäiset agentit maksamaan niiden huippukäytöstä vuorokauden ympäri, kauan sen jälkeen kun muisti oli lopettanut käytön, mikä oli erityinen puute agenttien osalta, jotka kuplivat satunnaisesti mutta ovat suurimman osan päivästä lepotilassa.

Käynnistyskäyttäytyminen oli toinen haaste. AWS:n mukaan istunto, joka saapuu jo alustettuun ympäristöön, käynnistyy alle 100 millisekunnissa, mutta ympäristöjen lämpimänä pitämiseksi riittävän varmuuden saavuttamiseksi täytyy pitää laskentaa varalla, joten suurin osa istunnoista alkaa kylmällä käynnistyksellä, joka käynnistää uuden ympäristön, hakee kuvan ja alustaa agentin ennen ensimmäisen pyynnön suorittamista. Tämä viive kasvaa kuvan koon ja samanaikaisuuden myötä ja on pahimmillaan piikkiliikenteessä, jolloin eniten istuntoja saapuu ja vähiten valmiita ympäristöjä on jäljellä. AWS:n mukaan asiakkaat kiersivät molemmat ongelmat pitämällä varaympäristöjä valmiina, optimoimalla muistin allokointia ja supistamalla kapasiteettia kustannusten hallitsemiseksi.

Mitä AWS mittasi

Eristääkseen, mitä alusta itse lisää kylmään käynnistykseen, AWS testasi tyhjää echo-agenttia, joka palauttaa syötteensä eikä kutsu mallia tai työkaluja. Python-asiakasohjelma Amazon EC2 -instanssilla us-west-2:ssa kutsui agentteja us-east-1:ssa julkisen internetin kautta ilman VPC-paritusta, käyttäen boto3 SDK:ta, joten jokainen asiakaspuolen mittaus sisältää kahden AWS-alueen välisten pyöräytysajan alustan omien käynnistysaikojen lisäksi. Yritys lähetti 5 000 kylmää kutsua per agentti molempien runtime-versioiden ja viiden kuvan koon yli, oletustilien kiintiöiden sisällä.

Tällä tavalla mitattuna AWS raportoi, että uusi runtime tarjosi P75-kylmän käynnistyksen viiveen noin 2 sekuntia 200 MB:n kuvasta jopa 2 GB:iin, koska kuvan koolla ei ole vaikutusta, kun taas alkuperäisen runtime-ympäristön viive kasvoi kuvan koon myötä noin 5,4 sekunnista lähes 30 sekuntiin. Echo-testissä agentin oma koodi ajettiin noin 34 millisekunnissa P75:ssä, joten lähes koko mitattu aika oli alustan käynnistysaika. AWS suosittelee piilottamaan käynnistysajan interaktiivisille agenteille aloittamalla istunto heti, kun käyttäjä on vuorovaikutuksessa, esimerkiksi avattaessa keskustelua, jolloin ympäristö lämpenee heidän kirjoittaessaan ensimmäistä pyyntöä.

Kuinka uusi runtime toimii

Uusi runtime käynnistää jokaisen istunnon pienestä muistiprofiilista sen sijaan, että se olisi täysin varustettu jalanjälki, ja allokoi sekä tuo lisämuistia tarpeen mukaan työnkuorman koskettaessa sitä. Kun agentti vapauttaa pyyntökohtaiset puskurit tai antaa välimuistissa olevan tiedon vanhentua pyyntöjen välillä, alusta ottaa muistin takaisin sen sijaan, että se pysyisi varattuna istunnon päättymiseen asti. AWS:n mukaan se sääteli palautuskäyttäytymistä analysoimalla allokointimalleja miljardien istuntojen ajan.

Kylmät käynnistykset muuttuvat, koska jokainen agentti latautuu kerran ja sen jälkeen toimii otoksesta. Kun runtime luodaan tai päivitetään, AgentCore käynnistää kontin, odottaa sen ilmoittavan terveeksi ja tallentaa otoksen käynnissä olevasta ympäristöstä, jolloin kertaluonteinen alustus kuten mallin artefaktien lataaminen ja staattisen konfiguraation hakeminen on jo tehty. Jokainen uusi instanssi palauttaa sen otoksen sen sijaan, että alustus tapahtuisi alusta alkaen. AWS:n mukaan runtime poistaa välimuistit ja ohimenevän muistin otoksesta, jotta sen koko pysyy suunnilleen tasaisena kontin kuvan kasvaessa, mikä pitää palautusviiveen vakiona laajalla kuvan kokoalueella.

Laskutus muuttuu muistimallin myötä. Uusi runtime veloittaa agentin aktiivisesti käyttämästä muistista, joka ladataan tarpeen mukaan ja vapautetaan, kun se on lepotilassa, sen sijaan että se veloittaisi koko konttikuvan pitämisestä muistissa istunnon koko ajan. AWS kuvaili muutosta korkeampana hinnana, joka koskee paljon vähemmän gigatuntia, ja totesi, että useimmilla agenteilla jalanjälki laskee enemmän kuin hinta nousee, joten lasku pienenee.

Alustan versiot, alueet ja rajoitukset

Kehittäjät ottavat uuden runtime:n käyttöön asettamalla platformVersion-kentän arvoon V2 runtime:n luomisen tai päivittämisen yhteydessä, AgentCore-kehittäjäopas mukaan. V1 on oletus: kentän poisjättäminen luomisessa tuottaa V1-runtime:n, ja sen poisjättäminen päivityksessä säilyttää runtime:n nykyisen alustan version. V2 on saatavilla alueilla us-east-1, us-east-2, us-west-2, eu-west-1 ja ap-northeast-1.

Koska V2‑luonti tai -päivitys valmistaa ja ottaa tilannevedoksen ympäristöstä, nämä toiminnot kestävät useita minuutteja, ennen kuin suoritusaika saavuttaa VALMIS‑tilan, kun V1‑suoritusaika on valmis sekunneissa. AgentCore ottaa tilannevedoksen ensimmäisestä terveellisestä vastauksesta säiliön /ping‑päätepisteestä, ja jos säiliö ei ilmoita terveellisyyttä 120 sekunnin sisällä käynnistyksestä, luominen epäonnistuu terveys tarkistusvirheeseen. Oppaassa todetaan myös, että V2 rajoittaa tällä hetkellä kokonaisympäristömuuttujan koon 1,5 KB:iin suoria koodijärjestelmiä varten ja 2,5 KB:iin säiliöagentteja varten, verrattuna V1:n 4 KB:iin, eikä AWS CloudFormation tai AWS CDK tällä hetkellä tue platformVersion‑asetuksen määrittämistä.

Tilannevedokset noudattavat suoritusaikojen versioita ja päätepisteitä sen sijaan, että niitä hallittaisiin suoraan. AgentCore valmistaa tilannevedoksen, kun päätepiste osoittaa versioon, ja poistaa sen, kun mikään päätepiste ei enää osoita siihen, ja poisto voi kestää jopa 8 tuntia, mikä on suurin istunnon kesto, koska jo tilannevedoksessa käynnissä olevat istunnot jatkuvat loppuun asti. Istunnot toimivat omistetuissa microVM:eissa, joissa on eristetyt CPU‑, muisti‑ ja tiedostojärjestelmäresurssit, ne kestävät enintään 8 tuntia ja päättyvät 15 minuutin käyttämättömyyden jälkeen, jonka jälkeen microVM suljetaan ja muisti puhdistetaan.

Tiekartta ja aloitus

Julkaisun jälkeen AWS on listannut useita tulevia ominaisuuksia: sitoutuneet perusalennukset, jotka varmistavat muistin alarajan per istunto ja mahdollistavat dynaamisen kapasiteetin kasvun sen yläpuolella, suunnattuina jatkuvasti aktiivisille istunnoille; suurempi RAM‑muisti, vCPU ja istuntojen tallennustila; x86‑microVM‑tuki; keskeytys‑ja‑jatkaminen muistin tilannevedoksella sekä suoritusaikakoukut tilan sarjoittamiseen ennen aktiivisen istunnon päättymistä; sekä istunnon kontekstin avaimet, jotka antavat jokaiselle istunnolle rajatun identiteetin valvomattomille agenteille.

AWS ohjasi kehittäjät AgentCore Developer Guide -oppaaseen, AgentCore‑esimerkkivarastoon GitHubissa sekä mukana olevaan kuormitustestiesimerkkiin, joka osoittaa uuden suoritusaikakäsittelyn kylmän käynnistyksen viiveen käyttäjän omassa AWS‑tilissä.