AWS ปรับโครงสร้าง Bedrock AgentCore Runtime เพื่อหน่วยความจำยืดหยุ่นและการเริ่มต้นแบบเย็นที่เร็ว

Amazon Web Services ประกาศ runtime AgentCore รุ่นใหม่เมื่อ 18 กันยายน 2026 ซึ่งเป็นเวอร์ชันที่ปรับปรุงใหม่ของชั้นคอมพิวต์ที่จัดการใน Amazon Bedrock AgentCore ที่บริษัทกล่าวว่ามีการคืนหน่วยความจำเมื่อเซสชันของเอเจนต์ปล่อยและให้เวลาเริ่มต้นแบบเย็นที่สม่ำเสมอโดยไม่คำนึงถึงขนาดภาพคอนเทนเนอร์หรือความพร้อมทำงานพร้อมกัน

AgentCore runtime คือชั้นคอมพิวต์ที่จัดการซึ่งมอบสภาพแวดล้อมที่จัดการเต็มรูปแบบให้กับนักพัฒนาเพื่อปรับใช้และรันเอเจนต์โดยไม่ต้องสร้างหรือบำรุงรักษาโครงสร้างพื้นฐาน AWS กล่าวว่ามีทีมหลายพันทีมใช้มันเพื่อรันเอเจนต์ในสภาพแวดล้อมการผลิตตั้งแต่เปิดตัว และว่ารุ่นแรกได้สร้างพื้นฐานแบบไม่มีเซิร์ฟเวอร์พร้อมการแยกเซสชัน พฤติกรรมสเกลถึงศูนย์ และการกำหนดราคาแบบจ่ายตามการใช้ โมเดลการบริโภคนี้ยังคงอยู่: การเรียกเก็บเงินสอดคล้องกับการใช้ทรัพยากรโดยไม่มีค่าใช้จ่ายสำหรับ CPU ที่อยู่ในสถานะพักรอ I/O และแพลตฟอร์มจะสเกลลงจนถึงศูนย์เมื่อเอเจนต์ไม่มีงานทำ

ปัญหาที่การเปิดตัวนี้แก้ไข

ใน runtime ดั้งเดิม เซสชันจะถือหน่วยความจำที่จัดสรรไว้ตั้งแต่ช่วงเวลาที่ได้รับการจัดสรรจนกระทั่งเซสชันสิ้นสุด เนื่องจากไม่มีการคืนหน่วยความจำระหว่างทาง AWS กล่าวว่าเรื่องนี้ทำให้เอเจนต์ที่ทำงานต่อเนื่องหรือมีการระเบิดใช้งานจ่ายค่าใช้จ่ายสำหรับระดับสูงสุดของหน่วยความจำตลอด 24 ชั่วโมง แม้ว่าหน่วยความจำจะไม่ได้ถูกใช้แล้ว ซึ่งเป็นช่องโหว่โดยเฉพาะสำหรับเอเจนต์ที่มีการสปายก์เป็นครั้งคราวแต่ส่วนใหญ่ไม่มีการทำงาน

พฤติกรรมการเริ่มต้นเป็นความท้าทายที่สอง AWS กล่าวว่าเซสชันที่เข้ามาในสภาพแวดล้อมที่เตรียมไว้แล้วจะเริ่มทำงานภายในเวลาน้อยกว่า 100 มิลลิวินาที แต่การรักษาสภาพแวดล้อมให้พร้อมเพื่อรับประกันนั้นต้องเก็บคอมพิวต์สำรองไว้ ดังนั้นส่วนใหญ่ของเซสชันจึงเริ่มด้วยการเริ่มต้นแบบเย็นที่ต้องบูตสภาพแวดล้อมใหม่ ดึงภาพคอนเทนเนอร์ และเริ่มต้นเอเจนต์ก่อนคำขอแรกทำงาน ความหน่วงนี้เพิ่มขึ้นตามขนาดภาพและความพร้อมทำงานพร้อมกันและแย่ที่สุดในช่วงการจราจรที่ระเบิดใช้งาน เมื่อมีเซสชันจำนวนมากเข้ามาและสภาพแวดล้อมที่พร้อมอยู่เหลือน้อย ตามข้อมูลของ AWS ลูกค้าได้แก้ไขปัญหาทั้งสองโดยการเก็บสภาพแวดล้อมสำรองไว้ล่วงหน้า ปรับการจัดสรรหน่วยความจำ และลดความจุลงเพื่อควบคุมค่าใช้จ่าย

สิ่งที่ AWS วัด

เพื่อแยกส่วนที่แพลตฟอร์มเองเพิ่มเข้าไปในการเริ่มต้นแบบเย็น AWS ทดสอบเอเจนต์ echo ว่างที่ส่งคืนอินพุตของมันและไม่เรียกใช้โมเดลหรือเครื่องมือใด ๆ ลูกค้า Python บนอินสแตนซ์ Amazon EC2 ใน us-west-2 เรียกใช้เอเจนต์ใน us-east-1 ผ่านอินเทอร์เน็ตสาธารณะโดยไม่มีการเชื่อมต่อ VPC ใช้ SDK boto3 ดังนั้นการวัดด้านลูกค้าจะรวมระยะเวลาการเดินทางระหว่างสองภูมิภาค AWS บนเวลาเริ่มต้นของแพลตฟอร์มเอง บริษัทส่งคำเรียกแบบเย็น 5,000 ครั้งต่อเอเจนต์ในทั้งสองเวอร์ชันของ runtime และห้าขนาดภาพ ภายในโควต้าบัญชีเริ่มต้น

เมื่อวัดด้วยวิธีนี้ AWS รายงานว่า runtime ใหม่ให้เวลาเริ่มต้นแบบเย็นที่ระดับ P75 ประมาณ 2 วินาทีจากภาพขนาด 200 MB ถึง 2 GB เนื่องจากขนาดภาพไม่มีผลต่อเวลาเริ่มต้น ในขณะที่ latency ของ runtime ดั้งเดิมเพิ่มขึ้นตามขนาดภาพจากประมาณ 5.4 วินาทีจนถึงเกือบ 30 วินาที ในการทดสอบ echo โค้ดของเอเจนต์เองทำงานประมาณ 34 มิลลิวินาทีที่ระดับ P75 ดังนั้นเวลาส่วนใหญ่ที่วัดได้เป็นเวลาเริ่มต้นของแพลตฟอร์ม AWS แนะนำให้ซ่อนเวลาเริ่มต้นสำหรับเอเจนต์แบบโต้ตอบโดยเริ่มเซสชันทันทีที่ผู้ใช้มีส่วนร่วม เช่น เมื่อเปิดแชท เพื่อให้สภาพแวดล้อมอุ่นขึ้นขณะพิมพ์คำขอแรก

วิธีการทำงานของ Runtime ใหม่

Runtime ใหม่เริ่มแต่ละเซสชันจากโปรไฟล์หน่วยความจำขนาดเล็กแทนการใช้พื้นที่หน่วยความจำเต็มรูปแบบ จากนั้นจึงจัดสรรและโหลดหน่วยความจำเพิ่มเติมตามความต้องการเมื่อภาระงานต้องการ เมื่อเอเจนต์ปล่อยบัฟเฟอร์ต่อคำขอหรือให้ข้อมูลแคชหมดอายุระหว่างคำขอ แพลตฟอร์มจะนำหน่วยความจำนั้นกลับคืนแทนที่จะให้ค้างอยู่จนเซสชันสิ้นสุด AWS กล่าวว่าได้ปรับพฤติกรรมการคืนหน่วยความจำโดยอิงจากการวิเคราะห์รูปแบบการจัดสรรจากหลายพันล้านเซสชัน

การเริ่มต้นแบบเย็นเปลี่ยนแปลงเนื่องจากแต่ละเอเจนต์โหลดเพียงครั้งเดียวแล้วทำงานจากสแนปช็อต เมื่อสร้างหรืออัปเดต runtime AgentCore จะเปิดคอนเทนเนอร์ รอให้รายงานสถานะสุขภาพ แล้วจับภาพสแนปช็อตของสภาพแวดล้อมที่กำลังทำงาน ดังนั้นการเริ่มต้นครั้งเดียวเช่นการโหลดโมเดลและการดึงการกำหนดค่าคงที่จะเสร็จเรียบร้อยแล้ว ทุกอินสแตนซ์ใหม่จะกู้คืนสแนปช็อตนั้นแทนการเริ่มต้นจากศูนย์ AWS กล่าวว่า runtime จะลบแคชและหน่วยความจำชั่วคราวออกจากสแนปช็อตเพื่อให้ขนาดคงที่แม้ภาพคอนเทนเนอร์ขยายขนาด ซึ่งทำให้เวลาเรียกคืนคงที่ทั่วขนาดภาพที่หลากหลาย

การเรียกเก็บเงินเปลี่ยนแปลงตามโมเดลหน่วยความจำ Runtime ใหม่คิดค่าใช้จ่ายตามหน่วยความจำที่เอเจนต์ใช้งานจริง โหลดตามความต้องการและคืนเมื่อไม่มีการใช้งาน แทนการคิดค่าจำหน่วยความจำทั้งหมดของภาพคอนเทนเนอร์ตลอดอายุเซสชัน AWS อธิบายการเปลี่ยนแปลงนี้ว่าเป็นอัตราที่สูงขึ้นแต่ใช้กับจำนวน GB‑hour ที่น้อยกว่ามาก และกล่าวว่าสำหรับเอเจนต์ส่วนใหญ่ ปริมาณหน่วยความจำที่ใช้ลดลงมากกว่าการเพิ่มอัตรา ทำให้ค่าใช้จ่ายโดยรวมลดลง

เวอร์ชันของแพลตฟอร์ม, ภูมิภาคและขีดจำกัด

นักพัฒนาจะเปิดใช้งาน runtime ใหม่โดยตั้งค่า field platformVersion เป็น V2 เมื่อสร้างหรืออัปเดต runtime ตาม คู่มือผู้พัฒนา AgentCore. V1 เป็นค่าเริ่มต้น: หากไม่ระบุ field นี้ขณะสร้างจะได้ runtime รุ่น V1 และหากไม่ระบุขณะอัปเดตจะคงเวอร์ชันแพลตฟอร์มปัจจุบันของ runtime ไว้. V2 มีให้บริการใน us-east-1, us-east-2, us-west-2, eu-west-1 และ ap-northeast-1.

เนื่องจากการสร้างหรืออัปเดต V2 จะเตรียมและทำ snapshot ของสภาพแวดล้อม การดำเนินการเหล่านี้จึงใช้เวลาหลายนาทีก่อนที่ runtime จะถึงสถานะ READY ซึ่ง runtime V1 จะพร้อมในไม่กี่วินาที AgentCore จะทำ snapshot เมื่อได้รับการตอบสนองที่สมบูรณ์จาก endpoint /ping ของคอนเทนเนอร์เป็นครั้งแรก และหากคอนเทนเนอร์ไม่รายงานว่าเป็นสุขภาพดีภายใน 120 วินาทีหลังจากเริ่มต้น การสร้างจะล้มเหลวด้วยข้อผิดพลาดการตรวจสอบสุขภาพ คู่มือยังระบุว่า V2 ปัจจุบันจำกัดขนาดของ environment variable ทั้งหมดที่ 1.5 KB สำหรับการปรับใช้โค้ดโดยตรงและ 2.5 KB สำหรับเอเจนต์คอนเทนเนอร์ เมื่อเทียบกับ 4 KB ใน V1 และว่า AWS CloudFormation และ AWS CDK ยังไม่รองรับการตั้งค่า platformVersion

Snapshot จะสอดคล้องกับเวอร์ชันและ endpoint ของ runtime แทนที่จะถูกจัดการโดยตรง AgentCore จะเตรียม snapshot เมื่อ endpoint ชี้ไปยังเวอร์ชันหนึ่งและจะลบ snapshot เมื่อไม่มี endpoint ใดชี้ไปยังมัน และการลบอาจใช้เวลาถึง 8 ชั่วโมง ซึ่งเป็นอายุการใช้งานสูงสุดของเซสชัน เนื่องจากเซสชันที่กำลังทำงานบน snapshot นั้นจะดำเนินต่อจนจบ เซสชันทำงานใน microVM แยกเฉพาะที่มี CPU, หน่วยความจำ และทรัพยากรไฟล์ระบบแยกจากกัน คงอยู่ได้สูงสุด 8 ชั่วโมง และจะสิ้นสุดหลังจากไม่มีการใช้งานเป็นเวลา 15 นาที จากนั้น microVM จะถูกยกเลิกและหน่วยความจำจะถูกทำความสะอาด

แผนงานและการเริ่มต้นใช้งาน

หลังจากการเปิดตัว AWS ได้ระบุหลายความสามารถที่กำลังจะมาถึง: ส่วนลดฐานที่คอมมิตซึ่งสงวนพื้นที่หน่วยความจำขั้นต่ำต่อเซสชันพร้อมการเพิ่มใช้ตามความต้องการเหนือระดับนั้น เพื่อรองรับเซสชันที่ทำงานอย่างต่อเนื่องตลอดเวลา; RAM, vCPU และพื้นที่เก็บข้อมูลเซสชันที่ใหญ่ขึ้น; การสนับสนุน microVM สถาปัตยกรรม x86; การหยุดและกลับมาทำงานใหม่พร้อมการ snapshot หน่วยความจำและ hook ของ runtime เพื่อทำการ serialize สถานะก่อนที่เซสชันที่กำลังทำงานจะสิ้นสุด; และคีย์บริบทของเซสชันที่ให้แต่ละเซสชันมีอัตลักษณ์ที่จำกัดขอบเขตสำหรับเอเจนต์ที่ไม่มีผู้ดูแล

AWS แนะนำให้นักพัฒนาดู AgentCore Developer Guide, ที่เก็บตัวอย่าง AgentCore บน GitHub, และตัวอย่างการทดสอบโหลดที่แสดงให้เห็นถึงความหน่วงของการเริ่มต้นแบบ cold start ของ runtime ใหม่ภายในบัญชี AWS ของผู้ใช้เอง