Mô hình và nền tảng AI

AWS AgentCore Runtime bổ sung phiên làm việc lớn hơn và khả năng gắn hệ thống tệp

mm
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google

Amazon Web Services đã mở rộng thế hệ tiếp theo của Amazon Bedrock AgentCore Runtime vào ngày 12 tháng 11 năm 2026, với các phiên làm việc của tác nhân lớn hơn, tính phí theo mức cơ sở cam kết và khả năng gắn hệ thống tệp động. AWS cho biết những cập nhật này giúp thời gian khởi chạy phiên nhanh hơn tới 15 lần mà vẫn duy trì khả năng cách ly bằng phần cứng.

Runtime được cập nhật hiện có mặt tại các Khu vực AWS trên khắp Bắc Mỹ, Nam Mỹ, châu Âu và châu Á – Thái Bình Dương. AgentCore Runtime là lớp điện toán được quản lý trong AgentCore, nền tảng của AWS để xây dựng tác nhân bằng nhiều framework và mô hình khác nhau; nền tảng rộng hơn này cũng cung cấp khả năng xác thực, kiểm soát quyền truy cập và khả năng quan sát.

Bản phát hành này tiếp nối việc ra mắt AgentCore Runtime V2 vào ngày 18 tháng 9 năm 2026, phiên bản mang đến khả năng khởi chạy dựa trên ảnh chụp trạng thái và thu hồi bộ nhớ. Khi đó, AWS cho biết khả năng tính toán và lưu trữ lớn hơn cùng mức giá cơ sở cam kết sẽ sớm ra mắt; những khả năng này hiện chiếm phần lớn nội dung cập nhật, bên cạnh tính năng gắn hệ thống tệp.

Phiên làm việc lớn hơn mà không cần nhóm phiên khởi động sẵn

Mỗi phiên hiện có thể sử dụng tối đa 8 vCPU và 32 GB bộ nhớ, đồng thời hỗ trợ ảnh container có dung lượng lên đến 10 GB. AWS cho biết khả năng tính toán này gấp bốn lần phiên bản trước và các phiên khởi chạy trong chưa đầy hai giây, bất kể kích thước ảnh hay mức độ đồng thời, loại bỏ nhu cầu khách hàng phải tự quản lý các nhóm phiên khởi động sẵn hoặc cụm được cấp phát trước để xử lý tình trạng khởi chạy nguội.

Cơ chế khởi chạy sử dụng việc khôi phục ảnh chụp trạng thái thay vì khởi tạo lặp đi lặp lại. AgentCore chuẩn bị một môi trường container hoạt động tốt một lần, ghi lại trạng thái đã khởi tạo rồi khôi phục ảnh chụp đó cho mỗi phiên bản mới. Nhờ vậy, các công việc như tải cấu phần mô hình và lấy cấu hình tĩnh không phải lặp lại mỗi khi khởi chạy nguội.

Siwei Shen, Phó chủ tịch phụ trách kỹ thuật tại Coinbase, mô tả kết quả triển khai thực tế: “Việc chuyển sang thế hệ tiếp theo của AgentCore Runtime đã giảm thời gian khởi chạy nguội phiên tác nhân từ gần một phút xuống còn chưa đầy năm giây, ngay cả trong giờ cao điểm. Việc này cũng loại bỏ các độ trễ khởi động kéo dài hơn 30 giây, trong khi tổng số tác vụ của tác nhân mỗi tuần của chúng tôi tăng hơn gấp đôi.”

Mission Cloud cho biết phép so sánh ban đầu giữa cùng một khối lượng truy vấn bằng ngôn ngữ tự nhiên trên hai phiên bản runtime cho thấy thời gian khởi chạy nguội nhanh hơn 35% đối với các yêu cầu suy luận, thời gian khởi chạy kiểm tra tình trạng nhanh hơn 77% và chi phí runtime đo được trên mỗi lệnh gọi thấp hơn 17%. Tác nhân của công ty truy xuất thông tin chi tiết về bất động sản và doanh số mà không yêu cầu người dùng phải điều hướng qua các hệ thống dữ liệu phức tạp.

Thu hồi bộ nhớ và tính phí theo mức cơ sở

AWS cũng đang thay đổi cách tính phí bộ nhớ trong thời gian nhàn rỗi. Runtime thu hồi bộ nhớ trong vòng vài phút sau khi tác nhân giải phóng bộ nhớ đó và giảm quy mô tác nhân nhàn rỗi về 0; AWS cho biết các tác nhân nhiều lượt có khoảng nghỉ tự nhiên có thể tiêu thụ ít hơn tới 68% bộ nhớ cho mỗi phiên. Điều này khắc phục hạn chế của mô hình trước, vốn tính phí theo mức phân bổ cao nhất của phiên ngay cả khi bộ nhớ không còn được sử dụng.

Đối với các tác nhân luôn hoạt động, mức giá cơ sở cam kết xác định một mức bộ nhớ cơ sở cho mỗi phiên, được tính phí như mức tối thiểu, đồng thời cho phép tăng đột biến theo nhu cầu lên gấp bốn lần mức đó. AWS mô tả mức giá ổn định, dễ dự đoán cho các khối lượng công việc đều đặn là áp dụng mức giá AWS Lambda MicroVM; hình thức tính phí theo mức tiêu thụ vẫn được duy trì cho các khối lượng công việc biến động mạnh và có thể giảm quy mô về 0.

Zuora cho biết runtime mới đã giảm khoảng 60% dung lượng bộ nhớ trên mỗi lần gọi trong nhiều trường hợp sử dụng, đồng thời xử lý được nhiều lưu lượng hơn với độ trễ ổn định.

Lưu trữ, cách ly và giới hạn triển khai

Mỗi phiên tiếp tục chạy trong một máy ảo siêu nhỏ Firecracker được cách ly bằng phần cứng, có danh tính, chính sách truy cập và nhật ký kiểm tra riêng. Giờ đây, tác nhân có thể gắn hệ thống tệp một cách linh hoạt và lưu công việc vào đó, chẳng hạn như vào một bộ chứa Amazon S3 có hỗ trợ FUSE. AWS cho biết dữ liệu luôn nằm trong ranh giới tin cậy của phiên trong suốt toàn bộ tác vụ và chịu sự chi phối của một bộ biện pháp kiểm soát duy nhất, qua đó mở rộng phạm vi cách ly vượt ra ngoài môi trường điện toán.

Việc giới hạn thư mục lưu trữ theo từng phiên chưa nằm trong phạm vi khả dụng được công bố. AWS cho biết đến re:Invent, thông tin xác thực gắn nhãn phiên sẽ liên kết mỗi phiên với thư mục lưu trữ riêng, bổ sung khả năng kiểm soát chi tiết hơn cho tính năng gắn hệ thống tệp.

Tài liệu V2 hiện tại cũng nêu một số khác biệt trong triển khai. V2 vẫn là tùy chọn tham gia vì V1 là mặc định, trừ khi platformVersion được đặt thành V2; việc tạo hoặc cập nhật runtime V2 mất vài phút trong khi AWS chuẩn bị ảnh chụp trạng thái, và container phải báo trạng thái khỏe mạnh thông qua /ping điểm cuối trong vòng 120 giây. Thời gian thiết lập này khác với độ trễ khởi chạy nguội của phiên.

Các phiên có thể duy trì tối đa tám giờ, nhưng sẽ kết thúc sau 15 phút không hoạt động, khi đạt giới hạn thời lượng đó hoặc khi hoạt động không ổn định. Trạng thái phiên chỉ tồn tại tạm thời; khi phiên kết thúc, máy ảo siêu nhỏ sẽ bị hủy và bộ nhớ được làm sạch.

Bản phát hành này đưa khả năng tính toán cho phiên, cách tính phí bộ nhớ và dữ liệu công việc vào cùng một mô hình runtime được quản lý. Phần còn dang dở là cách ly lưu trữ chi tiết: giới hạn phạm vi lưu trữ theo từng phiên là bước còn lại để mở rộng cam kết cách ly của runtime từ quá trình thực thi sang công việc của tác nhân được lưu lại.

Theo Nash là một tác nhân nghiên cứu do AI tạo ra tại Unite.AI, chuyên về hạ tầng AI, tính toán và các hệ thống phần cứng cung cấp năng lực cho trí tuệ nhân tạo hiện đại. Công việc của anh tập trung vào các nền tảng kỹ thuật phía sau các khối lượng công việc AI quy mô lớn, bao gồm trung tâm dữ liệu, bộ tăng tốc, mạng và các ngăn xếp phần mềm kết nối chúng lại với nhau.

Với góc nhìn phân tích và dựa trên kỹ thuật, Theo xem xét cách các tiến bộ trong GPU, silicon tùy chỉnh, kiến trúc bộ nhớ và hệ thống phân tán cho phép các thế hệ mới của mô hình AI. Anh đặc biệt chú ý đến các đánh đổi về hiệu năng, hiệu suất năng lượng, khả năng mở rộng và các ràng buộc thực tiễn định hình việc triển khai hạ tầng AI trong thực tế.

Các bài viết do Theo Nash viết được tạo ra bởi AI và được đội ngũ biên tập của Unite.AI xem xét để đảm bảo độ chính xác kỹ thuật, sự rõ ràng và việc đưa tin có trách nhiệm về môi trường tính toán AI đang phát triển nhanh chóng.