AIOS: Hệ Điều Hành Cho Các Agent LLM

Trong hơn sáu thập kỷ qua, các hệ điều hành đã tiến hóa một cách tiến bộ, từ các hệ thống cơ bản đến các hệ điều hành phức tạp và tương tác hiện đại ngày nay. Ban đầu, các hệ điều hành đóng vai trò như một cầu nối giữa chức năng nhị phân của phần cứng máy tính, chẳng hạn như việc điều khiển cổng, và các nhiệm vụ của người dùng. Tuy nhiên, qua nhiều năm, chúng đã phát triển từ các hệ thống xử lý công việc hàng loạt đơn giản đến các kỹ thuật quản lý quy trình tinh vi hơn, bao gồm đa nhiệm và chia sẻ thời gian. Những tiến bộ này đã cho phép các hệ điều hành hiện đại quản lý một loạt các nhiệm vụ phức tạp. Việc giới thiệu các giao diện người dùng đồ họa (GUI) như Windows và MacOS đã làm cho các hệ điều hành hiện đại trở nên thân thiện với người dùng hơn và tương tác hơn, đồng thời cũng mở rộng hệ sinh thái của hệ điều hành với các thư viện thời gian chạy và một bộ công cụ phát triển toàn diện.

Gần đây, các đổi mới bao gồm tích hợp và triển khai các Mô Hình Ngôn Ngữ Lớn (LLM), đã cách mạng hóa các ngành công nghiệp khác nhau bằng cách mở ra những khả năng mới. Gần đây hơn, các tác nhân thông minh dựa trên LLM đã thể hiện khả năng đáng kinh ngạc, đạt được hiệu suất giống như con người trên một loạt các nhiệm vụ. Tuy nhiên, những tác nhân này vẫn còn trong giai đoạn phát triển đầu tiên, và các kỹ thuật hiện tại phải đối mặt với một số thách thức ảnh hưởng đến hiệu quả và hiệu suất của chúng. Các vấn đề phổ biến bao gồm việc sắp xếp không tối ưu các yêu cầu của tác nhân trên mô hình ngôn ngữ lớn, sự phức tạp trong việc tích hợp các tác nhân với các chuyên môn khác nhau, và việc duy trì ngữ cảnh trong quá trình tương tác giữa LLM và tác nhân. Sự phát triển nhanh chóng và sự phức tạp ngày càng tăng của các tác nhân dựa trên LLM thường dẫn đến các nút thắt và sử dụng tài nguyên không tối ưu.

Để giải quyết những thách thức này, bài viết này sẽ thảo luận về AIOS, một hệ điều hành tác nhân LLM được thiết kế để tích hợp các mô hình ngôn ngữ lớn như “bộ não” của hệ điều hành, hiệu quả cho nó một “linh hồn”. Cụ thể, khuôn khổ AIOS nhằm mục đích tạo điều kiện cho việc chuyển đổi ngữ cảnh giữa các tác nhân, tối ưu hóa phân bổ tài nguyên, cung cấp dịch vụ công cụ cho các tác nhân, duy trì kiểm soát truy cập và cho phép thực hiện đồng thời các tác nhân. Chúng tôi sẽ đi sâu vào khuôn khổ AIOS, khám phá các cơ chế, phương pháp và kiến trúc của nó, và so sánh nó với các khuôn khổ hiện đại. Hãy cùng khám phá.

Sau khi đạt được thành công đáng kể trong các mô hình ngôn ngữ lớn, trọng tâm tiếp theo của ngành AI và ML là phát triển các tác nhân AI tự động có thể hoạt động độc lập, đưa ra quyết định của riêng mình và thực hiện các nhiệm vụ với sự can thiệp tối thiểu hoặc không có sự can thiệp của con người. Những tác nhân thông minh dựa trên AI này được thiết kế để hiểu các lệnh của con người, xử lý thông tin, đưa ra quyết định và thực hiện các hành động phù hợp để đạt được trạng thái tự động, với sự ra đời và phát triển của các mô hình ngôn ngữ lớn mang lại những khả năng mới cho sự phát triển của các tác nhân tự động này. Các khuôn khổ LLM hiện tại, bao gồm DALL-E, GPT và nhiều hơn nữa, đã thể hiện khả năng đáng kinh ngạc để hiểu các lệnh của con người, khả năng lý luận và giải quyết vấn đề, và tương tác với người dùng và môi trường bên ngoài. Xây dựng trên những mô hình ngôn ngữ lớn mạnh mẽ và có khả năng này, các tác nhân dựa trên LLM có khả năng thực hiện nhiệm vụ mạnh mẽ trong các môi trường đa dạng, từ các trợ lý ảo đến các hệ thống phức tạp và tinh vi hơn, liên quan đến việc tạo ra giải pháp, lý luận, lập kế hoạch và thực hiện.

Hình ảnh trên cho một ví dụ thuyết phục về cách một tác nhân tự động dựa trên LLM có thể giải quyết các nhiệm vụ thực tế. Người dùng yêu cầu hệ thống cung cấp thông tin về chuyến đi, sau đó, tác nhân du lịch chia nhỏ nhiệm vụ thành các bước có thể thực hiện được. Sau đó, tác nhân thực hiện các bước theo thứ tự, đặt vé máy bay, đặt phòng khách sạn, xử lý thanh toán và nhiều hơn nữa. Trong khi thực hiện các bước, điều khiến những tác nhân này khác biệt với các ứng dụng phần mềm truyền thống là khả năng thể hiện khả năng đưa ra quyết định và kết hợp lý luận trong quá trình thực hiện các bước. Cùng với sự tăng trưởng theo cấp số nhân về chất lượng của những tác nhân tự động này, áp lực lên các chức năng của mô hình ngôn ngữ lớn và hệ điều hành đã tăng lên, và một ví dụ về điều này là việc ưu tiên và sắp xếp các yêu cầu của tác nhân trên mô hình ngôn ngữ lớn hạn chế tạo ra một thách thức đáng kể. Hơn nữa, vì quá trình tạo ra mô hình ngôn ngữ lớn trở thành một nhiệm vụ tốn thời gian khi đối phó với các ngữ cảnh dài, có thể xảy ra trường hợp bộ lập lịch暂 dừng việc tạo ra kết quả, dẫn đến vấn đề tạo ra một cơ chế để chụp lại kết quả tạo ra hiện tại của mô hình ngôn ngữ. Do đó, hành vi tạm dừng / tiếp tục được kích hoạt khi mô hình ngôn ngữ lớn chưa hoàn thành việc tạo ra phản hồi cho yêu cầu hiện tại.

Để giải quyết những thách thức trên, AIOS, một hệ điều hành mô hình ngôn ngữ lớn cung cấp sự tích hợp và cách ly mô-đun của các chức năng LLM và hệ điều hành. Khuôn khổ AIOS đề xuất một thiết kế nhân LLM cụ thể để tránh các xung đột tiềm ẩn giữa các nhiệm vụ liên quan và không liên quan đến mô hình ngôn ngữ lớn. Nhân đề xuất này phân chia các nhiệm vụ của hệ điều hành, đặc biệt là những nhiệm vụ giám sát các tác nhân LLM, bộ công cụ phát triển và các tài nguyên tương ứng của chúng. Kết quả của sự phân chia này, nhân LLM cố gắng tăng cường sự phối hợp và quản lý các hoạt động liên quan đến LLM.

AIOS: Phương Pháp và Kiến Trúc

Như bạn có thể quan sát, có sáu cơ chế chính tham gia vào hoạt động của khuôn khổ AIOS.

• Lập Lịch Tác Nhân: Nhiệm vụ được giao cho lập lịch tác nhân là sắp xếp và ưu tiên các yêu cầu của tác nhân nhằm tối ưu hóa việc sử dụng mô hình ngôn ngữ lớn.

• Quản Lý Ngữ Cảnh: Nhiệm vụ được giao cho quản lý ngữ cảnh là hỗ trợ việc chụp lại và khôi phục trạng thái tạo ra trung gian trong mô hình ngôn ngữ lớn, cũng như quản lý cửa sổ ngữ cảnh của mô hình ngôn ngữ lớn.

• Quản Lý Bộ Nhớ: Trách nhiệm chính của quản lý bộ nhớ là cung cấp bộ nhớ ngắn hạn cho nhật ký tương tác của từng tác nhân.

• Quản Lý Lưu Trữ: Quản lý lưu trữ chịu trách nhiệm lưu trữ các nhật ký tương tác của các tác nhân vào lưu trữ dài hạn để lấy lại sau này.

• Quản Lý Công Cụ: Cơ chế quản lý công cụ quản lý việc gọi các công cụ API bên ngoài cho các tác nhân.

• Quản Lý Truy Cập: Quản lý truy cập thực thi các hoạt động kiểm soát truy cập giữa các tác nhân.

Ngoài các cơ chế trên, khuôn khổ AIOS còn có kiến trúc phân lớp, được chia thành ba lớp riêng biệt: lớp ứng dụng, lớp nhân và lớp phần cứng. Kiến trúc phân lớp được thực hiện bởi khuôn khổ AIOS đảm bảo rằng các trách nhiệm được phân phối đồng đều trên toàn hệ thống, và các lớp trên abstract hóa sự phức tạp của các lớp dưới, cho phép tương tác sử dụng các mô-đun hoặc giao diện cụ thể, tăng cường tính mô-đun và đơn giản hóa các tương tác hệ thống giữa các lớp.

Bắt đầu với lớp ứng dụng, lớp này được sử dụng để phát triển và triển khai các tác nhân ứng dụng như tác nhân toán học hoặc tác nhân du lịch. Trong lớp ứng dụng, khuôn khổ AIOS cung cấp bộ phát triển phần mềm AIOS (AIOS SDK) với sự trừu tượng hóa cao hơn của các cuộc gọi hệ thống, giúp đơn giản hóa quá trình phát triển cho các nhà phát triển tác nhân. Bộ công cụ phát triển phần mềm được AIOS cung cấp mang lại một bộ công cụ phong phú để tạo điều kiện cho việc phát triển các ứng dụng tác nhân bằng cách trừu tượng hóa sự phức tạp của các chức năng hệ thống cấp thấp, cho phép các nhà phát triển tập trung vào các chức năng và logic cơ bản của các tác nhân của họ, dẫn đến một quá trình phát triển hiệu quả hơn.

Tiếp theo, lớp nhân được chia thành hai thành phần: nhân LLM và nhân hệ điều hành. Cả nhân hệ điều hành và nhân LLM đều phục vụ các yêu cầu duy nhất của các hoạt động LLM và không LLM, với sự phân biệt cho phép nhân LLM tập trung vào các nhiệm vụ cụ thể của mô hình ngôn ngữ lớn, bao gồm việc lập lịch tác nhân và quản lý ngữ cảnh, những hoạt động thiết yếu cho việc xử lý các hoạt động liên quan đến mô hình ngôn ngữ lớn. Khuôn khổ AIOS tập trung chủ yếu vào việc tăng cường nhân mô hình ngôn ngữ lớn mà không thay đổi cấu trúc của nhân hệ điều hành hiện có một cách đáng kể. Nhân LLM đi kèm với một số mô-đun chính, bao gồm lập lịch tác nhân, quản lý bộ nhớ, quản lý ngữ cảnh, quản lý lưu trữ, quản lý truy cập, quản lý công cụ và giao diện gọi hệ thống LLM. Các thành phần trong lớp nhân được thiết kế để giải quyết các nhu cầu thực hiện đa dạng của các ứng dụng tác nhân, đảm bảo việc thực hiện và quản lý hiệu quả trong khuôn khổ AIOS.

Cuối cùng, chúng ta có lớp phần cứng bao gồm các thành phần vật lý của hệ thống, bao gồm GPU, CPU, thiết bị ngoại vi, đĩa và bộ nhớ. Điều quan trọng là phải hiểu rằng hệ thống của nhân LLM không thể tương tác trực tiếp với phần cứng, và các cuộc gọi này giao tiếp với các cuộc gọi hệ thống của hệ điều hành, sau đó quản lý các tài nguyên phần cứng. Sự tương tác gián tiếp này giữa hệ thống của nhân LLM và các tài nguyên phần cứng tạo ra một lớp bảo mật và trừu tượng, cho phép nhân LLM tận dụng các khả năng của tài nguyên phần cứng mà không cần quản lý phần cứng trực tiếp, giúp duy trì tính toàn vẹn và hiệu quả của hệ thống.

Triển Khai

Như đã đề cập ở trên, có sáu cơ chế chính tham gia vào hoạt động của khuôn khổ AIOS. Lập lịch tác nhân được thiết kế để quản lý các yêu cầu của tác nhân một cách hiệu quả và có một số bước thực hiện khác với mô thức thực hiện tuần tự truyền thống, trong đó tác nhân xử lý các nhiệm vụ theo thứ tự tuyến tính với các bước từ cùng một tác nhân được xử lý trước khi chuyển sang tác nhân tiếp theo, dẫn đến thời gian chờ tăng cho các nhiệm vụ xuất hiện sau trong chuỗi thực hiện. Lập lịch tác nhân sử dụng các chiến lược như Round Robin, First In First Out và các thuật toán lập lịch khác để tối ưu hóa quá trình.

Quản lý ngữ cảnh được thiết kế để quản lý ngữ cảnh được cung cấp cho mô hình ngôn ngữ lớn và quá trình tạo ra cho một ngữ cảnh nhất định. Quản lý ngữ cảnh bao gồm hai thành phần quan trọng: chụp lại và khôi phục ngữ cảnh, và quản lý cửa sổ ngữ cảnh. Cơ chế chụp lại và khôi phục ngữ cảnh được cung cấp bởi khuôn khổ AIOS giúp giảm thiểu các tình huống mà bộ lập lịch tạm dừng các yêu cầu của tác nhân như được minh họa trong hình dưới đây.

Như được minh họa trong hình dưới đây, quản lý bộ nhớ chịu trách nhiệm quản lý bộ nhớ ngắn hạn trong vòng đời của một tác nhân và đảm bảo rằng dữ liệu được lưu trữ và có thể truy cập chỉ khi tác nhân đang hoạt động, trong thời gian chạy hoặc khi tác nhân đang chờ thực hiện.

Mặt khác, quản lý lưu trữ chịu trách nhiệm bảo tồn dữ liệu trong dài hạn và giám sát việc lưu trữ thông tin cần được giữ lại trong một khoảng thời gian không xác định, vượt quá vòng đời hoạt động của một tác nhân riêng lẻ. Khuôn khổ AIOS đạt được lưu trữ vĩnh viễn bằng cách sử dụng nhiều phương tiện lưu trữ bền vững, bao gồm các giải pháp dựa trên đám mây, cơ sở dữ liệu và tệp tin cục bộ, đảm bảo tính sẵn sàng và toàn vẹn của dữ liệu. Hơn nữa, trong khuôn khổ AIOS, quản lý công cụ quản lý một loạt các công cụ API đa dạng nhằm tăng cường chức năng của mô hình ngôn ngữ lớn, và bảng dưới đây tóm tắt cách quản lý công cụ tích hợp các công cụ được sử dụng phổ biến từ các nguồn khác nhau và phân loại chúng vào các danh mục khác nhau.

Quản lý truy cập tổ chức các hoạt động kiểm soát truy cập trong các tác nhân riêng biệt bằng cách quản lý một nhóm đặc quyền dành riêng cho từng tác nhân và từ chối truy cập của tác nhân vào các tài nguyên nếu chúng không được bao gồm trong nhóm đặc quyền của tác nhân. Ngoài ra, quản lý truy cập cũng chịu trách nhiệm biên soạn và duy trì các nhật ký kiểm toán nhằm tăng cường tính minh bạch của hệ thống hơn nữa.

AIOS: Thử Nghiệm và Kết Quả

Đánh giá khuôn khổ AIOS được hướng dẫn bởi hai câu hỏi nghiên cứu: đầu tiên, hiệu suất của AIOS trong việc cải thiện thời gian chờ và thời gian quay trở lại, và thứ hai, liệu phản hồi của LLM đối với các yêu cầu của tác nhân có nhất quán sau khi tác nhân bị tạm dừng?

Để trả lời các câu hỏi về tính nhất quán, các nhà phát triển chạy từng tác nhân riêng lẻ và sau đó thực hiện các tác nhân này song song, và cố gắng ghi lại đầu ra của chúng trong từng giai đoạn. Như được minh họa trong bảng dưới đây, các điểm số BERT và BLEU đạt giá trị 1,0, chỉ ra sự phù hợp hoàn hảo giữa các đầu ra được tạo ra trong các cấu hình tác nhân đơn và đa tác nhân.

Để trả lời các câu hỏi về hiệu quả, các nhà phát triển tiến hành phân tích so sánh giữa khuôn khổ AIOS sử dụng lập lịch FIFO hoặc First In First Out và một phương pháp không lập lịch, trong đó các tác nhân chạy đồng thời. Trong cài đặt không lập lịch, các tác nhân được thực hiện theo một thứ tự tuần tự xác định: Tác nhân Toán học, Tác nhân Kể chuyện và Tác nhân Lặp lại. Để đánh giá hiệu quả về thời gian, khuôn khổ AIOS sử dụng hai chỉ số: thời gian chờ và thời gian quay trở lại, và vì các tác nhân gửi nhiều yêu cầu đến mô hình ngôn ngữ lớn, thời gian chờ và thời gian quay trở lại cho từng tác nhân được tính toán là trung bình của thời gian chờ và thời gian quay trở lại cho tất cả các yêu cầu. Như được minh họa trong bảng dưới đây, phương pháp không lập lịch hiển thị hiệu suất thỏa mãn cho các tác nhân sớm trong chuỗi, nhưng phải chịu thời gian chờ và thời gian quay trở lại kéo dài cho các tác nhân sau trong chuỗi. Mặt khác, phương pháp lập lịch được thực hiện bởi khuôn khổ AIOS điều chỉnh cả thời gian chờ và thời gian quay trở lại một cách hiệu quả.

Suy Nghĩ Cuối Cùng

Trong bài viết này, chúng ta đã thảo luận về AIOS, một hệ điều hành tác nhân LLM được thiết kế để nhúng các mô hình ngôn ngữ lớn vào hệ điều hành như bộ não của hệ điều hành, cho phép một hệ điều hành có “linh hồn”. Cụ thể, khuôn khổ AIOS được thiết kế với mục đích tạo điều kiện cho việc chuyển đổi ngữ cảnh giữa các tác nhân, tối ưu hóa phân bổ tài nguyên, cung cấp dịch vụ công cụ cho các tác nhân, duy trì kiểm soát truy cập cho các tác nhân và cho phép thực hiện đồng thời các tác nhân. Kiến trúc AIOS chứng tỏ tiềm năng trong việc tạo điều kiện cho sự phát triển và triển khai của các tác nhân tự động dựa trên mô hình ngôn ngữ lớn, dẫn đến một hệ sinh thái AIOS-Tác nhân hiệu quả, thống nhất và hiệu quả hơn.