Hệ thống đa tác nhân là gì? Khi nhiều tác nhân AI hoạt động tốt hơn một.

Hệ thống đa tác nhân là một kiến trúc AI trong đó hai hoặc nhiều tác nhân tương tác để giải quyết một vấn đề, phối hợp hoạt động, hoặc hoạt động trong một môi trường chung. Các tác nhân có thể có các vai trò, công cụ, mô hình, kiến thức hoặc quyền hạn khác nhau, và chúng có thể làm việc tuần tự, song song, hoặc thông qua đàm phán lặp lại.

Nhiều tác nhân có thể bao phủ phạm vi rộng hơn so với một tác nhân khi một nhiệm vụ tự nhiên được phân chia. Chúng cũng có thể sao chép công sức, truyền lỗi cho nhau, và tiêu tốn đáng kể nhiều tài nguyên hơn. Do đó, thiết kế đa tác nhân là một lựa chọn kiến trúc, không phải là một nâng cấp mặc định.

Điều gì được xem là hệ thống đa tác nhân?

Một hệ thống được coi là đa tác nhân khi các thành phần có mục tiêu riêng biệt giao tiếp hoặc ảnh hưởng đến công việc của nhau. Một tác nhân có thể ủy thác cho các chuyên gia; các đồng nghiệp có thể tranh luận các đề xuất cạnh tranh; hoặc các tác nhân độc lập có thể hành động trong một mô phỏng chung.

Việc gọi cùng một mô hình nhiều lần không tự động tạo ra một hệ thống đa tác nhân có ý nghĩa. Các thành phần cần có vai trò, trạng thái, quyền hạn hoặc mục tiêu phân biệt để định hình cách chúng tương tác.

Nghiên cứu đa tác nhân đã tồn tại trước các mô hình ngôn ngữ lớn và bao gồm robot, điều khiển phân tán, kinh tế học và lý thuyết trò chơi. Các mô hình ngôn ngữ làm cho việc giao tiếp giữa các tác nhân dễ dàng hơn vì chúng có thể hiểu các nhiệm vụ linh hoạt và trao đổi tin nhắn ngôn ngữ tự nhiên hoặc có cấu trúc.

Tại sao nên sử dụng nhiều tác nhân AI?

Song Song

Các tiểu nhiệm vụ độc lập có thể chạy đồng thời. Một hệ thống nghiên cứu có thể giao cho các tác nhân riêng biệt nhiệm vụ thu thập dữ liệu thị trường, tài liệu kỹ thuật, quy định và phân tích cạnh tranh, sau đó tổng hợp các kết quả.

Chuyên Môn Hóa

Mỗi tác nhân có thể nhận được một lời nhắc tập trung, bộ công cụ, mô hình, nguồn dữ liệu và tiêu chí đánh giá. Một người đánh giá bảo mật không cần có cùng quyền hạn như một tác nhân viết mã.

Cô Lập Ngữ Cảnh

Phân chia công việc có thể giữ ngữ cảnh của mỗi tác nhân nhỏ hơn và phù hợp hơn. Tác nhân chính nhận được kết quả tóm tắt thay vì mọi tài liệu và dấu vết công cụ được thu thập bởi mọi người thực hiện.

Kiểm Tra Độc Lập

Một tác nhân có thể phê bình hoặc xác minh đầu ra của tác nhân khác. Tính độc lập có thể phát hiện các lỗi mà một mô hình đơn lẻ có thể lặp lại khi được yêu cầu xem xét lại lập luận của chính mình trong cùng một ngữ cảnh.

Ranh Giới Tổ Chức

Các tác nhân thuộc các đội hoặc công ty khác nhau có thể hợp tác trong khi vẫn bảo vệ dữ liệu và triển khai nội bộ của mình. Các giao thức như A2A nhằm hỗ trợ dạng tương tác này.

Kiến Trúc Đa Tác Nhân Thông Dụng

Kiến trúc nên làm cho tính trách nhiệm được hiển thị. Nếu nhiều người thực hiện tạo ra nghiên cứu chồng chéo, hệ thống cần một quy tắc để hòa giải các mâu thuẫn. Nếu các tác nhân hành động theo thứ tự, mỗi lần chuyển giao cần một hợp đồng có kiểu để “hoàn thành” có cùng ý nghĩa đối với người gửi và người nhận. Do đó, một sơ đồ mạng là một quyết định quản trị thông tin cũng như một lựa chọn về hiệu năng.

Người Điều Phối và Người Thực Hiện

Một tác nhân chính phân tích mục tiêu, tạo các tiểu nhiệm vụ, giao chúng cho các tác nhân thực hiện, và tổng hợp kết quả của chúng. Mô hình này hiệu quả khi số lượng và tính chất của các tiểu nhiệm vụ không thể biết trước.

Anthropic mô tả việc sử dụng thiết kế người điều phối-người thực hiện trong hệ thống nghiên cứu đa tác nhân của mình, nơi một tác nhân chính ủy thác các tìm kiếm song song cho các tác nhân phụ và kết hợp các phát hiện của chúng.

Chuyển Giao Theo Thứ Tự

Công việc được chuyển từ chuyên gia này sang chuyên gia khác. Một tác nhân lập kế hoạch tạo ra một đặc tả, một tác nhân thực hiện viết mã, và một tác nhân đánh giá kiểm tra kết quả. Điều này giống một quy trình làm việc, nhưng mỗi giai đoạn có thể quyết định cách hoàn thành nhiệm vụ của mình.

Tranh Luận Hoặc Thảo Luận

Nhiều tác nhân đề xuất giải pháp, thách thức các giả định, hoặc chấm điểm công việc của nhau trước khi một người đánh giá hoặc bộ tổng hợp chọn câu trả lời. Điều này có thể cải thiện đa dạng lý luận, nhưng các tác nhân có thể hội tụ vào cùng một lỗi hoặc tối ưu để thuyết phục người đánh giá.

Các Đồng Đẳng Phi Tập Trung

Các tác nhân phối hợp mà không có một bộ điều khiển cố định. Mô hình này xuất hiện trong các mô phỏng, thị trường, robot, và các hệ thống mà các tác nhân đại diện cho các bên liên quan khác nhau. Việc đảm bảo hành vi toàn cục trở nên khó hơn vì mỗi người tham gia chỉ nhìn thấy một phần của hệ thống.

Đánh Giá và Tối Ưu Hóa

Một tác nhân tạo ra đầu ra, một tác nhân khác đánh giá nó dựa trên các tiêu chí đã định, và tác nhân đầu tiên chỉnh sửa lại. Vòng lặp tiếp tục cho đến khi kết quả đạt yêu cầu hoặc đạt đến ngân sách. Điều này hữu ích khi chất lượng có thể được đánh giá một cách đáng tin cậy.

Cách Các Tác Nhân Giao Tiếp

Các tác nhân có thể trao đổi ngôn ngữ tự nhiên, tin nhắn có cấu trúc, đối tượng nhiệm vụ, tệp tin chia sẻ, bản ghi cơ sở dữ liệu, hoặc sự kiện. Giao tiếp có cấu trúc thường dễ xác thực và tự động hoá hơn. Một tin nhắn nên làm rõ mục tiêu, ràng buộc, bằng chứng sẵn có, đầu ra mong đợi và trạng thái hoàn thành.

Giao tiếp tạo ra một nút thắt thông tin. Một công nhân trả về bản tóm tắt không được hỗ trợ có thể che giấu những sắc thái quan trọng; một công nhân trả về toàn bộ bản ghi có thể làm quá tải bộ điều phối. Các hệ thống tốt truyền các hiện vật gọn gàng có trích dẫn, độ tin cậy và nguồn gốc thay vì chỉ dựa vào cuộc trò chuyện không có cấu trúc.

Ví Dụ: Thẩm Định Phức Tạp

Một tác nhân chính nhận được yêu cầu đánh giá một nhà cung cấp tiềm năng. Nó tạo ra các nhiệm vụ độc lập:

• một tác nhân tài chính xem xét các hồ sơ và tính ổn định tài chính;
• một tác nhân bảo mật kiểm tra chứng chỉ và các sự cố đã được công bố;
• một tác nhân sản phẩm so sánh khả năng với yêu cầu;
• một tác nhân pháp lý trích xuất các điều khoản hợp đồng quan trọng;
• một tác nhân xác minh kiểm tra các tuyên bố và mức độ trích dẫn.

Tác nhân chính sau đó điều hòa các xung đột, xác định bằng chứng còn thiếu, yêu cầu các công nhân được chọn điều tra sâu hơn, và tạo ra một báo cáo tích hợp. Hệ thống thu được độ bao phủ và chuyên môn hoá, nhưng cần các định nghĩa chung để mỗi tác nhân đánh giá cùng một nhà cung cấp, cùng một thời kỳ và cùng các tiêu chí.

Khi Nhiều Tác Nhân Tốt Hơn Một

Một so sánh công bằng giữ các mô hình nền tảng, công cụ, ngân sách ngữ cảnh và tiêu chí thành công không đổi. Nếu không, một hệ thống đa tác nhân có thể trông tốt hơn chỉ vì nó sử dụng nhiều token hơn hoặc nhận được nhiều thông tin hơn. Đánh giá so sánh với một chuẩn một tác nhân được thiết kế tốt sẽ tiết lộ liệu việc phối hợp tự thân có mang lại giá trị hay không.

Hệ thống đa tác nhân mạnh nhất khi các nhiệm vụ rộng lớn, có thể phân tách và đủ giá trị để biện minh cho việc tính toán bổ sung. Nghiên cứu song song, xác minh độc lập, và công việc đòi hỏi các công cụ khác nhau rõ rệt là những ứng cử viên tiềm năng.

Một tác nhân duy nhất thường tốt hơn khi nhiệm vụ gắn kết chặt chẽ, yêu cầu một ngữ cảnh thống nhất, có hành trình ngắn, hoặc có thể được giải quyết bằng quy trình làm việc đơn giản. Phân chia một vấn đề nhỏ tạo ra chi phí phối hợp mà không mang lại sự đa dạng hữu ích.

Chi Phí của Hệ Thống Đa Tác Nhân

Mỗi tác nhân thêm các lời gọi mô hình, ngữ cảnh, công cụ và tin nhắn. Anthropic báo cáo rằng các tác nhân trong hệ thống nghiên cứu đa tác nhân của họ đã sử dụng nhiều token hơn rất nhiều so với các tương tác trò chuyện thông thường, và rằng các hệ thống đa tác nhân tốn kém đáng kể hơn so với các hệ thống một tác nhân trong các đo lường nội bộ của họ. Tỷ lệ chính xác phụ thuộc vào kiến trúc, nhưng hướng đi rõ ràng: tự trị song song đổi lấy tài nguyên để có độ bao phủ.

Các chi phí khác bao gồm:

• Độ trễ phối hợp: hệ thống chờ các công nhân, thử lại và tổng hợp.
• Công việc trùng lặp: các tác nhân tìm kiếm cùng các nguồn hoặc giải quyết các nhiệm vụ phụ chồng chéo.
• Mất liên lạc: các giả định quan trọng biến mất trong quá trình tóm tắt hoặc chuyển giao.
• Giải quyết xung đột: người điều phối phải hòa giải các phát hiện không tương thích.
• Độ phức tạp trong gỡ lỗi: một lỗi có thể bắt nguồn từ việc ủy thác, thực thi, truyền thông hoặc tổng hợp.

Chế độ thất bại

Bộ điều khiển toàn cục nên có khả năng dừng toàn bộ hệ thống ngay cả khi các tác nhân riêng lẻ tin rằng các tiểu nhiệm vụ của chúng vẫn chưa hoàn thành. Giới hạn từng tác nhân không đủ khi các công nhân có thể tạo thêm công nhân hoặc thử lại lẫn nhau. Theo dõi tổng số bước, tổng chi phí, thời gian thực, các nhiệm vụ còn tồn đọng và các quyền truy cập tại ranh giới hệ thống.

Khuếch đại lỗi: tuyên bố không được hỗ trợ của một tác nhân trở thành tiền đề cho một số tác nhân khác.

Lý luận tương quan: các tác nhân sử dụng cùng mô hình và kiểu lời nhắc có thể không mang lại sự độc lập thực sự.

Trệch hướng mục tiêu: một công nhân tối ưu hoá tiểu nhiệm vụ của mình trong khi làm suy yếu mục tiêu chung.

Ủy thác vô hạn: các tác nhân tạo thêm tác nhân hoặc tiểu nhiệm vụ mà không có điều kiện dừng hữu ích.

Mở rộng quyền hạn: một tác nhân dẫn đầu ủy thác quyền truy cập nhạy cảm hoặc hành động mà người dùng gốc không cho phép.

Thất bại đồng thuận: một cuộc bỏ phiếu đa số có thể thưởng cho những hiểu lầm chung thay vì tính đúng đắn.

Nguyên tắc thiết kế

Sử dụng hợp đồng nhiệm vụ rõ ràng. Mỗi nhiệm vụ nên nêu mục tiêu, phạm vi, đầu vào, công cụ cho phép, định dạng đầu ra, yêu cầu bằng chứng và ngân sách. Gán quyền hạn cho vai trò của công nhân, không phải cho toàn bộ hệ thống.

Bảo tồn nguồn gốc qua mọi lần chuyển giao. Kết quả cuối cùng nên truy xuất các tuyên bố quan trọng tới các tài liệu nguồn, không chỉ tới khẳng định của một tác nhân khác. Thêm các kiểm tra quyết định khi có thể, bao gồm xác thực schema, loại bỏ trùng lặp, kiểm tra trích dẫn và giới hạn ngân sách.

Đánh giá cả hai thành phần và hệ thống tích hợp. Một công nhân mạnh vẫn có thể thất bại trong một chiến lược điều phối kém. Các bài kiểm tra nên đo lường chất lượng ủy thác, phạm vi tiểu nhiệm vụ, độ trung thực truyền thông, độ chính xác tổng hợp, tổng chi phí, độ trễ và hiệu năng khi có sự cố công nhân một phần.

Cách đọc các sơ đồ MAS

Đọc các sơ đồ MAS từ đầu vào được đánh số hướng tới kết quả có thể quan sát được. So sánh tách biệt ranh giới phân biệt MAS với lối tắt gần nhất, trong khi đường kiểm soát đánh dấu nơi cần kiểm tra quyền hạn hoặc sự không chắc chắn trước khi có hậu quả thực tế. Các nhãn vẫn là văn bản trang đáp ứng thông thường để chúng có thể được dịch, gói lại và hiển thị lại trên điện thoại.

Đối với What Are Multi-Agent Systems? When Multiple AI Agents Work Better Than One, hình ảnh là một bản đồ chứ không phải một cam kết. Một triển khai thực tế có thể kết hợp các giai đoạn, lặp lại một bước, hoặc thêm ranh giới phê duyệt của con người. Điều quan trọng là đội ngũ có thể xác định cùng các chức năng trong hệ thống đã triển khai, chỉ định người chịu trách nhiệm cho mỗi ranh giới và kiểm tra quá trình chuyển đổi giữa chúng. Nếu một giai đoạn không thể quan sát hoặc đo lường, các lỗi ở đó sẽ khó chẩn đoán.

Những điều cần nhớ về What Are Multi-Agent Systems

Hệ thống đa tác nhân phân chia trí tuệ và quyền hạn giữa các thành phần tương tác. Chúng có thể tăng tính song song, chuyên môn hoá và đánh giá độc lập, khiến chúng có giá trị cho các nhiệm vụ rộng lớn thực sự hưởng lợi từ việc phân rã.

Chúng cũng làm tăng bối cảnh, chi phí và các đường lỗi. Trước khi thêm tác nhân, hãy hỏi liệu các công cụ tốt hơn, lời nhắc rõ ràng hơn, hoặc quy trình làm việc quyết định có thể giải quyết vấn đề không. Sử dụng nhiều tác nhân khi cấu trúc công việc—không phải độ phổ biến của kiến trúc—đủ lý do để phối hợp.