Mô hình và nền tảng AI

Các Đại lý Song song AI: Luật Quy mô Tiếp theo cho Trí tuệ Máy thông minh hơn

mm
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
Parallel AI Agents: The Next Scaling Law for Smarter Machine Intelligence

Một nhà phát triển ngả người ra phía sau trong sự thất vọng sau một lần chạy đào tạo khác. Một lượng công việc đáng kể đã được thực hiện trong nhiều tháng để tinh chỉnh một mô hình ngôn ngữ lớn. Các đường ống dữ liệu đã được mở rộng và tài nguyên tính toán đã được tăng lên. Cơ sở hạ tầng đã được điều chỉnh nhiều lần. Tuy nhiên, tiến bộ là tối thiểu. Kết quả chỉ là một sự tăng nhỏ về độ chính xác.

Tiến bộ này có chi phí rất cao. Nó đòi hỏi hàng triệu đô la về phần cứng và một lượng lớn năng lượng. Ngoài ra, nó tạo ra một gánh nặng môi trường đáng kể thông qua khí thải carbon. Do đó, rõ ràng là điểm hiệu suất giảm đã được đạt đến và nhiều tài nguyên hơn sẽ không mang lại tiến bộ tương đương.

Trong một thời gian dài, Trí tuệ Nhân tạo (AI) đã phát triển một cách dự đoán được. Tiến bộ này được hỗ trợ bởi Định luật Moore, cho phép phần cứng nhanh hơn và tạo nền tảng cho các cải tiến tiếp theo. Ngoài ra, định luật quy mô thần kinh được giới thiệu vào năm 2020 cho thấy rằng các mô hình lớn hơn được đào tạo với nhiều dữ liệu và tính toán hơn sẽ thường thực hiện tốt hơn. Do đó, công thức cho tiến bộ dường như rõ ràng, tức là tăng quy mô và kết quả sẽ được cải thiện.

Tuy nhiên, trong những năm gần đây, công thức này đã bắt đầu bị phá vỡ. Chi phí tài chính đang tăng lên quá nhanh, trong khi lợi ích hiệu suất quá nhỏ. Hơn nữa, tác động môi trường của việc tiêu thụ năng lượng cao đang trở nên khó bỏ qua. Do đó, nhiều nhà nghiên cứu hiện đang đặt câu hỏi liệu việc tăng quy mô có thể hướng dẫn tương lai của AI hay không.

Từ Mô hình Monolithic đến Trí tuệ Cộng tác

Các mô hình như GPT-4 và Claude 3 Opus chứng minh rằng các mô hình quy mô lớn có thể cung cấp khả năng đáng chú ý trong việc hiểu ngôn ngữ, lý luận và mã hóa. Tuy nhiên, những thành tựu này có chi phí rất cao. Việc đào tạo đòi hỏi hàng chục nghìn GPU làm việc trong nhiều tháng, một quá trình mà chỉ một số tổ chức trên toàn thế giới có thể chi trả. Do đó, lợi ích của quy mô bị giới hạn ở những người có tài nguyên khổng lồ.

Các chỉ số hiệu suất như token trên đô la trên watt làm cho vấn đề trở nên rõ ràng hơn. Ngoài một kích thước nhất định, lợi ích hiệu suất trở nên tối thiểu, trong khi chi phí đào tạo và chạy các mô hình này tăng lên theo cấp số nhân. Ngoài ra, gánh nặng môi trường đang tăng lên, vì các hệ thống này tiêu thụ một lượng điện đáng kể và đóng góp vào khí thải carbon. Điều này có nghĩa là con đường truyền thống lớn hơn là tốt hơn đang trở nên không bền vững.

Hơn nữa, áp lực không chỉ trên tính toán. Các mô hình lớn cũng đòi hỏi thu thập dữ liệu rộng lớn, làm sạch dữ liệu phức tạp và giải pháp lưu trữ lâu dài. Mỗi bước này thêm chi phí và phức tạp. Sự suy luận là một thách thức khác, vì chạy các mô hình như vậy ở quy mô đòi hỏi cơ sở hạ tầng đắt tiền và nguồn năng lượng liên tục. Tóm lại, những yếu tố này cho thấy rằng việc dựa vào các mô hình monolithic lớn không phải là một cách tiếp cận bền vững cho tương lai của AI.

Giới hạn này nhấn mạnh tầm quan trọng của việc kiểm tra cách trí tuệ phát triển trong các hệ thống khác. Trí tuệ con người cung cấp một bài học quan trọng. Não bộ không phải là một bộ xử lý khổng lồ, mà là một tập hợp các vùng chuyên biệt. Thị giác, ký ức và ngôn ngữ được xử lý riêng biệt, nhưng chúng phối hợp để tạo ra hành vi thông minh. Ngoài ra, xã hội con người tiến bộ không phải vì các cá nhân riêng lẻ, mà vì các nhóm người với chuyên môn đa dạng làm việc cùng nhau. Những ví dụ này cho thấy rằng chuyên môn hóa và cộng tác thường hiệu quả hơn quy mô đơn thuần.

AI có thể tiến bộ bằng cách tuân theo nguyên tắc này. Thay vì dựa vào một mô hình lớn duy nhất, các nhà nghiên cứu hiện đang khám phá các hệ thống đại lý song song. Mỗi đại lý tập trung vào một chức năng cụ thể, trong khi sự phối hợp giữa chúng cho phép giải quyết vấn đề hiệu quả hơn. Cách tiếp cận này chuyển hướng khỏi quy mô thô và hướng tới sự cộng tác thông minh hơn. Hơn nữa, nó mang lại những khả năng mới về hiệu suất, độ tin cậy và tăng trưởng. Theo cách này, các đại lý AI song song đại diện cho một hướng đi thực tế và bền vững cho giai đoạn tiếp theo của trí tuệ máy.

Tăng quy mô AI thông qua Hệ thống Đại lý Đa năng

Một Hệ thống Đại lý Đa năng (MAS) bao gồm nhiều đại lý AI độc lập hoạt động tự chủ và cộng tác trong một môi trường chung. Mỗi đại lý có thể tập trung vào nhiệm vụ riêng, nhưng nó tương tác với những đại lý khác để đạt được mục tiêu chung hoặc liên quan. Trong ý nghĩa này, MAS tương tự như các khái niệm đã biết trong khoa học máy tính. Ví dụ, giống như một bộ xử lý đa lõi xử lý các nhiệm vụ song song trong bộ nhớ chung, và các hệ thống phân tán kết nối các máy tính riêng biệt để giải quyết các vấn đề lớn hơn, MAS kết hợp các nỗ lực của nhiều đại lý chuyên biệt để làm việc phối hợp.

Ngoài ra, mỗi đại lý hoạt động như một đơn vị trí tuệ riêng biệt. Một số được thiết kế để phân tích văn bản, những đại lý khác để thực thi mã, và những đại lý khác để tìm kiếm thông tin. Tuy nhiên, sức mạnh thực sự của chúng không đến từ việc làm việc riêng lẻ. Thay vào đó, nó đến từ sự cộng tác tích cực, nơi các đại lý trao đổi kết quả, chia sẻ ngữ cảnh và tinh chỉnh giải pháp cùng nhau. Do đó, hiệu suất tổng hợp của một hệ thống như vậy lớn hơn hiệu suất của bất kỳ mô hình đơn nào.

Hiện tại, sự phát triển này được hỗ trợ bởi các khuôn khổ mới cho phép cộng tác đa đại lý. Ví dụ, AutoGen cho phép nhiều đại lý trò chuyện, chia sẻ ngữ cảnh và giải quyết vấn đề thông qua đối thoại có cấu trúc. Tương tự, CrewAI cho phép các nhà phát triển định nghĩa các nhóm đại lý với vai trò, trách nhiệm và quy trình làm việc rõ ràng. Hơn nữa, LangChain và LangGraph cung cấp thư viện và công cụ dựa trên đồ thị để thiết kế các quy trình có trạng thái, nơi các đại lý có thể truyền nhiệm vụ theo chu kỳ, duy trì bộ nhớ và cải thiện kết quả dần dần.

Thông qua các khuôn khổ này, các nhà phát triển không còn bị giới hạn bởi cách tiếp cận mô hình monolithic. Thay vào đó, họ có thể thiết kế các hệ sinh thái đại lý thông minh phối hợp động. Do đó, sự thay đổi này đánh dấu một nền tảng cho việc tăng quy mô AI thông minh hơn, tập trung vào hiệu suất và chuyên môn hóa hơn là chỉ quy mô.

Quạt ra và Quạt vào cho Đại lý AI Song song

Hiểu cách các đại lý song song phối hợp đòi hỏi phải xem xét kiến trúc cơ bản. Một mẫu hiệu quả là thiết kế quạt ra/quạt vào. Nó chứng minh cách một vấn đề quan trọng có thể được chia thành các phần nhỏ hơn, giải quyết song song và sau đó kết hợp thành một đầu ra duy nhất. Phương pháp này cải thiện cả hiệu suất và chất lượng.

Bước 1: Điều phối và Phân rã Nhiệm vụ

Quá trình bắt đầu với một điều phối viên. Nó nhận một lời nhắc từ người dùng và chia nó thành các nhiệm vụ con nhỏ hơn, rõ ràng. Điều này đảm bảo mỗi đại lý tập trung vào một trách nhiệm rõ ràng.

Bước 2: Quạt ra đến Đại lý Song song

Các nhiệm vụ con sau đó được phân phối cho nhiều đại lý. Mỗi đại lý làm việc song song. Ví dụ, một đại lý có thể phân tích AutoGen, một đại lý khác xem xét các kho lưu trữ CrewAI, trong khi một đại lý thứ ba nghiên cứu các tính năng LangGraph. Sự phân chia này giảm thời gian và tăng chuyên môn hóa.

Bước 3: Thực thi Song song bởi Đại lý Chuyên biệt

Mỗi đại lý thực thi nhiệm vụ được giao cho nó một cách độc lập. Chúng chạy không đồng bộ, với sự can thiệp tối thiểu. Cách tiếp cận này giảm độ trễ và tăng thông lượng so với xử lý tuần tự.

Bước 4: Quạt vào và Thu thập Kết quả

Sau khi các đại lý hoàn thành công việc của mình, điều phối viên thu thập đầu ra của chúng. Tại giai đoạn này, các phát hiện thô và thông tin chi tiết từ các đại lý khác nhau được thu thập lại với nhau.

Bước 5: Tổng hợp và Đầu ra Cuối cùng

Cuối cùng, điều phối viên tổng hợp các kết quả thu thập được thành một câu trả lời cấu trúc duy nhất. Bước này liên quan đến việc loại bỏ các bản sao, giải quyết các xung đột và duy trì tính nhất quán.

Thiết kế quạt ra/quạt vào này tương tự như một nhóm nghiên cứu nơi các chuyên gia làm việc riêng biệt, nhưng các phát hiện của họ được kết hợp để tạo thành một giải pháp hoàn chỉnh. Do đó, nó cho thấy sự song song phân tán có thể cải thiện độ chính xác và hiệu suất trong các hệ thống AI.

Chỉ số Hiệu suất AI cho Tăng quy mô Thông minh hơn

Trong quá khứ, việc tăng quy mô được đo chủ yếu bằng kích thước mô hình. Số lượng tham số lớn hơn được cho là mang lại kết quả tốt hơn. Tuy nhiên, trong kỷ nguyên AI đại lý, các biện pháp mới được cần. Những biện pháp này tập trung vào sự hợp tác và hiệu suất, không chỉ quy mô.

Hiệu suất Điều phối

Chỉ số này đánh giá hiệu quả của các đại lý trong việc giao tiếp và đồng bộ hóa. Các độ trễ cao hoặc công việc trùng lặp làm giảm hiệu suất. Ngược lại, sự điều phối mượt mà tăng khả năng mở rộng tổng thể.

Tính toán Thời gian Kiểm tra (Thời gian Tư duy)

Điều này đề cập đến tài nguyên tính toán được tiêu thụ trong quá trình suy luận. Nó là cần thiết cho kiểm soát chi phí và khả năng phản hồi thời gian thực. Các hệ thống tiêu thụ ít tài nguyên hơn trong khi duy trì độ chính xác là thực tế hơn.

Đại lý trên Nhiệm vụ

Việc chọn số lượng đại lý chính xác cũng rất quan trọng. Quá nhiều đại lý có thể tạo ra sự nhầm lẫn và chi phí. Quá ít có thể hạn chế chuyên môn hóa. Do đó, sự cân bằng là cần thiết để đạt được kết quả hiệu quả.

Cùng nhau, những chỉ số này đại diện cho một cách mới để đo lường tiến bộ trong AI. Sự tập trung chuyển hướng khỏi quy mô thô. Thay vào đó, nó chuyển sang hợp tác thông minh, thực thi song song và giải quyết vấn đề cộng tác.

Ưu điểm Chuyển đổi của Đại lý AI Song song

Các đại lý AI song song cung cấp một cách tiếp cận mới cho trí tuệ máy, kết hợp tốc độ, độ chính xác và độ bền trong cách mà các hệ thống monolithic đơn lẻ không thể. Lợi ích thực tế của chúng đã rõ ràng trên nhiều ngành, và tác động của chúng dự kiến sẽ tăng lên khi được áp dụng rộng rãi.

Hiệu suất thông qua Thực thi Nhiệm vụ Đồng thời

Các đại lý song song cải thiện hiệu suất bằng cách thực hiện nhiều nhiệm vụ đồng thời. Ví dụ, trong hỗ trợ khách hàng, một đại lý có thể truy vấn cơ sở kiến thức, một đại lý khác lấy hồ sơ CRM, và một đại lý thứ ba xử lý đầu vào người dùng trực tiếp đồng thời. Sự song song này mang lại phản hồi nhanh hơn và toàn diện hơn. Các khuôn khổ như SuperAGI chứng minh cách thực thi đồng thời có thể giảm thời gian công việc và tăng năng suất.

Độ chính xác thông qua Xác minh Cộng tác

Làm việc cộng tác, các đại lý song song tăng cường độ chính xác. Nhiều đại lý phân tích cùng một thông tin có thể kiểm tra chéo kết quả, thách thức giả định và tinh chỉnh lý luận. Trong chăm sóc sức khỏe, các đại lý có thể phân tích các bản quét, xem xét lịch sử bệnh nhân và tham khảo nghiên cứu, dẫn đến chẩn đoán toàn diện và đáng tin cậy hơn.

Độ bền thông qua Kháng nghị Phân tán

Thiết kế phân tán đảm bảo rằng sự thất bại của một đại lý không làm ngừng hoạt động của toàn hệ thống. Nếu một thành phần bị sập hoặc chậm lại, các thành phần khác vẫn tiếp tục hoạt động. Sự bền vững này là quan trọng trong các lĩnh vực như tài chính, hậu cần và chăm sóc sức khỏe, nơi tính liên tục và độ tin cậy là thiết yếu.

Tương lai Thông minh hơn với Song song

Bằng cách kết hợp hiệu suất, độ chính xác và độ bền, các đại lý AI song song cho phép các ứng dụng thông minh ở quy mô từ tự động hóa doanh nghiệp đến nghiên cứu khoa học. Cách tiếp cận này đại diện cho một sự chuyển đổi cơ bản trong thiết kế AI, cho phép các hệ thống hoạt động nhanh hơn, đáng tin cậy hơn và với sự hiểu biết sâu sắc hơn.

Thử thách trong AI Đa đại lý

Mặc dù các hệ thống AI đa đại lý cung cấp khả năng mở rộng và thích nghi, chúng cũng có những thách thức đáng kể. Về mặt kỹ thuật, việc phối hợp nhiều đại lý đòi hỏi sự điều phối tiên tiến. Khi số lượng đại lý tăng lên, chi phí giao tiếp có thể trở thành một nút thắt.

Hơn nữa, các hành vi xuất hiện thường khó dự đoán hoặc tái tạo, làm phức tạp việc gỡ lỗi và đánh giá. Nghiên cứu nhấn mạnh các mối quan ngại như phân bổ tài nguyên, phức tạp kiến trúc và khả năng các đại lý khuếch đại lỗi của nhau.

Bên cạnh những vấn đề kỹ thuật này, còn có những rủi ro về mặt đạo đức và quản trị. Trách nhiệm trong các hệ thống đa đại lý là phân tán; khi đầu ra có hại hoặc không chính xác xảy ra, không phải lúc nào cũng rõ ràng liệu lỗi thuộc về điều phối viên, một đại lý riêng lẻ hay sự tương tác của chúng.

Bảo mật cũng là một mối quan ngại, vì một đại lý bị xâm phạm có thể gây nguy hiểm cho toàn bộ hệ thống. Các cơ quan quản lý đang bắt đầu phản ứng. Ví dụ, Đạo luật AI của EU dự kiến sẽ mở rộng để giải quyết các kiến trúc đại lý, trong khi Hoa Kỳ hiện đang theo đuổi một cách tiếp cận dựa trên thị trường.

Kết luận

Trí tuệ nhân tạo đã phụ thuộc nặng vào việc tăng quy mô các mô hình lớn, nhưng cách tiếp cận này tốn kém và ngày càng không bền vững. Các đại lý AI song song cung cấp một giải pháp thay thế bằng cách cải thiện hiệu suất, độ chính xác và độ bền thông qua sự hợp tác. Thay vì dựa vào một hệ thống đơn lẻ, các nhiệm vụ được phân phối trên các đại lý chuyên biệt phối hợp để tạo ra kết quả tốt hơn. Thiết kế này giảm thiểu độ trễ, cải thiện độ tin cậy và cho phép các ứng dụng hoạt động ở quy mô trong các môi trường thực tế.

Mặc dù tiềm năng của chúng, các hệ thống đa đại lý phải đối mặt với một số thách thức. Việc phối hợp nhiều đại lý giới thiệu sự phức tạp kỹ thuật, trong khi việc chỉ định trách nhiệm cho các lỗi có thể là một thách thức. Rủi ro bảo mật cũng tăng lên khi sự thất bại của một đại lý có thể ảnh hưởng đến những đại lý khác. Những mối quan ngại này nhấn mạnh nhu cầu về quản trị mạnh mẽ hơn và sự xuất hiện của các vai trò chuyên nghiệp mới, chẳng hạn như kỹ sư đại lý. Với sự nghiên cứu và hỗ trợ liên tục từ ngành công nghiệp, các hệ thống đa đại lý có khả năng sẽ trở thành một hướng đi cốt lõi cho sự phát triển AI trong tương lai.

Dr. Assad Abbas, một Giáo sư Liên kết có thời hạn tại Đại học COMSATS Islamabad, Pakistan, đã nhận bằng Tiến sĩ từ Đại học North Dakota State, USA. Nghiên cứu của ông tập trung vào các công nghệ tiên tiến, bao gồm điện toán đám mây, sương mù và cạnh, phân tích dữ liệu lớn và AI. Dr. Abbas đã có những đóng góp đáng kể với các ấn phẩm trên các tạp chí khoa học và hội nghị uy tín. Ông cũng là người sáng lập của MyFastingBuddy.