Giải mã Cơ hội và Thách thức cho Các Đại lý LLM trong Trí tuệ Nhân tạo Tạo sinh

Chúng ta đang chứng kiến sự tiến bộ của các ứng dụng Trí tuệ Nhân tạo Tạo sinh được cung cấp bởi các mô hình ngôn ngữ lớn (LLM) từ các lời nhắc đến tạo sinh tăng cường bằng thu hồi (RAG) đến các đại lý. Các đại lý đang được thảo luận rộng rãi trong các vòng tròn công nghiệp và nghiên cứu, chủ yếu vì sức mạnh công nghệ này cung cấp để biến đổi các ứng dụng Doanh nghiệp và cung cấp trải nghiệm khách hàng vượt trội. Có các mẫu chung để xây dựng các đại lý cho phép bước đầu tiên hướng tới trí tuệ nhân tạo tổng quát (AGI).

Trong bài viết trước của tôi, bài viết, chúng ta đã xem một thang trí tuệ của các mẫu để xây dựng các ứng dụng được cung cấp bởi LLM. Bắt đầu với các lời nhắc捕获 lĩnh vực vấn đề và sử dụng bộ nhớ nội bộ của LLM để tạo ra đầu ra. Với RAG, chúng ta tăng cường lời nhắc với kiến thức bên ngoài được tìm kiếm từ cơ sở dữ liệu vector để kiểm soát đầu ra. Tiếp theo, bằng cách liên kết các cuộc gọi LLM, chúng ta có thể xây dựng các quy trình công việc để thực hiện các ứng dụng phức tạp. Các đại lý đưa điều này lên một tầm cao mới bằng cách tự động xác định cách các chuỗi LLM này sẽ được hình thành. Hãy cùng xem xét chi tiết.

Các Đại lý – Dưới mui xe

Một mẫu chính với các đại lý là chúng sử dụng sức mạnh hiểu ngôn ngữ của LLM để tạo ra một kế hoạch về cách giải quyết một vấn đề nhất định. LLM hiểu vấn đề và cung cấp cho chúng ta một chuỗi các bước để giải quyết vấn đề. Tuy nhiên, nó không dừng lại ở đó. Các đại lý không phải là một hệ thống hỗ trợ thuần túy sẽ cung cấp cho bạn các khuyến nghị về cách giải quyết vấn đề và sau đó chuyển giao cho bạn để thực hiện các bước được khuyến nghị. Các đại lý được trang bị các công cụ để tiếp tục và thực hiện hành động. Điều này có vẻ đáng sợ!?

Nếu chúng ta hỏi một đại lý một câu hỏi cơ bản như thế này:

Con người: Công ty nào mà người phát minh ra điện thoại đã bắt đầu?

Dưới đây là một mẫu của các bước suy nghĩ mà một đại lý có thể thực hiện.

Đại lý (SUY NGHĨ):

• Suy nghĩ: Tôi cần tìm kiếm người phát minh ra điện thoại.
• Hành động: Tìm kiếm [người phát minh ra điện thoại]
• Quan sát: Alexander Graham Bell
• Suy nghĩ: Tôi cần tìm kiếm một công ty mà Alexander Graham Bell đã thành lập
• Hành động: Tìm kiếm [công ty được thành lập bởi Alexander Graham Bell]
• Quan sát: Alexander Graham Bell đã thành lập công ty American Telephone and Telegraph Company (AT&T) vào năm 1885
• Suy nghĩ: Tôi đã tìm thấy câu trả lời. Tôi sẽ trả lời.

Đại lý (TRẢ LỜI): Alexander Graham Bell đã thành lập AT&T vào năm 1885

Bạn có thể thấy rằng đại lý tuân theo một cách có phương pháp để phá vỡ vấn đề thành các vấn đề con có thể được giải quyết bằng cách thực hiện các hành động cụ thể. Các hành động ở đây được khuyến nghị bởi LLM và chúng ta có thể ánh xạ các hành động này đến các công cụ cụ thể để thực hiện các hành động. Chúng ta có thể kích hoạt một công cụ tìm kiếm cho đại lý để khi nó nhận ra rằng LLM đã cung cấp tìm kiếm như một hành động, nó sẽ gọi công cụ này với các tham số được cung cấp bởi LLM. Tìm kiếm ở đây trên internet nhưng cũng có thể được chuyển hướng đến tìm kiếm một cơ sở dữ liệu kiến thức nội bộ như một cơ sở dữ liệu vector. Hệ thống bây giờ trở nên tự chủ và có thể tìm ra cách giải quyết các vấn đề phức tạp theo một loạt các bước. Các khuôn khổ như LangChain và LLaMAIndex cung cấp cho bạn một cách dễ dàng để xây dựng các đại lý này và kết nối với các công cụ và API. Amazon gần đây đã ra mắt khuôn khổ đại lý Bedrock của họ, cung cấp một giao diện trực quan để thiết kế các đại lý.

Dưới mui xe, các đại lý tuân theo một phong cách đặc biệt của việc gửi lời nhắc đến LLM, điều này khiến chúng tạo ra một kế hoạch hành động. Mẫu suy nghĩ-hành động-quan sát này phổ biến trong một loại đại lý gọi là ReAct (Lý do và Hành động). Các loại đại lý khác bao gồm MRKL và Kế hoạch & Thực hiện, chủ yếu khác nhau trong phong cách lời nhắc của chúng.

Đối với các đại lý phức tạp hơn, các hành động có thể được gắn với các công cụ gây ra các thay đổi trong các hệ thống nguồn. Ví dụ, chúng ta có thể kết nối đại lý với một công cụ kiểm tra số dư nghỉ phép và nộp đơn xin nghỉ phép trong một hệ thống ERP cho một nhân viên. Bây giờ chúng ta có thể xây dựng một rô-bốt trò chuyện đẹp mà sẽ tương tác với người dùng và thông qua một lệnh trò chuyện áp dụng cho nghỉ phép trong hệ thống. Không còn các màn hình phức tạp để áp dụng cho nghỉ phép, một giao diện trò chuyện thống nhất đơn giản. Điều này có vẻ thú vị!?

Cảnh báo và nhu cầu về Trí tuệ Nhân tạo Có trách nhiệm

Vậy điều gì xảy ra nếu chúng ta có một công cụ gọi các giao dịch trên thị trường chứng khoán bằng cách sử dụng một API được ủy quyền trước? Bạn xây dựng một ứng dụng nơi đại lý nghiên cứu các thay đổi chứng khoán (sử dụng các công cụ) và đưa ra quyết định về việc mua và bán chứng khoán. Điều gì xảy ra nếu đại lý bán chứng khoán sai vì nó ảo giác và đưa ra quyết định sai? Vì LLM là các mô hình lớn, rất khó để xác định lý do tại sao chúng đưa ra một số quyết định, do đó ảo giác là phổ biến trong trường hợp không có rào cản phù hợp.

Trong khi các đại lý đều thú vị, bạn có thể đã đoán được làm thế nào nguy hiểm chúng có thể là. Nếu chúng ảo giác và thực hiện hành động sai, điều đó có thể gây ra tổn thất tài chính lớn hoặc vấn đề lớn trong các hệ thống Doanh nghiệp. Do đó, Trí tuệ Nhân tạo Có trách nhiệm đang trở nên quan trọng nhất trong thời đại của các ứng dụng được cung cấp bởi LLM. Các nguyên tắc của Trí tuệ Nhân tạo Có trách nhiệm xung quanh khả năng tái tạo, minh bạch và trách nhiệm, cố gắng đặt rào cản trên các quyết định được đưa ra bởi các đại lý và đề xuất phân tích rủi ro để quyết định hành động nào cần một vòng lặp con người. Khi các đại lý phức tạp hơn được thiết kế, chúng cần sự kiểm tra, minh bạch và trách nhiệm nhiều hơn để đảm bảo chúng ta biết chúng đang làm gì.

Suy nghĩ Kết thúc

Khả năng của các đại lý để tạo ra một đường dẫn của các bước logic với các hành động đưa chúng đến gần lý luận của con người. Cung cấp cho chúng các công cụ mạnh mẽ hơn có thể đưa chúng đến siêu năng lực. Các mẫu như ReAct cố gắng bắt chước cách con người giải quyết vấn đề và chúng ta sẽ thấy các mẫu đại lý tốt hơn sẽ phù hợp với các ngữ cảnh và lĩnh vực cụ thể (ngân hàng, bảo hiểm, chăm sóc sức khỏe, công nghiệp, v.v.). Tương lai đang ở đây và công nghệ đằng sau các đại lý đã sẵn sàng để chúng ta sử dụng. Đồng thời, chúng ta cần phải chú ý chặt chẽ đến các rào cản của Trí tuệ Nhân tạo Có trách nhiệm để đảm bảo chúng ta không xây dựng Skynet! vào các mẫu đại lý tốt hơn sẽ phù hợp với các ngữ cảnh và lĩnh vực cụ thể (ngân hàng, bảo hiểm, chăm sóc sức khỏe, công nghiệp, v.v.). Tương lai đang ở đây và công nghệ đằng sau các đại lý đã sẵn sàng để chúng ta sử dụng. Đồng thời, chúng ta cần phải chú ý chặt chẽ đến các rào cản của Trí tuệ Nhân tạo Có trách nhiệm để đảm bảo chúng ta không xây dựng Skynet!.