Kỹ thuật prompt
Những Tiến Bộ Mới Nhất Trong Kỹ Thuật Cung Cấp Đầu Vào: Hướng Dẫn Toàn Diện
Thêm Unite.AI vào các nguồn ưu tiên của bạn trên Google
Kỹ thuật cung cấp đầu vào, nghệ thuật và khoa học tạo ra các đầu vào để thu được các phản hồi mong muốn từ các mô hình ngôn ngữ lớn (LLM), đã trở thành một lĩnh vực nghiên cứu và phát triển quan trọng.
Từ việc nâng cao khả năng lý luận đến việc cho phép tích hợp liền mạch với các công cụ và chương trình bên ngoài, những tiến bộ mới nhất trong kỹ thuật cung cấp đầu vào đang mở ra những chân trời mới trong trí tuệ nhân tạo. Dưới đây, chúng tôi sẽ thảo luận về các kỹ thuật và chiến lược tiên tiến đang định hình tương lai của kỹ thuật cung cấp đầu vào.
Kỹ Thuật Cung Cấp Đầu Vào
Chiến Lược Cung Cấp Đầu Vào Tiên Tiến Cho Giải Quyết Vấn Đề Phức Tạp
Mặc dù cung cấp đầu vào theo chuỗi suy nghĩ đã chứng minh hiệu quả cho nhiều nhiệm vụ lý luận, các nhà nghiên cứu đã khám phá các chiến lược cung cấp đầu vào tiên tiến hơn để giải quyết các vấn đề phức tạp hơn. Một cách tiếp cận như vậy là cung cấp đầu vào từ ít đến nhiều, nó chia nhỏ một vấn đề phức tạp thành các vấn đề con nhỏ hơn, dễ quản lý hơn, được giải quyết độc lập và sau đó kết hợp để đạt được giải pháp cuối cùng.
Một kỹ thuật sáng tạo khác là cung cấp đầu vào theo cây suy nghĩ, cho phép LLM tạo ra nhiều dòng suy nghĩ hoặc “suy nghĩ” song song, đánh giá tiến trình của nó đến giải pháp và quay lại hoặc khám phá các đường dẫn thay thế khi cần thiết. Cách tiếp cận này tận dụng các thuật toán tìm kiếm như tìm kiếm theo chiều rộng hoặc tìm kiếm theo chiều sâu, cho phép LLM tham gia vào việc tìm kiếm và quay lại trong quá trình giải quyết vấn đề.
Tích Hợp LLM Với Các Công Cụ Và Chương Trình Bên Ngoài
Mặc dù LLM rất mạnh mẽ, chúng có những hạn chế vốn có, chẳng hạn như không thể truy cập thông tin cập nhật hoặc thực hiện lý luận toán học chính xác. Để giải quyết những hạn chế này, các nhà nghiên cứu đã phát triển các kỹ thuật cho phép LLM tích hợp liền mạch với các công cụ và chương trình bên ngoài.
Một ví dụ đáng chú ý là Toolformer, nó dạy LLM cách xác định các tình huống yêu cầu sử dụng các công cụ bên ngoài, chỉ định công cụ nào để sử dụng, cung cấp đầu vào liên quan và kết hợp đầu ra của công cụ vào phản hồi cuối cùng. Cách tiếp cận này liên quan đến việc xây dựng một tập dữ liệu đào tạo tổng hợp thể hiện việc sử dụng đúng các API văn bản-sang-văn bản.
Một khuôn khổ sáng tạo khác, Chameleon, áp dụng cách tiếp cận “cắm và chạy”, cho phép một bộ điều khiển LLM trung tâm tạo ra các chương trình ngôn ngữ tự nhiên để tạo và thực hiện một loạt các công cụ, bao gồm LLM, mô hình tầm nhìn, công cụ tìm kiếm web và hàm Python. Cách tiếp cận mô-đun này cho phép Chameleon giải quyết các nhiệm vụ lý luận phức tạp, đa phương thức bằng cách tận dụng điểm mạnh của các công cụ và mô hình khác nhau.
Các Chiến Lược Cung Cấp Đầu Vào Cơ Bản
Cung Cấp Đầu Vào Zero-Shot
Cung cấp đầu vào zero-shot liên quan đến việc mô tả nhiệm vụ trong đầu vào và yêu cầu mô hình giải quyết nó mà không có ví dụ. Ví dụ, để dịch “phô mai” sang tiếng Pháp, một đầu vào zero-shot có thể là:
Dịch từ tiếng Anh sau sang tiếng Pháp: phô mai.
Cách tiếp cận này trực tiếp nhưng có thể bị hạn chế bởi sự mơ hồ của mô tả nhiệm vụ.
Cung Cấp Đầu Vào Few-Shot
Cung cấp đầu vào few-shot cải thiện cung cấp đầu vào zero-shot bằng cách bao gồm một số ví dụ về nhiệm vụ. Ví dụ:
Dịch các từ tiếng Anh sau sang tiếng Pháp:
1. táo => táo
2. nhà => nhà
3. phô mai => phô mai
Phương pháp này giảm sự mơ hồ và cung cấp hướng dẫn rõ ràng hơn cho mô hình, tận dụng khả năng học trong ngữ cảnh của LLM.
Cung Cấp Đầu Vào Hướng Dẫn
Cung cấp đầu vào hướng dẫn mô tả rõ ràng đầu ra mong muốn, đặc biệt hiệu quả với các mô hình được đào tạo để tuân theo hướng dẫn. Ví dụ:
Dịch từ "phô mai" sang tiếng Pháp. Bản dịch chính xác là "phô mai".
Các mô hình như GPT-4 đã được tinh chỉnh để tuân theo hướng dẫn như vậy một cách chính xác.
Các Kỹ Thuật Cung Cấp Đầu Vào Tiên Tiến
Nâng Cao Khả Năng Lý Luận Với Cung Cấp Đầu Vào Theo Chuỗi Suy Nghĩ
Một trong những đột phá quan trọng nhất trong kỹ thuật cung cấp đầu vào là sự phát triển của cung cấp đầu vào theo chuỗi suy nghĩ. Kỹ thuật này nhằm mục đích thu được và cải thiện khả năng lý luận của LLM bằng cách khuyến khích chúng tạo ra một quá trình suy nghĩ từng bước hoặc lý do trước khi cung cấp phản hồi cuối cùng.
Trái: Các phương pháp truyền thống của cung cấp đầu vào cho LLM dựa trên đầu vào chung (0-shot CoT) hoặc cần các ví dụ đã được gắn nhãn (few-shot CoT). Phải: Cách tiếp cận mới này yêu cầu LLM tự tạo ra các ví dụ liên quan trước khi giải quyết vấn đề, loại bỏ nhu cầu gắn nhãn trong khi tùy chỉnh các ví dụ cho từng vấn đề duy nhất
Cung cấp đầu vào theo chuỗi suy nghĩ hoạt động bằng cách trình bày LLM với các ví dụ bao gồm không chỉ đầu vào và đầu ra mà còn các bước lý luận trung gian hoặc “chuỗi suy nghĩ” dẫn đến giải pháp. Bằng cách học hỏi từ những ví dụ này, LLM có thể tạo ra chuỗi suy nghĩ của riêng mình khi đối mặt với các vấn đề mới, cải thiện khả năng giải quyết các nhiệm vụ lý luận phức tạp.
Ví dụ:
Đầu vào: Natalie có 3 quả táo và cô ấy muốn chia chúng đều cho 2 người bạn của mình. Mỗi người sẽ nhận được bao nhiêu quả táo? Chuỗi suy nghĩ: Okay, hãy chia nhỏ vấn đề này thành từng bước:
- Natalie có 3 quả táo
- Cô ấy muốn chia chúng đều cho 2 người bạn
- Vậy có 3 người trong tổng số (Natalie và 2 người bạn)
- Để chia táo đều, chúng ta chia tổng số táo (3) cho số người (3)
- 3 chia cho 3 là 1
- Vậy mỗi người sẽ nhận được 1 quả táo. Đầu ra: Mỗi người sẽ nhận được 1 quả táo.
Bằng cách tạo ra quá trình suy nghĩ rõ ràng, LLM như GPT-3 và Codex đã chứng minh sự cải thiện đáng kể trong các nhiệm vụ lý luận toán học, lý luận chung và lý luận biểu tượng.
Tính Tự Nhất Quán
Tính tự nhất quán cải thiện độ tin cậy của cung cấp đầu vào theo chuỗi suy nghĩ bằng cách tạo ra nhiều chuỗi suy nghĩ và lấy quyết định đa số về phản hồi cuối cùng. Phương pháp này giảm thiểu tác động của bất kỳ con đường suy nghĩ sai nào.
Cung Cấp Đầu Vào Từ Ít Đến Nhiều
Cung cấp đầu vào từ ít đến nhiều chia nhỏ các vấn đề phức tạp thành các vấn đề con nhỏ hơn, giải quyết từng vấn đề một và sử dụng ngữ cảnh của các giải pháp trước đó để thông tin cho các bước tiếp theo. Cách tiếp cận này có lợi cho các nhiệm vụ lý luận đa bước.
Các Tiến Bộ Gần Đây Trong Kỹ Thuật Cung Cấp Đầu Vào
Kỹ thuật cung cấp đầu vào đang phát triển nhanh chóng, và một số kỹ thuật sáng tạo đã xuất hiện để cải thiện hiệu suất của các mô hình ngôn ngữ lớn (LLM). Hãy cùng khám phá các phương pháp tiên tiến này chi tiết:
Auto-CoT (Cung Cấp Đầu Vào Tự Động Theo Chuỗi Suy Nghĩ)
Đây Là Gì: Auto-CoT là một phương pháp tự động hóa việc tạo ra chuỗi suy nghĩ cho LLM, loại bỏ nhu cầu tạo ra các ví dụ thủ công. Kỹ thuật này sử dụng cung cấp đầu vào zero-shot theo chuỗi suy nghĩ, nơi mô hình được hướng dẫn suy nghĩ từng bước để tạo ra chuỗi suy nghĩ của nó.
Cách Thức Hoạt Động:
- Cung Cấp Đầu Vào Zero-Shot Theo Chuỗi Suy Nghĩ: Mô hình được cung cấp một đầu vào đơn giản như “Hãy suy nghĩ từng bước” để khuyến khích quá trình suy nghĩ chi tiết.
- Đa Dạng Trong Các Ví Dụ: Auto-CoT chọn các câu hỏi đa dạng và tạo ra chuỗi suy nghĩ cho các câu hỏi này, đảm bảo sự đa dạng về loại vấn đề và mẫu suy nghĩ.
Lợi Ích:
- Tự Động Hóa: Giảm thiểu nỗ lực thủ công cần thiết để tạo ra các ví dụ về suy nghĩ.
- Hiệu Suất: Trên các nhiệm vụ lý luận benchmark, Auto-CoT đã đạt được hoặc vượt qua hiệu suất của cung cấp đầu vào thủ công theo chuỗi suy nghĩ.
Cung Cấp Đầu Vào Dựa Trên Độ Phức Tạp
Đây Là Gì: Kỹ thuật này chọn các ví dụ có độ phức tạp cao nhất (tức là nhiều bước suy nghĩ nhất) để bao gồm trong đầu vào. Mục tiêu là cải thiện hiệu suất của mô hình trên các nhiệm vụ yêu cầu nhiều bước suy nghĩ.
Cách Thức Hoạt Động:
- Chọn Ví Dụ: Đầu vào được chọn dựa trên số bước suy nghĩ chúng chứa.
- Tính Nhất Quán Dựa Trên Độ Phức Tạp: Trong quá trình giải mã, nhiều chuỗi suy nghĩ được lấy mẫu và quyết định đa số được thực hiện từ các chuỗi suy nghĩ phức tạp nhất.
Lợi Ích:
- Cải Thiện Hiệu Suất: Độ chính xác đáng kể được cải thiện trên các nhiệm vụ lý luận đa bước.
- Khả Năng Kháng Nhiễu: Hiệu quả ngay cả khi phân bố đầu vào khác nhau và dữ liệu nhiễu.
Cung Cấp Đầu Vào Tiến Bộ Theo Gợi Ý (PHP)
Đây Là Gì: PHP là một kỹ thuật lặp lại, sử dụng các lý do được tạo trước đó như gợi ý để tinh chỉnh phản hồi của mô hình. Phương pháp này tận dụng phản hồi trước đó của mô hình để hướng dẫn nó đến phản hồi chính xác thông qua nhiều lần lặp.
Cách Thức Hoạt Động:
- Phản Hồi Ban Đầu: Mô hình tạo ra phản hồi cơ bản sử dụng một đầu vào tiêu chuẩn.
- Gợi Ý Và Tinh Chỉnh: Phản hồi này sau đó được sử dụng như một gợi ý trong các đầu vào tiếp theo để tinh chỉnh phản hồi.
- Quá Trình Lặp: Quá trình này tiếp tục cho đến khi phản hồi ổn định qua các lần lặp liên tiếp.
Lợi Ích:
- Độ Chính Xác: Cải thiện đáng kể độ chính xác của lý luận.
- Hiệu Suất: Giảm số lượng đường dẫn mẫu cần thiết, tăng hiệu quả tính toán.
Cung Cấp Đầu Vào Phân Tích (DecomP)
Đây Là Gì: DecomP là một phương pháp phân chia các nhiệm vụ phức tạp thành các nhiệm vụ con đơn giản hơn, mỗi nhiệm vụ được xử lý bởi một đầu vào hoặc mô hình cụ thể. Cách tiếp cận mô-đun này cho phép xử lý các vấn đề phức tạp một cách hiệu quả hơn.
Cách Thức Hoạt Động:
- Phân Chia Nhiệm Vụ: Vấn đề chính được chia thành các nhiệm vụ con.
- Xử Lý Nhiệm Vụ Con: Mỗi nhiệm vụ con được quản lý bởi một mô hình hoặc đầu vào chuyên dụng.
- Tích Hợp Mô-Đun: Những người xử lý này có thể được tối ưu hóa, thay thế hoặc kết hợp theo nhu cầu để giải quyết nhiệm vụ phức tạp.
Lợi Ích:
- Linhh hoạt: Dễ dàng gỡ lỗi và cải thiện các nhiệm vụ con cụ thể.
- Khả Năng Mở Rộng: Xử lý các nhiệm vụ có ngữ cảnh dài và các nhiệm vụ con phức tạp một cách hiệu quả.
Cung Cấp Đầu Vào Từ Giả Thuyết Đến Lý Thuyết (HtT)
Đây Là Gì: HtT sử dụng một quá trình khám phá khoa học, nơi mô hình tạo ra và xác minh các giả thuyết để giải quyết các vấn đề phức tạp. Phương pháp này liên quan đến việc tạo ra một thư viện quy tắc từ các giả thuyết đã được xác minh, mà mô hình sử dụng để lý luận.
Cách Thức Hoạt Động:
- Giai Đoạn Đánh Giả: Mô hình tạo ra các quy tắc tiềm năng và xác minh chúng đối với các ví dụ đào tạo.
- Tạo Thư Viện Quy Tắc: Các quy tắc đã được xác minh được thu thập để tạo thành một thư viện quy tắc.
- Giai Đoạn Xác Minh: Mô hình áp dụng các quy tắc này để các vấn đề mới, sử dụng thư viện quy tắc để hướng dẫn quá trình lý luận.
Lợi Ích:
- Độ Chính Xác: Giảm thiểu khả năng xảy ra lỗi bằng cách dựa vào một tập hợp quy tắc đã được xác minh.
- Khả Năng Chuyển Đổi: Các quy tắc đã học có thể được chuyển đổi giữa các mô hình và hình thức vấn đề khác nhau.
Các Kỹ Thuật Cung Cấp Đầu Vào Cải Tiến Bằng Công Cụ
Toolformer
Toolformer tích hợp LLM với các công cụ bên ngoài thông qua các API văn bản-sang-văn bản, cho phép mô hình sử dụng các công cụ này để giải quyết các vấn đề mà nó không thể giải quyết một mình. Ví dụ, một LLM có thể gọi một API máy tính để thực hiện các phép toán.
Chameleon
Chameleon sử dụng một bộ điều khiển LLM trung tâm để tạo ra một chương trình tự nhiên để kết hợp và thực hiện một loạt các công cụ, bao gồm LLM, mô hình tầm nhìn, công cụ tìm kiếm web và hàm Python. Cách tiếp cận này tận dụng một loạt các công cụ và mô hình để giải quyết các nhiệm vụ lý luận phức tạp, đa phương thức.
GPT4Tools
GPT4Tools tinh chỉnh các LLM mã nguồn mở để sử dụng các công cụ đa phương thức thông qua một cách tiếp cận tự hướng dẫn, chứng minh rằng ngay cả các mô hình không độc quyền cũng có thể tận dụng các công cụ bên ngoài để cải thiện hiệu suất.
Gorilla và HuggingGPT
Cả Gorilla và HuggingGPT tích hợp LLM với các mô hình học sâu chuyên dụng có sẵn trực tuyến. Những hệ thống này sử dụng một quá trình tinh chỉnh có nhận thức về việc thu hồi và một cách tiếp cận lập kế hoạch và phối hợp để giải quyết các nhiệm vụ phức tạp liên quan đến nhiều mô hình.
Các Mô Hình Ngôn Ngữ Được Hỗ Trợ Bằng Chương Trình (PALs) và Chương Trình Của Tư Duy (PoTs)
Ngoài việc tích hợp với các công cụ bên ngoài, các nhà nghiên cứu đã khám phá cách cải thiện khả năng giải quyết vấn đề của LLM bằng cách kết hợp ngôn ngữ tự nhiên với các cấu trúc lập trình. Các Mô Hình Ngôn Ngữ Được Hỗ Trợ Bằng Chương Trình (PALs) và Chương Trình Của Tư Duy (PoTs) là hai cách tiếp cận như vậy, tận dụng mã để tăng cường quá trình suy nghĩ của LLM.
PALs yêu cầu LLM tạo ra một lý do bao gồm cả ngôn ngữ tự nhiên và mã (ví dụ: Python), có thể được thực thi để tạo ra giải pháp cuối cùng. Cách tiếp cận này giải quyết một trường hợp thất bại phổ biến khi LLM tạo ra lý do chính xác nhưng tạo ra giải pháp cuối cùng không chính xác.
Tương tự, PoTs sử dụng một thư viện toán học biểu tượng như SymPy, cho phép LLM xác định các biểu thức toán học và biểu thức có thể được kết hợp và đánh giá bằng hàm giải của SymPy. Bằng cách ủy thác các tính toán phức tạp cho một trình thông dịch mã, những kỹ thuật này tách lý luận khỏi tính toán, cho phép LLM giải quyết các vấn đề phức tạp một cách hiệu quả.
Hiểu và Tận Dụng Cửa Sổ Ngữ Cảnh
Hiệu suất của LLM phụ thuộc mạnh vào khả năng xử lý và tận dụng ngữ cảnh được cung cấp trong đầu vào. Các nhà nghiên cứu đã điều tra cách LLM xử lý các ngữ cảnh dài và tác động của thông tin không liên quan hoặc gây phân tâm lên đầu ra của chúng.
Hiện tượng “Mất Trong Giữa” nhấn mạnh cách LLM có xu hướng tập trung nhiều hơn vào thông tin ở đầu và cuối ngữ cảnh, trong khi thông tin ở giữa thường bị bỏ qua hoặc “mất”. Sự hiểu biết này có ý nghĩa quan trọng đối với kỹ thuật cung cấp đầu vào, vì việc đặt thông tin liên quan một cách cẩn thận trong ngữ cảnh có thể ảnh hưởng đáng kể đến hiệu suất.
Một hướng nghiên cứu khác tập trung vào việc giảm thiểu tác động tiêu cực của ngữ cảnh không liên quan, điều này có thể làm giảm đáng kể hiệu suất của LLM. Các kỹ thuật như tính nhất quán, hướng dẫn rõ ràng để bỏ qua thông tin không liên quan và bao gồm các ví dụ thể hiện cách giải quyết vấn đề với thông tin không liên quan có thể giúp LLM học cách tập trung vào thông tin quan trọng nhất.
Cải Thiện Khả Năng Viết Với Các Chiến Lược Cung Cấp Đầu Vào
Mặc dù LLM tạo ra văn bản giống con người, khả năng viết của chúng có thể được cải thiện thêm thông qua các chiến lược cung cấp đầu vào chuyên dụng. Một kỹ thuật như vậy là cung cấp đầu vào theo khung suy nghĩ, nhằm giảm độ trễ của giải mã tuần tự bằng cách bắt chước quá trình viết của con người.
Cung cấp đầu vào theo khung suy nghĩ liên quan đến việc yêu cầu LLM tạo ra một khung hoặc tóm tắt của phản hồi trước, sau đó là các cuộc gọi API song song để điền vào chi tiết của từng phần tử trong tóm tắt. Cách tiếp cận này không chỉ cải thiện độ trễ của giải mã mà còn có thể nâng cao chất lượng viết bằng cách khuyến khích LLM lên kế hoạch và cấu trúc đầu ra của nó một cách hiệu quả hơn.
Một chiến lược cung cấp đầu vào khác, cung cấp đầu vào theo chuỗi mật độ, tập trung vào việc cải thiện mật độ thông tin của các bản tóm tắt được LLM tạo ra. Bằng cách thêm các thực thể vào tóm tắt trong khi giữ nguyên độ dài, cung cấp đầu vào theo chuỗi mật độ cho phép người dùng khám phá sự cân bằng giữa tính súc tích và tính đầy đủ, cuối cùng tạo ra các bản tóm tắt thông tin và dễ đọc hơn.
Hướng Tiếp Cận Mới Và Tương Lai
Kỹ Thuật Cung Cấp Đầu Vào Tiên Tiến
Lĩnh vực kỹ thuật cung cấp đầu vào đang phát triển nhanh chóng, với các nhà nghiên cứu liên tục khám phá các chân trời mới và đẩy ranh giới của những gì có thể đạt được với LLM. Một số hướng tiếp cận mới bao gồm:
- Cung Cấp Đầu Vào Chủ Động: Các kỹ thuật tận dụng các nguyên tắc học chủ động dựa trên sự không chắc chắn để xác định và gắn nhãn các ví dụ hữu ích nhất cho việc giải quyết các vấn đề lý luận cụ thể.
- Cung Cấp Đầu Vào Đa Phương Tiện: Mở rộng các chiến lược cung cấp đầu vào để xử lý các đầu vào đa phương tiện kết hợp văn bản, hình ảnh và các loại dữ liệu khác.
- Tự Động Hóa Tạo Đầu Vào: Phát triển các kỹ thuật tối ưu hóa để tự động tạo ra các đầu vào hiệu quả được tùy chỉnh cho các nhiệm vụ hoặc lĩnh vực cụ thể.
- Giải Thích và Minh Bạch: Khám phá các phương pháp cung cấp đầu vào cải thiện khả năng giải thích và minh bạch của đầu ra LLM, cho phép sự minh bạch và tin cậy cao hơn trong các quy trình ra quyết định của chúng.
Khi LLM tiếp tục tiến bộ và tìm thấy ứng dụng trong nhiều lĩnh vực, kỹ thuật cung cấp đầu vào sẽ đóng vai trò quan trọng trong việc giải phóng toàn bộ tiềm năng của chúng. Bằng cách tận dụng các kỹ thuật cung cấp đầu vào mới nhất và các chiến lược, các nhà nghiên cứu và chuyên gia thực tế có thể phát triển các giải pháp AI mạnh mẽ, đáng tin cậy và cụ thể cho nhiệm vụ hơn, đẩy ranh giới của những gì có thể đạt được với xử lý ngôn ngữ tự nhiên.
Kết Luận
Lĩnh vực kỹ thuật cung cấp đầu vào cho các mô hình ngôn ngữ lớn đang phát triển nhanh chóng, với các nhà nghiên cứu liên tục đẩy ranh giới của những gì có thể đạt được. Từ việc nâng cao khả năng lý luận với các kỹ thuật như cung cấp đầu vào theo chuỗi suy nghĩ đến việc tích hợp LLM với các công cụ và chương trình bên ngoài, những tiến bộ mới nhất trong kỹ thuật cung cấp đầu vào đang mở ra các chân trời mới trong trí tuệ nhân tạo.
