Hướng dẫn cơ bản về Kỹ thuật nhắc nhở trong ChatGPT

Kể từ khi ra mắt, ChatGPT đã và đang tạo nên làn sóng trong lĩnh vực AI, thu hút hơn 100 triệu người dùng trong thời gian kỷ lục. Bí quyết tạo nên hiệu suất ấn tượng và tính linh hoạt của ChatGPT nằm ở một nghệ thuật ẩn chứa tinh tế trong chương trình của nó – kỹ thuật nhanh chóng.

Ra mắt vào năm 2022, DALL-E, MidJourney và StableDiffusion đã nhấn mạnh tiềm năng đột phá của Trí tuệ nhân tạo Sáng tạo. Nhưng nó đã được Mở AIChatGPT của Google đã thực sự chiếm vị trí trung tâm vào cuối năm 2022. Và động lực này không có dấu hiệu chậm lại.

Thông báo của Google về Bard và Lamma 2 của Meta  phản ứng với ChatGPT của OpenAI đã khuếch đại đáng kể động lực của cuộc đua AI. Bằng cách cung cấp thông tin đầu vào cho các mô hình này, chúng tôi đang định hướng hành vi và phản ứng của chúng. Điều này khiến tất cả chúng ta nhắc nhở các kỹ sư ở một mức độ nhất định. Ngành công nghiệp công nghệ đã chú ý. Các nhà đầu tư mạo hiểm đang đổ tiền vào các công ty khởi nghiệp tập trung vào kỹ thuật nhanh chóng, như giấy da AI. Hơn nữa, Forbes báo cáo rằng các kỹ sư nhanh chóng chỉ huy mức lương vượt quá 300,000 đô la, dấu hiệu của một thị trường việc làm thịnh vượng và có giá trị.

Trong bài viết này, chúng tôi sẽ làm sáng tỏ thế giới kỹ thuật nhanh chóng trong bối cảnh ChatGPT. Chúng ta sẽ khám phá các nguyên tắc và kỹ thuật cốt lõi cũng như kiểm tra các ứng dụng thương mại của chúng.

Trước tiên, hãy hiểu cách hoạt động của ChatGPT và vai trò then chốt của kỹ thuật nhắc nhở trong quá trình này.

Cơ chế đằng sau ChatGPT Prompt Engineering

Bí mật đằng sau thành công của ChatGPT là khả năng hiểu và bắt chước các sắc thái trong cuộc trò chuyện của con người. Mô hình được đào tạo trên nhiều loại văn bản internet, nhưng điều quan trọng là nó không biết các tài liệu hoặc nguồn cụ thể trong tập huấn luyện của mình, đảm bảo tính khái quát hơn tính cụ thể. Phương pháp đào tạo này cho phép ChatGPT tạo phản hồi sáng tạo, điều hướng các cuộc đối thoại phức tạp và thậm chí thể hiện khiếu hài hước. Tuy nhiên, điều quan trọng cần nhớ là ChatGPT không thực sự hiểu hoặc có niềm tin; nó tạo ra các phản hồi dựa trên các mẫu mà nó đã học được trong quá trình đào tạo.

ChatGPT có khả năng hiểu và phản hồi ngôn ngữ của con người theo cách sắc thái và nhận biết ngữ cảnh khiến chúng trở thành những công cụ vô cùng linh hoạt.

Cơ chế của các mô hình này dựa trên khái niệm 'mã thông báo'—các đoạn ngôn ngữ rời rạc có thể bao gồm từ một ký tự đơn lẻ đến cả một từ. Các mô hình này hoạt động với một số lượng mã thông báo cụ thể tại một thời điểm (4096 cho GPT-3.5-Turbo hoặc 8192 hoặc 32768 cho GPT-4), dự đoán chuỗi tiếp theo của các mã thông báo có khả năng xảy ra. Các mô hình xử lý mã thông báo bằng cách sử dụng đại số tuyến tính phức tạp, dự đoán mã thông báo tiếp theo có thể xảy ra nhất.

Chẳng hạn, một câu chín từ đơn giản có thể biến thành mười mã thông báo. Ngay cả một từ phức tạp duy nhất cũng có thể biến thành nhiều mã thông báo, giúp mô hình hiểu và tạo ngôn ngữ tốt hơn. Ngay cả những ngôn ngữ có cấu trúc từ phức tạp, như tiếng Đức, cũng được quản lý thông qua mã thông báo.

Các mô hình GPT (Generative Pre-training Transformer) hoạt động bằng cách tạo mỗi lần một mã thông báo, bắt đầu từ mã thông báo đầu tiên và tiếp tục cho đến mã thông báo cuối cùng. Sau khi tạo từng mã thông báo, mô hình sẽ xem lại toàn bộ chuỗi và xử lý lại để tạo mã thông báo tiếp theo. Quá trình lặp lại này tiếp tục cho đến khi mã thông báo cuối cùng được tạo, làm cho việc tạo văn bản tương tự như một vòng lặp for lớn.

Nhưng điểm mấu chốt là – chất lượng của những phản hồi này phần lớn phụ thuộc vào lời nhắc mà nó nhận được. Cũng giống như điều khiển một cuộc trò chuyện với con người, việc hướng dẫn một cuộc đối thoại với ChatGPT đòi hỏi một mức độ kỹ năng và hiểu biết nhất định. Đó là nơi kỹ thuật nhanh chóng phát huy tác dụng.

Kỹ thuật nhanh là gì?

Prompt Engineering là nghệ thuật tạo ra các lời nhắc/đầu vào chính xác, hiệu quả để hướng dẫn AI (NLP/Vision) như ChatGPT để tạo ra kết quả đầu ra hiệu quả nhất về chi phí, chính xác, hữu ích và an toàn.

Kỹ thuật nhắc nhở không chỉ giới hạn ở việc tạo văn bản mà còn có các ứng dụng trên phạm vi rộng trên lĩnh vực AI. Nó ngày càng được sử dụng nhiều trong các lĩnh vực như robot tự động hóa quy trình, tài sản 3D, tập lệnh, hướng dẫn robot cũng như các loại nội dung và phương tiện kỹ thuật số khác. Nó cung cấp sự kết hợp độc đáo giữa logic, mã hóa, nghệ thuật và trong một số trường hợp nhất định, các công cụ sửa đổi đặc biệt.

Mặc dù lời nhắc có thể bao gồm văn bản ngôn ngữ tự nhiên, hình ảnh hoặc các loại dữ liệu đầu vào khác, nhưng đầu ra có thể khác nhau đáng kể giữa các dịch vụ và công cụ AI. Mọi công cụ đều có các công cụ sửa đổi đặc biệt mô tả trọng lượng của từ, kiểu, phối cảnh, bố cục hoặc các thuộc tính khác của phản hồi mong muốn.

Lĩnh vực này rất cần thiết để tạo ra các dịch vụ do AI cung cấp tốt hơn và thu được kết quả vượt trội từ các công cụ AI tổng quát hiện có. Ví dụ: các nhà phát triển doanh nghiệp thường sử dụng kỹ thuật nhanh chóng để điều chỉnh các Mô hình ngôn ngữ lớn (LLM) như GPT-3 để cung cấp năng lượng cho khách hàng. chatbot hoặc xử lý các tác vụ như tạo hợp đồng dành riêng cho ngành.

Quá trình lặp đi lặp lại để sàng lọc nhanh chóng và đo lường hiệu suất AI là yếu tố chính giúp các mô hình AI tạo ra các phản hồi hữu ích, được nhắm mục tiêu cao trong các ngữ cảnh khác nhau.

Trở thành một kỹ sư nhanh chóng

Sức mạnh của mô hình GPT-4 trong việc hiểu các hướng dẫn phức tạp và giải quyết các vấn đề phức tạp một cách chính xác khiến nó trở thành một tài nguyên vô giá. Tuy nhiên, có nhiều phương pháp khác nhau để tiếp cận các khả năng của mô hình này và việc hiểu được các khả năng này có thể rất quan trọng đối với vai trò của một kỹ sư nhanh chóng trong việc tối ưu hóa cả hiệu quả và hiệu quả chi phí.

Về cơ bản, có hai cách để tương tác với các mô hình GPT như GPT-4. Một cách là thông qua API của OpenAI, trong đó chi phí được tính cho mỗi mã thông báo đầu vào và đầu ra. Trong trường hợp này, chi phí cho mỗi mã thông báo 1K có thể dao động dựa trên kích thước bối cảnh. Ví dụ: trong ngữ cảnh 32K lớn hơn, chi phí có thể lên tới 0.06 đô la cho mã thông báo đầu vào và 0.12 đô la cho mã thông báo đầu ra. Do đó, khi xử lý một lượng lớn yêu cầu, chi phí sử dụng có thể nhanh chóng tích lũy.

Ngoài ra, ChatGPT, sử dụng mô hình GPT-4, hoạt động trên mô hình dựa trên đăng ký.

Một nhiệm vụ quan trọng khác trong kỹ thuật nhanh chóng liên quan đến việc điều chỉnh tham số mô hình. Quá trình này liên quan đến việc điều chỉnh các biến mà mô hình sử dụng để đưa ra dự đoán. Bằng cách tinh chỉnh các tham số này, các kỹ sư nhanh chóng có thể cải thiện chất lượng và độ chính xác của các phản hồi của mô hình, làm cho chúng phù hợp và hữu ích hơn theo ngữ cảnh.

Mặc dù nhiều kỹ sư nhanh nhạy đến từ nền tảng công nghệ, nhưng tính chất đa ngành của lĩnh vực này giúp các cá nhân có nền tảng chuyên môn đa dạng có thể tiếp cận được. Ngày càng có nhiều nhà văn, nhà nghiên cứu và thậm chí cả nghệ sĩ tận dụng các kỹ năng độc đáo của họ để nâng cao hiệu quả của các mô hình AI. Sự thay đổi này cũng được phản ánh trong thị trường việc làm, với việc ngày càng có nhiều công ty tìm kiếm các kỹ sư nhanh nhẹn với nhiều kỹ năng và kiến ​​thức nền tảng đa dạng.

Thiết kế và Kỹ thuật Nhanh chóng trong ChatGPT

Thiết kế và Kỹ thuật nhanh chóng đóng một vai trò quan trọng trong việc tối ưu hóa hiệu suất của các mô hình ngôn ngữ và liên quan đến nhiều thứ hơn là chỉ tạo ra các câu hỏi; chúng đòi hỏi sự hiểu biết sâu sắc về mô hình AI và một cách tiếp cận có tính lặp lại và tinh tế cao.

thiết kế nhanh chóng

Về cốt lõi, thiết kế nhanh chóng là nghệ thuật và khoa học tạo ra lời nhắc hoàn hảo cho một mô hình ngôn ngữ lớn (LLM) nhất định, như ChatGPT, để đạt được mục tiêu đã nêu rõ ràng. Đó là sự pha trộn của:

• Hiểu biết về LLM: Các mô hình ngôn ngữ khác nhau có thể phản ứng khác nhau với cùng một lời nhắc. Ngoài ra, các mô hình ngôn ngữ nhất định có thể có các từ khóa hoặc trình kích hoạt duy nhất mà chúng diễn giải theo một cách cụ thể.
• Kiến thức miền: Chuyên môn trong lĩnh vực liên quan là rất quan trọng khi thiết kế lời nhắc. Ví dụ: tạo lời nhắc để suy ra chẩn đoán y khoa sẽ yêu cầu kiến ​​thức y khoa.
• Phương pháp tiếp cận lặp đi lặp lại và đo lường chất lượng: Quá trình tạo lời nhắc lý tưởng thường liên quan đến thử và sai. Do đó, có một cách để đánh giá chất lượng đầu ra ngoài phán đoán chủ quan là rất quan trọng, đặc biệt khi sử dụng lời nhắc ở quy mô lớn hơn.

Kỹ thuật nhanh chóng

Kỹ thuật nhanh chóng là một lĩnh vực mở rộng của thiết kế nhanh chóng bao gồm một số quy trình quan trọng:

• Thiết kế lời nhắc theo tỷ lệ: Quá trình này bao gồm thiết kế lời nhắc meta (lời nhắc tạo ra các lời nhắc khác) và mẫu lời nhắc, là các lời nhắc được tham số hóa có thể được khởi tạo trong thời gian chạy.
• Thiết kế và tích hợp công cụ: Lời nhắc đôi khi có thể bao gồm kết quả từ các công cụ bên ngoài và việc tích hợp các công cụ này liền mạch vào hệ thống là rất quan trọng.
• Quản lý quy trình làm việc, lập kế hoạch và nhắc nhở: Triển khai ứng dụng LLM, như chatbot, thường yêu cầu quản lý thư viện lời nhắc, lập kế hoạch và chọn lời nhắc phù hợp cũng như tích hợp hiệu quả các công cụ khác nhau.
• Đánh giá và đảm bảo chất lượng của lời nhắc: Khía cạnh này bao gồm việc xác định số liệu và quy trình để đánh giá lời nhắc cả tự động và có sự tham gia của con người.
• Tối ưu hóa nhanh chóng: Chi phí và độ trễ của mô hình AI có thể phụ thuộc vào sự lựa chọn của mô hình và độ dài của lời nhắc (số lượng mã thông báo).

Nhiều phương pháp, công cụ và khung thiết kế lời nhắc tự động đã được phát triển để quản lý lời nhắc trên quy mô lớn. Tuy nhiên, điều quan trọng là phải hiểu rằng không có công cụ nào trong số này có thể thay thế sự hiểu biết, phán đoán và kinh nghiệm sắc thái của một kỹ sư nhanh nhẹn dày dạn kinh nghiệm.

Kỹ thuật nhanh chóng: Kỹ thuật và thực tiễn tốt nhất

1) Vị trí và mô tả nhanh chóng

Đặt hướng dẫn ngay từ đầu lời nhắc có thể tác động đáng kể đến khả năng hiểu và phản hồi của AI. Hãy xem xét nhiệm vụ tóm tắt một văn bản ở định dạng dấu đầu dòng. Một cách tiếp cận kém hiệu quả hơn sẽ là:

người sử dang: Tóm tắt văn bản dưới đây dưới dạng danh sách gạch đầu dòng những điểm quan trọng nhất.
{nhập văn bản ở đây}

Mặt khác, một kỹ thuật hiệu quả hơn có thể là:

người sử dang: Tóm tắt văn bản dưới đây dưới dạng danh sách gạch đầu dòng những điểm quan trọng nhất.
Chữ: """
{nhập văn bản ở đây}
"" "

Bằng cách phân tách rõ ràng hướng dẫn và ngữ cảnh bằng các ký hiệu như ### hoặc “””, mô hình AI có thể phân định rõ hơn nhiệm vụ và văn bản mà nó cần xử lý, từ đó đưa ra phản hồi chính xác và phù hợp hơn.

Thứ hai, cụ thể, mô tả và chi tiết về bối cảnh, kết quả mong đợi, độ dài, định dạng, phong cách, v.v. có thể nâng cao đáng kể độ chính xác của phản hồi AI. Giả sử bạn cần tạo một bản tổng quan ngắn gọn về một bài báo khoa học theo phong cách hấp dẫn, thân thiện với người dùng. Một hướng dẫn mơ hồ như “Tóm tắt bài báo khoa học” sẽ mang lại kết quả kém hiệu quả hơn so với một lời nhắc cụ thể, chi tiết:

người sử dang: Tạo một bản tóm tắt ngắn gọn (khoảng 200 từ), hấp dẫn về bài báo khoa học sau đây. Bản tóm tắt phải dễ hiểu đối với người không có nền tảng khoa học, đồng thời phản ánh chính xác những phát hiện chính của bài báo.
Giấy: """
{văn bản bài báo khoa học ở đây}
"" "

2) Mẫu tính cách

Mẫu Persona là một chiến lược đặt AI hoạt động từ một góc độ nhất định, chẳng hạn như vai trò chuyên nghiệp hoặc nhân vật hư cấu. Chiến thuật này cho phép mô hình cung cấp kết quả đầu ra liên quan đến các vai trò cụ thể mà nhân vật sẽ đảm nhận. Chẳng hạn, người ta có thể hướng dẫn AI hoạt động như một chuyên gia an ninh mạng trong quá trình xem xét mã. Mẫu này đặc biệt hữu ích khi người dùng cần hỗ trợ nhưng không chắc chắn về các chi tiết chính xác được yêu cầu trong đầu ra.

Lấy ví dụ sau:

người sử dang: “Giả sử là một nhà sử học cấp cao chuyên về Cách mạng Pháp. Với tính cách đó, hãy giải thích các sự kiện và lý do chính dẫn đến sự sụp đổ của chế độ quân chủ Pháp.”

Trong kịch bản này, AI dự kiến ​​sẽ phản hồi bằng một phân tích chuyên sâu về Cách mạng Pháp, tập trung vào sự sụp đổ của chế độ quân chủ, như một nhà sử học sẽ làm.

Giới thiệu thông tin mới

ChatGPT không có kiến ​​thức ngoài giới hạn đào tạo, do đó, nó không thể cung cấp thông tin về các sự kiện hoặc cập nhật gần đây sau khi đào tạo. Tuy nhiên, bạn có thể giới thiệu thông tin mới cho mô hình thông qua lời nhắc của mình.

người sử dang: “Tiền điện tử là gì?”
ChatGPT: “Tiền điện tử là một loại tiền kỹ thuật số hoặc tiền ảo sử dụng mật mã để bảo mật. Tiền điện tử nổi tiếng nhất là Bitcoin.”

Bây giờ, nếu chúng ta thêm một chút ngữ cảnh vào lời nhắc, chúng ta có thể làm cho lời giải thích trở nên trực quan hơn:

người sử dang: “Giải thích khái niệm về tiền điện tử cho một học sinh trung học đang học ngành tài chính kỹ thuật số”
ChatGPT: “Hãy tưởng tượng bạn đang chơi trò chơi điện tử trực tuyến và bạn có thể kiếm được tiền từ trò chơi để mua các bản nâng cấp hoặc nhân vật mới. Tiền điện tử cũng giống như vậy, nhưng thay vì bị giới hạn trong trò chơi, bạn thực sự có thể sử dụng nó để mua hàng hóa và dịch vụ trong thế giới thực. Nó giống như tiền kỹ thuật số mà không có ngân hàng hay chính phủ nào kiểm soát.”

3) Giới hạn kích thước nhắc nhở

Hiểu giới hạn kích thước của ChatGPT là điều cần thiết vì nó ảnh hưởng trực tiếp đến khối lượng và loại thông tin mà chúng tôi có thể nhập. Các mô hình ngôn ngữ không được xây dựng để xử lý dữ liệu không giới hạn cùng một lúc. Chúng có một ràng buộc cố hữu về kích thước của lời nhắc mà chúng ta có thể tạo và nhập. Hạn chế này có ý nghĩa sâu sắc đối với việc thiết kế và thực hiện các lời nhắc.

ChatGPT có giới hạn mã thông báo (thường là 2048 mã thông báo), bao gồm cả lời nhắc và phản hồi được tạo. Điều này có nghĩa là lời nhắc dài có thể giới hạn độ dài của phản hồi. Do đó, điều quan trọng là giữ cho lời nhắc ngắn gọn nhưng đầy đủ thông tin.

Trong sử dụng thực tế, chúng ta phải đóng vai trò là người biên tập, lựa chọn có chọn lọc thông tin phù hợp nhất cho nhiệm vụ hiện tại. Hãy tưởng tượng bạn đang viết một bài báo hoặc một bài báo có giới hạn từ hoặc trang – bạn không thể chỉ đưa ra các sự kiện ngẫu nhiên mà phải lựa chọn và sắp xếp cẩn thận thông tin liên quan đến chủ đề.

người sử dang: “Với các giới hạn mã thông báo của mô hình, hãy tóm tắt các sự kiện chính của Thế chiến II trong vòng chưa đầy 1000 từ.”

Bằng cách thừa nhận các giới hạn mã thông báo của mô hình, lời nhắc này chỉ đạo AI cung cấp một bản tóm tắt ngắn gọn nhưng toàn diện về Thế chiến II.

Lời nhắc để sử dụng nhiều lần: Trong một tình huống đàm thoại, bạn có thể sử dụng lại lời nhắc hoặc tinh chỉnh chúng dựa trên các phản hồi trước đó. Điều này mang lại luồng hội thoại và duy trì ngữ cảnh trong tương tác.

4) Mô hình sàng lọc câu hỏi

ChatGPT cũng có thể giúp điều chỉnh các câu hỏi của bạn. Ví dụ: nếu bạn đặt câu hỏi, nó có thể đề xuất một câu hỏi có cấu trúc tốt hơn để có kết quả chính xác hơn.

Mẫu sàng lọc câu hỏi liên quan đến việc LLM sàng lọc các câu hỏi do người dùng đặt ra. Nó đặc biệt hữu ích khi người dùng không phải là chuyên gia trong một miền hoặc không chắc chắn về cách diễn đạt câu hỏi của họ.

Một dấu nhắc ví dụ có thể trông như thế này:

người sử dang: “Bất cứ khi nào tôi đặt câu hỏi về khoa học dữ liệu, hãy đề xuất một câu hỏi tinh tế hơn khi xem xét các chi tiết cụ thể về phân tích thống kê và hỏi xem tôi có muốn tiếp tục với câu hỏi tinh tế đó không.”

Tại đây, AI dự kiến ​​sẽ tinh chỉnh các câu hỏi khoa học dữ liệu chung của người dùng thành các câu hỏi chi tiết hơn khi xem xét các khía cạnh phân tích thống kê.

5) Mẫu xác minh nhận thức

Mẫu Trình xác minh nhận thức chia các câu hỏi phức tạp thành các câu hỏi phụ nhỏ hơn, có thể quản lý được. Các câu trả lời cho những câu hỏi phụ này sau đó được kết hợp để cung cấp một câu trả lời toàn diện cho câu hỏi chính. Cách tiếp cận này hữu ích khi các câu hỏi ban đầu quá phức tạp hoặc khi cần thêm sự rõ ràng để đưa ra câu trả lời hoàn chỉnh.

Ví dụ:

người sử dang: “Nếu tôi hỏi một câu hỏi về biến đổi khí hậu, hãy chia nó thành ba câu hỏi nhỏ hơn để giúp bạn đưa ra câu trả lời chính xác hơn. Kết hợp các câu trả lời cho những câu hỏi phụ này để đưa ra câu trả lời cuối cùng.”

Trong kịch bản này, AI sẽ chia câu hỏi phức tạp về biến đổi khí hậu thành ba câu hỏi phụ có thể quản lý được. Sau khi nhận được câu trả lời cho những câu hỏi phụ này, AI sẽ kết hợp những câu hỏi này để đưa ra câu trả lời toàn diện và chính xác hơn.

Mẫu này liên quan đến việc tạo ra nhiều câu hỏi để có được câu trả lời cuối cùng chính xác hơn. Đó là một quá trình xác minh và hợp nhất thông tin để có kết quả cuối cùng mạnh mẽ

6) Phương pháp tiếp cận nhắc nhở ít lần

Gợi ý ngắn gọn là một cách tiếp cận mạnh mẽ để dạy các mô hình AI tuân theo các mẫu cụ thể hoặc thực hiện các nhiệm vụ. Ý tưởng là cung cấp cho mô hình một số ví dụ trước khi đặt câu hỏi mong muốn. Điều này giúp thiết lập hành vi mong muốn và hướng dẫn phản hồi của mô hình.

Hãy xem xét một tình huống trong đó người dùng đang cố gắng soạn thảo một bản sao tiếp thị ngắn gọn, hấp dẫn cho một tiện ích công nghệ mới:

người sử dang: “Dưới đây là một số ví dụ về bản sao tiếp thị công nghệ: 'Trải nghiệm âm nhạc chưa từng có với tai nghe không dây tiên tiến của chúng tôi.' 'Ghi lại thế giới của bạn ở độ phân giải 4K tuyệt đẹp với camera hành động siêu đẹp của chúng tôi.' Với những ví dụ này, hãy phác thảo một bản sao tiếp thị cho chiếc đồng hồ thông minh hỗ trợ AI mới của chúng tôi.”

ChatGPT: “Nâng cao phong cách sống của bạn với chiếc đồng hồ thông minh hỗ trợ AI của chúng tôi, người bạn đồng hành của bạn về sức khỏe, khả năng kết nối và năng suất.” Đặc điểm đáng chú ý của phương pháp học từng bước là nó không yêu cầu mô tả chi tiết về cách thực hiện nhiệm vụ. Thay vào đó, nó yêu cầu các bản trình diễn về những gì đang được thực hiện, điều này có thể làm cho nó phù hợp với nhiều ứng dụng.

Hơn nữa, kỹ thuật này mở rộng ra ngoài việc ghép nối đầu vào-đầu ra đơn giản. Mô hình cũng có thể được dạy để xử lý các bước trung gian để đạt được mục tiêu.

7) Gợi ý theo chuỗi suy nghĩ

Trong bài báo nghiên cứu gần đây của họ, “Gợi ý chuỗi suy nghĩ gợi ra suy luận trong các mô hình ngôn ngữ lớn” tác giả Jason Wei và nhóm nhằm mục đích kích thích lý luận trong các mô hình ngôn ngữ lớn. Thay vì sử dụng các lời nhắc trực tiếp, truyền thống, nhóm sử dụng một loạt các lời nhắc được kết nối với nhau, tạo thành một 'chuỗi suy nghĩ'.

Chẳng hạn, người dùng có thể quan tâm đến tác động tiềm năng của trí tuệ nhân tạo đối với thị trường việc làm:

người sử dang: “Bạn có thể giải thích ngắn gọn về khái niệm trí tuệ nhân tạo không?”

ChatGPT: “Trí tuệ nhân tạo, hay AI, đề cập đến khả năng của một cỗ máy bắt chước hành vi thông minh của con người. Đó là việc thiết kế những cỗ máy có thể suy nghĩ và học hỏi như con người, cho phép chúng thực hiện các nhiệm vụ như dịch ngôn ngữ, ra quyết định và giải quyết vấn đề, cùng nhiều nhiệm vụ khác.”

người sử dang: “AI đang ảnh hưởng đến thị trường việc làm hiện tại như thế nào?”

ChatGPT: “AI vừa tạo ra việc làm mới vừa thay đổi bản chất của những việc làm hiện có. Một mặt, nó tự động hóa các công việc thường ngày, dẫn đến sự dịch chuyển công việc trong một số lĩnh vực nhất định. Mặt khác, nó đang tạo ra nhu cầu về những vai trò chưa từng tồn tại trước đây, chẳng hạn như nhân viên đạo đức AI, nhà phân tích dữ liệu và kỹ sư máy học. Ngoài ra, AI có thể tăng cường vai trò của con người, cho phép con người hoàn thành nhiệm vụ hiệu quả và chính xác hơn.”

Lời nhắc theo chuỗi suy nghĩ tuân theo tiến trình của các lời nhắc có liên quan, duy trì 'cuộc trò chuyện' với mô hình hướng dẫn mô hình hướng tới các phản hồi chính xác hơn và phù hợp với ngữ cảnh hơn.

Hiểu API ChatGPT và Kỹ thuật nhanh chóng từ góc nhìn của nhà phát triển

Từ quan điểm của nhà phát triển hoặc nhà nghiên cứu, kỹ thuật nhanh chóng là một quá trình phức tạp hơn. Nó liên quan đến việc thiết kế các thuật toán và kỹ thuật để giúp mô hình AI hiểu và phản hồi các lời nhắc hiệu quả hơn. Điều này có thể bao gồm các chiến lược để xử lý các lời nhắc không rõ ràng, xác định ngữ cảnh của các lời nhắc hoặc xâu chuỗi các lời nhắc lại với nhau để kích thích các quá trình suy nghĩ phức tạp hơn trong AI

Trong hình minh họa ở trên, người dùng tương tác với giao diện trò chuyện do GPT-4 cung cấp. Dữ liệu đầu vào của họ được một mô-đun chuyên dụng nâng cao tính rõ ràng và nhất quán theo ngữ cảnh trước khi được đưa vào mô hình AI. Vai trò của mô-đun này là tinh chỉnh và nâng cao thông tin đầu vào của người dùng để hiểu rõ hơn đồng thời duy trì ngữ cảnh của cuộc hội thoại. Phản hồi của AI, được tạo dựa trên lời nhắc tinh chỉnh, được trả lại cho người dùng thông qua giao diện trò chuyện. Lịch sử tương tác được cập nhật nhất quán, duy trì bối cảnh đàm thoại. Nhìn chung, sơ đồ này minh họa luồng hội thoại AI-người dùng năng động được kích hoạt bằng các kỹ thuật kỹ thuật nhanh chóng.

Sản phẩm API ChatGPT giao diện được thiết kế với nhiều siêu đường kính khác nhau cho phép người dùng tinh chỉnh các phản hồi của AI đối với các lời nhắc, khiến chúng trở nên hiệu quả và linh hoạt hơn. Chúng bao gồm các tham số Nhiệt độ, Độ dài tối đa và Chuỗi dừng. Hãy khám phá cách chúng hoạt động và có thể được sử dụng trong các ngữ cảnh khác nhau.

1) Nhiệt độ

Thông số nhiệt độ ảnh hưởng đến tính ngẫu nhiên của các phản ứng của AI. Nhiệt độ cao hơn, chẳng hạn như 1.0, khuyến khích đầu ra ngẫu nhiên hơn, dẫn đến các câu trả lời đa dạng nhưng có khả năng lạc đề. Ngược lại, nhiệt độ thấp hơn, chẳng hạn như 0.2, sẽ nhắc AI chọn các phản hồi xác định hơn, điều này có thể có lợi cho các kết quả đầu ra tập trung và cụ thể nhưng có thể thiếu sự đa dạng.

Ví dụ: Nếu bạn đang viết một câu chuyện sáng tạo và muốn có các yếu tố giàu trí tưởng tượng, không thể đoán trước, hãy đặt nhiệt độ thành giá trị cao hơn. Lời nhắc có thể là: “Viết một câu chuyện ngắn về một con mèo du hành thời gian.” Với nhiệt độ cao, bạn có thể có được một câu chuyện hoang dã, kỳ ảo với những khúc ngoặt không thể đoán trước.

2) Chiều dài tối đa

Tham số này kiểm soát độ dài mã thông báo tối đa của đầu ra của mô hình, bao gồm cả mã thông báo trong đầu vào và đầu ra thông báo. Đặt giới hạn cao hơn cho phép phản hồi mở rộng hơn, trong khi giới hạn thấp hơn giúp đầu ra ngắn gọn và súc tích.

Ví dụ: Để có câu trả lời ngắn gọn cho những câu hỏi nhỏ như “Ai đã đoạt giải Nobel Văn học năm 2020?” bạn có thể muốn đặt độ dài tối đa thành giá trị thấp, đảm bảo phản hồi ngắn gọn và trực tiếp.

3) Trình tự dừng

Chuỗi dừng là các chuỗi văn bản cụ thể mà khi mô hình gặp chúng, nó sẽ ngừng tạo thêm đầu ra. Tính năng này có thể hữu ích để kiểm soát độ dài của đầu ra hoặc hướng dẫn mô hình dừng tại các điểm cuối logic.

Ví dụ: Đối với một bức thư trang trọng, bạn có thể sử dụng “Trân trọng của bạn” làm trình tự dừng để đảm bảo AI không tạo thêm bất kỳ văn bản nào ngoài phần kết thúc thích hợp của bức thư.

4) Đầu P

Tham số 'Top P', còn được gọi là lấy mẫu hạt nhân, là phương pháp cung cấp lựa chọn động về số lượng từ được xem xét ở mỗi bước dự đoán của mô hình. Giá trị thấp hơn, chẳng hạn như 0.5, dẫn đến đầu ra an toàn hơn, tập trung hơn. Giá trị cao hơn, chẳng hạn như 0.9, bao gồm nhiều lựa chọn từ hơn, dẫn đến kết quả đầu ra đa dạng hơn.

Ví dụ: Nếu bạn đang tạo một AI để viết thơ và muốn nó sử dụng nhiều từ vựng và cụm từ phong cách, bạn có thể đặt 'Top P' thành một giá trị cao hơn. Lời nhắc có thể là: “Hãy soạn một bài thơ về vẻ đẹp của mùa thu.”

5) Hình phạt tần suất

Tần suất hình phạt kiểm soát mức độ mô hình nên ưu tiên các từ ít phổ biến hơn. Hình phạt cao hơn (tối đa 1) khuyến khích mô hình sử dụng các từ ít phổ biến hơn, trong khi giá trị thấp hơn (giảm xuống -1) khuyến khích mô hình sử dụng các từ phổ biến hơn.

Ví dụ: Nếu bạn đang cố gắng tạo một đề xuất kinh doanh và muốn tránh sử dụng biệt ngữ, thì bạn có thể đặt mức phạt tần suất thành một giá trị thấp hơn để giữ cho ngôn ngữ rõ ràng và dễ tiếp cận.

6) Hình phạt hiện diện

Tham số Presence Penalty ảnh hưởng đến mức độ mà mô hình bị phạt vì tạo ra các ý tưởng hoặc chủ đề mới không có trong lịch sử hội thoại. Các giá trị cao hơn khuyến khích mô hình gắn bó với các chủ đề đã được đề cập, trong khi các giá trị thấp hơn cho phép mô hình giới thiệu các khái niệm mới một cách tự do hơn.

Ví dụ: Đối với các phiên động não, bạn có thể đặt hình phạt hiện diện thành giá trị thấp hơn để khuyến khích nhiều ý tưởng khác nhau. Bạn có thể sử dụng lời nhắc như "Tạo chiến lược tiếp thị sáng tạo cho nền tảng giáo dục trực tuyến".

Ứng dụng công nghiệp của kỹ thuật nhanh chóng