ในช่วงไม่กี่ปีที่ผ่านมา โมเดลภาษาขนาดใหญ่ (LLMs) ได้ทำความก้าวหน้าอย่างมากในการเข้าใจและสร้างข้อความที่เหมือนมนุษย์ โมเดลเหล่านี้ เช่น GPT ของ OpenAI และ Claude ของ Anthropic ได้แสดงผลลัพธ์ที่น่าประทับใจในงานประมวลผลภาษา自然หลากหลายประเภท อย่างไรก็ตาม เมื่อถึงงานที่ต้องใช้เหตุผลที่ซับซ้อนซึ่งต้องใช้หลายขั้นตอนของการคิดเชิงตรรกะ วิธีการกระตุ้นแบบดั้งเดิมมักจะไม่เพียงพอ นี่คือที่ที่ Chain-of-Thought (CoT) Prompting มาใช้ โดยเสนอเทคนิคการออกแบบกระตุ้นที่มีพลังในการปรับปรุงความสามารถในการให้เหตุผลของโมเดลภาษาขนาดใหญ่

ข้อสรุปหลัก

1. CoT Prompting ปรับปรุงความสามารถในการให้เหตุผลโดยการสร้างขั้นตอนกลาง
2. มันแบ่งปัญหาที่ซับซ้อนออกเป็นปัญหาย่อยที่จัดการได้
3. ประโยชน์รวมถึงการปรับปรุงประสิทธิภาพ ความเข้าใจได้ และการทำให้ทั่วไป
4. CoT Prompting ใช้กับการให้เหตุผลทางคณิตศาสตร์ การให้เหตุผลโดยอาศัยความสมเหตุสมผล และการให้เหตุผลเชิงสัญลักษณ์
5. มัน มีศักยภาพที่จะส่งผลกระทบอย่างมีนัยสำคัญต่อ AI ในโดเมนหลากหลาย

สิ่งที่เป็น Chain-of-Thought (CoT) Prompting?

Chain-of-Thought Prompting เป็นเทคนิคที่มีจุดมุ่งหมายเพื่อปรับปรุงประสิทธิภาพของโมเดลภาษาขนาดใหญ่ในงานที่ต้องใช้เหตุผลที่ซับซ้อน โดยกระตุ้นโมเดลให้สร้างขั้นตอนการให้เหตุผลกลาง ไม่เหมือนกับวิธีการกระตุ้นแบบดั้งเดิมที่ให้คำถามหรือปัญหาและคาดหวังคำตอบโดยตรง CoT Prompting แบ่งกระบวนการให้เหตุผลออกเป็นขั้นตอนเล็กๆ ที่เชื่อมต่อกัน

ที่แก่นกลาง CoT Prompting เกี่ยวข้องกับการให้คำถามหรือปัญหาแก่โมเดลภาษาแล้วนำทางโมเดลให้สร้าง “ห่วงโซ่ของความคิด” – ลำดับของขั้นตอนการให้เหตุผลกลางที่นำไปสู่คำตอบสุดท้าย โดยการสร้างแบบจำลองกระบวนการให้เหตุผลอย่างชัดเจน CoT Prompting ช่วยให้โมเดลภาษาสามารถจัดการกับงานที่ต้องใช้เหตุผลที่ซับซ้อนได้อย่างมีประสิทธิภาพมากขึ้น

หนึ่งในข้อได้เปรียบหลักของ CoT Prompting คือการอนุญาตให้โมเดลภาษาแบ่งปัญหาใหญ่ๆ ออกเป็นปัญหาย่อยที่จัดการได้ โดยการสร้างขั้นตอนการให้เหตุผลกลาง โมเดลสามารถจัดการกับงานที่ต้องใช้เหตุผลที่ซับซ้อนได้อย่างมีประสิทธิภาพมากขึ้น

CoT Prompting ได้แสดงผลลัพธ์ที่น่าประทับใจในการปรับปรุงประสิทธิภาพของโมเดลภาษาขนาดใหญ่ในงานที่ต้องใช้เหตุผลที่ซับซ้อน รวมถึงการให้เหตุผลทางคณิตศาสตร์ การให้เหตุผลโดยอาศัยความสมเหตุสมผล และการให้เหตุผลเชิงสัญลักษณ์

Standard vs COT prompting (Wei et al., Google Research, Brain Team)

วิธีการทำงานของ Chain-of-Thought Prompting

CoT Prompting ทำงานโดยการสร้างลำดับของขั้นตอนการให้เหตุผลกลางที่นำทางโมเดลภาษาไปสู่กระบวนการให้เหตุผล โดยไม่เพียงแต่ให้คำถามหรือปัญหาและคาดหวังคำตอบโดยตรง CoT Prompting กระตุ้นโมเดลให้แบ่งปัญหาใหญ่ๆ ออกเป็นปัญหาย่อยที่จัดการได้

กระบวนการเริ่มต้นด้วยการนำเสนอโมเดลภาษาด้วยคำถามหรือปัญหาใหญ่ๆ ที่ต้องใช้เหตุผลที่ซับซ้อน โมเดลจะสร้างลำดับของขั้นตอนการให้เหตุผลกลางที่นำไปสู่คำตอบสุดท้าย

ขั้นตอนการให้เหตุผลกลางแต่ละขั้นตอนในห่วงโซ่ของความคิดแทนปัญหาย่อยที่โมเดลต้องแก้ไข โมเดลสามารถจัดการกับงานที่ต้องใช้เหตุผลที่ซับซ้อนได้อย่างมีประสิทธิภาพมากขึ้นโดยการสร้างขั้นตอนการให้เหตุผลกลาง

เมื่อโมเดลดำเนินไปในห่วงโซ่ของความคิด มันจะสร้างขึ้นจากขั้นตอนการให้เหตุผลกลางก่อนหน้าเพื่อไปถึงคำตอบสุดท้าย ขั้นตอนการให้เหตุผลกลางแต่ละขั้นตอนเชื่อมต่อกับขั้นตอนก่อนหน้าและขั้นตอนถัดไป สร้างกระบวนการให้เหตุผลที่มีเหตุผลและเชื่อมต่อกัน

การสร้างขั้นตอนการให้เหตุผลกลางใน CoT Prompting มักจะทำได้โดยใช้เทคนิคการออกแบบกระตุ้นและเทคนิคการฝึกอบรมที่ออกแบบมาเป็นพิเศษ

5-Step COT prompting process

ตัวอย่างของ Chain-of-Thought Prompting

CoT Prompting ได้ถูกนำไปใช้กับงานที่ต้องใช้เหตุผลที่ซับซ้อนหลายประเภท และแสดงผลลัพธ์ที่น่าประทับใจ

การให้เหตุผลทางคณิตศาสตร์

หนึ่งในตัวอย่างที่ตรงไปตรงมาที่สุดของ CoT Prompting คือการนำไปใช้กับงานที่ต้องใช้เหตุผลทางคณิตศาสตร์ โดยการสร้างขั้นตอนการให้เหตุผลกลาง CoT Prompting ช่วยให้โมเดลภาษาสามารถแก้ปัญหาคณิตศาสตร์ที่ซับซ้อนได้อย่างแม่นยำ

ตัวอย่างเช่น ถ้าเรามีปัญหา “ถ้าจอห์นมีแอปเปิ้ล 5 ลูก และแมรีมีแอปเปิ้ล 3 เท่าของจอห์น แล้วแมรีมีแอปเปิ้ลกี่ลูก?”

โดยใช้ CoT Prompting โมเดลภาษาสามารถสร้างห่วงโซ่ของความคิดได้ดังนี้

1. จอห์นมีแอปเปิ้ล 5 ลูก
2. แมรีมีแอปเปิ้ล 3 เท่าของจอห์น
3. ในการหาจำนวนแอปเปิ้ลที่แมรีมี เราต้องคูณแอปเปิ้ลของจอห์นด้วย 3
4. 5 ลูก × 3 = 15 ลูก
5. ดังนั้น แมรีมีแอปเปิ้ล 15 ลูก

การให้เหตุผลโดยอาศัยความสมเหตุสมผล

CoT Prompting ยังได้แสดงผลลัพธ์ที่น่าประทับใจในการนำไปใช้กับงานที่ต้องใช้เหตุผลโดยอาศัยความสมเหตุสมผล ซึ่งต้องใช้ความรู้ทั่วไปและความสามารถในการคิดเชิงตรรกะ

ตัวอย่างเช่น ถ้าเรามีคำถาม “ถ้าบุคคลหนึ่งแพ้ทางเดินและเพื่อนของเขาเชิญเขาไปที่บ้านที่มีสุนัข เขาควรทำอะไร?”

โมเดลภาษาที่ใช้ CoT Prompting อาจสร้างห่วงโซ่ของความคิดได้ดังนี้

1. บุคคลนั้นแพ้ทางเดิน
2. บ้านของเพื่อนมีสุนัข
3. การอยู่ใกล้สุนัขอาจทำให้เกิดอาการแพ้
4. เพื่อหลีกเลี่ยงอาการแพ้ บุคคลนั้นควรปฏิเสธคำเชิญ
5. บุคคลนั้นสามารถแนะนำสถานที่อื่นที่จะพบกับเพื่อน

การให้เหตุผลเชิงสัญลักษณ์

CoT Prompting ยังได้ถูกนำไปใช้กับงานที่ต้องใช้เหตุผลเชิงสัญลักษณ์ ซึ่งเกี่ยวข้องกับการจัดการและให้เหตุผลเกี่ยวกับสัญลักษณ์เชิงนามธรรมและแนวคิด

ตัวอย่างเช่น ถ้าเรามีปัญหา “ถ้า A หมายถึง B และ B หมายถึง C แล้ว A หมายถึง C หรือไม่?”

โดยใช้ CoT Prompting โมเดลภาษาสามารถสร้างห่วงโซ่ของความคิดได้ดังนี้

1. A หมายถึง B หมายความว่าถ้า A เป็นจริง แล้ว B ก็เป็นจริง
2. B หมายถึง C หมายความว่าถ้า B เป็นจริง แล้ว C ก็เป็นจริง
3. ถ้า A เป็นจริง แล้ว B ก็เป็นจริง (จากขั้นตอน 1)
4. ถ้า B เป็นจริง แล้ว C ก็เป็นจริง (จากขั้นตอน 2)
5. ดังนั้น ถ้า A เป็นจริง แล้ว C ก็เป็นจริง
6. ดังนั้น A หมายถึง C

ประโยชน์ของ Chain-of-Thought Prompting

CoT Prompting มีประโยชน์หลายประการในการปรับปรุงความสามารถในการให้เหตุผลของโมเดลภาษาขนาดใหญ่

การปรับปรุงประสิทธิภาพในงานที่ต้องใช้เหตุผลที่ซับซ้อน

หนึ่งในประโยชน์หลักของ CoT Prompting คือการปรับปรุงประสิทธิภาพของโมเดลภาษาในงานที่ต้องใช้เหตุผลที่ซับซ้อน โดยการสร้างขั้นตอนการให้เหตุผลกลาง CoT Prompting ช่วยให้โมเดลภาษาสามารถจัดการกับงานที่ต้องใช้เหตุผลที่ซับซ้อนได้อย่างมีประสิทธิภาพมากขึ้น

การเพิ่มความเข้าใจได้ของกระบวนการให้เหตุผล

อีกประโยชน์หนึ่งของ CoT Prompting คือการเพิ่มความเข้าใจได้ของกระบวนการให้เหตุผล โดยการสร้างห่วงโซ่ของความคิด โมเดลภาษาสามารถให้คำอธิบายที่ชัดเจนและเป็นรูปธรรมเกี่ยวกับวิธีการที่มันไปถึงคำตอบสุดท้าย

ศักยภาพในการทำให้ทั่วไปในงานที่ต้องใช้เหตุผลที่ซับซ้อน

CoT Prompting ยังมีศักยภาพในการทำให้ทั่วไปในงานที่ต้องใช้เหตุผลที่ซับซ้อน โดยการสร้างขั้นตอนการให้เหตุผลกลาง CoT Prompting ช่วยให้โมเดลภาษาสามารถจัดการกับงานที่ต้องใช้เหตุผลที่ซับซ้อนได้อย่างมีประสิทธิภาพมากขึ้น

การอำนวยความสะดวกในการพัฒนา AI ที่มีความสามารถมากขึ้น

CoT Prompting มีบทบาทสำคัญในการพัฒนา AI ที่มีความสามารถมากขึ้น โดยการปรับปรุงความสามารถในการให้เหตุผลของโมเดลภาษาขนาดใหญ่ CoT Prompting ช่วยให้ AI สามารถจัดการกับงานที่ต้องใช้เหตุผลที่ซับซ้อนได้อย่างมีประสิทธิภาพมากขึ้น

สรุปอย่างรวดเร็ว

CoT Prompting เป็นเทคนิคที่มีพลังในการปรับปรุงความสามารถในการให้เหตุผลของโมเดลภาษาขนาดใหญ่ โดยการสร้างขั้นตอนการให้เหตุผลกลาง CoT Prompting ช่วยให้โมเดลภาษาสามารถจัดการกับงานที่ต้องใช้เหตุผลที่ซับซ้อนได้อย่างมีประสิทธิภาพมากขึ้น

คำถามที่พบบ่อย

Chain-of-Thought Prompting (CoT) ทำงานอย่างไร?

CoT Prompting ทำงานโดยการสร้างลำดับของขั้นตอนการให้เหตุผลกลางที่นำทางโมเดลภาษาไปสู่กระบวนการให้เหตุผล

ประโยชน์ของการใช้ Chain-of-Thought Prompting คืออะไร?

ประโยชน์ของ CoT Prompting รวมถึงการปรับปรุงประสิทธิภาพในงานที่ต้องใช้เหตุผลที่ซับซ้อน การเพิ่มความเข้าใจได้ของกระบวนการให้เหตุผล และศักยภาพในการทำให้ทั่วไปในงานที่ต้องใช้เหตุผลที่ซับซ้อน

ตัวอย่างของงานที่สามารถปรับปรุงได้ด้วย Chain-of-Thought Prompting คืออะไร?

ตัวอย่างของงานที่สามารถปรับปรุงได้ด้วย CoT Prompting รวมถึงการให้เหตุผลทางคณิตศาสตร์ การให้เหตุผลโดยอาศัยความสมเหตุสมผล และการให้เหตุผลเชิงสัญลักษณ์