การพัฒนาล่าสุดในด้านวิศวกรรมคำสั่งซื้อ: คู่มือที่ครอบคลุม

วิศวกรรมคำสั่งซื้อ ซึ่งเป็นศิลปะและวิทยาศาสตร์ของการสร้างคำสั่งซื้อที่ทำให้เกิดการตอบสนองที่ต้องการจาก LLMs ได้กลายเป็นหนึ่งในพื้นที่สำคัญของการวิจัยและพัฒนา

ตั้งแต่การเพิ่มความสามารถในการให้เหตุผลจนถึงการทำให้สามารถรวมเข้ากับเครื่องมือและโปรแกรมภายนอกได้อย่างราบรื่น การพัฒนาล่าสุดในด้านวิศวกรรมคำสั่งซื้อได้ปลดล็อกขอบเขตใหม่ๆ ในด้านปัญญาประดิษฐ์ ด้านล่างนี้เราจะพูดถึงเทคนิคและกลยุทธ์ที่ทันสมัยที่สุดซึ่งกำลังกำหนดอนาคตของวิศวกรรมคำสั่งซื้อ

วิศวกรรมคำสั่งซื้อ

กลยุทธ์การสั่งซื้อขั้นสูงสำหรับการแก้ปัญหาที่ซับซ้อน

ในขณะที่ CoT สั่งซื้อ ได้พิสูจน์แล้วว่ามีประสิทธิภาพสำหรับงานให้เหตุผลหลายอย่าง นักวิจัยได้สำรวจกลยุทธ์การสั่งซื้อขั้นสูงเพื่อแก้ปัญหาที่ซับซ้อนมากขึ้น วิธีการหนึ่งคือการสั่งซื้อจากน้อยไปหามาก ซึ่งแบ่งปัญหาที่ซับซ้อนออกเป็นปัญหาย่อยที่จัดการได้ง่ายขึ้นและแก้ไขแยกกันเพื่อให้ได้คำตอบสุดท้าย

เทคนิคอีกอย่างหนึ่งที่เป็นนวัตกรรมคือ Tree of Thoughts (ToT) สั่งซื้อ ซึ่งช่วยให้ LLMs สามารถสร้างหลายเส้นทางของการให้เหตุผลหรือ “ความคิด” ในเวลาเดียวกัน ประเมินความก้าวหน้าของตนเองในการแก้ปัญหา และย้อนกลับหรือสำรวจเส้นทางอื่นๆ ตามความจำเป็น วิธีการนี้ใช้ขั้นตอนการค้นหาต่างๆ เช่น การค้นหาด้วยความกว้างหรือความลึก ทำให้ LLMs สามารถมองไปข้างหน้าและย้อนกลับระหว่างกระบวนการแก้ปัญหา

การรวม LLMs กับเครื่องมือและโปรแกรมภายนอก

ในขณะที่ LLMs มีพลังมาก แต่ก็มีข้อจำกัดที่ชัดเจน เช่น ไม่สามารถเข้าถึงข้อมูลที่อัปเดตหรือทำการให้เหตุผลทางคณิตศาสตร์ที่แม่นยำได้ เพื่อแก้ไขข้อเสียเหล่านี้ นักวิจัยได้พัฒนาเทคนิคที่ทำให้ LLMs สามารถรวมเข้ากับเครื่องมือและโปรแกรมภายนอกได้อย่างราบรื่น

ตัวอย่างที่น่าสังเกตคือ Toolformer ซึ่งสอน LLMs ให้ระบุสถานการณ์ที่ต้องใช้เครื่องมือภายนอก ระบุเครื่องมือที่จะใช้ ให้ข้อมูลเข้า และรวมผลลัพธ์ของเครื่องมือเข้ากับคำตอบสุดท้าย วิธีการนี้เกี่ยวข้องกับการสร้างชุดข้อมูลการฝึกที่สังเคราะห์ขึ้นเพื่อแสดงการใช้ API ต่างๆ

อีกหนึ่งเฟรมเวิร์กที่เป็นนวัตกรรมคือ Chameleon ซึ่งใช้วิธีการ “เสียบและเล่น” โดยทำให้ LLMs สามารถสร้างโปรแกรมภาษาธรรมชาติที่ประกอบและดำเนินเครื่องมือต่างๆ รวมถึง LLMs, โมเดลการมองเห็น, เครื่องมือค้นหาทางอินเทอร์เน็ต, และฟังก์ชัน Python ได้ วิธีการแบบโมดูลาร์นี้ช่วยให้ Chameleon สามารถแก้ปัญหาที่ซับซ้อนและมีหลายรูปแบบได้โดยใช้ความสามารถของเครื่องมือและโมเดลต่างๆ

กลยุทธ์การสั่งซื้อขั้นพื้นฐาน

การสั่งซื้อแบบไม่มีตัวอย่าง

การสั่งซื้อแบบไม่มีตัวอย่างเกี่ยวข้องกับการอธิบายงานในคำสั่งซื้อและขอให้โมเดลแก้ปัญหาโดยไม่มีตัวอย่างใดๆ ตัวอย่างเช่น หากต้องการแปล “ชีส” เป็นภาษาฝรั่งเศส คำสั่งซื้อแบบไม่มีตัวอย่างอาจเป็น:

วิธีการนี้ตรงไปตรงมา แต่อาจมีข้อจำกัดจากความคลุมเครือของคำอธิบายงาน

การสั่งซื้อแบบมีตัวอย่างน้อย

การสั่งซื้อแบบมีตัวอย่างน้อยปรับปรุงการสั่งซื้อแบบไม่มีตัวอย่างโดยรวมตัวอย่างหลายๆ ของงานเข้าด้วยกัน ตัวอย่างเช่น:

วิธีการนี้ลดความคลุมเครือและให้คำแนะนำที่ชัดเจนยิ่งขึ้นสำหรับโมเดลโดยใช้ความสามารถในการเรียนรู้ในบริบทของ LLMs

การสั่งซื้อแบบคำสั่ง

การสั่งซื้อแบบคำสั่งอธิบายผลลัพธ์ที่ต้องการอย่างชัดเจน ซึ่งมีประสิทธิภาพมากโดยเฉพาะกับโมเดลที่ได้รับการฝึกอบรมให้ปฏิบัติตามคำสั่ง ตัวอย่างเช่น:

โมเดลอย่าง GPT-4 ได้รับการปรับให้เหมาะสมเพื่อติดตามคำสั่งเหล่านี้อย่างแม่นยำ

เทคนิคการสั่งซื้อขั้นสูง

การเพิ่มความสามารถในการให้เหตุผลด้วยการสั่งซื้อแบบต่อเนื่องของความคิด

หนึ่งในความก้าวหนาที่สำคัญที่สุดในวิศวกรรมคำสั่งซื้อคือการพัฒนาของ การสั่งซื้อแบบต่อเนื่องของความคิด (CoT) เทคนิคนี้มุ่งหวังที่จะกระตุ้นและปรับปรุงความสามารถในการให้เหตุผลของ LLMs โดยการกระตุ้นให้พวกมันสร้างกระบวนการคิดแบบขั้นตอนก่อนที่จะให้คำตอบสุดท้าย

ซ้าย: วิธีการแบบดั้งเดิมของการสั่งซื้อ LLMs อาศัยข้อมูลเข้าแบบทั่วไป (0-ช็อต CoT) หรือต้องใช้ตัวอย่างที่มีฉลาก (หลายช็อต CoT) ขวา: วิธีการใหม่นี้สั่งซื้อ LLMs ให้สร้างตัวอย่างที่เกี่ยวข้องก่อนที่จะแก้ปัญหา โดยไม่ต้องมีการระบุฉลากและปรับแต่งตัวอย่างให้เหมาะสมกับปัญหาแต่ละอย่าง

การสั่งซื้อแบบต่อเนื่องของความคิดทำงานโดยการนำเสนอ LLMs ด้วยตัวอย่างที่รวมข้อมูลเข้าและข้อมูลออกพร้อมกับขั้นตอนการให้เหตุผลหรือ “ต่อเนื่องของความคิด” ที่นำไปสู่คำตอบ โดยการเรียนรู้จากตัวอย่างเหล่านี้ LLMs สามารถสร้างต่อเนื่องของความคิดของตนเองเมื่อเผชิญกับปัญหาใหม่ๆ เพื่อปรับปรุงความสามารถในการแก้ปัญหาที่ซับซ้อน

ตัวอย่าง:

ข้อมูลเข้า: นาตาลีมีแอปเปิ้ล 3 ลูก และเธอต้องการแบ่งปันกับเพื่อน 2 คนของเธอ เท่าๆ กัน แต่ละคนจะได้รับแอปเปิ้ลกี่ลูก? ต่อเนื่องของความคิด: โอเค มาแบ่งปัญหานี้ออกเป็นขั้นตอนๆ:

1. นาตาลีมีแอปเปิ้ล 3 ลูก
2. เธอต้องการแบ่งปันกับเพื่อน 2 คน
3. ดังนั้นจึงมีคน 3 คน (นาตาลีและเพื่อน 2 คน)
4. ในการแบ่งแอปเปิ้ลเท่าๆ กัน เราต้องหารจำนวนแอปเปิ้ลทั้งหมด (3) ด้วยจำนวนคน (3)
5. 3 หารด้วย 3 เท่ากับ 1
6. ดังนั้นแต่ละคนจะได้รับแอปเปิ้ล 1 ลูก คำตอบ: แต่ละคนจะได้รับแอปเปิ้ล 1 ลูก

โดยการสร้างกระบวนการให้เหตุผลอย่างชัดเจน LLMs เช่น GPT-3 และ Codex ได้แสดงให้เห็นถึงความก้าวหน้าที่สำคัญในงานที่ต้องใช้เหตุผลทางคณิตศาสตร์ ความสมเหตุสมผล และการให้เหตุผลแบบสัญลักษณ์

ความสอดคล้องในตัวเอง

ความสอดคล้องในตัวเองปรับปรุงความน่าเชื่อถือของการสั่งซื้อแบบต่อเนื่องของความคิดโดยการสร้างต่อเนื่องของความคิดหลายๆ อันและใช้เสียงส่วนใหญ่ในการตัดสินใจคำตอบสุดท้าย วิธีการนี้ช่วยลดผลกระทบของเส้นทางการให้เหตุผลที่ไม่ถูกต้องใดๆ

การสั่งซื้อจากน้อยไปหามาก

การสั่งซื้อจากน้อยไปหามากแบ่งปัญหาที่ซับซ้อนออกเป็นปัญหาย่อยที่จัดการได้ง่ายขึ้น และแก้ไขปัญหาย่อยเหล่านั้นตามลำดับโดยใช้ข้อมูลจากปัญหาย่อยก่อนหน้าเพื่อแจ้งปัญหาย่อยถัดไป วิธีการนี้มีประโยชน์สำหรับงานที่ต้องใช้เหตุผลหลายขั้นตอน

ความก้าวหน้าล่าสุดในวิศวกรรมคำสั่งซื้อ

วิศวกรรมคำสั่งซื้อกำลังพัฒนาอย่างรวดเร็ว และมีเทคนิคใหม่ๆ หลายอย่างที่เกิดขึ้นเพื่อปรับปรุงประสิทธิภาพของ LLMs มาทำความรู้จักกับเทคนิคเหล่านี้กัน:

Auto-CoT (การสั่งซื้อแบบต่อเนื่องของความคิดอัตโนมัติ)

อะไรคือสิ่งนี้: Auto-CoT เป็นวิธีการที่ทำให้กระบวนการสร้างต่อเนื่องของความคิดสำหรับ LLMs เป็นอัตโนมัติ โดยไม่ต้องมีตัวอย่างที่สร้างขึ้นโดยมนุษย์ เทคนิคนี้ใช้การสั่งซื้อแบบต่อเนื่องของความคิดแบบ 0-ช็อต โดยที่โมเดลถูกกระตุ้นให้คิดแบบขั้นตอนเพื่อสร้างต่อเนื่องของความคิดของตนเอง

วิธีการทำงาน:

1. การสั่งซื้อแบบต่อเนื่องของความคิดแบบ 0-ช็อต: โมเดลได้รับคำสั่งซื้อแบบง่ายๆ เช่น “มาคิดแบบขั้นตอน” เพื่อกระตุ้นให้เกิดการให้เหตุผลที่มีรายละเอียด
2. ความหลากหลายในการสาธิต: Auto-CoT เลือกคำถามที่หลากหลายและสร้างต่อเนื่องของความคิดสำหรับคำถามเหล่านั้น เพื่อให้แน่ใจว่ามีการแสดงรูปแบบปัญหาและรูปแบบการให้เหตุผลที่หลากหลาย

ข้อดี:

• การทำให้เป็นอัตโนมัติ: ลดความพยายามของมนุษย์ที่ต้องการในการสร้างตัวอย่างการให้เหตุผล
• ประสิทธิภาพ: Auto-CoT มีประสิทธิภาพที่เทียบเท่าหรือเหนือกว่าการสั่งซื้อแบบต่อเนื่องของความคิดแบบดั้งเดิมในงานที่ต้องใช้เหตุผลหลายอย่าง

การสั่งซื้อแบบอิงความซับซ้อน

อะไรคือสิ่งนี้: เทคนิคนี้เลือกตัวอย่างที่มีความซับซ้อนสูงสุด (เช่น ต้องใช้ขั้นตอนการให้เหตุผลหลายขั้นตอน) เพื่อรวมเข้ากับคำสั่งซื้อ โดยมีเป้าหมายที่จะปรับปรุงประสิทธิภาพของโมเดลในงานที่ต้องใช้เหตุผลหลายขั้นตอน

วิธีการทำงาน:

1. การเลือกตัวอย่าง: ตัวอย่างถูกเลือกตามจำนวนขั้นตอนการให้เหตุผลที่ต้องใช้
2. ความสอดคล้องแบบอิงความซับซ้อน: ระหว่างการถอดรหัส โมเดลจะสร้างต่อเนื่องของความคิดหลายๆ อันและใช้เสียงส่วนใหญ่จากต่อเนื่องที่ซับซ้อนที่สุด

ข้อดี:

• ประสิทธิภาพที่ดีขึ้น: มีความแม่นยำที่ดีขึ้นอย่างมากในงานที่ต้องใช้เหตุผลหลายขั้นตอน
• ความทนทาน: มีประสิทธิภาพแม้ในกรณีที่มีการกระจายตัวอย่างและข้อมูลที่มีเสียงรบกวน

การสั่งซื้อแบบให้คำแนะนำแบบก้าวหน้า (PHP)

อะไรคือสิ่งนี้: PHP ปรับปรุงคำตอบของโมเดลโดยใช้เหตุผลที่สร้างขึ้นก่อนหน้านี้เป็นคำแนะนำ โดยใช้คำตอบก่อนหน้าของโมเดลเป็นคำแนะนำในการปรับปรุงคำตอบ

วิธีการทำงาน:

1. คำตอบเบื้องต้น: โมเดลสร้างคำตอบเบื้องต้นโดยใช้คำสั่งซื้อแบบมาตรฐาน
2. คำแนะนำและการปรับปรุง: คำตอบเบื้องต้นนี้ใช้เป็นคำแนะนำในคำสั่งซื้อต่อไปเพื่อปรับปรุงคำตอบ
3. กระบวนการแบบก้าวหน้า: กระบวนการนี้ดำเนินต่อไปจนกว่าคำตอบจะคงที่ในหลายๆ การวนซ้ำ

ข้อดี:

• ความแม่นยำ: มีการปรับปรุงความแม่นยำในการให้เหตุผลอย่างมาก
• ประสิทธิภาพ: ลดจำนวนเส้นทางที่ต้องใช้ในการสร้างคำตอบ ทำให้การคำนวณมีประสิทธิภาพมากขึ้น

การสั่งซื้อแบบแยกส่วน (DecomP)

อะไรคือสิ่งนี้: DecomP แบ่งปัญหาที่ซับซ้อนออกเป็นปัญหาย่อยที่จัดการได้ง่ายขึ้น โดยแต่ละปัญหาย่อยจัดการโดยโมเดลหรือคำสั่งซื้อเฉพาะ วิธีการนี้ช่วยให้สามารถจัดการปัญหาที่ซับซ้อนได้อย่างมีประสิทธิภาพมากขึ้น

วิธีการทำงาน:

1. การแบ่งปัญหา: ปัญหาหลักถูกแบ่งออกเป็นปัญหาย่อย
2. การจัดการปัญหาย่อย: แต่ละปัญหาย่อยจัดการโดยโมเดลหรือคำสั่งซื้อเฉพาะ
3. การรวมแบบโมดูลาร์: โมเดลหรือคำสั่งซื้อเหล่านี้สามารถปรับปรุง แทนที่ หรือรวมกันได้ตามความจำเป็นเพื่อแก้ปัญหาหลัก

ข้อดี:

• ความยืดหยุ่น: ง่ายต่อการแก้ไขและปรับปรุงปัญหาย่อยเฉพาะ
• ความสามารถในการปรับขนาด: จัดการปัญหาที่มีบริบทยาวและปัญหาย่อยที่ซับซ้อนได้อย่างมีประสิทธิภาพ

การสั่งซื้อจากสมมติฐานสู่ทฤษฎี (HtT)

อะไรคือสิ่งนี้: HtT ใช้กระบวนการค้นพบทางวิทยาศาสตร์ โดยที่โมเดลสร้างและตรวจสอบสมมติฐานเพื่อแก้ปัญหาที่ซับซ้อน วิธีการนี้เกี่ยวข้องกับการสร้างห้องสมุดกฎจากสมมติฐานที่ได้รับการยืนยัน ซึ่งโมเดลใช้เพื่อการให้เหตุผล

วิธีการทำงาน:

1. ขั้นตอนการเหนี่ยวนำ: โมเดลสร้างกฎที่เป็นไปได้และตรวจสอบพวกมันเทียบกับตัวอย่างการฝึก
2. การสร้างห้องสมุดกฎ: กฎที่ได้รับการยืนยันถูกเก็บไว้ในห้องสมุดกฎ
3. ขั้นตอนการอนุมาน: โมเดลใช้กฎเหล่านี้เพื่อการให้เหตุผลในงานใหม่ โดยใช้ห้องสมุดกฎเพื่อชี้นำการให้เหตุผล

ข้อดี:

• ความแม่นยำ: ลดความน่าจะเป็นของข้อผิดพลาดโดยอาศัยชุดกฎที่ได้รับการยืนยัน
• การถ่ายโอน: กฎที่ได้เรียนรู้สามารถถ่ายโอนไปยังโมเดลและรูปแบบปัญหาได้ต่างๆ

เทคนิคการสั่งซื้อที่ได้รับการปรับปรุงด้วยเครื่องมือ

Toolformer

Toolformer รวม LLMs กับเครื่องมือภายนอกผ่าน API แบบข้อความต่อข้อความ ทำให้โมเดลสามารถใช้เครื่องมือเหล่านี้เพื่อแก้ปัญหาที่ไม่สามารถแก้ไขได้ด้วยตนเอง ตัวอย่างเช่น LLMs สามารถเรียกใช้ API ของเครื่องคิดเลขเพื่อทำการคำนวณทางคณิตศาสตร์

Chameleon

Chameleon ใช้ LLMs เป็นศูนย์กลางในการสร้างโปรแกรมที่รวมเครื่องมือต่างๆ เพื่อแก้ปัญหาที่ซับซ้อน วิธีการนี้ใช้เครื่องมือหลากหลาย รวมถึงโมเดลการมองเห็นและเครื่องมือค้นหาทางอินเทอร์เน็ต เพื่อเพิ่มความสามารถในการแก้ปัญหา

GPT4Tools

GPT4Tools ปรับให้เหมาะสม LLMs แบบเปิดให้ใช้เครื่องมือหลายรูปแบบผ่านการฝึกอบรมแบบ self-instruct โดยแสดงให้เห็นว่าแม้แต่โมเดลที่ไม่ใช่ของเฉพาะก็สามารถใช้เครื่องมือภายนอกเพื่อปรับปรุงประสิทธิภาพได้

Gorilla และ HuggingGPT

ทั้ง Gorilla และ HuggingGPT รวม LLMs กับโมเดลการเรียนรู้ลึกที่มีอยู่ทางออนไลน์ ระบบเหล่านี้ใช้กระบวนการฝึกอบรมแบบ retrieval-aware และการวางแผนและการประสานงานเพื่อแก้ปัญหาที่ซับซ้อนซึ่งเกี่ยวข้องกับหลายๆ โมเดล

โมเดลภาษาที่ได้รับการช่วยเหลือจากโปรแกรม (PALs) และโปรแกรมของความคิด (PoTs)

นอกเหนือจากการรวมเข้ากับเครื่องมือภายนอก นักวิจัยได้สำรวจวิธีการเพิ่มความสามารถในการแก้ปัญหาของ LLMs โดยการรวมภาษาธรรมชาติกับโครงสร้างการเขียนโปรแกรม โมเดลภาษาที่ได้รับการช่วยเหลือจากโปรแกรม (PALs) และโปรแกรมของความคิด (PoTs) เป็นสองวิธีการที่ใช้โค้ดเพื่อเพิ่มกระบวนการให้เหตุผลของ LLMs

PALs กระตุ้น LLMs ให้สร้างเหตุผลที่แทรกโค้ด (เช่น Python) ซึ่งสามารถถูกนำไปใช้เพื่อสร้างคำตอบสุดท้าย วิธีการนี้แก้ไขกรณีที่ LLMs สร้างเหตุผลที่ถูกต้องแต่ให้คำตอบสุดท้ายที่ไม่ถูกต้อง

ในทำนองเดียวกัน PoTs ใช้ห้องสมุดคณิตศาสตร์เชิงสัญลักษณ์ เช่น SymPy เพื่อให้ LLMs สามารถกำหนดสัญลักษณ์และนิพจน์ทางคณิตศาสตร์ที่สามารถรวมและประเมินได้โดยใช้ฟังก์ชันแก้ปัญหาของ SymPy โดยการมอบหมายการคำนวณที่ซับซ้อนให้กับตัวตีความโค้ด โมเดลเหล่านี้แยกการให้เหตุผลออกจากการคำนวณ ทำให้ LLMs สามารถแก้ปัญหาที่ซับซ้อนได้อย่างมีประสิทธิภาพ

การเข้าใจและใช้หน้าต่างบริบท

ประสิทธิภาพของ LLMs ขึ้นอยู่อย่างมากกับความสามารถในการประมวลผลและใช้ข้อมูลบริบทที่ให้มาในคำสั่งซื้อ นักวิจัยได้สำรวจว่า LLMs จัดการกับบริบทที่ยาวและผลกระทบของข้อมูลที่ไม่เกี่ยวข้องต่อผลลัพธ์ของพวกมัน

ปรากฏการณ์ “สูญหายตรงกลาง” เน้นย้ำว่า LLMs มักจะให้ความสำคัญกับข้อมูลที่อยู่ที่ต้นและท้ายของบริบท ในขณะที่ข้อมูลตรงกลางมักถูกละเลยหรือ “สูญหาย” การเข้าใจนี้มีผลกระทบต่อวิศวกรรมคำสั่งซื้อ เนื่องจากการวางตำแหน่งข้อมูลที่เกี่ยวข้องอย่างระมัดระวังภายในบริบทสามารถส่งผลกระทบต่อประสิทธิภาพได้อย่างมาก

อีกหนึ่งแนวทางในการวิจัยมุ่งเน้นไปที่การบรรเทาผลกระทบด้านลบของข้อมูลบริบทที่ไม่เกี่ยวข้อง ซึ่งสามารถลดประสิทธิภาพของ LLMs ได้อย่างรุนแรง เทคนิคอย่างความสอดคล้องในตัวเอง การให้คำแนะนำที่ชัดเจนในการเพิกเฉตต่อข้อมูลที่ไม่เกี่ยวข้อง และรวมตัวอย่างที่แสดงให้เห็นวิธีการแก้ปัญหาโดยมีข้อมูลที่ไม่เกี่ยวข้องสามารถช่วยให้ LLMs เรียนรู้ที่จะเน้นไปที่ข้อมูลที่เกี่ยวข้องมากที่สุด

การปรับปรุงความสามารถในการเขียนด้วยกลยุทธ์การสั่งซื้อ

ในขณะที่ LLMs มีความสามารถในการสร้างข้อความที่เหมือนมนุษย์ ความสามารถในการเขียนของพวกมันสามารถปรับปรุงได้ด้วยกลยุทธ์การสั่งซื้อที่เฉพาะเจาะจง หนึ่งในเทคนิคเหล่านี้คือการสั่งซื้อแบบโครงกระดูกของความคิด (SoT) ซึ่งมีเป้าหมายที่จะลดความล่าช้าในการถอดรหัสแบบลำดับโดยเลียนแบบกระบวนการเขียนของมนุษย์

การสั่งซื้อแบบ SoT เกี่ยวข้องกับการกระตุ้น LLMs ให้สร้างโครงกระดูกหรือร่างของคำตอบก่อน จากนั้นตามด้วยการเรียก API แบบขนานเพื่อเติมรายละเอียดของแต่ละส่วนของโครงกระดูก วิธีการนี้ไม่เพียงแต่ปรับปรุงความล่าช้าในการถอดรหัส แต่ยังช่วยให้ LLMs วางแผนและจัดโครงสร้างคำตอบได้อย่างมีประสิทธิภาพมากขึ้น

กลยุทธ์การสั่งซื้ออีกอย่างหนึ่งคือการสั่งซื้อแบบต่อเนื่องของความหนาแน่น (CoD) ซึ่งมุ่งเน้นไปที่การปรับปรุงความหนาแน่นของข้อมูลในสรุปผลที่สร้างโดย LLMs โดยการเพิ่มเอนทิตี้เข้าไปในสรุปผลในขณะที่รักษาความยาวให้คงที่ CoD ช่วยให้ผู้ใช้สามารถสำรวจการแลกเปลี่ยนระหว่างความกระชับและความสมบูรณ์ ส่งผลให้สรุปผลที่มีประโยชน์และอ่านได้ง่ายขึ้น

ทิศทางที่เกิดขึ้นใหม่และทิศทางในอนาคต

ChatGPT และวิศวกรรมคำสั่งซื้อขั้นสูง

สาขาวิศวกรรมคำสั่งซื้อกำลังพัฒนาอย่างรวดเร็ว โดยนักวิจัยต่างๆ กำลังสำรวจขอบเขตใหม่ๆ และผลักดันขอบเขตของสิ่งที่เป็นไปได้กับ LLMs ทิศทางที่เกิดขึ้นใหม่บางอย่างรวมถึง:

1. การสั่งซื้อแบบกระตือรือร้น: เทคนิคที่ใช้หลักการเรียนรู้แบบกระตือรือร้นแบบอิงความไม่แน่นอนเพื่อระบุและทำเครื่องหมายตัวอย่างที่มีประโยชน์ที่สุดสำหรับการแก้ปัญหาที่ต้องใช้เหตุผลเฉพาะ
2. การสั่งซื้อแบบหลายรูปแบบ: การขยายกลยุทธ์การสั่งซื้อเพื่อจัดการกับข้อมูลเข้าหลายรูปแบบที่รวมข้อความ ภาพ และรูปแบบข้อมูลอื่นๆ
3. การสร้างคำสั่งซื้อแบบอัตโนมัติ: การพัฒนาวิธีการเพื่อสร้างคำสั่งซื้อที่มีประสิทธิภาพโดยอัตโนมัติซึ่งปรับให้เหมาะสมกับงานหรือโดเมนเฉพาะ
4. ความสามารถในการอธิบายและทำความเข้าใจ: การสำรวจเทคนิคการสั่งซื้อที่ปรับปรุงความสามารถในการอธิบายและทำความเข้าใจผลลัพธ์ของ LLMs ทำให้เกิดความโปร่งใสและความน่าเชื่อถือมากขึ้นในกระบวนการตัดสินใจของพวกมัน

เมื่อ LLMs ยังคงพัฒนาและพบการประยุกต์ใช้ในโดเมนต่างๆ วิศวกรรมคำสั่งซื้อจะมีบทบาทสำคัญในการปลดปล่อยศักยภาพที่แท้จริงของพวกมัน โดยการใช้เทคนิคการสั่งซื้อและกลยุทธ์ใหม่ๆ นักวิจัยและผู้ปฏิบัติงานสามารถพัฒนาโซลูชัน AI ที่มีประสิทธิภาพ มีประสิทธิภาพ และเหมาะสมกับงานได้มากขึ้น

สรุป

สาขาวิศวกรรมคำสั่งซื้อสำหรับ LLMs กำลังพัฒนาอย่างรวดเร็ว โดยนักวิจัยต่างๆ กำลังผลักดันขอบเขตของสิ่งที่เป็นไปได้ ตั้งแต่การปรับปรุงความสามารถในการให้เหตุผลด้วยการสั่งซื้อแบบต่อเนื่องของความคิดไปจนถึงการรวม LLMs กับเครื่องมือและโปรแกรมภายนอก การพัฒนาล่าสุดในวิศวกรรมคำสั่งซื้อได้ปลดล็อกขอบเขตใหม่ๆ ในด้านปัญญาประดิษฐ์