RAFT – วิธีการปรับแต่งและ RAG สำหรับการตอบคำถามเฉพาะโดเมน

เมื่อการประยุกต์ใช้โมเดลภาษาขนาดใหญ่ขยายไปสู่โดเมนเฉพาะ ความจำเป็นในการปรับแต่งและปรับปรุงประสิทธิภาพจึงมีความสำคัญมากขึ้น โดยมีการแนะนำ RAFT (Retrieval Augmented Fine Tuning) ซึ่งเป็นวิธีการใหม่ที่รวมความสามารถของการสร้างข้อความที่มีการค้นหาสนับสนุน (RAG) และการปรับแต่งให้เหมาะสมสำหรับการตอบคำถามเฉพาะโดเมน

ความท้าทายของการปรับแต่งโดเมน

แม้ว่าโมเดลภาษาขนาดใหญ่จะถูกฝึกฝนบนข้อมูลจำนวนมาก แต่ความสามารถในการทำงานได้ดีในโดเมนเฉพาะ เช่น การวิจัยทางการแพทย์ การจัดทำเอกสารทางกฎหมาย หรือฐานความรู้เฉพาะขององค์กร มักจะถูกจำกัด เนื่องจากข้อมูลที่ใช้ในการฝึกฝนในตอนแรกอาจไม่ครอบคลุมถึงความซับซ้อนและความแตกต่างของโดเมนเหล่านี้ เพื่อแก้ไขปัญหานี้ นักวิจัยได้ใช้เทคนิคสองแบบหลักๆ คือ การสร้างข้อความที่มีการค้นหาสนับสนุน (RAG) และการปรับแต่งให้เหมาะสม

การสร้างข้อความที่มีการค้นหาสนับสนุน (RAG)

RAG

RAG เป็นเทคนิคที่ทำให้โมเดลภาษาขนาดใหญ่สามารถเข้าถึงและใช้แหล่งข้อมูลภายนอกระหว่างการอนุมานได้

มันทำได้โดยการรวมการค้นหาข้อมูลในเวลาจริงเข้ากับกระบวนการสร้างข้อความ ทำให้ผลลัพธ์ของโมเดลมีความแม่นยำและทันสมัยมากขึ้น RAG ประกอบด้วยสามขั้นตอนหลักๆ คือ การค้นหา โดยที่เอกสารที่เกี่ยวข้องจะถูกเก็บมา; การสร้างข้อความ โดยที่โมเดลจะสร้างผลลัพธ์ตามข้อมูลที่ค้นหา; และการเพิ่มเติม ซึ่งจะทำให้ผลลัพธ์มีความสมบูรณ์มากขึ้น

กระบวนการค้นหาใน RAG เริ่มต้นด้วยคำถามของผู้ใช้ โมเดลภาษาขนาดใหญ่จะวิเคราะห์คำถามและค้นหาเอกสารที่เกี่ยวข้องจากฐานข้อมูลภายนอก โดยนำเสนอชุดข้อมูลที่โมเดลสามารถใช้ในการตอบคำถามได้

การปรับแต่งให้เหมาะสม

supervised-fine-tuning

การปรับแต่งให้เหมาะสม เป็นการปรับโมเดลภาษาขนาดใหญ่ให้เหมาะสมกับงานหรือโดเมนเฉพาะโดยการฝึกฝนเพิ่มเติมบนชุดข้อมูลที่เล็กกว่าและเฉพาะเจาะจง วิธีการนี้ช่วยให้โมเดลสามารถเรียนรู้รูปแบบและจัดตำแหน่งผลลัพธ์ให้เหมาะสมกับงานหรือโดเมนนั้นๆ

วิธีการ RAFT

RAFT

RAFT ย่อมาจาก Retrieval-Aware Fine-Tuning เป็นวิธีการฝึกฝนภาษาที่สร้างขึ้นเพื่อปรับปรุงประสิทธิภาพของโมเดลภาษาในงานเฉพาะโดเมน โดยเฉพาะอย่างยิ่งสำหรับการตอบคำถามแบบเปิดหนังสือ RAFT แตกต่างจากการปรับแต่งให้เหมาะสมมาตรฐานโดยการเตรียมข้อมูลฝึกที่รวมคำถามพร้อมเอกสารที่เกี่ยวข้องและไม่เกี่ยวข้อง，以及คำตอบที่มีการให้เหตุผลแบบชุดความคิด

วิธีการนี้มีจุดมุ่งหมายเพื่อปรับปรุงความสามารถของโมเดลในการเรียกค้นและใช้ข้อมูลที่เกี่ยวข้องจากเอกสารที่ให้มา และเพื่อให้โมเดลสามารถให้เหตุผลและอนุมานคำตอบจากข้อมูลที่มี

การเตรียมข้อมูลฝึก

กระบวนการฝึกฝนของ RAFT เกี่ยวข้องกับการเตรียมข้อมูลฝึกที่มีเอกสารที่เกี่ยวข้องและไม่เกี่ยวข้อง โดยส่วนหนึ่งของข้อมูลจะประกอบด้วยเอกสารที่มีคำตอบโดยตรง (oracle documents) และส่วนที่เหลือจะเป็นเอกสารที่ไม่มีคำตอบ (distractor documents)

การประเมินและผลลัพธ์

ผู้เขียนของ RAFT ได้ทำการประเมินอย่างกว้างขวางบนชุดข้อมูลต่างๆ รวมถึง PubMed, HotpotQA และ Gorilla APIBench ผลลัพธ์แสดงให้เห็นว่า RAFT มีประสิทธิภาพสูงกว่าแบบจำลองอื่นๆ เช่น การปรับแต่งให้เหมาะสมเฉพาะโดเมนโดยไม่มีการค้นหาสนับสนุน และโมเดลขนาดใหญ่กว่า เช่น GPT-3.5 ที่มีการค้นหาสนับสนุน

การประยุกต์ใช้จริงและทิศทางในอนาคต

เทคนิค RAFT มีผลกระทบอย่างมากต่อการประยุกต์ใช้จริงหลายอย่าง เช่น ระบบตอบคำถาม ระบบจัดการความรู้ขององค์กร การวิจัยทางการแพทย์และวิทยาศาสตร์ และบริการทางกฎหมายและทางการเงิน

สรุป

RAFT เป็นตัวอย่างของความก้าวหน้าในด้านการตอบคำถามเฉพาะโดเมนด้วยโมเดลภาษาขนาดใหญ่ โดยการผสมผสานการสร้างข้อความที่มีการค้นหาสนับสนุนและการปรับแต่งให้เหมาะสม RAFT ทำให้โมเดลภาษาขนาดใหญ่สามารถใช้แหล่งข้อมูลภายนอกได้อย่างมีประสิทธิภาพและจัดตำแหน่งผลลัพธ์ให้เหมาะสมกับโดเมนหรืองานเฉพาะ