การปรับแต่งแบบมีประสิทธิภาพหรือ PeFT เป็นวิธีการที่พยายามปรับโมเดลภาษาขนาดใหญ่ผ่านการอัปเดตของน้ำหนักเล็กน้อย แต่ส่วนใหญ่ของงานที่มีอยู่เกี่ยวกับการตีความได้แสดงให้เห็นว่าการแสดงผลมี정보ที่มีความหมายอันลึกซึ้ง ซึ่งแสดงว่าการแก้ไขการแสดงผลอาจเป็นวิธีการที่ดีกว่าและทรงพลังกว่าการปรับแต่งน้ำหนัก

การปรับแต่งแบบมีประสิทธิภาพหรือ PeFT เสนอแนะวิธีการแก้ปัญหาค่าใช้จ่ายสูงในการปรับโมเดลทั้งหมดโดยการอัปเดตน้ำหนักเพียงเล็กน้อย ซึ่งช่วยลดเวลาในการฝึกอบรมและใช้หน่วยความจำ นอกจากนี้ การปรับแต่งแบบมีประสิทธิภาพหรือ PeFT ยังแสดงให้เห็นถึงประสิทธิภาพที่คล้ายกับการปรับโมเดลทั้งหมดในหลายๆ สถานการณ์

ในบทความนี้ เราจะพูดถึง ReFT หรือการปรับแต่งแบบแทนเจนต์ ซึ่งเป็นวิธีการที่ทำงานบนโมเดลที่ถูกแช่แข็งและเรียนรู้การแทรกแซงเฉพาะงานบนการแสดงผลที่ซ่อนอยู่ บทความนี้มีจุดมุ่งหมายเพื่อครอบคลุมเฟรมเวิร์ก ReFT หรือการปรับแต่งแบบแทนเจนต์อย่างลึกซึ้ง และเราจะสำรวจกลไก วิธีการ อาร์คิเทคเจอร์ของเฟรมเวิร์กพร้อมกับการเปรียบเทียบกับเฟรมเวิร์กที่มีอยู่

ReFT: การปรับแต่งแบบแทนเจนต์สำหรับโมเดลภาษา

ในการพยายามนำโมเดลภาษาขนาดใหญ่ที่ถูกฝึกอบรมไว้มาใช้กับโดเมนหรืองานใหม่ๆ โมเดลเหล่านี้มักจะถูกปรับแต่งบ่อยครั้ง ซึ่งทำให้สามารถปรับโมเดลฐานเพียงตัวเดียวให้ทำงานได้กับหลายๆ งานแม้จะมีข้อมูลในโดเมนน้อยก็ตาม แม้ว่าการปรับแต่งจะช่วยเพิ่มประสิทธิภาพโดยรวม แต่ก็เป็นกระบวนการที่มีค่าใช้จ่ายสูง โดยเฉพาะอย่างยิ่งสำหรับโมเดลภาษาที่มีขนาดใหญ่และจำนวนพารามิเตอร์ที่มาก

การปรับแต่งแบบมีประสิทธิภาพหรือ PeFT เสนอแนะวิธีการแก้ปัญหาค่าใช้จ่ายสูงในการปรับโมเดลทั้งหมดโดยการอัปเดตน้ำหนักเพียงเล็กน้อย ซึ่งช่วยลดเวลาในการฝึกอบรมและใช้หน่วยความจำ นอกจากนี้ การปรับแต่งแบบมีประสิทธิภาพหรือ PeFT ยังแสดงให้เห็นถึงประสิทธิภาพที่คล้ายกับการปรับโมเดลทั้งหมดในหลายๆ สถานการณ์

การปรับแต่งแบบแทนเจนต์หรือ ReFT เป็นวิธีการที่เรียนรู้การแทรกแซงเพื่อแก้ไขการแสดงผลที่ซ่อนอยู่ แทนที่จะแก้ไขน้ำหนัก การปรับแต่งแบบแทนเจนต์หรือ ReFT เป็นวิธีการที่สามารถใช้แทนการปรับแต่งแบบมีประสิทธิภาพหรือ PeFT ได้ และเป็นวิธีการที่สามารถใช้เพื่อปรับโมเดลภาษาขนาดใหญ่ให้ทำงานได้กับหลายๆ งาน

ReFT: วิธีการและอาร์คิเทคเจอร์

เพื่อให้กระบวนการรักษารูปแบบง่ายๆ เฟรมเวิร์ก ReFT สมมติว่าโมเดลเป็นแบบทรานส์ฟอร์เมอร์ที่สามารถสร้างการแสดงผลที่มีบริบทของลำดับโทเค็น สำหรับลำดับที่มี n โทเค็นเป็นข้อมูลเข้า เฟรมเวิร์ก ReFT จะแทรกโทเค็นเหล่านั้นเป็นรายการการแสดงผล จากนั้น m เลเยอร์จะคำนวณรายการการแสดงผลที่ซ่อนอยู่ทีละรายการเป็นฟังก์ชันของรายการการแสดงผลที่ซ่อนอยู่ก่อนหน้า

การแสดงผลที่ซ่อนอยู่แต่ละรายการเป็นเวกเตอร์ และโมเดลภาษาใช้การแสดงผลที่ซ่อนอยู่สุดท้ายเพื่อสร้างการคาดเดา เฟรมเวิร์ก ReFT พิจารณาโมเดลภาษาที่มีการปิดบังและแบบอัตโนมัติ

การแทรกแซงแบบกระจายหรือ DAS เป็นวิธีการที่ใช้ในการทดสอบว่าการแสดงผลที่ซ่อนอยู่มีการเข้ารหัสแบบเส้นตรงหรือไม่ วิธีการนี้ใช้การแทรกแซงแบบสับเปลี่ยนเพื่อกำหนดบทบาทของส่วนประกอบของโมเดลประสาทเทียมในการสร้างพฤติกรรมเฉพาะ

ReFT: การทดลองและผลลัพธ์

เพื่อประเมินประสิทธิภาพของเฟรมเวิร์ก ReFT กับเฟรมเวิร์ก PeFT ที่มีอยู่ เฟรมเวิร์ก ReFT ได้ทำการทดลองบน 4 ชุดข้อมูลการประมวลผลภาษาที่หลากหลาย และครอบคลุมมากกว่า 20 ชุดข้อมูล

ผลลัพธ์ของการทดลองแสดงให้เห็นว่าเฟรมเวิร์ก LoReFT มีประสิทธิภาพสูงกว่าเฟรมเวิร์ก PeFT ที่มีอยู่ในหลายๆ สถานการณ์

ตารางด้านบนเปรียบเทียบความแม่นยำของโมเดล LLaMA-7B และ LLaMA-13B กับเฟรมเวิร์ก PeFT ที่มีอยู่บน 8 ชุดข้อมูลการให้เหตุผลแบบสัมผัส

ตารางด้านบนเปรียบเทียบความแม่นยำของโมเดล LLaMA-7B และ LLaMA-13B กับเฟรมเวิร์ก PeFT ที่มีอยู่บน 4 ชุดข้อมูลการให้เหตุผลแบบเลขคณิต

ตารางด้านบนเปรียบเทียบความแม่นยำของโมเดล RoBERTa-base และ RoBERTa-large กับเฟรมเวิร์ก PeFT ที่มีอยู่บนชุดข้อมูล GLUE

ความคิดสุดท้าย

ในบทความนี้ เราได้พูดถึง LoReFT ซึ่งเป็นวิธีการที่ทรงพลังและเป็นทางเลือกที่ดีสำหรับเฟรมเวิร์ก PeFT ที่มีอยู่ โดยมีประสิทธิภาพสูงบนหลายๆ ชุดข้อมูลและโดเมน