3 วิธีในการรักษาความสดใหม่ของข้อเท็จจริงในโมเดลภาษาขนาดใหญ่

โมเดลภาษาขนาดใหญ่ (LLM) เช่น GPT3, ChatGPT และ BARD เป็นที่นิยมอย่างมากในปัจจุบัน ทุกคนมีความคิดเห็นเกี่ยวกับวิธีการที่เครื่องมือเหล่านี้ดีหรือไม่ดีสำหรับสังคมและสิ่งที่พวกเขาหมายถึงสำหรับอนาคตของ AI Google ได้รับการวิพากษ์วิจารณ์อย่างมากเกี่ยวกับโมเดลใหม่ของ BARD ที่ตอบคำถามที่ซับซ้อนผิด (เล็กน้อย) เมื่อถาม “คุณสามารถบอกเรื่องราวใหม่ๆ เกี่ยวกับกล้องโทรทรรศน์อวกาศ James Webb ที่คุณสามารถบอกลูกอายุ 9 ขวบของคุณได้?” – โชว์ตอบ 3 คำตอบ โดย 2 คำตอบถูกต้องและ 1 คำตอบผิด คำตอบที่ผิดคือว่า “รูปภาพดาวเคราะห์นอกระบบแรก” ถูกถ่ายโดย JWST ซึ่งไม่ถูกต้อง ดังนั้น โมเดลจึงมีข้อเท็จจริงที่ไม่ถูกต้องในฐานความรู้ของมัน เพื่อให้โมเดลภาษาขนาดใหญ่ทำงานได้อย่างมีประสิทธิภาพ เราต้องการวิธีการในการอัปเดตข้อเท็จจริงเหล่านี้หรือเพิ่มข้อเท็จจริงใหม่เข้ากับฐานความรู้

มาดูกันว่าข้อเท็จจริงถูกเก็บไว้ภายในโมเดลภาษาขนาดใหญ่ (LLM) อย่างไร โมเดลภาษาขนาดใหญ่ไม่เก็บข้อมูลและข้อเท็จจริงในลักษณะแบบดั้งเดิม เช่น ฐานข้อมูลหรือไฟล์ แต่พวกมันได้รับการฝึกฝนจากข้อมูลข้อความจำนวนมากและได้เรียนรู้รูปแบบและความสัมพันธ์ในข้อมูลนั้น ซึ่งช่วยให้พวกมันสามารถสร้างคำตอบที่เหมือนมนุษย์ได้ แต่พวกมันไม่มีที่เก็บข้อมูลที่เฉพาะเจาะจงสำหรับข้อมูลที่ได้เรียนรู้ เมื่อตอบคำถาม โมเดลจะใช้การฝึกฝนของมันเพื่อสร้างคำตอบตามข้อมูลที่ได้รับ ข้อมูลและความรู้ที่โมเดลภาษามีเป็นผลมาจากความสัมพันธ์ที่ได้เรียนรู้ในข้อมูลที่ใช้ในการฝึกฝน ไม่ใช่ผลมาจากข้อมูลที่เก็บไว้ในหน่วยความจำของโมเดลโดยตรง สถาปัตยกรรม Transformer ซึ่งเป็นพื้นฐานของโมเดลภาษาขนาดใหญ่สมัยใหม่ส่วนใหญ่ มีการเข้ารหัสข้อเท็จจริงภายในที่ใช้สำหรับการตอบคำถามที่ถามในคำสั่ง

ดังนั้น หากข้อเท็จจริงภายในหน่วยความจำของ LLM ไม่ถูกต้องหรือไม่สดใหม่ ข้อมูลใหม่จะต้องถูกให้ไว้ผ่านคำสั่ง คำสั่งคือข้อความที่ส่งไปยัง LLM พร้อมกับคำถามและหลักฐานสนับสนุนที่สามารถเป็นข้อเท็จจริงใหม่หรือแก้ไขได้ มี 3 วิธีในการเข้าถึงสิ่งนี้

1. วิธีหนึ่งในการแก้ไขข้อเท็จจริงที่เข้ารหัสไว้ใน LLM คือการให้ข้อเท็จจริงใหม่ที่เกี่ยวข้องกับบริบทโดยใช้ฐานความรู้ภายนอก ฐานความรู้นี้อาจเป็น API ที่เรียกข้อมูลที่เกี่ยวข้องหรือการค้นหาในฐานข้อมูล SQL, No-SQL หรือ Vector ข้อมูลที่ซับซ้อนมากขึ้นสามารถถูกดึงออกมาจากกราฟความรู้ที่เก็บข้อมูลและความสัมพันธ์ระหว่างข้อมูลเหล่านั้น ขึ้นอยู่กับข้อมูลที่ผู้ใช้กำลังค้นหา บริบทที่เกี่ยวข้องสามารถดึงมาและให้ไว้เป็นข้อเท็จจริงเพิ่มเติมแก่ LLM ข้อเท็จจริงเหล่านี้อาจถูกจัดรูปแบบให้ดูเหมือนตัวอย่างการฝึกฝนเพื่อปรับปรุงกระบวนการเรียนรู้ ตัวอย่างเช่น คุณอาจส่งคู่คำถามและคำตอบจำนวนมากเพื่อให้โมเดลเรียนรู้วิธีตอบคำถาม

2. วิธีที่เป็นนวัตกรรมมากขึ้น (และแพงกว่า) ในการเพิ่มข้อเท็จจริงให้กับ LLM คือการปรับให้เหมาะสมโดยใช้ข้อมูลฝึกฝน ดังนั้น แทนที่จะถามฐานความรู้สำหรับข้อเท็จจริงที่จะเพิ่ม เราสร้างชุดข้อมูลฝึกฝนโดยการ lấy mẫuจากฐานความรู้ โดยใช้เทคนิคการเรียนรู้แบบกำกับดูแล เช่น การปรับให้เหมาะสม เราสามารถสร้างเวอร์ชันใหม่ของ LLM ที่ฝึกฝนบนความรู้เพิ่มเติมได้ กระบวนการนี้มักจะแพงและอาจมีค่าใช้จ่ายหลายพันเหรียญสหรัฐในการสร้างและบำรุงรักษาโมเดลที่ปรับให้เหมาะสมใน OpenAI แน่นอนว่าค่าใช้จ่ายนี้คาดว่าจะลดลงเมื่อเวลาผ่านไป

3. ตัวเลือกอื่นคือการใช้วิธีการเช่น Reinforcement Learning (RL) เพื่อฝึกตัวแทนโดยใช้ข้อเสนอแนะจากมนุษย์และเรียนรู้นโยบายในการตอบคำถาม วิธีนี้มีประสิทธิภาพสูงในการสร้างโมเดลที่มีลักษณะเฉพาะและสามารถทำงานได้ดีในงานเฉพาะ ตัวอย่างเช่น โชว์ ChatGPT ที่เปิดตัวโดย OpenAI ถูกฝึกฝนโดยใช้การเรียนรู้แบบกำกับดูแลและ RL พร้อมกับข้อเสนอแนะจากมนุษย์

สรุปแล้ว นี่เป็นพื้นที่ที่กำลังพัฒนาอย่างรวดเร็ว โดยทุกบริษัทใหญ่ต้องการเข้าร่วมและแสดงความแตกต่างของตนเอง เราจะเห็นเครื่องมือ LLM ที่สำคัญในหลายๆ ด้าน เช่น ค้าปลีก การดูแลสุขภาพ และการธนาคาร ที่สามารถตอบคำถามได้อย่างเหมือนมนุษย์และเข้าใจความแตกต่างของภาษา เครื่องมือเหล่านี้ที่ผสมผสานกับข้อมูลขององค์กรสามารถทำให้การเข้าถึงข้อมูลง่ายขึ้นและทำให้ข้อมูลที่ถูกต้องไปถึงคนถูกต้องในเวลาที่เหมาะสม