การเอาชนะการเห็นภาพของ LLM โดยใช้การสร้างแบบจำลองที่เพิ่มขึ้นโดยการค้นหา (RAG)

โมเดลภาษาขนาดใหญ่ (LLMs) เป็นการปฏิวัติวิธีการประมวลผลและสร้างภาษา แต่ก็ไม่สมบูรณ์แบบ เช่นเดียวกับที่มนุษย์อาจเห็นรูปทรงในเมฆหรือใบหน้าบนพระจันทร์ LLMs ก็สามารถ “เห็นภาพ” ได้ โดยสร้างข้อมูลที่ไม่ถูกต้อง สิ่งนี้เรียกว่า การเห็นภาพของ LLM ซึ่งเป็นปัญหาที่เพิ่มขึ้นเมื่อการใช้ LLMs ขยายออกไป

ข้อผิดพลาดสามารถทำให้ผู้ใช้สับสน และในบางกรณี อาจทำให้บริษัทต้องเผชิญกับปัญหาทางกฎหมาย ตัวอย่างเช่น ในปี 2023 นักบินอวกาศ Jeffery Battle (รู้จักกันในชื่อ The Aerospace Professor) ยื่นฟ้องคดีเทียบกับ Microsoft (MSFT ) เมื่อเขาพบว่าเครื่องมือค้นหาของ Bing ที่ขับเคลื่อนด้วย ChatGPT ให้ข้อมูลที่ไม่ถูกต้องและเป็นอันตรายเกี่ยวกับชื่อของเขา การค้นหานี้สับสนเขากับ Jeffery Leon Battle ผู้ถูกตัดสินว่ามีความผิด

เพื่อแก้ไขปัญหาการเห็นภาพนี้ การสร้างแบบจำลองที่เพิ่มขึ้นโดยการค้นหา (RAG) ได้ปรากฏขึ้นเป็นวิธีแก้ปัญหาที่มีแนวโน้ม โดยรวมความรู้จากฐานข้อมูลภายนอกเพื่อเพิ่มความแม่นยำและความน่าเชื่อถือของ LLMs มาทำความรู้จักกับ RAG กันเพื่อดูว่ามันช่วยให้ LLMs มีความแม่นยำและเชื่อถือได้มากขึ้นได้อย่างไร

การทำความเข้าใจการเห็นภาพของ LLM: สาเหตุและตัวอย่าง

LLMs รวมถึงโมเดลที่มีชื่อเสียงอย่าง ChatGPT, ChatGLM และ Claude ได้รับการฝึกฝนจากชุดข้อมูลข้อความที่กว้างขวาง แต่ก็ไม่ได้免จากผลลัพธ์ที่ไม่ถูกต้อง ซึ่งเรียกว่า “การเห็นภาพ” การเห็นภาพเกิดขึ้นเพราะ LLMs ได้รับการฝึกฝนให้สร้างคำตอบที่มีความหมายตามกฎภาษา ไม่คำนึงถึงความถูกต้องของข้อเท็จจริง

การศึกษาของ Tidio พบว่า 72% ของผู้ใช้เชื่อว่า LLMs น่าเชื่อถือ แต่ 75% ได้รับข้อมูลที่ไม่ถูกต้องจาก AI อย่างน้อยหนึ่งครั้ง แม้แต่โมเดล LLM ที่มีแนวโน้มมากที่สุด เช่น GPT-3.5 และ GPT-4 ก็สามารถสร้างเนื้อหาที่ไม่ถูกต้องหรือไม่มีความหมายได้บางครั้ง

มาทำความรู้จักกับประเภทของการเห็นภาพของ LLM ที่พบบ่อยกัน:

ประเภทของการเห็นภาพ AI ที่พบบ่อย:

1. การผสมผสานแหล่งที่มา: เกิดขึ้นเมื่อโมเดลรวมรายละเอียดจากแหล่งที่มาต่างๆ ทำให้เกิดความขัดแย้งหรือแม้กระทั่งแหล่งที่มาปลอม
2. ข้อผิดพลาดทางข้อเท็จจริง: LLMs อาจสร้างเนื้อหาที่มีฐานข้อเท็จจริงที่ไม่ถูกต้อง โดยเฉพาะอย่างยิ่งเมื่อข้อมูลบนอินเทอร์เน็ตมีข้อผิดพลาด
3. ข้อมูลที่ไม่มีความหมาย: LLMs คาดการณ์คำถัดไปตามความน่าจะเป็น ซึ่งอาจส่งผลให้เกิดข้อความที่ถูกต้องตามไวยากรณ์ แต่ไม่มีความหมาย ทำให้ผู้ใช้หลงเชื่อถึงความน่าเชื่อถือของเนื้อหา

ปีที่แล้ว ทนายความสองคนต้องเผชิญกับการพิจารณาความผิดที่อาจเกิดขึ้นสำหรับการอ้างอิงคดีที่ไม่มีอยู่จริงหกคดีในเอกสารทางกฎหมายของพวกเขา โดยถูกหลอกลวงโดยข้อมูลที่สร้างโดย ChatGPT ตัวอย่างนี้เน้นย้ำถึงความสำคัญของการเข้าใกล้เนื้อหาที่สร้างโดย LLMs ด้วยสายตาที่มีวิจารณญาณ โดยเน้นย้ำถึงความจำเป็นในการตรวจสอบเพื่อให้แน่ใจถึงความน่าเชื่อถือ แม้ว่าความสามารถในการสร้างสรรค์จะช่วยให้ได้ประโยชน์ในการใช้งานเช่น การเล่าเรื่อง แต่ก็ยังสร้างความท้าทายสำหรับงานที่ต้องปฏิบัติตามข้อเท็จจริงอย่างเคร่งครัด เช่น การทำวิจัยทางวิชาการ การเขียนรายงานการวิเคราะห์ทางการแพทย์และการเงิน และการให้คำปรึกษาทางกฎหมาย

การสำรวจวิธีแก้ปัญหาสำหรับการเห็นภาพของ LLM: วิธีการทำงานของ RAG

ในปี 2020 นักวิจัย LLM แนะนำเทคนิค ที่เรียกว่า การสร้างแบบจำลองที่เพิ่มขึ้นโดยการค้นหา (RAG) เพื่อลดการเห็นภาพของ LLM โดยการรวมฐานข้อมูลภายนอก ไม่เหมือนกับ LLMs แบบดั้งเดิมที่พึ่งพาความรู้ที่ฝึกฝนมาเท่านั้น โมเดล LLM ที่ใช้ RAG สร้างคำตอบที่ถูกต้องตามข้อเท็จจริงโดยการค้นหาข้อมูลที่เกี่ยวข้องจากฐานข้อมูลภายนอกก่อนที่จะตอบคำถามหรือสร้างเนื้อหา

การแบ่งกระบวนการ RAG:

ขั้นตอนของ RAG Process: แหล่งที่มา

ขั้นตอนที่ 1: การค้นหา

ระบบค้นหาในฐานความรู้เฉพาะสำหรับข้อมูลที่เกี่ยวข้องกับการถามของผู้ใช้ ตัวอย่างเช่น หากใครถามเกี่ยวกับผู้ชนะฟุตบอลโลกครั้งสุดท้าย ระบบจะค้นหาข้อมูลฟุตบอลที่เกี่ยวข้อง

ขั้นตอนที่ 2: การเพิ่มข้อมูล

คำถามเดิมจะถูกปรับปรุงด้วยข้อมูลที่พบ โดยใช้ตัวอย่างฟุตบอล คำถาม “ใครชนะฟุตบอลโลก?” จะถูกอัปเดตด้วยรายละเอียดเฉพาะ เช่น “อาร์เจนตินา ชนะฟุตบอลโลก”

ขั้นตอนที่ 3: การสร้าง

ด้วยคำถามที่ได้รับการปรับปรุง LLM จะสร้างคำตอบที่มีรายละเอียดและถูกต้อง ในกรณีนี้ จะสร้างคำตอบตามข้อมูลที่เพิ่มขึ้นเกี่ยวกับอาร์เจนตินาที่ชนะฟุตบอลโลก

วิธีนี้ช่วยลดความไม่ถูกต้องและทำให้คำตอบของ LLM มีความน่าเชื่อถือและถูกต้องตามข้อมูลมากขึ้น

ข้อดีและข้อเสียของ RAG ในการลดการเห็นภาพ

RAG ได้แสดงให้เห็นถึงความหวังในการลดการเห็นภาพโดยการแก้ไขกระบวนการสร้างสรรค์ กลไกนี้ทำให้โมเดล RAG สามารถให้ข้อมูลที่ถูกต้อง ทันสมัย และเกี่ยวข้องกับบริบทได้มากขึ้น

การอภิปรายเกี่ยวกับ RAG ในแง่ทั่วไปช่วยให้เข้าใจถึงข้อดีและข้อจำกัดของมันในหลายๆ การใช้งาน

ข้อดีของ RAG:

• การค้นหาข้อมูลที่ดีขึ้น: RAG ค้นหาข้อมูลที่ถูกต้องจากแหล่งข้อมูลขนาดใหญ่ได้อย่างรวดเร็ว
• เนื้อหาที่ดีขึ้น: สร้างเนื้อหาที่ชัดเจนและตรงกับความต้องการของผู้ใช้
• การใช้งานที่ยืดหยุ่น: ผู้ใช้สามารถปรับ RAG ให้เหมาะสมกับความต้องการเฉพาะของตน เช่น ใช้ฐานข้อมูลที่เป็นของตนเอง เพิ่มประสิทธิภาพ

ความท้าทายของ RAG:

• ต้องการข้อมูลเฉพาะ: การทำความเข้าใจบริบทของคำถามเพื่อให้ข้อมูลที่เกี่ยวข้องและแม่นยำอาจเป็นเรื่องที่ท้าทาย
• การปรับขนาด: การขยายโมเดลเพื่อรับมือกับชุดข้อมูลขนาดใหญ่และคำถามในขณะที่รักษาความสามารถในการทำงานไว้ได้นั้นเป็นเรื่องที่ยาก
• การอัปเดตอย่างต่อเนื่อง: การอัปเดตฐานความรู้ด้วยข้อมูลล่าสุดโดยอัตโนมัตินั้นต้องใช้ทรัพยากรมาก

การสำรวจทางเลือกอื่นของ RAG

นอกจาก RAG แล้ว ยังมีวิธีอื่นๆ ที่น่าหวังที่ช่วยให้นักวิจัย LLM ลดการเห็นภาพได้:

• G-EVAL: ตรวจสอบความถูกต้องของเนื้อหาที่สร้างขึ้นด้วยชุดข้อมูลที่เชื่อถือได้ เพิ่มความน่าเชื่อถือ
• SelfCheckGPT: ตรวจสอบและแก้ไขข้อผิดพลาดของตัวเองโดยอัตโนมัติ เพื่อรักษาความถูกต้องและความสอดคล้องของผลลัพธ์
• วิศวกรรมคำสั่ง: ช่วยให้ผู้ใช้ออกแบบคำสั่ง输入ที่แม่นยำเพื่อนำโมเดลไปสู่คำตอบที่ถูกต้องและเกี่ยวข้อง
• การปรับแต่ง: ปรับโมเดลให้เหมาะสมกับชุดข้อมูลเฉพาะงานเพื่อเพิ่มประสิทธิภาพในโดเมนส่วนเฉพาะ
• LoRA (การปรับให้เหมาะสมด้วยอันดับต่ำ): วิธีนี้ปรับเปลี่ยนพารามิเตอร์ของโมเดลเพียงเล็กน้อยสำหรับการปรับให้เหมาะสมกับงานเฉพาะ เพิ่มประสิทธิภาพ

การสำรวจ RAG และทางเลือกอื่นๆ เน้นย้ำถึงแนวทางที่มีพลวัตและหลากหลายในการปรับปรุงความถูกต้องและความน่าเชื่อถือของ LLM เมื่อเราก้าวหน้า การนวัตกรรมอย่างต่อเนื่องในเทคโนโลยีเช่น RAG เป็นสิ่งจำเป็นสำหรับการแก้ไขความท้าทายที่ซ่อนอยู่ของการเห็นภาพของ LLM

เพื่อติดตามความก้าวหน้าล่าสุดใน AI และการเรียนรู้ของเครื่อง รวมถึงการวิเคราะห์เชิงลึกและข่าวสาร เยี่ยมชม unite.ai