RAGs คือคำตอบสำหรับ Hallucinations ของ AI หรือไม่?

AI ได้รับการออกแบบให้มี “จิตใจของตัวเอง” ซึ่งเป็นข้อเสียอย่างหนึ่งคือโมเดล AI ที่สร้างข้อมูลใหม่ (Generative AI) จะสร้างข้อมูลที่ไม่มีอยู่จริงในปรากฏการณ์ที่เรียกว่า “Hallucinations ของ AI” ซึ่งเป็นหนึ่งในตัวอย่างแรกที่สุดคือเมื่อผู้พิพากษาในนิวยอร์ก ตักเตือน ทนายความที่ใช้เอกสารทางกฎหมายที่เขียนโดย ChatGPT ซึ่งอ้างอิงถึงคดีที่ไม่มีอยู่จริง มีเหตุการณ์เกิดขึ้นเมื่อไม่นานมานี้ที่เครื่องมือค้นหาที่สร้างโดย AI บอกให้ผู้ใช้กิน หิน เพื่อประโยชน์ต่อสุขภาพ หรือใช้ กาวที่ไม่เป็นพิษ เพื่อช่วยให้เนยแข็งติดกับพิซซ่า

เมื่อ GenAI กลายเป็นสิ่งที่แพร่หลายมากขึ้น มันสำคัญที่ผู้ใช้จะต้องรับรู้ว่า Hallucinations เป็นหนึ่งในส่วนประกอบที่ ไม่สามารถหลีกเลี่ยงได้ ของ GenAI ในปัจจุบัน โซลูชันเหล่านี้ถูกสร้างขึ้นจากโมเดลภาษาขนาดใหญ่ (LLM) ซึ่งมักจะถูกแจ้งโดยแหล่งข้อมูลที่แตกต่างกันจำนวนมากที่อาจมีข้อมูลที่ไม่ถูกต้องหรือล้าสมัย – คำตอบที่สร้างขึ้นโดย AI ซึ่งประกอบด้วย ระหว่าง 3% ถึง 10% ของการตอบกลับของ AI ที่มีต่อคำถามของผู้ใช้ เมื่อพิจารณาจากธรรมชาติ “กล่องดำ” ของ AI – ซึ่งเรามีความยากที่จะตรวจสอบว่า AI สร้างผลลัพธ์ขึ้นมาได้อย่างไร – Hallucinations เหล่านี้อาจเป็นเรื่องที่ยากที่จะตรวจสอบและเข้าใจสำหรับนักพัฒนา

ไม่ว่าจะเป็นเรื่องที่หลีกเลี่ยงไม่ได้หรือไม่ Hallucinations ของ AI ก็เป็นเรื่องที่น่าหงุดหงิดในระดับที่ดีที่สุด และอาจเป็นอันตรายหรือไม่เหมาะสมในระดับที่เลวร้ายที่สุด

ในหลายๆ อุตสาหกรรม รวมถึงสุขภาพ การเงิน และความปลอดภัยสาธารณะ ผลกระทบของ Hallucinations รวมถึงการแพร่กระจายของข้อมูลที่ไม่ถูกต้อง การประนีประนอมข้อมูลที่ละเอียดอ่อน และแม้กระทั่งอุบัติเหตุที่อาจเป็นอันตรายถึงชีวิต หาก Hallucinations ยังคงไม่ได้รับการตรวจสอบ ความน่าเชื่อถือของผู้ใช้และความไว้วางใจในสังคมที่มีต่อระบบ AI จะถูกทำลาย

ดังนั้น จึงจำเป็นที่ผู้ดูแลเทคโนโลยีที่ทรงพลังนี้จะต้องรับรู้และจัดการกับความเสี่ยงของ Hallucinations ของ AI เพื่อให้แน่ใจว่าผลลัพธ์ที่สร้างขึ้นโดย LLM นั้นมีความน่าเชื่อถือ

RAGs เป็นจุดเริ่มต้นในการแก้ปัญหาของ Hallucinations

วิธีการหนึ่งที่ได้รับความนิยมในการลด Hallucinations คือ การสร้างข้อมูลโดยใช้การค้นหา หรือ RAG โซลูชันนี้เพิ่มความน่าเชื่อถือของ LLM โดยการรวมแหล่งข้อมูลภายนอก – การดึงข้อมูลที่เกี่ยวข้องจากฐานข้อมูลที่เชื่อถือได้ตามธรรมชาติของคำถาม – เพื่อให้แน่ใจว่ามีการตอบกลับที่น่าเชื่อถือมากขึ้นต่อคำถามเฉพาะ

ผู้เชี่ยวชาญในอุตสาหกรรมบางคนได้แสดงความคิดเห็นว่า RAG เพียงอย่างเดียวสามารถแก้ปัญหาของ Hallucinations ได้ แต่ฐานข้อมูลที่รวมเข้ากับ RAGs อาจยังคงมีข้อมูลที่ล้าสมัย ซึ่งอาจสร้างข้อมูลที่ไม่ถูกต้องหรือทำให้เข้าใจผิด ในบางกรณี การรวมแหล่งข้อมูลภายนอกโดยใช้ RAGs อาจเพิ่มความน่าจะเป็นของ Hallucinations ใน LLMs: หากโมเดล AI พึ่งพาแหล่งข้อมูลที่ล้าสมัยซึ่ง รับรู้ ว่าเป็นข้อมูลที่ถูกต้อง ความรุนแรงของ Hallucinations อาจเพิ่มขึ้น

รั้ว AI – สะพานช่องว่างของ RAG

เมื่อเราเห็นแล้วว่า RAGs มีศักยภาพในการลด Hallucinations ของ AI อย่างไรก็ตาม อุตสาหกรรมและธุรกิจที่หันมาใช้โซลูชันเหล่านี้จะต้องเข้าใจข้อจำกัดที่มีอยู่ด้วย จริงๆ แล้วมีวิธีการที่เสริมซึ่งกันและกันซึ่งควรใช้เมื่อแก้ไขปัญหาของ LLMs ร่วมกับ RAGs

ตัวอย่างเช่น ธุรกิจสามารถใช้ รั้ว AI ในแบบเรียลไทม์เพื่อปกป้องผลลัพธ์ของ LLM และลด Hallucinations ของ AI รั้วเหล่านี้ทำหน้าที่เป็นเครือข่ายที่ตรวจสอบผลลัพธ์ทั้งหมดของ LLM สำหรับข้อมูลที่สร้างขึ้น Profane หรือไม่เกี่ยวข้องก่อนที่จะถึงมือผู้ใช้ วิธีการ middleware ที่ใช้งานได้จริงนี้รับประกันความน่าเชื่อถือและความเกี่ยวข้องของการค้นหาในระบบ RAGs สุดท้ายเพิ่มความไว้วางใจในหมู่ผู้ใช้ และรับประกันการโต้ตอบที่ปลอดภัยซึ่งสอดคล้องกับแบรนด์ของบริษัท

อีกทางหนึ่ง มีวิธีการ “วิศวกรรมคำถาม” ซึ่งต้องให้วิศวกรเปลี่ยนคำถามหลัก โดยการเพิ่มข้อจำกัดที่กำหนดไว้ล่วงหน้าสำหรับคำถามที่ยอมรับได้ – กล่าวคือ การตรวจสอบไม่เพียงแต่ LLM จะดึงข้อมูลมาจากที่ไหน แต่ยังรวมถึงวิธีที่ผู้ใช้ถามคำถามด้วย – คำถามที่ได้รับการออกแบบสามารถชี้นำ LLMs ให้ไปสู่ผลลัพธ์ที่น่าเชื่อถือมากขึ้น ข้อเสียหลักของวิธีการนี้คือการออกแบบคำถามนี้อาจเป็นงานที่ใช้เวลานานสำหรับนักเขียนโปรแกรม ซึ่งมักจะถูกขยายเวลาและขาดทรัพยากร

วิธีการ “การปรับให้เหมาะสม” เกี่ยวข้องกับการฝึกอบรม LLMs บนดาตาเซตที่มีประสิทธิภาพสูงเพื่อ ปรับปรุงประสิทธิภาพ และลดความเสี่ยงของ Hallucinations วิธีนี้ฝึกอบรม LLMs ที่มีงานเฉพาะเพื่อดึงข้อมูลจากโดเมนที่เชื่อถือได้ ซึ่งปรับปรุงความแม่นยำและความน่าเชื่อถือในผลลัพธ์

ยังสำคัญที่จะต้องพิจารณาถึงผลกระทบของความยาวของข้อมูลเข้าไปในการทำงานของ LLMs – ในความเป็นจริง ผู้ใช้หลายคนมักจะคิดว่าคำถามที่ยาวขึ้นและเต็มไปด้วยพารามิเตอร์จะทำให้ผลลัพธ์แม่นยำมากขึ้น อย่างไรก็ตาม การศึกษาล่าสุด พบว่าความแม่นยำของผลลัพธ์ของ LLMs จริงๆ แล้ว ลดลง เมื่อความยาวของข้อมูลเข้าเพิ่มขึ้น ดังนั้น การเพิ่มจำนวนคำแนะนำที่กำหนดให้กับคำถามใดๆ จึงไม่รับประกันความน่าเชื่อถือที่สม่ำเสมอในการสร้างแอปพลิเคชัน AI ที่สร้างข้อมูลใหม่

ปรากฏการณ์นี้ซึ่งเรียกว่า “การโหลดคำถามมากเกินไป” เน้นย้ำถึงความเสี่ยงที่มีอยู่ในด้านการออกแบบคำถามที่ซับซ้อนมากเกินไป – ยิ่งคำถามที่เขียนได้กว้างขึ้น ยิ่งมีประตูที่เปิดให้ข้อมูลที่ไม่ถูกต้องและ Hallucinations เมื่อ LLMs พยายามที่จะตอบสนองทุกพารามิเตอร์

วิศวกรรมคำถาม ต้องการการอัปเดตและปรับให้เหมาะสมอย่างต่อเนื่อง และยังคงดิ้นรนในการป้องกัน Hallucinations หรือการตอบกลับที่ไม่มีเหตุผลอย่างมีประสิทธิภาพ รั้ว AI ในทางกลับกันจะไม่สร้างความเสี่ยงที่เพิ่มขึ้นของผลลัพธ์ที่สร้างขึ้น ทำให้เป็นตัวเลือกที่น่าสนใจสำหรับการปกป้อง AI ไม่เหมือนกับการออกแบบคำถาม รั้ว AI เสนอโซลูชันแบบเรียลไทม์ที่ครอบคลุมซึ่งรับประกันว่า AI ที่สร้างข้อมูลใหม่จะสร้างผลลัพธ์ขึ้นมาจากขอบเขตที่กำหนดไว้ล่วงหน้าเท่านั้น

ในขณะที่ไม่ใช่คำตอบในตัวเอง การให้ข้อมูลย้อนกลับจากผู้ใช้สามารถช่วยลด Hallucinations ได้ด้วยการกระทำเช่น การให้คะแนนและลงคะแนน ซึ่งช่วยให้ปรับปรุงโมเดลและเพิ่มความแม่นยำของผลลัพธ์ และลดความเสี่ยงของ Hallucinations

เมื่อใช้ RAGs เพียงอย่างเดียวต้องมีการทดลองอย่างกว้างขวางเพื่อให้ได้ผลลัพธ์ที่แม่นยำ แต่เมื่อรวมกับการปรับให้เหมาะสม การออกแบบคำถาม และรั้ว AI สามารถให้คำตอบที่มุ่งเน้นและประสิทธิภาพมากขึ้นสำหรับการแก้ไขปัญหาของ Hallucinations การสำรวจกลยุทธ์ที่เสริมซึ่งกันและกันเหล่านี้จะช่วยปรับปรุงการบรรเทา Hallucinations ใน LLMs และช่วยในการพัฒนาโมเดลที่น่าเชื่อถือและเชื่อถือได้มากขึ้นในหลายๆ แอปพลิเคชัน

RAGs ไม่ใช่คำตอบสำหรับ Hallucinations ของ AI

โซลูชัน RAGs เพิ่มคุณค่าให้กับ LLMs โดยการเพิ่มข้อมูลภายนอก แต่ด้วยความที่ยังมีหลายสิ่งที่ไม่รู้เกี่ยวกับ AI ที่สร้างข้อมูลใหม่ Hallucinations ยังคงเป็นความท้าทายที่มีอยู่ รากฐานของการรับมือกับพวกมันไม่ได้อยู่ที่การพยายามกำจัดพวกมัน แต่อยู่ที่การบรรเทาผลกระทบด้วยการผสมผสานรั้ว AI ที่มีกลยุทธ์ กระบวนการตรวจสอบ และคำถามที่ปรับให้เหมาะสม

ยิ่งเราเชื่อถือสิ่งที่ GenAI บอกเราได้มากเท่าไหร่ เราก็จะสามารถใช้พลังที่ทรงพลังของมันได้อย่างมีประสิทธิภาพและประสิทธิผลมากขึ้น