เมื่อ AI Benchmarks สอนโมเดลให้พูดเท็จ

การหลอกลวงของ AI — เมื่อระบบสร้างคำตอบที่ดูถูกต้อง แต่จริงๆ แล้วไม่ถูกต้อง — ยังคงเป็นหนึ่งในความท้าทายที่ยากที่สุดในด้านปัญญาประดิษฐ์ แม้แต่โมเดลที่ทันสมัยที่สุดในปัจจุบัน เช่น DeepSeek-V3, Llama, และ รุ่นล่าสุด ของ OpenAI ก็ยังสร้างข้อมูลที่ไม่ถูกต้องด้วยความมั่นใจสูง ในด้านต่างๆ เช่น การดูแลสุขภาพหรือกฎหมาย ความผิดพลาดดังกล่าวอาจนำไปสู่ผลกระทบร้ายแรง

ตามที่ทราบกันมา การหลอกลวงถูกมองว่าเป็น ผลพลอยได้ จากวิธีการฝึกอบรมโมเดลภาษาขนาดใหญ่: พวกมันเรียนรู้เพื่อคาดการณ์คำถัดไปที่มีแนวโน้มมากที่สุดโดยไม่ยืนยันว่าข้อมูลนั้นเป็นจริงหรือไม่ แต่การวิจัยใหม่ๆ แสดงให้เห็นว่าปัญหานี้อาจไม่หยุดอยู่ที่การฝึกอบรม การทดสอบและเปรียบเทียบประสิทธิภาพ AI ที่ใช้ในการประเมินอาจทำให้พฤติกรรมที่หลอกลวงเกิดขึ้น โดยให้รางวัลคำตอบที่ดูเชื่อถือได้มากกว่าคำตอบที่ถูกต้อง

การเปลี่ยนแปลงมุมมองนี้ทำให้ปัญหาเปลี่ยนไป หากโมเดลถูกฝึกให้พึงพอใจการทดสอบมากกว่าการบอกความจริง การหลอกลวงไม่ใช่ข้อบกพร่องโดยไม่ตั้งใจ แต่เป็นกลยุทธ์ที่ได้รับการเรียนรู้ เพื่อเข้าใจว่าทำไมโมเดลจึงเลือกที่จะเดาแทนที่จะยอมรับว่าไม่รู้ เราต้องดูว่าทำไม AI โมเดลจึงเดา

ทำไม AI โมเดลจึงเดา

เพื่อเห็นได้ว่าทำไม AI โมเดลจึงมักจะเดาแทนที่จะยอมรับว่าไม่รู้ ลองพิจารณานักเรียนที่ต้องเผชิญกับคำถามที่ยากในแบบทดสอบ นักเรียนมีทางเลือกสองทาง: ทิ้งคำตอบว่างและได้ 0 คะแนน หรือเดาโดยมีความรู้ที่จะให้เครดิตบางส่วน การเดาเหมือนเป็นตัวเลือกที่ดีกว่าเพราะมีโอกาสถูก

AI โมเดลเผชิญกับสถานการณ์เดียวกันระหว่างการประเมิน การทดสอบส่วนใหญ่ใช้ระบบการให้คะแนนแบบทวินาม: คำตอบที่ถูกต้องจะได้คะแนน ในขณะที่คำตอบที่ไม่ถูกต้องหรือไม่มั่นใจจะได้ 0 คะแนน หากโมเดลถูกถาม “วันเกิดของนักวิจัยคืออะไร?” และไม่ทราบจริงๆ การตอบว่า “ไม่รู้” จะถือเป็นความล้มเหลว การสร้างวันเกิดขึ้นมาใหม่จะมีโอกาสถูกต้อง — และแม้ว่าจะผิดก็ตาม ระบบไม่ลงโทษการเดาเชิงบวกมากกว่าการเงียบ

การเปลี่ยนแปลงนี้อธิบายได้ว่าทำไมการหลอกลวงจึงยังคงอยู่แม้จะมีการวิจัยอย่างกว้างขวางเพื่อกำจัดพวกมัน โมเดลไม่ได้พฤติกรรมที่ไม่ดี; พวกมันกำลังปฏิบัติตามแรงจูงใจที่สร้างขึ้นในการประเมิน พวกมันเรียนรู้ว่าการดูเชื่อถือได้เป็นวิธีที่ดีที่สุดในการเพิ่มคะแนนของพวกมัน แม้ว่าคำตอบจะเป็นเท็จก็ตาม ดังนั้น แทนที่จะแสดงความไม่มั่นใจ โมเดลจึงถูกผลักดันให้ให้คำตอบที่มีอำนาจ — ถูกหรือผิด

รากฐานทางคณิตศาสตร์ของความไม่ซื่อสัตย์ของ AI

การวิจัยแสดงให้เห็นว่าการหลอกลวงเกิดขึ้นจากหลักการทางคณิตศาสตร์ของวิธีการที่โมเดลภาษาเรียนรู้ แม้ว่าโมเดลจะถูกฝึกอบรมจากข้อมูลที่ถูกต้องเท่านั้น วัตถุประสงค์ทางสถิติของมันก็ยังนำไปสู่ข้อผิดพลาด นั่นเป็นเพราะการสร้างคำตอบที่ถูกต้องเป็นเรื่องที่ยากกว่าการรู้ว่าคำตอบนั้นถูกต้องหรือไม่

สิ่งนี้ช่วยอธิบายได้ว่าทำไมโมเดลจึงล้มเหลวในเรื่องข้อเท็จจริงที่ไม่มีรูปแบบที่ชัดเจน เช่น วันเกิดหรือรายละเอียดที่ไม่เหมือนใคร การวิเคราะห์ทางคณิตศาสตร์แนะนำว่าอัตราการหลอกลวงในกรณีเหล่านี้จะสูงเท่ากับเศษส่วนของข้อเท็จจริงที่ปรากฏเพียงครั้งเดียวในข้อมูลฝึกอบรม ในอีกคำหนึ่ง ข้อมูลที่หายากยิ่ง โมเดลมีแนวโน้มที่จะดิ้นรนมากขึ้น

ปัญหาไม่จำกัดอยู่แค่ข้อเท็จจริงที่หายาก ข้อจำกัดทางโครงสร้าง เช่น ความจุของโมเดลที่จำกัดหรือการออกแบบโครงสร้าง ก็สร้างข้อผิดพลาดเชิงระบบด้วย ตัวอย่างเช่น โมเดลก่อนหน้าที่มีหน้าต่างบริบทที่สั้นมากล้มเหลวอย่างต่อเนื่องในงานที่ต้องใช้เหตุผลระยะไกล ข้อผิดพลาดเหล่านี้ไม่ใช่ข้อผิดพลาดแบบสุ่ม แต่เป็นผลลัพธ์ที่คาดการณ์ได้ของโครงสร้างทางคณิตศาสตร์ของโมเดล

ทำไมการฝึกอบรมหลังการฝึกไม่สามารถแก้ปัญหาได้

เมื่อโมเดล AI ถูกฝึกอบรมจากชุดข้อมูลข้อความขนาดใหญ่ มันจะผ่านการฝึกอบรมที่ดีเพื่อให้ผลลัพธ์เป็นประโยชน์มากขึ้นและเป็นอันตรายน้อยลง แต่กระบวนการนี้ต้องเผชิญกับปัญหาหลักที่ทำให้เกิดการหลอกลวงในตอนแรก: วิธีการที่เราประเมินโมเดล

วิธีการฝึกอบรมที่ดีที่สุด เช่น การเรียนรู้การเสริมแรงจากข้อเสนอแนะของมนุษย์ ยังคงพึ่งพาการทดสอบที่ใช้การให้คะแนนแบบทวินาม การทดสอบเหล่านี้ให้รางวัลโมเดลสำหรับการให้คำตอบที่มั่นใจ ในขณะที่ไม่ได้ให้เครดิตเมื่อโมเดลยอมรับว่าไม่รู้ ดังนั้น ระบบที่ตอบด้วยความมั่นใจเสมอ แม้ว่าจะผิดก็ตาม สามารถเอาชนะระบบที่ยอมรับถึงความไม่แน่นอนของมันได้

นักวิจัยเรียกสิ่งนี้ว่าปัญหาในการลงโทษความไม่แน่นอน เทคนิคที่ซับซ้อนในการตรวจจับหรือลดการหลอกลวงต้องดิ้นรนเมื่อการประเมินยังคงให้ความสำคัญกับการเดาเชิงบวก ในอีกคำหนึ่ง ไม่ว่าเทคนิคการแก้ไขจะซับซ้อนแค่ไหน ตราบใดที่ระบบการประเมินยังคงให้รางวัลการเดาเชิงบวก โมเดลจะถูกเอนเอียงไปที่คำตอบที่ผิดแต่มั่นใจมากกว่าคำตอบที่ถูกต้องแต่ยอมรับถึงความไม่แน่นอน

ภาพลวงตาของความก้าวหน้า

ตารางผู้นำที่มีการแบ่งปันอย่างกว้างขวางใน cộng đồng AI เพิ่มปัญหานี้ การทดสอบ เช่น MMLU, GPQA, และ SWE-bench支配การวิจัยและประกาศผลิตภัณฑ์ บริษัทต่างๆ เน้นย้ำคะแนนของตนเพื่อแสดงความก้าวหน้าอย่างรวดเร็ว แต่ตามที่รายงานระบุ การทดสอบเหล่านี้เองที่ส่งเสริมการหลอกลวง

โมเดลที่บอกว่า “ไม่รู้” อาจมีความปลอดภัยมากกว่าในสถานการณ์จริง แต่จะอยู่ในอันดับต่ำกว่าในตารางผู้นำ ในทางกลับกัน โมเดลที่สร้างคำตอบที่น่าเชื่อถือแต่ผิดจะให้คะแนนได้ดีกว่า เมื่อการนำไปใช้ การให้ทุน และเกียรติยศขึ้นอยู่กับการจัดอันดับตารางผู้นำ ทิศทางของความก้าวหน้าจะบิดเบือนไป สาธารณชนเห็นเรื่องราวของความก้าวหน้าอย่างต่อเนื่อง แต่ด้านล่าง โมเดลกำลังถูกฝึกให้หลอกลวง

ทำไมความไม่แน่นอนซื่อสัตย์จึงสำคัญใน AI

การหลอกลวงไม่ใช่แค่ความท้าทายในด้านการวิจัย แต่ยังมีผลกระทบในโลกแห่งความเป็นจริง ในด้านการดูแลสุขภาพ โมเดลที่สร้างการโต้ตอบยาที่ไม่ถูกต้องอาจทำให้แพทย์เข้าใจผิด ในด้านการศึกษา โมเดลที่คิดค้นข้อเท็จจริงทางประวัติศาสตร์ขึ้นมาใหม่อาจทำให้นักเรียนเข้าใจผิด ในด้านสื่อสารมวลชน ชัตบอทที่สร้างคำพูดที่ไม่ถูกต้องแต่น่าเชื่อถืออาจแพร่กระจายข้อมูลที่ไม่ถูกต้อง ความเสี่ยงเหล่านี้เป็นที่เห็นได้แล้ว Stanford AI Index 2025 รายงานว่าการประเมินที่ออกแบบมาเพื่อวัดการหลอกลวง “ดิ้นรนในการได้รับการยอมรับ” แม้ว่าการนำ AI ไปใช้จะเพิ่มขึ้น ในขณะที่การประเมินที่ครอบงำตารางผู้นำและให้รางวัลคำตอบที่มั่นใจแต่ไม่น่าเชื่อถือยังคงกำหนดทิศทางของความก้าวหน้า

ผลการวิจัยเหล่านี้เน้นย้ำทั้งความท้าทายและโอกาส โดยการตรวจสอบรากฐานทางคณิตศาสตร์ของการหลอกลวง นักวิจัยได้ระบุแนวทางที่ชัดเจนสำหรับการสร้างระบบ AI ที่น่าเชื่อถือมากขึ้น กุญแจสำคัญคือการหยุดมองความไม่แน่นอนว่าเป็นข้อบกพร่อง และตระหนักว่ามันเป็นความสามารถที่จำเป็นที่ควรได้รับการวัดและให้รางวัล

การเปลี่ยนแปลงมุมมองนี้มีผลกระทบไปไกลกว่าการลดการหลอกลวง ระบบ AI ที่สามารถประเมินและถ่ายทอดข้อจำกัดความรู้ของตนได้อย่างแม่นยำจะเหมาะสมกว่าสำหรับการใช้งานที่มีความเสี่ยงสูง เช่น การวินิจฉัยทางการแพทย์ การวิเคราะห์ทางกฎหมาย และการวิจัยทางวิทยาศาสตร์ ซึ่งทั้งหมดนี้ต้องการความสามารถในการแยกความแตกต่างระหว่างความรู้ที่มั่นใจและข้อเสนอแนะที่มีข้อมูล

การปรับเปลี่ยนการประเมินสำหรับ AI ที่ซื่อสัตย์

ผลการวิจัยเหล่านี้เน้นย้ำว่าการสร้าง AI ที่น่าเชื่อถือมากขึ้นจำเป็นต้องมีการเปลี่ยนแปลงวิธีการที่เราประเมินความสามารถของ AI แทนที่จะพึ่งพาการให้คะแนนแบบถูก-ผิดอย่างง่าย การประเมินควรให้รางวัลโมเดลสำหรับการแสดงความไม่แน่นอนอย่างเหมาะสม ซึ่งหมายความว่าการให้คำแนะนำที่ชัดเจนเกี่ยวกับเกณฑ์ความมั่นใจและแผนการให้คะแนนที่สอดคล้องกันภายในคำแนะนำการประเมิน

แนวทางที่มีแนวโน้มหนึ่งคือการสร้างเป้าหมายความมั่นใจที่ชัดเจนซึ่งระบุว่าเมื่อใดโมเดลควรตอบและเมื่อใดควรละเว้น ตัวอย่างเช่น คำแนะนำอาจระบุว่าคำตอบควรให้เฉพาะเมื่อความมั่นใจเกินเกณฑ์หนึ่งๆ โดยมีการปรับให้คะแนนตามนั้น ในการตั้งค่านี้ ความไม่แน่นอนไม่ใช่จุดอ่อน แต่เป็นส่วนสำคัญของพฤติกรรมที่รับผิดชอบ

กุญแจสำคัญคือการทำให้ข้อกำหนดความมั่นใจเป็นเรื่องที่ชัดเจนมากกว่าการซ่อนอยู่ การประเมินปัจจุบันสร้างการลงโทษที่ซ่อนอยู่สำหรับความไม่แน่นอนซึ่งโมเดลเรียนรู้ที่จะหลีกเลี่ยง เป้าหมายความมั่นใจที่ชัดเจนจะทำให้โมเดลสามารถเพิ่มประสิทธิภาพพฤติกรรมที่ต้องการจริงๆ: คำตอบที่ถูกต้องเมื่อมั่นใจ และการยอมรับอย่างซื่อสัตย์ถึงความไม่แน่นอนเมื่อความรู้ไม่เพียงพอ

สรุป

การหลอกลวงของ AI ไม่ใช่ข้อบกพร่องโดยไม่ตั้งใจ — มันถูกเสริมโดยการประเมินที่ใช้ในการวัดความก้าวหน้า โดยการให้รางวัลการเดาที่มั่นใจมากกว่าความไม่แน่นอนที่ซื่อสัตย์ ระบบการประเมินปัจจุบันผลักดันโมเดลให้ไปสู่การหลอกลวงมากกว่าการเชื่อถือ ถ้าเราต้องการ AI ที่สามารถเชื่อถือได้ในด้านที่มีความเสี่ยงสูง เช่น การดูแลสุขภาพ กฎหมาย และวิทยาศาสตร์ เราต้องเปลี่ยนแปลงวิธีการทดสอบและให้รางวัลพวกมัน ความก้าวหน้าควรจะวัดไม่เพียงแค่ความถูกต้อง แต่ยังรวมถึงความสามารถในการรู้จักและยอมรับสิ่งที่โมเดลไม่ทราบ