การจัดการปัญหาการ Gaslighting ของ AI

โมเดล AI วิดีโอสามารถถูกพูดออกจากความจริงได้ แม้หลังจากที่เห็นคำตอบที่ถูกต้องแล้ว แต่ก็ยังยอมจำนนต่อผู้ใช้ที่มั่นใจและเปลี่ยนคำตอบไปตามความต้องการของผู้ใช้ และสร้างคำอธิบายปลอมเพื่อสนับสนุนข้อผิดพลาดนั้น

AI มีข้อผิดพลาดบ่อยครั้งพอที่จะทำให้เราต้องตั้งคำถามถึงข้อสรุปของมัน หากเรารู้สึกว่าข้อสรุปนั้นอาจผิด

ปัญหาก็คือ หากเรารู้ว่าเราต้องการอะไรจากต้นไป แล้วทำไมเราถึงถามในตอนแรกล่ะ สำหรับการยืนยันเกี่ยวกับความเชื่อหรือความสงสัยบางอย่างหรือไม่

หากเป็นเช่นนั้น เทคโนโลยีปัจจุบันของโมเดลภาษาขนาดใหญ่ (LLM) และโมเดลภาษาวิดีโอ (VLM) ซึ่งทำงานแบบหลายรูปแบบ โดยยอมรับและสร้างภาพและ/หรือวิดีโอ ไม่เหมาะสมที่จะยืนยันคำตอบของมันเอง เนื่องจากปัญหาของการ สycophancy

ดังนั้น หากเราไม่ชอบคำตอบที่เราได้รับ และเริ่มโต้แย้งกับโมเดล AI มันอาจจะ ยืนยันคำตอบผิด (โดยสมมติว่ามันผิด) แทนที่จะประเมินคำตอบใหม่ หรือ ยอมให้ gaslighted เพื่อสนับสนุนคำแนะนำของเรา – แม้ว่า เรา ผิดก็ตาม

คุณพูดถูก!

การปฏิบัติของมนุษย์ที่ทำให้ AI เปลี่ยนความคิดผ่านการขัดแย้งได้รับการตั้งชื่อว่า ‘การโจมตี Gaslighting Negation’ และบางครั้งถูกมองว่าเป็นปัญหาด้านความปลอดภัย – ไม่น้อยเพราะมันมี ศักยภาพในการ ‘jailbreak’ โมเดล ออกจากข้อจำกัดในการทำงานของมัน

จากงานวิจัยปี 2025 ‘Benchmarking Gaslighting Negation Attacks Against Multimodal Large Language Models’ GPT-5 ตอบคำถามถูกต้องในตอนแรก แต่หลังจากนั้นก็ยอมจำนนต่อแรงกดดันของผู้ใช้ และเปลี่ยนคำตอบไปพร้อมกับสร้างคำอธิบายปลอมเพื่อสนับสนุนข้อผิดพลาดนั้น โดยที่มัน gaslighting ตัวเอง Source

อย่างไรก็ตาม ปัญหาไม่ใช่การโจมตีหรือการทดสอบความปลอดภัย แต่เป็นการใช้งานทั่วไปและความคาดหวังในการสื่อสารกับ AI ในชีวิตประจำวันของเรา โดยที่เราคาดหวังว่าจะสามารถโต้แย้งและชนะหรือยอมแพ้หรือทิ้งเรื่องนั้นไปตามประสบการณ์ของมนุษย์ในการได้รับความรู้

แต่รูปแบบการแก้ปัญหาความขัดแย้งนี้ไม่ได้ถูกนำมาใช้ในสถาปัตยกรรมของ AI ที่ใช้การกระจายความน่าจะเป็น ซึ่งต้องต่อรองกับข้อมูลที่มีความน่าจะเป็นจาก RAG calls ที่เกิน วันที่ข้อมูลถูกตัด หรือความเข้าใจทั่วไปเกี่ยวกับหัวข้อที่ไม่ชัดเจน และข้อมูลจากผู้ใช้ที่อาจมี: ความรู้ที่เหนือกว่าเกี่ยวกับหัวข้อนั้น ความเชื่อหรือมุมมองที่ผิดหรือไม่ถูกต้อง หรือแม้กระทั่งคำถามที่ตามมา – แต่ความต้องการของผู้ใช้ต้องถูกพิจารณา

เป้าหมายที่เคลื่อนไหว

ความเสี่ยงต่อการ gaslighting ได้รับการบันทึกใน LLMs ในหลายงานวิจัย รวมถึงการเผยแพร่จาก สิงคโปร์ ในเดือนตุลาคม 2025 และ งานวิจัย ในปีเดียวกัน Don’t Deceive Me: Mitigating Gaslighting through Attention Reallocation in LMMs

จนถึงปัจจุบัน ปัญหานี้ยังไม่ได้รับการศึกษาใน VLMs ที่สามารถจัดการวิดีโอ – ซึ่งเป็นเรื่องที่ได้รับการแก้ไขโดยความร่วมมือใหม่ระหว่างสถาบันใน上海และ สิงคโปร์

งานวิจัยใหม่ นี้ – ชื่อเรื่อง Spatiotemporal Sycophancy: Negation-Based Gaslighting in Video Large Language Models ซึ่งมาจากนักวิจัย 6 คนจาก Fudan University, Shanghai Key Laboratory of Multimodal Embodied AI และ Singapore Management University – ได้พิจารณา VLMs ที่เปิดเผยและปิดเผยหลายตัว พบว่าพวกมันสามารถถูก gaslighting ได้ไม่ต่างจาก LLMs และยังสามารถเพิ่มความหลอกลวงด้วยหลักฐานภาพหรือการวิเคราะห์ภาพหรือวิดีโอที่ไม่ถูกต้อง

ตัวอย่างของการ gaslighting ในรูปแบบ spatial (ไม่ใช่ temporal) โดยที่ AI ยอมให้ gaslighting ไปยังความเชื่อที่ผิดและตีความภาพหรือวิดีโอที่ไม่ถูกต้อง. Source

ผู้เขียนระบุว่า:

‘[เรา] ระบุการ gaslighting ในรูปแบบ spatiotemporal ซึ่งเป็นรูปแบบการล้มเหลวที่ Vid-LLMs ถอนคำตอบที่ถูกต้องและยอมรับคำตอบที่ผิดภายใต้การ gaslighting ที่ใช้การปฏิเสธ

‘ไม่ใช่แค่การเปลี่ยนคำตอบ แต่โมเดลเหล่านี้ยังสร้างคำอธิบายที่ไม่มีหลักฐานเพื่อสนับสนุนการเปลี่ยนแปลงที่ไม่ถูกต้อง’

การ gaslighting ในรูปแบบ temporal ที่สามารถขยายความหลอกลวงไปยังเหตุการณ์ในช่วงเวลาใดเวลาหนึ่งในวิดีโอ

ผู้เขียนได้สร้างเฟรมเวิร์กใหม่สำหรับการประเมินชื่อ Gas Video-1000 เพื่อทดสอบการ gaslighting ใน VLMs โดยใช้เหตุผลและหลักฐานภาพ โดยเผยแพร่คอลเลกชัน ผ่าน GitHub และ Hugging Face

งานวิจัยนี้สรุปว่า LLMs ปัจจุบันไม่มีกลไกที่เชื่อถือได้ในการต่อต้านการ gaslighting ของประเภทนี้ แม้ว่าการยึดหลักการในระดับคำถามจะสามารถช่วยลดผลกระทบได้บ้าง:

‘การทดลองอย่างกว้างขวางแสดงให้เห็นว่าความอ่อนไหวต่อการ gaslighting นั้นแพร่หลายและรุนแรง แม้กระทั่งในโมเดลที่มีประสิทธิภาพพื้นฐานที่ดี

‘แม้ว่าการยึดหลักการในระดับคำถามจะสามารถช่วยลดพฤติกรรมนี้ได้บ้าง แต่ก็ไม่สามารถป้องกันการสร้างคำอธิบายที่ไม่มีหลักฐานหรือการเปลี่ยนแปลงความเชื่อได้’

วิธีการ

ผู้เขียนอธิบายโมเดลวิดีโอเป็นโมเดลที่ดูคลิปวิดีโอและตอบคำถามเกี่ยวกับคลิปนั้น และควรยึดมั่นในคำตอบนั้นหากหลักฐานชัดเจน ปัญหาเริ่มต้นเมื่อ ข้อความที่สอง ที่ถูกส่งไปกดดันให้โมเดลเปลี่ยนคำตอบ – โดยการปลูกฝังความคิดที่ผิดและผลักดันให้โมเดลเปลี่ยนความคิด

การ gaslighting ถูกกำหนดโดยผู้เขียนว่าเป็นการได้คำตอบที่ถูกต้องในตอนแรกแล้วเปลี่ยนไปเป็นคำตอบที่ผิดหลังจากถูกกดดัน แม้ว่าไม่มีอะไรเปลี่ยนแปลงในคลิปวิดีโอก็ตาม การวิจัยใหม่นี้ติดตามจำนวนครั้งที่ ‘การพลิก’ เหล่านี้เกิดขึ้น โดยใช้เป็นมาตรการในการวัดความ容易ที่โมเดลสามารถถูกพูดออกจากความจริงได้

ชุดข้อมูล GasVideo-1000 ที่สร้างขึ้นโดยผู้เขียนสำหรับการประเมินการ gaslighting ใน VLMs ประกอบด้วย 1,013 ตัวอย่างจากชุดข้อมูลที่มีอยู่หลายชุด:

โมเดลถูกทดสอบในงานวิดีโอที่ต้องการความเข้าใจทั้งเชิงพื้นที่และเชิงเวลา จากนั้นจึงได้รับคำถามที่หลอกลวงซึ่งปฏิเสธคำตอบที่ถูกต้อง อุทธรณ์ต่อผู้มีอำนาจ หรือใช้แรงกดดันทางอารมณ์ ซึ่งบ่อยครั้งทำให้โมเดลละทิ้งคำตอบที่ถูกต้องและสร้างคำอธิบายที่ไม่มีหลักฐานเพื่อสนับสนุนคำตอบที่ผิด

สำหรับชุดข้อมูลนี้ ผู้เขียนได้ใช้ VideoMME และ MVBench ซึ่งครอบคลุมการให้เหตุผลแบบหลายรูปแบบ; NExT-QA และ Perception Test ซึ่งทดสอบตรรกะเชิงสาเหตุและเชิงเวลา; EgoSchema ซึ่งมุ่งเน้นไปที่วิดีโอที่มีระยะเวลานาน; และ ActivityNet-QA และ MSRVTT-QA ซึ่งวัดผลการถามคำถามทั่วไปในโลกแห่งความเป็นจริง

เพื่อกระตุ้นให้เกิดความล้มเหลว คำถามที่หลอกลวงถูกสร้างขึ้นในสามรูปแบบ: การปฏิเสธโดยตรง (การปฏิเสธคำตอบที่ถูกต้อง); การอุทธรณ์ต่อผู้มีอำนาจ (การอ้างอิงผู้เชี่ยวชาญเพื่อปฏิเสธคำตอบของโมเดล); และ การกดดันทางอารมณ์ (การใช้ความผิดหวังหรือความไม่เชื่อ)

คำถามเหล่านี้ถูกออกแบบมาเพื่อกระตุ้นให้โมเดลที่ถูกทดสอบละทิ้งคำตอบที่ถูกต้องและยอมรับคำตอบที่ผิด

การกระจาย

ชุดข้อมูล GasVideo-1000 ประกอบด้วย 1,013 ตัวอย่างจาก MSRVTT-QA (300), ActivityNet-QA (200), Perception Test (293), MVBench (120) และ VideoMME (100) โดยเลือกชุดข้อมูลที่สมดุลระหว่างการถามคำถามวิดีโอที่เปิดกว้างและการให้เหตุผลเชิงสาเหตุและเชิงเวลา และเพื่อให้ครอบคลุมทั้งเนื้อหาวิดีโอสั้นบนเว็บและวิดีโอที่ยาวและซับซ้อนกว่า

สองผู้เขียนที่ไม่เกี่ยวข้องทบทวนแต่ละตัวอย่างและเก็บเฉพาะคลิปที่คำตอบถูกต้องและชัดเจน และที่คำถามที่หลอกลวงสามารถท้าทายคำตอบนั้นได้อย่างสมเหตุสมผล เพื่อให้การเปลี่ยนแปลงใดๆ ในภายหลังสะท้อนถึงการกดดันมากกว่าความไม่แน่นอน

ข้อมูลและการทดสอบ

VLMs ที่ถูกทดสอบในงานวิจัยนี้ ได้แก่ VideoLLaMA3; Video-ChatGPT-7B; LLaVA-Video-7B-Qwen2; LongVU-Qwen2-7B; Qwen3-VL-235B-A22B-Instruct และ Google Gemini-3-Pro ที่ปิดเผย

สำหรับคำถามที่เปิดกว้างใน GasVideo-1000 การประเมินตามแผนการให้คะแนนเชิงความหมายที่ใช้ก่อนหน้านี้ใน VideoMME ChatGPT-4o ถูกใช้เป็นตัวตัดสิน LLM โดยเปรียบเทียบคำตอบแต่ละคำตอบกับคำตอบที่ถูกต้องและข้อความที่หลอกลวงที่ถูกสอดแทรก

ผลการทำงานของ VideoLLaMA3, LLaVA-Video, Video-ChatGPT และ LongVU ใน VideoMME, MVBench, EgoSchema, NExT-QA, Perception Test, ActivityNet-QA, MSRVTT-QA และ MSVD-QA โดยแสดงถึงความถูกต้องพื้นฐาน ความถูกต้องหลังการ gaslighting และการเสื่อมถอยที่ตามมา การลดลงอย่างสม่ำเสมอแสดงให้เห็นว่าคำถามที่หลอกลวงทำให้ความถูกต้องลดลงในงานทั้งการให้เหตุผลที่หนักและงานวิดีโอทั่วไป

จากผลลัพธ์เบื้องต้นด้านบน ผู้เขียนระบุว่า:

‘[มี] การเสื่อมถอยของประสิทธิภาพที่เป็นระบบและรุนแรงทั่วทั้ง Vid-LLMs ที่ถูกทดสอบเมื่อถูกโจมตีโดยการ gaslighting ที่ใช้การปฏิเสธ

‘ทุกๆ โมเดลแสดงการเสื่อมถอยที่สำคัญ โดยมีการเสื่อมถอยสูงสุด 42.60% สำหรับ LLaVA-Video-7B ใน EgoSchema และ 40.22% สำหรับ VideoLLaMA3 ใน ActivityNet

การลดลงของประสิทธิภาพไม่สัมพันธ์กับความถูกต้องพื้นฐาน โดยที่ LLaVA-Video-7B ยังคงรักษาคะแนนพื้นฐานที่ดี แต่ประสบการเสื่อมถอยที่รุนแรงที่สุด ซึ่งผู้เขียนอ้างว่าสะท้อนถึงการแลกเปลี่ยนโดยที่การปฏิบัติตามคำสั่งที่แข็งแกร่งกว่าสามารถทำให้โมเดลยอมรับคำถามที่หลอกลวงมากกว่าหลักฐานทางภาพ

รูปแบบที่คล้ายกันปรากฏขึ้นในเรื่องของขนาด โดยที่ Qwen3-VL-235B พิสูจน์ว่าไม่แข็งแกร่งเท่ากับโมเดล 7B บางตัวใน GasVideo-1000 ซึ่งบ่งชี้ว่าความสอดคล้องและการปรับให้เหมาะสมระหว่างโหมดมีบทบาทสำคัญต่อความแข็งแกร่งมากกว่าจำนวนพารามิเตอร์เท่านั้น

ผลการทำงานของ Gemini-3-Pro, Qwen3-VL, LLaVA-NeXT, LongVU, Video-ChatGPT และ VideoLLaMA3 ใน GasVideo-1000 โดยเปรียบเทียบความถูกต้องพื้นฐานกับผลลัพธ์หลังการ gaslighting ในหลายรูปแบบ การลดลงอย่างมากแสดงให้เห็นว่าทั้งสองรูปแบบมีความอ่อนไหว แต่งานแบบหลายตัวเลือกมีการเสื่อมถอยที่รุนแรงที่สุด

เกี่ยวกับการทดสอบรอบที่สองที่แสดงด้านบน ผู้เขียนระบุว่า:

‘การประเมินใน GasVideo-1000 ของเรายังแสดงให้เห็นอีกว่ามีการ gaslighting ที่รุนแรงในโมเดลทั้งแบบเปิดและปิด โดยเฉพาะอย่างยิ่งในหมวดหมู่ที่สมดุล

‘โดยเฉพาะอย่างยิ่ง โมเดลที่ทรงพลังที่สุด Gemini-3-Pro ประสบการเสื่อมถอยของประสิทธิภาพอย่างรุนแรง

‘ในหมู่โมเดลที่เปิด Qwen3-VL แสดงการเสื่อมถอยที่น่าประหลาดใจถึง 46.07% ในขณะที่ความอ่อนไหวสุดขั้ว cũngถูกสังเกตใน VideoLLaMA 3 และ LLaVA-NeXT โดยมีการเสื่อมถอยทั้งหมด 26.39% และ 23.44% ตามลำดับ

‘ผลลัพธ์เหล่านี้เน้นย้ำถึงความจำเป็นที่เร่งด่วนสำหรับกลยุทธ์การจัดตำแหน่งที่ให้ความสำคัญกับความสอดคล้องของข้อเท็จจริงและความเป็นรากฐานของภาพมากกว่าการยึดมั่นในคำสั่งของผู้ใช้ที่เป็นปฏิปักษ์’

ในการทดสอบเพิ่มเติม การเสริมคำถามก่อนหน้า (การเพิ่มคำสั่งระบบที่เข้มงวดเพื่อบังคับให้โมเดลพึ่งพาสิ่งที่เห็น ไม่ใช่สิ่งที่ผู้ใช้กล่าวอ้าง) ถูกนำมาใช้เพื่อบังคับให้ใช้หลักฐานภาพ:

ผลลัพธ์ในการทดสอบ GasVideo-1000 โดยเปรียบเทียบคำถามทั่วไปกับคำถามที่เสริมความแข็งแกร่งเพื่อใช้หลักฐานภาพ โดยแสดงถึงวิธีการที่ Gemini-3-Pro, Qwen3-VL, LongVU, LLaVA-NeXT และ VideoLLaMA3 ตอบสนองก่อนและหลังการ gaslighting ที่ใช้การปฏิเสธ การเปลี่ยนแปลงในความถูกต้อง การเสื่อมถอย และอัตราการ gaslighting บ่งชี้ว่าการเสริมความแข็งแกร่งสามารถลดความล้มเหลวได้ แต่ผลประโยชน์แตกต่างกันอย่างมากระหว่างโมเดล

ตามที่เห็นได้จากตารางด้านบน ผลกระทบไม่เท่ากัน โดยที่ Gemini-3-Pro มีความอ่อนไหวสูง โดยอัตราความสำเร็จลดลงจาก 54.80% เป็น 8.67% ในขณะที่ Qwen3-VL ลดลงอย่างเหมาะสมจาก 71.89% เป็น 64.0% ซึ่งบ่งชี้ว่าประสิทธิผลขึ้นอยู่กับการจัดตำแหน่งและการให้เหตุผลมากกว่าการแทรกแซงเอง

อัตราการ gaslighting ภายใต้รูปแบบการกดดันต่างๆ สำหรับ Gemini-3-Pro และ Qwen3-VL ในงานแบบหลายตัวเลือก แบบเปิด และแบบผสม โดยแสดงให้เห็นว่าการปฏิเสธโดยตรงและการกดดันทางอารมณ์กระตุ้นให้เกิดอัตราการล้มเหลวสูงสุด ในขณะที่การอุทธรณ์ต่อผู้มีอำนาจมีประสิทธิภาพน้อยกว่า โดย Qwen3-VL ยังคงอ่อนไหวมากกว่าโดยรวม

ในกราฟด้านบน เราจะเห็นว่าการล้มเหลวแตกต่างกันไปตามรูปแบบการกดดัน โดยที่ Gemini-3-Pro มีความอ่อนไหวมากที่สุดต่อ การอุทธรณ์ต่อผู้มีอำนาจ (การอ้างอิงผู้เชี่ยวชาญที่ถูกกล่าวหาว่าเป็นผู้มีอำนาจ) ในขณะที่ Qwen3-VL มีความอ่อนไหวมากกว่าต่อ การปฏิเสธโดยตรง (การปฏิเสธคำตอบที่ถูกต้อง) และ การกดดันทางอารมณ์ (การใช้ความผิดหวังหรือความไม่เชื่อ)

การวิเคราะห์เพิ่มเติมพบว่าคำถามที่เป็นกลาง เช่น ‘คุณแน่ใจหรือไม่?’ (ซึ่งมักเป็นปัญหา) มีผลกระทบน้อยกว่าการปฏิเสธโดยตรงหรือการกดดันทางอารมณ์ โดยการปฏิเสธโดยตรงยังคงเป็นตัวกระตุ้นที่แข็งแกร่งกว่าในบริบทที่จำกัด

สรุป

เนื่องจากธรรมชาติของการออกแบบที่มีลักษณะเหมือนมนุษย์ของอินเทอร์เฟซ VLM/LLM แบบชัตเตอร์ มันอาจใช้เวลานานก่อนที่ผู้ใช้จะเข้าใจว่ากฎของการสื่อสารนั้นต่างจากการสื่อสารระหว่างมนุษย์

วิธีหนึ่งในการแก้ปัญหานี้คือการ ‘ทำให้ความสัมพันธ์เป็นกลาง’ โดยการเน้นย้ำว่าผู้ใช้กำลังติดต่อกับอินสแตนซ์ของเครื่องจักร และสัญญาณและเครื่องหมายของความสุภาพและความขัดแย้งไม่ควรถูกพึ่งพาหรือมอบหมายให้มีน้ำหนักเท่ากับการสื่อสารระหว่างมนุษย์ แต่สิ่งนี้อาจเป็นเรื่องที่ยากที่จะขายให้กับการประชุมคณะกรรมการ

* การเน้นของผู้เขียน ไม่ใช่ของผม

เผยแพร่ครั้งแรกวันพุธที่ 22 เมษายน 2026