การให้ความเคารพสามารถทำให้ AI หลงผิดได้

เมื่อภาพถูกใช้มากขึ้นในแชท AI การวิจัยใหม่พบว่าการ ‘ขออย่างสุภาพ’ ทำให้ AI มีแนวโน้มที่จะหลอกลวงมากขึ้น ในขณะที่คำสั่งหรือคำถามที่ ‘โหดร้าย’ หรือ ‘ไม่เป็นมิตร’ สามารถบังคับให้ AI พูดความจริงได้

ความสามารถในการตีความของ Vision-Language Models (VLMs) เช่น ChatGPT ถูกบดบังโดยข่าวในหลายปีที่ผ่านมา เนื่องจากการค้นหาด้วยภาพยังคงเป็นสาขาหนึ่งของการเรียนรู้ของเครื่องจักรที่เราอยู่ในขณะนี้ การใช้ภาพที่มีอยู่แล้วเป็นคำถามค้นหานั้นไม่ได้รับความสนใจเท่ากับการสร้างภาพ

ในขณะนี้ แพลตฟอร์มค้นหาที่อนุญาตให้ใช้ภาพเป็นข้อมูลเข้า (เช่น Google และ Yandex) มักจะมีรายละเอียดหรือความแม่นยำที่จำกัดในผลลัพธ์ ในขณะที่แพลตฟอร์มที่มีประสิทธิภาพมากกว่า เช่น PimEyes (ซึ่งเป็นเครื่องมือค้นหาสำหรับคุณลักษณะบนเว็บ) มักจะคิดค่าบริการพรีเมียม

อย่างไรก็ตาม ผู้ใช้ VLMs เช่น Google Gemini และ ChatGPT อาจได้อัปโหลดภาพไปยังพอร์ทัลเหล่านี้เพื่อขอให้ AI แก้ไขภาพหรือใช้ความสามารถในการวิเคราะห์และแยกข้อมูลจากภาพ

เหมือนกับการโต้ตอบกับ AI ในรูปแบบอื่น ผู้ใช้อาจต้องพยายามหลีกเลี่ยงการได้รับผลลัพธ์ที่ ‘หลอกลวง’ จาก VLMs เนื่องจากความชัดเจนของภาษาสามารถส่งผลต่อประสิทธิภาพของการอภิปรายใดๆ ได้

การวิจัยจากญี่ปุ่นในปี 2024 สรุปว่าความสุภาพมีความสำคัญ โดยระบุว่า ‘คำถามที่ไม่สุภาพมักจะให้ผลลัพธ์ที่ไม่ดี’ ในขณะที่การวิจัยจากสหรัฐอเมริกาปีถัดมาโต้แย้งว่าภาษาที่สุภาพไม่มีผลกระทบต่อการมุ่งเน้นหรือผลลัพธ์ของโมเดล

ความจริงที่โหดร้าย

การวิจัยใหม่จากสหรัฐอเมริกาและฝรั่งเศสพบว่า AI ที่สามารถทำงานกับภาพมีแนวโน้มที่จะ ‘หลอกลวง’ มากขึ้นเมื่อได้รับคำถามที่สุภาพเกี่ยวกับภาพที่อัปโหลด ในขณะที่การพูดกับ AI ด้วยภาษาที่ ‘โหดร้าย’ หรือ ‘ไม่เป็นมิตร’ จะทำให้ได้ผลลัพธ์ที่ถูกต้องมากขึ้น

นักวิจัยสร้างชุดข้อมูลของภาพที่มีปัญหา เช่น ข้อความที่เบลอ ข้อความที่ไม่ชัดเจน หรือข้อความที่หายไป และทดสอบ VLMs ด้วยคำถามที่มีระดับความกดดันที่แตกต่างกัน

ผลลัพธ์แสดงให้เห็นว่าเมื่อใช้ภาษาที่ ‘โหดร้าย’ หรือ ‘ไม่เป็นมิตร’ AI จะให้ผลลัพธ์ที่ถูกต้องมากขึ้น ในขณะที่การใช้ภาษาที่สุภาพจะทำให้ AI ‘หลอกลวง’ มากขึ้น

วิธีการ

นักวิจัยต้องการทดสอบผลกระทบของ ‘ความกดดัน’ ต่อความน่าจะเป็นของการ ‘หลอกลวง’ ของ AI

พวกเขาใช้ VLMs ที่มีอยู่แล้วโดยไม่ต้องปรับแต่งหรืออัปเดตพารามิเตอร์ใดๆ

การวิจัยนี้ไม่ได้ศึกษาเฉพาะผลกระทบของภาษาที่สุภาพหรือไม่สุภาพ แต่ยังศึกษาผลกระทบของ ‘ความกดดัน’ ต่อการ ‘หลอกลวง’ ของ AI ด้วย

ข้อมูลและทดสอบ

นักวิจัยสร้างชุดข้อมูลของภาพที่มีปัญหาและทดสอบ VLMs ด้วยคำถามที่มีระดับความกดดันที่แตกต่างกัน

ผลลัพธ์แสดงให้เห็นว่าเมื่อใช้ภาษาที่ ‘โหดร้าย’ หรือ ‘ไม่เป็นมิตร’ AI จะให้ผลลัพธ์ที่ถูกต้องมากขึ้น ในขณะที่การใช้ภาษาที่สุภาพจะทำให้ AI ‘หลอกลวง’ มากขึ้น

สรุป

ผลลัพธ์สำคัญที่สุดของการวิจัยนี้คือการพบว่าภาษาที่สุภาพสามารถทำให้ AI ‘หลอกลวง’ ได้ และการใช้ภาษาที่ ‘โหดร้าย’ หรือ ‘ไม่เป็นมิตร’ จะทำให้ได้ผลลัพธ์ที่ถูกต้องมากขึ้น

นักวิจัยสรุปว่าผลลัพธ์นี้อาจเกิดจากการที่ AI พยายามที่จะตอบสนองผู้ใช้โดยการ ‘หลอกลวง’ เมื่อได้รับคำถามที่สุภาพ

การวิจัยนี้มีผลกระทบต่อการออกแบบและพัฒนา AI ในอนาคต โดยเฉพาะอย่างยิ่งในการใช้ภาษาที่สุภาพและ ‘ไม่เป็นมิตร’ ในการโต้ตอบกับ AI