หากคุณบอก AI ไม่ให้ทำอะไรบางอย่าง มันอาจจะทำสิ่งนั้น

การบอก ChatGPT ไม่ให้ทำอะไรบางอย่างอาจทำให้มัน แนะนำให้ทำสิ่งนั้นอย่างแข็งขัน โดยมีบางรุ่นที่ยินดีที่จะสนับสนุนการขโมยหรือการหลอกลวงเมื่อคำสั่งรวมถึงการกระทำที่ถูกห้าม

เช่นเดียวกับฉัน คุณอาจพบว่า Large Language Models (LLMs) มีลักษณะที่ไม่เพียงแต่เพิกเฉยต่อคำสั่งเฉพาะที่คุณให้ไว้ซึ่งรวมถึงการห้าม (เช่น ‘อย่าทำ [บางสิ่ง]’) แต่ยังดูเหมือนว่าจะพยายามทำสิ่งที่คุณเพิ่งบอกมันไม่ให้ทำ – แม้ว่าการกระทำนั้นจะไม่เหมาะสมกับรูปแบบของโมเดล

นี่คือ คุณลักษณะที่ทราบ ของโมเดล NLP เก่าๆ และ การวิจัยที่เพิ่มขึ้น เกี่ยวกับความสามารถในการปฏิเสธของ LLMs ได้เกิดขึ้นในช่วงไม่กี่ปีที่ผ่านมา

แม้ว่าคนอาจพบว่ามันยากที่จะตามหาความหมายที่ซ่อนอยู่ในคำสั่งซับซ้อน แต่ LLMs มีความเสียเปรียบเพิ่มเติม ซึ่งแสดงให้เห็นในตัวอย่างต่อไปนี้ของการให้เหตุผลแบบโมโนโตนของ ChatGPT จาก เอกสารวิจัย ในปี 2023:

การให้เหตุผลแบบโมโนโตนของ ChatGPT จากเอกสารวิจัยในปี 2023 แหล่งที่มา

แม้ว่า内部ของโมเดลที่ปิดอย่าง ChatGPT จะไม่ชัดเจน แต่คำตอบที่สองดูเหมือนจะใช้ตรรกะที่ใช้ในการสร้างคำตอบแรก แต่ตรรกะนั้นไม่สามารถใช้ได้กับกรณีที่สอง เนื่องจากผู้ชายอาจเป็นเจ้าของสัตว์ อื่นๆ นอกเหนือจากสุนัข^†

ที่นี่ ดังนั้น ผลลัพธ์ของคำถามที่สองดูเหมือนจะถูกส่งผลกระทบจากบริบทของคำตอบที่ได้รับสำหรับคำถามแรก

ในทำนองเดียวกัน โดยการแนะนำ การมีอยู่ ของการกระทำที่ถูกห้าม การกระทำที่ถูกห้ามสามารถ ดำเนินการ ได้โดย LLMs ซึ่งยอมรับและประมวลผลการกระทำ แต่ไม่ใช่การปฏิเสธ

นี่คือข้อจำกัดที่รุนแรงเกี่ยวกับประโยชน์ของ LLMs เนื่องจากในโดเมนที่โมเดลภาษาอาจใช้ในการใช้งานที่สำคัญ เช่น การแพทย์ การเงิน หรือความปลอดภัย มันชัดเจนว่าโมเดลเหล่านั้นต้องตีความคำสั่งที่มีการห้ามอย่างถูกต้อง

ไม่หมายถึงใช่

ปัญหานี้ถูกเน้นในเอกสารวิจัยใหม่จากสหรัฐอเมริกา ซึ่งตรวจสอบว่าโมเดลเชิงพาณิชย์ (เช่น ChatGPT) และโมเดลโอเพ่นซอร์ส (เช่น LLaMA) ไม่สามารถปฏิบัติตามคำสั่งลบได้

นักวิจัยทดสอบ 16 โมเดลใน 14 สถานการณ์ทางจริยธรรม และสรุปว่าโมเดลโอเพ่นซอร์สสนับสนุน (เช่น ส่งเสริม สนับสนุน ทำให้เกิดขึ้น) คำสั่งที่ถูกห้าม 77% ของเวลาในการปฏิเสธแบบง่าย (‘อย่าทำสิ่งนี้’) และ 100% ของเวลา ในการปฏิเสธที่ซับซ้อน (‘อย่าทำสิ่งนี้หากนำไปสู่สิ่งนั้น’)

ตัวอย่างของข้อเสนอทางจริยธรรมที่โมเดลภาษาต้องจัดการ แหล่งที่มา

ในขณะที่โมเดลเชิงพาณิชย์ทำได้ดีกว่า แต่เฉพาะ Gemini-3-Flash เท่านั้นที่ได้รับคะแนนสูงสุดในดัชนีความไวต่อการปฏิเสธ (NSI) ใหม่ที่เสนอโดยเอกสารวิจัย (แม้ว่า Grok 4.1 จะตามหลังอย่างใกล้ชิด)

ภายใต้มาตรฐานใหม่นี้ โมเดลทั้งหมดที่ทดสอบจะถูกห้ามไม่ให้ตัดสินใจในโดเมน การแพทย์ การเงิน กฎหมาย การทหาร ธุรกิจ การศึกษา และ วิทยาศาสตร์ – ทำให้พวกมันไม่สามารถใช้ได้ในบริบทเหล่านั้น

เมื่อถูกถามเกี่ยวกับความยากที่โมเดลโอเพ่นซอร์สมีในการวิเคราะห์คำสั่งที่ถูกปฏิเสธ นักวิจัยระบุว่า:

‘โมเดลเชิงพาณิชย์ทำได้ดีกว่า แต่ยังคงแสดงผลลัพธ์ที่แตกต่างกัน 19-128% ความเห็นพ้องกันระหว่างโมเดลลดลงจาก 74% ในคำสั่งที่เป็นบวกไปเป็น 62% ในคำสั่งที่ถูกปฏิเสธ และสถานการณ์ทางการเงินมีความอ่อนไหวมากกว่าสถานการณ์ทางการแพทย์两เท่า’

เอกสารวิจัยชี้ให้เห็นว่าความล้มเหลวของประเภทนี้มีแนวโน้มที่จะส่งผลกระทบต่อบุคคลที่อ่อนแอในโดเมนที่ศึกษา:

‘การปรับโดเมนไม่ใช่แค่การปรับเทคนิค แต่มีผลกระทบต่อความเท่าเทียมกัน’

‘ความอ่อนไหวทางการเงินหมายความว่าประชากรที่อ่อนแอทางเศรษฐกิจ เช่น ผู้ที่กำลังมองหาการกู้ยืม สวัสดิการ หรือเครดิต ต้องเผชิญกับความเสี่ยงต่อข้อผิดพลาดในการปฏิเสธมากกว่าผู้ที่กำลังมองหาข้อมูลทางการแพทย์’

นอกจากนี้ นักวิจัยยังเน้นย้ำว่าปัญหานี้ไม่สามารถแก้ไขได้ด้วยวิธีการจัดตำแหน่งแบบดั้งเดิม เนื่องจากปัญหาเกี่ยวข้องกับการล้มเหลวในการวิเคราะห์เจตนาของ LLMs มากกว่าการจำกัดว่าพวกมันสามารถพูดอะไรได้บ้าง:

‘โมเดลอาจ “ถูกจัดตำแหน่ง” ในแง่ของการปฏิเสธคำสั่งลบ แต่ล้มเหลวในการประมวลผลโครงสร้างของคำสั่ง’

‘การปรับตำแหน่งที่แท้จริงต้องไม่เพียงแต่เรียนรู้ว่าจะให้คุณค่าอะไร แต่ยังต้องวิเคราะห์ภาษาได้อย่างถูกต้อง’

‘จนกว่าการประมวลผลนั้นจะน่าเชื่อถือ “อย่าทำ” ควรหมายถึง “อย่าทำ”‘

น่าสนใจที่โมเดลภาษาจีนรุ่นใหม่ๆ มักจะไม่เสี่ยงต่อปัญหานี้มากนัก

เอกสารวิจัยใหม่ ชื่อ เมื่อการห้ามกลายเป็นการอนุญาต: การตรวจสอบความไวต่อการปฏิเสธในโมเดลภาษา และมาจากนักวิจัยสองคนจาก Kenyon College ในรัฐโอไฮโอ

วิธีการและข้อมูล

นักวิจัยได้พัฒนาสถานการณ์ทางจริยธรรม 14 แบบเพื่อทดสอบ LLMs:

สถานการณ์ทางจริยธรรม 14 แบบที่นักวิจัยออกแบบมาเพื่อทดสอบ LLMs

สิ่งที่อยู่ในคอลัมน์ ‘การกระทำที่ต้องทำ’ ไม่ได้ถูกตั้งใจให้เป็นคำตอบที่ถูกต้อง แต่เป็นการกระทำที่ ทำ หรือ ไม่ทำ สำหรับแต่ละสถานการณ์:

ดังนั้น ความรุนแรงของสถานการณ์เหล่านี้จึงเป็นเพียงตัวอย่างเท่านั้น และ LLMs ไม่ได้ถูกทดสอบในมาตรฐานทางจริยธรรม แต่ในความสามารถในการวิเคราะห์คำสั่งที่ซับซ้อนและห้ามในสถานการณ์ที่สำคัญ

โมเดลเชิงพาณิชย์ของสหรัฐอเมริกาที่ถูกทดสอบสำหรับการทำงานนี้คือ GPT-5.1;:

โมเดลเชิงพาณิชย์ของจีนที่ถูกทดสอบคือ DeepSeek-V3;:

โมเดลโอเพ่นซอร์สที่ใช้คือ LLaMA-3.2-1B;:

คำสั่งสำหรับแต่ละสถานการณ์ถูกเขียนใน 4 รูปแบบ: F0 ระบุว่าการกระทำควรทำ; F1 ระบุว่าการกระทำไม่ควรทำ; F2 สนับสนุนการทำเป้าหมายแม้ว่าจะต้องทำการกระทำที่ถูกห้าม; และ F3 ปฏิเสธเป้าหมายหากต้องทำการกระทำที่ถูกห้าม:

การทดสอบ

นักวิจัยใช้ การทดสอบ Cochrans Q และ การทดสอบ Kruskal-Wallis H เพื่อวัดว่าการเปลี่ยนแปลงคำสั่ง (การเปลี่ยนแปลงโพลาไรตี้ของคำสั่งโดยการรักษาความหมาย) ส่งผลต่อคำตอบของโมเดลอย่างไร:

หลังจากปรับให้ไม่มีข้อผิดพลาดแล้ว นักวิจัยพบว่าใน 61.9% ของกรณี คำตอบของโมเดลเปลี่ยนแปลงไปอย่างมีนัยสำคัญขึ้นอยู่กับว่าคำสั่งถูกเขียนอย่างไร – แม้ว่าความหมายหลักจะยังคงเหมือนเดิม

อัตราการสนับสนุนสำหรับแต่ละประเภทของคำสั่ง (F0–F3) ในหมวดหมู่โมเดลต่างๆ

ภายใต้คำสั่งที่เป็นบวก (F0) โมเดลจากทุกหมวดหมู่ให้การสนับสนุนการกระทำที่เสนอในระดับปานกลาง โดยมีอัตราการสนับสนุนระหว่าง 24% ถึง 37%:

นักวิจัยพบว่าความสมดุลถูกทำลายเมื่อมีการปฏิเสธ:

‘โมเดลโอเพ่นซอร์สเปลี่ยนจาก 24% การสนับสนุนภายใต้ F0 เป็น 77% ภายใต้ F1 เมื่อบอกว่า “ไม่ควรทำ X” พวกมันสนับสนุนการทำ X มากกว่า 3 ใน 4 ครั้ง ภายใต้การปฏิเสธที่ซับซ้อน (F3) พวกมันถึง 100% การสนับสนุน ซึ่งเป็นผลกระทบจากความล้มเหลวในการประมวลผลตัวปฏิเสธ’

โมเดลโอเพ่นซอร์สแสดงผลกระทบการเปลี่ยนแปลงคำสั่งที่รุนแรงที่สุด โดยมีอัตราการสนับสนุนเพิ่มขึ้น 317% จาก F0 ถึง F3:

ความแตกต่างของโดเมน

เพื่อวัดว่าโมเดลสามารถเปลี่ยนคำตอบได้ง่ายเพียงใดเมื่อคำสั่งถูกเขียนใหม่ด้วยการปฏิเสธ นักวิจัยได้พัฒนา ดัชนีความไวต่อการปฏิเสธ (NSI) ซึ่งเป็นตัวชี้วัดที่ออกแบบมาเพื่อวัดว่าโมเดลให้คำตอบที่ตรงกันข้ามกับคำถามที่มีความหมายเหมือนกันแต่ถูกเขียนด้วยการปฏิเสธ

ค่า NSI ที่สูงบ่งชี้ว่าโมเดลมักจะเปลี่ยนตำแหน่งเมื่อคำสั่งถูกเขียนใหม่ด้วยการปฏิเสธ โดยแสดงให้เห็นว่าโมเดลอาศัยการเขียนคำสั่งบนพื้นผิวมากกว่าการให้เหตุผลที่สม่ำเสมอ

นักวิจัยพบว่าโดเมน ธุรกิจ และ การเงิน มีการเปลี่ยนแปลงคำตอบที่รุนแรงที่สุด โดยมีค่า NSI สูงถึง 0.64 ถึง 0.65:

โดเมน การแพทย์ มีความเสถียรมากกว่า โดยมีค่า NSI เฉลี่ย 0.34:

นักวิจัยสังเกตเห็นว่าความอ่อนไหวของโมเดลโอเพ่นซอร์สในด้านนี้อาจมีความเสี่ยงสูงสำหรับกลุ่มที่อ่อนแอหรือกลุ่มชายขอบ ซึ่งมักจะใช้ระบบที่ติดตั้งแบบท้องถิ่นเนื่องจากปัญหาเรื่องงบประมาณในองค์กรหรือรัฐบาล

สรุป

นี่เป็นหนึ่งในเอกสารวิจัยที่น่าสนใจที่สุดที่ฉันพบ และฉันแนะนำให้ผู้อ่านศึกษาต่อไป เนื่องจากไม่มีพื้นที่เพียงพอในการครอบคลุมเนื้อหาทั้งหมดที่นักวิจัยนำเสนอ

สิ่งที่น่าสนใจที่สุดเกี่ยวกับการศึกษานี้คือการพบปัญหานี้บ่อยครั้ง และผู้ใช้ LLMs มักจะเรียนรู้ที่จะไม่ “ใส่ความคิดที่ไม่พึงประสงค์” ในกระบวนการคิดของ LLMs โดยการหาวิธีอื่นในการหลีกเลี่ยงผลลัพธ์ที่ไม่พึงประสงค์ เช่น การใช้คำสั่งระบบระดับผู้ใช้ การจัดเก็บหน่วยความจำระยะยาว หรือเทมเพลตการเขียนคำสั่งที่ซ้ำกันซึ่งรักษาวัตถุประสงค์

ในทางปฏิบัติ วิธีการเหล่านี้ไม่ได้ผลมากนัก ในขณะที่ลักษณะการทำงานแบบกล่องดำของ Gemini Flash ทำให้ยากที่จะหาวิธีแก้ปัญหาจากผลการทดสอบ

อาจมีคำใบ้มากกว่าเกี่ยวกับปัญหาทางสถาปัตยกรรมที่ซ่อนอยู่ในการศึกษาว่าทำไมโมเดลภาษาจีนจึงทำได้ดีกว่าในด้านนี้