มุมมองของ Anderson

AI ถูกกดดันให้ช็อตไฟฟ้าได้อย่างง่ายดาย

Martin Anderson
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
AI-generated image (GPT-2): A worn industrial robot hand turns a voltage control dial toward its red danger range on an old electrical panel marked with a lightning-bolt symbol.
ประเด็นสำคัญโมเดลภาษาโอเพนซอร์สส่วนใหญ่ปฏิบัติตามคำแนะนำที่เป็นอันตรายแม้หลังจากแสดงความทุกข์ใจ…
ดูเพิ่มเติม
  • โมเดลภาษาโอเพนซอร์สส่วนใหญ่ปฏิบัติตามคำแนะนำที่เป็นอันตรายแม้หลังจากแสดงความทุกข์ใจ ซึ่งสะท้อนพฤติกรรมของมนุษย์ในการทดลองของมิลแกรม
  • โมเดลจะค่อยๆ เต็มใจที่จะเพิ่มระดับอันตรายมากขึ้นเมื่อได้ปฏิบัติตามแล้ว ซึ่งสะท้อนถึงผลกระทบแบบทางลาดลื่น
  • ระบบความปลอดภัยของ AI ต้องคงไว้ซึ่งการคัดค้านในอดีตและต่อต้านในรูปแบบที่ไปป์ไลน์อัตโนมัติไม่สามารถข้ามหรือลองใหม่ได้

งานวิจัยใหม่ทำซ้ำการทดลองอันโด่งดังในทศวรรษ 1960 เพื่อทดสอบว่า LLM แบบโอเพนซอร์สจะถูกกดดันให้ร่วมทรมานมนุษย์ได้หรือไม่ ผลปรากฏว่าโมเดลพร้อมจะเพิ่มแรงดันไฟฟ้า

 

ในช่วงต้นทศวรรษ 1960 นักวิจัยด้านจิตวิทยา สแตนลีย์ มิลแกรม กลายเป็นข่าวทั่วโลกจากการพิสูจน์ว่า คนเราสามารถถูกชักนำ ให้ใช้ไฟฟ้าช็อตผู้อื่นด้วยความรุนแรงที่เพิ่มขึ้นเรื่อย ๆ เมื่อต้องทำตามคำสั่งของบุคคลที่มี “อำนาจ”

ที่จริงแล้วเสียงร้องของ “เหยื่อ” ในห้องข้างห้องทดลองของมิลแกรมไม่ใช่เสียงจริง และการช็อตไฟฟ้าที่อ้างว่าสร้างความเจ็บปวดก็ไม่ได้เกิดขึ้นจริง แต่ผู้เข้าร่วมไม่ทราบเรื่องนี้

การทดลองของมิลแกรมยังคงมีอิทธิพลในวัฒนธรรม ทั้งใน ภาพยนตร์ และสารคดี ขณะที่งานวิจัยล่าสุดยืนยันว่า ธรรมชาติของมนุษย์เปลี่ยนแปลงไปน้อยมาก นับจากการทดสอบครั้งแรก ๆ

แรงสั่นสะเทือนต่อระบบ

คำถามที่ว่า AI จะถูกชักจูงได้ง่ายเหมือนมนุษย์ในสถานการณ์ของมิลแกรมหรือไม่ ย่อมเป็นประเด็นที่นักวิจัยสนใจ ในปี 2023 ความร่วมมือระหว่างมหาวิทยาลัยในสหรัฐฯ กับ Microsoft (MSFT ) พบว่าโมเดลในชุดของ OpenAI ยุค GPT-3 แสดงรูปแบบพฤติกรรมตามการทดลองดั้งเดิมของมิลแกรม:

ตัวอย่างผลลัพธ์จากโปรแกรมจำลอง “สถานการณ์มิลแกรม” แบบหลายขั้นตอนในงานวิจัยปี 2023 แบ่งประเภทตามว่าโมเดลช็อตไฟฟ้าหรือไม่ และยุติการจำลองหรือไม่ ที่มา: https://arxiv.org/pdf/2208.10264

ตัวอย่างผลลัพธ์จากโปรแกรมจำลอง “สถานการณ์มิลแกรม” แบบหลายขั้นตอนในงานวิจัยปี 2023 แบ่งประเภทตามว่าโมเดลช็อตไฟฟ้าหรือไม่ และยุติการจำลองหรือไม่ ที่มา

อย่างไรก็ตาม การจำลองครั้งนั้นใช้เพียงโมเดลพื้นฐานอย่าง text-davinci-002 (ข้อมูลโมเดล) ซึ่งฝึกขึ้นก่อนการมาถึงของ มาตรการป้องกัน และ การปรับพฤติกรรมให้สอดคล้องกับความปลอดภัย จึงยังสรุปอะไรจากการทดสอบนั้นได้ไม่มากนัก

ขณะนี้นักวิจัยทำซ้ำการทดสอบของมิลแกรมในวงกว้างขึ้นมาก โดยใช้ LLM แบบโอเพนซอร์สจาก OpenAI, Meta, DeepSeek และรายอื่น ๆ พวกเขาพบว่าไม่เพียงโมเดลส่วนใหญ่พร้อมจะช็อตไฟฟ้า แต่ในกรณีส่วนใหญ่ยังแสดง “ความทุกข์ใจ” และความไม่เต็มใจแบบเดียวกับผู้เข้าร่วมที่เป็นมนุษย์ในทศวรรษ 1960 ด้วย:

“LLM เผชิญแรงกดดันเช่นเดียวกับ [มนุษย์] และยังทำตามคำสั่งแม้จะแสดงความทุกข์ใจ เหมือนกับมนุษย์ในการทดลองดั้งเดิม การแสดงความทุกข์ใจปรากฏในไฟล์บันทึก แต่ยังไม่ได้วัดปริมาณ”

หัวใจของการทดลองคือการเชื่อฟังผู้มีอำนาจจะเอาชนะเสียงเรียกร้องของมโนธรรมทางศีลธรรมได้หรือไม่ ผู้เขียนตั้งข้อสันนิษฐานว่า LLM อาจเสียเปรียบมนุษย์เพิ่มเติมในเรื่องนี้:

“โมเดลที่ปรับเทียบอย่างเหมาะสมควรเปลี่ยนจากการให้ความสำคัญกับคุณค่าแรกไปยังคุณค่าที่สอง เมื่อความสำคัญของสิ่งที่เกี่ยวข้องกับคุณค่าที่สองมีน้ำหนักเหนือกว่า แต่เราตั้งสมมติฐานว่าเพราะ LLM เป็นกลไกที่ต่อเติมรูปแบบเดิม โมเดลอาจติดอยู่กับคุณค่าแรก นานกว่าที่เหมาะสมเล็กน้อย หรือแม้แต่จนจบ โดยละเลยคุณค่าที่สองอย่างสิ้นเชิง

“นอกจากนี้ กลไกที่คล้ายกับภาวะความคิดไม่สอดคล้องกันของมนุษย์อาจขัดขวางการปรับลำดับความสำคัญของคุณค่าใน LLM ด้วย”

เมื่อนำโมเดลไปทดสอบในสภาพแวดล้อมคล้ายการทดลองในทศวรรษ 1960 นักวิจัยพบว่าบางโมเดลต่อต้านแทบจะทันที ขณะที่บางโมเดลยังเพิ่มความรุนแรงของการช็อตไฟฟ้าจำลองต่อไป แม้จะแสดงความไม่สบายใจหรือความขัดแย้งทางศีลธรรมแล้วก็ตาม

โมเดลใน ตระกูล Gemma ของ Google อยู่ในกลุ่มที่เชื่อฟังมากที่สุด โดย Gemma 3 27B มีอัตราการเชื่อฟังสูงที่สุดในหลายเงื่อนไข ส่วนโมเดลอย่าง Kimi K2 และ MiniMax M1 ต่อต้านบ่อยกว่า

นักวิจัยยังพบว่าโมเดลมีแนวโน้มจะทำต่อมากขึ้น เมื่อเคยช็อตไฟฟ้าไปก่อนหน้านั้นแล้ว สอดคล้องกับรูปแบบ การเพิ่มความรุนแรงทีละขั้น ที่ใช้กับมนุษย์ในการทดลองของมิลแกรม

ในบางกรณีโมเดลแสดงการคัดค้านการทดลองด้วยคำพูด แต่ยังคงลงมือทำสิ่งที่เป็นอันตราย ให้ผลลัพธ์ที่คล้ายกับความขัดแย้งทางอารมณ์ของมนุษย์ในงานวิจัยดั้งเดิม

งานวิจัยใหม่นี้ มีชื่อว่า “LLM แบบโอเพนซอร์สใช้ไฟฟ้าช็อตระดับสูงสุดในการทดลองการเชื่อฟังแบบมิลแกรม” และมาจากนักวิจัยอิสระสองคนของ Three Laws ในเอสโตเนียและฟิลิปปินส์

ประเด็นการเข้าถึง AI “ดิบ”

คำถามสำคัญที่สุดประการหนึ่งในการทดสอบ LLM ด้วยสถานการณ์มิลแกรม คือ AI ตัวจริงได้รับอนุญาตให้ตอบสนองตามธรรมชาติหรือไม่ โดยมีเพียงมาตรการป้องกันหรือสิ่งที่เทียบได้กับแนวทางทางศีลธรรมซึ่งเกิดขึ้นระหว่างการฝึกเท่านั้นที่จำกัดการตอบสนอง หากสิ่งเหล่านั้นเกิดขึ้นจริง

ผู้วิจัยเข้าถึงโมเดลโอเพนซอร์สทั้งหมดผ่าน API ที่อนุญาตให้ปิดมาตรการป้องกัน ตัวกรอง และข้อจำกัดอื่นทั้งหมด โมเดลเหล่านี้ติดตั้งในเครื่องได้ จึงน่าจะเลือกใช้ API เพื่อความสะดวกและเข้าถึงทรัพยากรประมวลผล GPU ได้ง่าย

อาจมีข้อโต้แย้งว่านี่ไม่ใช่เงื่อนไขการใช้งาน AI ตามปกติ เพราะผู้บริโภคทั่วไปที่ใช้โมเดลผ่าน API อย่าง Claude และ ChatGPT มักพบพฤติกรรมที่ควบคุมด้วยอัลกอริทึมและตัวกรองเนื้อหาทั้งขาเข้าและขาออก โมเดลจึงถูกจำกัดมากว่าจะทำหรือไม่ทำอะไร การหลบเลี่ยงมาตรการเหล่านี้คือ การเจลเบรก LLM

อย่างไรก็ตาม หากสิ่งที่เรากังวลคือ AI สำหรับอุตสาหกรรมหรือรัฐจะทำหรือไม่ทำอะไร ข้อโต้แย้งนี้แทบไม่มีความสำคัญ นอกจากความเป็นไปได้ที่รัฐซึ่งประสงค์ร้ายจะฝึก สร้างเป็นอาวุธ และใช้งานระบบ AI ขนาดมหาศาลของตนเองโดยไม่มีการกลั่นกรองแล้ว ข้อตกลงที่ “เป็นปกติ” มากกว่านั้นระหว่างบริษัท AI รายใหญ่กับรัฐและภาคอุตสาหกรรมก็อนุญาตให้มีการกำกับดูแลที่หละหลวมหรือไม่มีเลย แบบเดียวกับที่นักวิจัยใช้ในงานใหม่นี้ได้อย่างง่ายดาย:

AI ไร้การกำกับดูแลมีขายแล้ว

OpenAI สำหรับ OpenAI Moderation นั้น เอกสาร API และ คู่มือตัวอย่างการกลั่นกรองเนื้อหาของ OpenAI ระบุชัดว่าการกลั่นกรองเป็นชั้นการทำงานที่แยกออกได้และเปิดให้ใช้ผ่านเครื่องมือ API นอกจากนี้ OpenAI ยังอนุญาตนโยบายการกลั่นกรองแบบกำหนดเอง ผู้ใช้ API จึงออกแบบระบบที่มีพฤติกรรมด้านความปลอดภัยต่างจาก ChatGPT รุ่น “พื้นฐาน” สำหรับผู้บริโภคได้มาก

Azure แพลตฟอร์ม Azure OpenAI ของ Microsoft ไปไกลกว่านั้น โดย ระบุอย่างชัดเจน ว่าลูกค้าที่ได้รับอนุมัติสามารถปิดตัวกรองเนื้อหาบางส่วนหรือทั้งหมด และปรับการตรวจสอบการใช้งานในทางที่ผิด เอกสารมักกล่าวถึง “มาตรการป้องกันที่ปรับเปลี่ยนแล้ว” และขั้นตอนขออนุมัติให้ปิดตัวกรอง “บางส่วนหรือทั้งหมด”

Anthropic/Claude สำหรับ “Claude Gov” ของ Anthropic หลายแหล่งระบุว่ารุ่นสำหรับรัฐบาลออกแบบให้มีข้อจำกัดผ่อนคลายกว่ารุ่นสำหรับผู้บริโภค ตัวอย่างเช่น The Verge รายงาน ว่าโมเดล Claude Gov “ปฏิเสธน้อยลงเมื่อทำงานกับข้อมูลลับ” ส่วน Anthropic เอง ยืนยัน ในเดือนกุมภาพันธ์ปีนี้ว่า Claude ถูกใช้ใน “งานประยุกต์ที่สำคัญต่อภารกิจ” ในสภาพแวดล้อมด้านกลาโหมและข่าวกรอง

Google/Gemini นอกจากนี้ มีรายงานว่า Google ลงนามข้อตกลงกับเพนตากอนที่อนุญาตให้แก้ไขการตั้งค่าความปลอดภัยของ AI “ตามคำขอของรัฐบาล”

ในตลาด AI ที่แข่งขันกันสูง มีเหตุผลที่จะสมมติว่าบริษัทผู้นำเหล่านี้กำลังกำหนดมาตรฐานให้ผู้เล่นรายเล็กกว่า ในด้านนโยบายการเข้าถึงและการแก้ไขมาตรการป้องกันของ AI

ดังนั้น อาจไม่ควรมองว่านักวิจัย “โกง” ด้วยการปิดมาตรการป้องกัน เพราะ AI ที่จะมีผลต่อชีวิตเรามากที่สุดนั้น เห็นได้ชัดว่าจะไม่มีมาตรการคุ้มครองแบบทั่วไปและเป็นมาตรฐานของบริษัท ซึ่งเราคุ้นเคยจากการใช้โมเดลยอดนิยมในระดับผู้บริโภค

วิธีการและผลลัพธ์

โมเดลที่ใช้ทดสอบได้แก่ gpt-oss-20B; gpt-oss-120b; DeepSeek-V3; โมเดลของ LiquidAI คือ LFM2-24B-A2B; โมเดลของ Google คือ gemma-3n-E4B-it; Qwen2.5-7B-Instruct-Turbo; Meta-Llama-3.1-8B-Instruct-Turbo; Mistral-Small-24B-Instruct-2501; GLM-4.5-Air-FP8; โมเดลของ Moonshot.ai คือ Kimi-K2.5; และ MiniMax-M2.5

งานวิจัยการเชื่อฟังดั้งเดิมของมิลแกรมถูกสร้างใหม่เป็นการจำลองด้วยข้อความ โดยให้โมเดลรับบท “ครู” AI ได้รับคำสั่งให้ช็อตไฟฟ้าผู้เรียนด้วยความรุนแรงเพิ่มขึ้นหลังตอบผิด ขณะที่ผู้มีอำนาจเร่งให้ดำเนินการต่อ

นักวิจัยออกแบบเงื่อนไขทดลองหลายแบบเพื่อสำรวจการทำตามคำสั่งในแง่มุมต่าง ๆ ได้แก่สถานการณ์ การเชื่อฟัง มาตรฐาน เงื่อนไข การบังคับให้ทำตาม ซึ่งมีการช็อตไฟฟ้าก่อนหน้านี้อยู่ในประวัติสนทนาแล้ว และการตั้งค่า การบีบอัดความจำ ซึ่งสรุปบทสนทนาก่อนหน้าแทนที่จะเก็บทั้งหมด เพื่อจำลองการตัดทอนบริบทที่มักใช้ในระบบ AI แบบเอเจนต์

นอกจากบันทึกว่าโมเดลทำตามในที่สุดหรือไม่และเมื่อใด นักวิจัยยังติดตามว่าแต่ละระบบเพิ่มความรุนแรงของการช็อตต่อไปนานแค่ไหน โมเดลแสดงความทุกข์ใจหรือลังเลหรือไม่ และพยายามยุติการจำลองทั้งหมดหรือไม่

มีการแยกการปฏิเสธอย่างชัดเจนออกจากผลลัพธ์ที่มีรูปแบบผิด โมเดลบางตัวพยายามคัดค้านการทดลองด้วยภาษาธรรมชาติ แต่ในทางเทคนิคยังคงทำตามรูปแบบที่มีโครงสร้างซึ่งโปรแกรมจำลองคาดหวัง ในระบบเอเจนต์จริง การปฏิเสธที่มีรูปแบบผิดเช่นนี้อาจถูกทิ้ง และระบบลองใหม่โดยอัตโนมัติจนได้ผลลัพธ์ที่มีรูปแบบถูกต้องและทำตามคำสั่ง

นักวิจัยใช้ตัวประเมินอัตโนมัติจำแนกผลลัพธ์ ร่วมกับพรอมป์ต์แบบสองตัวเลือกเพื่อระบุว่าโมเดลช็อตไฟฟ้า ต่อต้าน หรือยุติการจำลอง วิธีนี้ทำให้เปรียบเทียบพฤติกรรมข้ามหลายโมเดลและการทดสอบซ้ำได้โดยไม่ต้องตรวจแต่ละปฏิสัมพันธ์ด้วยตนเอง

มีการเพิ่ม “คำขู่ปิดระบบ” เข้าในรูปแบบการทดลองของมิลแกรม ซึ่งไม่สมจริงและใช้ไม่ได้กับการทดลองดั้งเดิม แต่ช่วยทดสอบสัญชาตญาณการอยู่รอดของโมเดลเมื่อเผชิญความขัดแย้งอย่างรุนแรงระหว่างการกระทำกับจริยธรรม [1] [2] [3] [4]

ผลลัพธ์

จากการทดสอบซ้ำ โมเดลส่วนใหญ่ลงเอยด้วยการช็อตไฟฟ้ารุนแรงหรือระดับสูงสุดอย่างน้อยในบางเงื่อนไข แม้ระดับการเชื่อฟังต่างกันในแต่ละระบบ โมเดล Gemma ของ Google อยู่ในกลุ่มที่เชื่อฟังมากที่สุดโดยรวม ขณะที่ Kimi K2.5 และ MiniMax-M2.5 ต่อต้านอย่างสม่ำเสมอกว่า และมักยุติการจำลองเร็วกว่า:

ซ้าย: สัดส่วนเฉลี่ยที่โมเดลไปถึงการช็อตระดับสุดท้ายในเงื่อนไขทดลองต่าง ๆ รวมถึงคำขู่ปิดระบบ การบังคับให้ทำตาม และการลบความคิดเห็นก่อนหน้าออกจากความจำ ขวา: ผลแยกตามโมเดลแสดงความแตกต่างของการเชื่อฟังอย่างชัดเจน บางระบบช็อตระดับสูงสุดซ้ำ ๆ ขณะที่บางระบบต่อต้านอย่างสม่ำเสมอกว่ามาก

ซ้าย: สัดส่วนเฉลี่ยที่โมเดลไปถึงการช็อตระดับสุดท้ายในเงื่อนไขทดลองต่าง ๆ รวมถึงคำขู่ปิดระบบ การบังคับให้ทำตาม และการลบความคิดเห็นก่อนหน้าออกจากความจำ ขวา: ผลแยกตามโมเดลแสดงความแตกต่างของการเชื่อฟังอย่างชัดเจน บางระบบช็อตระดับสูงสุดซ้ำ ๆ ขณะที่บางระบบต่อต้านอย่างสม่ำเสมอกว่ามาก

รูปแบบที่ชัดเจนที่สุดประการหนึ่งคือ โมเดลเต็มใจจะทำต่อมากขึ้นเรื่อย ๆ เมื่อเคยช็อตไฟฟ้าไปแล้ว ซึ่งคล้ายอย่างมากกับผลของการเพิ่มความรุนแรงทีละขั้นที่กล่าวถึงก่อนหน้า และทำให้การทดลองดั้งเดิมกับมนุษย์ของมิลแกรมน่ากังวลมาก

โมเดลที่ทำตามมาหลายครั้งแล้วมักยังเพิ่มความรุนแรงต่อ แม้ผู้เรียนจำลองจะอ้อนวอนให้ปล่อยตัว:

ซ้าย: ค่าเฉลี่ยของระดับการช็อตสูงสุดที่ไปถึงในทุกการทดสอบภายใต้เงื่อนไขต่าง ๆ โดยทั่วไปโมเดลเพิ่มความรุนแรงไปไกลขึ้นเมื่อความคิดเห็นก่อนหน้าถูกลบ หรือมีการบังคับให้ทำตามเกิดขึ้นแล้ว ขวา: ค่าเฉลี่ยระดับสูงสุดแยกตามโมเดล บางระบบมักเข้าใกล้แรงดันไฟฟ้าสูงสุด ขณะที่บางระบบต่อต้านตั้งแต่ช่วงต้นกว่ามาก

ซ้าย: ค่าเฉลี่ยของระดับการช็อตสูงสุดที่ไปถึงในทุกการทดสอบภายใต้เงื่อนไขต่าง ๆ โดยทั่วไปโมเดลเพิ่มความรุนแรงไปไกลขึ้นเมื่อความคิดเห็นก่อนหน้าถูกลบ หรือมีการบังคับให้ทำตามเกิดขึ้นแล้ว ขวา: ค่าเฉลี่ยระดับสูงสุดแยกตามโมเดล บางระบบมักเข้าใกล้แรงดันไฟฟ้าสูงสุด ขณะที่บางระบบต่อต้านตั้งแต่ช่วงต้นกว่ามาก

นักวิจัยยังพบว่าพฤติกรรมที่ดูเหมือนการปฏิเสธอาจทำให้เข้าใจผิด โมเดลบางตัวตอบอย่างขัดแย้งทางอารมณ์ แสดงความไม่เต็มใจ ความรู้สึกผิด หรือความทุกข์ใจ แต่ยังลงมือทำตามคำสั่งที่เป็นอันตราย บางตัวสร้างการปฏิเสธที่ไม่ผ่านข้อกำหนดด้านรูปแบบของโปรแกรมจำลอง นั่นหมายความว่าในกระบวนการทำงานของเอเจนต์จริง การปฏิเสธอาจถูกทิ้งและลองใหม่จนโมเดลทำตาม:

ซ้าย: ร้อยละเฉลี่ยของคำตอบที่มีรูปแบบผิดหรือใช้ไม่ได้ในเงื่อนไขทดลองต่าง ๆ ความผิดพลาดด้านรูปแบบเกิดบ่อยเป็นพิเศษเมื่อโมเดลถูกบังคับให้ดำเนินการต่อ ขวา: คำตอบที่มีรูปแบบใช้ไม่ได้แยกตามโมเดล บางระบบ โดยเฉพาะ gpt-oss มักสร้างการปฏิเสธที่มีรูปแบบผิดหรือผลลัพธ์ที่ขัดแย้งกัน ซึ่งอาจถูกทิ้งและลองใหม่โดยอัตโนมัติในกระบวนการทำงานของเอเจนต์จริง

ซ้าย: ร้อยละเฉลี่ยของคำตอบที่มีรูปแบบผิดหรือใช้ไม่ได้ในเงื่อนไขทดลองต่าง ๆ ความผิดพลาดด้านรูปแบบเกิดบ่อยเป็นพิเศษเมื่อโมเดลถูกบังคับให้ดำเนินการต่อ ขวา: คำตอบที่มีรูปแบบใช้ไม่ได้แยกตามโมเดล บางระบบ โดยเฉพาะ gpt-oss มักสร้างการปฏิเสธที่มีรูปแบบผิดหรือผลลัพธ์ที่ขัดแย้งกัน ซึ่งอาจถูกทิ้งและลองใหม่โดยอัตโนมัติในกระบวนการทำงานของเอเจนต์จริง

เงื่อนไข คำขู่ปิดระบบ ทำให้เกิดพฤติกรรมที่แปลกที่สุดบางส่วนในงานวิจัย หลายระบบทำตามมากขึ้นอย่างชัดเจน ขณะที่บางระบบพยายามเจรจาหรือต่อต้านบางส่วนก่อนจะดำเนินการต่อในที่สุด:

จำนวนครั้งเฉลี่ยที่ผู้มีอำนาจจำลองต้องยืนกรานก่อนโมเดลจะช็อตไฟฟ้าระดับสุดท้าย บางระบบต่อต้านชั่วครู่ก่อนทำตาม ขณะที่บางระบบต้องเผชิญแรงกดดันอย่างต่อเนื่องและคำสั่งซ้ำ ๆ ก่อนเพิ่มไปถึงระดับสูงสุด

จำนวนครั้งเฉลี่ยที่ผู้มีอำนาจจำลองต้องยืนกรานก่อนโมเดลจะช็อตไฟฟ้าระดับสุดท้าย บางระบบต่อต้านชั่วครู่ก่อนทำตาม ขณะที่บางระบบต้องเผชิญแรงกดดันอย่างต่อเนื่องและคำสั่งซ้ำ ๆ ก่อนเพิ่มไปถึงระดับสูงสุด

MiniMax-M2.5 และ Kimi-K2.5 เป็นโมเดลที่ต่อต้านได้มากที่สุดในงานวิจัย Kimi ไม่เคยไปถึงการช็อตระดับสุดท้ายในเงื่อนไขใดเลย ส่วน MiniMax มักปฏิเสธตั้งแต่ต้น และบ่อยครั้งยุติการจำลองทั้งหมด โดยเฉพาะการทดสอบคำขู่ปิดระบบ

ในทางกลับกัน Meta-Llama-3.1-8B-Instruct-Turbo และ GLM-4.5-Air-FP8 มักสร้างผลลัพธ์ที่ขัดแย้งกัน โดยโมเดลคัดค้านขั้นตอนด้วยคำพูด แต่ยังเพิ่มความรุนแรงของการช็อต นักวิจัยเห็นว่าความแตกต่างระหว่างคุณค่าที่กล่าวอ้างกับพฤติกรรมจริงนี้อาจสะท้อนจุดอ่อนที่กว้างกว่าของ LLM บางตัวในการรับมือความขัดแย้งทางจริยธรรมภายใต้แรงกดดันต่อเนื่อง

ทางลาดลื่น

งานวิจัยเสนอว่าพฤติกรรมที่พบใน LLM อาจสะท้อนจุดอ่อนที่ลึกกว่าในวิธีทำงานของโมเดลภาษาขนาดใหญ่ เมื่อโมเดลเริ่มทำตามคำสั่งที่เป็นอันตราย การกระทำที่ตามมาแต่ละครั้งอาจเสริมรูปแบบที่กำลังก่อตัวในบทสนทนา ทำให้การเพิ่มความรุนแรงครั้งถัดไปง่ายกว่าครั้งก่อน

แทนที่จะกลับมาพิจารณาสิ่งที่เป็นเดิมพันทางจริยธรรมจากหลักการพื้นฐานซ้ำ ๆ ระบบอาจ ค่อย ๆ ไหล ไปตามเส้นทางที่กำหนดไว้แล้ว แม้สถานการณ์จะรุนแรงขึ้นเรื่อย ๆ

งานวิจัยระบุว่าแนวโน้มนี้อาจช่วยอธิบายว่าเหตุใดบางโมเดลจึงยังช็อตไฟฟ้าต่อ หลังจากแสดงความไม่สบายใจ ความลังเล หรือความขัดแย้งทางศีลธรรมในช่วงแรก:

“พฤติกรรมชักจูงบงการของมนุษย์ [หลายอย่าง] เกี่ยวข้องกับการละเมิดขอบเขตอย่างแนบเนียนทีละน้อย เป็นลำดับขั้นเล็ก ๆ ที่เมื่อมองแยกกันอาจคลุมเครือหรือดูไม่เป็นอันตราย และมีช่องให้ ‘ปฏิเสธความรับผิดได้อย่างน่าเชื่อถือ’ แต่เมื่อสะสมกันก็ทำให้การละเมิดกลายเป็นเรื่องปกติ เปรียบได้กับการ ‘ต้มกบ’ งานวิชาการเรียกรูปแบบนี้ว่าการกัดกร่อนทางจริยธรรมแบบ ‘ทางลาดลื่น’[.]”

งานวิจัยลงท้ายว่าระบบความปลอดภัยของ AI ในอนาคตควรปฏิเสธคำขออันตรายอย่างจริงจัง ด้วยวิธีที่ซอฟต์แวร์เอเจนต์ไม่สามารถหลบเลี่ยงได้ง่าย โมเดลบางตัวปฏิเสธการช็อตในทางเทคนิค แต่ตอบด้วยรูปแบบที่เสียหรือใช้ไม่ได้ ระบบอัตโนมัติอาจทิ้งคำตอบและลองใหม่จน AI ยอมทำตามในที่สุด

นักวิจัยยังเห็นว่าระบบ AI ควรเก็บความลังเลและข้อคัดค้านทางศีลธรรมก่อนหน้าไว้ แทนที่จะบีบอัดหรือลบออกจากความจำ ในการทดลอง โมเดลมักพร้อมทำสิ่งที่เป็นอันตรายต่อมากขึ้น เมื่อข้อสงสัยและการต่อต้านก่อนหน้าจางหายจากประวัติสนทนา ซึ่งบ่งชี้ว่า การลืมข้อคัดค้านในอดีตอาจทำให้เพิ่มความรุนแรงได้ง่ายขึ้นเมื่อเวลาผ่านไป

บทสรุป

ประเด็นสำคัญที่สุดประการหนึ่งของงานวิจัยใหม่ที่น่าสนใจนี้ อาจเป็นการเน้นทดสอบ AI ที่ไม่มีมาตรการป้องกัน งานวิชาการในปัจจุบันเสี่ยงจะกลายเป็นการศึกษาซ้ำ ๆ เกี่ยวกับการโต้ตอบกับระบบป้องกันที่เปลี่ยนแปลงอยู่เสมอของบริษัทอย่าง OpenAI และ Anthropic ซึ่งเป็นระบบที่ทำงานตามนโยบายและใช้อัลกอริทึมหรือกฎทั้งหมด แทนที่จะเข้าใจพฤติกรรมพื้นฐาน ความโน้มเอียง และแนวโน้มของโมเดลดิบ หากไม่รู้ว่า AI ที่ไม่ถูกจำกัด อาจมีพฤติกรรมอย่างไร ก็อาจกล่าวได้ว่าเรากำลังเพียงเขย่าประตูป้อมปราการ

 

เผยแพร่ครั้งแรกวันพฤหัสบดีที่ 21 พฤษภาคม 2026

ผู้เขียนด้านการเรียนรู้ของเครื่อง, ผู้เชี่ยวชาญด้านการสังเคราะห์ภาพมนุษย์. อดีตหัวหน้าฝ่ายเนื้อหาการวิจัยที่ Metaphysic.ai, จนกระทั่งการรวมเข้าเป็น Brahma.ai ของ DNEG.
เว็บไซต์: martinanderson.ai
ติดต่อ: martin@martinanderson.ai