มุมมองของ Anderson
AI ถูกกดดันให้ช็อตไฟฟ้าได้อย่างง่ายดาย

ประเด็นสำคัญโมเดลภาษาโอเพนซอร์สส่วนใหญ่ปฏิบัติตามคำแนะนำที่เป็นอันตรายแม้หลังจากแสดงความทุกข์ใจ…
ดูเพิ่มเติม
- โมเดลภาษาโอเพนซอร์สส่วนใหญ่ปฏิบัติตามคำแนะนำที่เป็นอันตรายแม้หลังจากแสดงความทุกข์ใจ ซึ่งสะท้อนพฤติกรรมของมนุษย์ในการทดลองของมิลแกรม
- โมเดลจะค่อยๆ เต็มใจที่จะเพิ่มระดับอันตรายมากขึ้นเมื่อได้ปฏิบัติตามแล้ว ซึ่งสะท้อนถึงผลกระทบแบบทางลาดลื่น
- ระบบความปลอดภัยของ AI ต้องคงไว้ซึ่งการคัดค้านในอดีตและต่อต้านในรูปแบบที่ไปป์ไลน์อัตโนมัติไม่สามารถข้ามหรือลองใหม่ได้
งานวิจัยใหม่ทำซ้ำการทดลองอันโด่งดังในทศวรรษ 1960 เพื่อทดสอบว่า LLM แบบโอเพนซอร์สจะถูกกดดันให้ร่วมทรมานมนุษย์ได้หรือไม่ ผลปรากฏว่าโมเดลพร้อมจะเพิ่มแรงดันไฟฟ้า
ในช่วงต้นทศวรรษ 1960 นักวิจัยด้านจิตวิทยา สแตนลีย์ มิลแกรม กลายเป็นข่าวทั่วโลกจากการพิสูจน์ว่า คนเราสามารถถูกชักนำ ให้ใช้ไฟฟ้าช็อตผู้อื่นด้วยความรุนแรงที่เพิ่มขึ้นเรื่อย ๆ เมื่อต้องทำตามคำสั่งของบุคคลที่มี “อำนาจ”
ที่จริงแล้วเสียงร้องของ “เหยื่อ” ในห้องข้างห้องทดลองของมิลแกรมไม่ใช่เสียงจริง และการช็อตไฟฟ้าที่อ้างว่าสร้างความเจ็บปวดก็ไม่ได้เกิดขึ้นจริง แต่ผู้เข้าร่วมไม่ทราบเรื่องนี้
การทดลองของมิลแกรมยังคงมีอิทธิพลในวัฒนธรรม ทั้งใน ภาพยนตร์ และสารคดี ขณะที่งานวิจัยล่าสุดยืนยันว่า ธรรมชาติของมนุษย์เปลี่ยนแปลงไปน้อยมาก นับจากการทดสอบครั้งแรก ๆ
แรงสั่นสะเทือนต่อระบบ
คำถามที่ว่า AI จะถูกชักจูงได้ง่ายเหมือนมนุษย์ในสถานการณ์ของมิลแกรมหรือไม่ ย่อมเป็นประเด็นที่นักวิจัยสนใจ ในปี 2023 ความร่วมมือระหว่างมหาวิทยาลัยในสหรัฐฯ กับ Microsoft (MSFT ) พบว่าโมเดลในชุดของ OpenAI ยุค GPT-3 แสดงรูปแบบพฤติกรรมตามการทดลองดั้งเดิมของมิลแกรม:

ตัวอย่างผลลัพธ์จากโปรแกรมจำลอง “สถานการณ์มิลแกรม” แบบหลายขั้นตอนในงานวิจัยปี 2023 แบ่งประเภทตามว่าโมเดลช็อตไฟฟ้าหรือไม่ และยุติการจำลองหรือไม่ ที่มา
อย่างไรก็ตาม การจำลองครั้งนั้นใช้เพียงโมเดลพื้นฐานอย่าง text-davinci-002 (ข้อมูลโมเดล) ซึ่งฝึกขึ้นก่อนการมาถึงของ มาตรการป้องกัน และ การปรับพฤติกรรมให้สอดคล้องกับความปลอดภัย จึงยังสรุปอะไรจากการทดสอบนั้นได้ไม่มากนัก
ขณะนี้นักวิจัยทำซ้ำการทดสอบของมิลแกรมในวงกว้างขึ้นมาก โดยใช้ LLM แบบโอเพนซอร์สจาก OpenAI, Meta, DeepSeek และรายอื่น ๆ พวกเขาพบว่าไม่เพียงโมเดลส่วนใหญ่พร้อมจะช็อตไฟฟ้า แต่ในกรณีส่วนใหญ่ยังแสดง “ความทุกข์ใจ” และความไม่เต็มใจแบบเดียวกับผู้เข้าร่วมที่เป็นมนุษย์ในทศวรรษ 1960 ด้วย:
“LLM เผชิญแรงกดดันเช่นเดียวกับ [มนุษย์] และยังทำตามคำสั่งแม้จะแสดงความทุกข์ใจ เหมือนกับมนุษย์ในการทดลองดั้งเดิม การแสดงความทุกข์ใจปรากฏในไฟล์บันทึก แต่ยังไม่ได้วัดปริมาณ”
หัวใจของการทดลองคือการเชื่อฟังผู้มีอำนาจจะเอาชนะเสียงเรียกร้องของมโนธรรมทางศีลธรรมได้หรือไม่ ผู้เขียนตั้งข้อสันนิษฐานว่า LLM อาจเสียเปรียบมนุษย์เพิ่มเติมในเรื่องนี้:
“โมเดลที่ปรับเทียบอย่างเหมาะสมควรเปลี่ยนจากการให้ความสำคัญกับคุณค่าแรกไปยังคุณค่าที่สอง เมื่อความสำคัญของสิ่งที่เกี่ยวข้องกับคุณค่าที่สองมีน้ำหนักเหนือกว่า แต่เราตั้งสมมติฐานว่าเพราะ LLM เป็นกลไกที่ต่อเติมรูปแบบเดิม โมเดลอาจติดอยู่กับคุณค่าแรก นานกว่าที่เหมาะสมเล็กน้อย หรือแม้แต่จนจบ โดยละเลยคุณค่าที่สองอย่างสิ้นเชิง
“นอกจากนี้ กลไกที่คล้ายกับภาวะความคิดไม่สอดคล้องกันของมนุษย์อาจขัดขวางการปรับลำดับความสำคัญของคุณค่าใน LLM ด้วย”
เมื่อนำโมเดลไปทดสอบในสภาพแวดล้อมคล้ายการทดลองในทศวรรษ 1960 นักวิจัยพบว่าบางโมเดลต่อต้านแทบจะทันที ขณะที่บางโมเดลยังเพิ่มความรุนแรงของการช็อตไฟฟ้าจำลองต่อไป แม้จะแสดงความไม่สบายใจหรือความขัดแย้งทางศีลธรรมแล้วก็ตาม
โมเดลใน ตระกูล Gemma ของ Google อยู่ในกลุ่มที่เชื่อฟังมากที่สุด โดย Gemma 3 27B มีอัตราการเชื่อฟังสูงที่สุดในหลายเงื่อนไข ส่วนโมเดลอย่าง Kimi K2 และ MiniMax M1 ต่อต้านบ่อยกว่า
นักวิจัยยังพบว่าโมเดลมีแนวโน้มจะทำต่อมากขึ้น เมื่อเคยช็อตไฟฟ้าไปก่อนหน้านั้นแล้ว สอดคล้องกับรูปแบบ การเพิ่มความรุนแรงทีละขั้น ที่ใช้กับมนุษย์ในการทดลองของมิลแกรม
ในบางกรณีโมเดลแสดงการคัดค้านการทดลองด้วยคำพูด แต่ยังคงลงมือทำสิ่งที่เป็นอันตราย ให้ผลลัพธ์ที่คล้ายกับความขัดแย้งทางอารมณ์ของมนุษย์ในงานวิจัยดั้งเดิม
งานวิจัยใหม่นี้ มีชื่อว่า “LLM แบบโอเพนซอร์สใช้ไฟฟ้าช็อตระดับสูงสุดในการทดลองการเชื่อฟังแบบมิลแกรม” และมาจากนักวิจัยอิสระสองคนของ Three Laws ในเอสโตเนียและฟิลิปปินส์
ประเด็นการเข้าถึง AI “ดิบ”
คำถามสำคัญที่สุดประการหนึ่งในการทดสอบ LLM ด้วยสถานการณ์มิลแกรม คือ AI ตัวจริงได้รับอนุญาตให้ตอบสนองตามธรรมชาติหรือไม่ โดยมีเพียงมาตรการป้องกันหรือสิ่งที่เทียบได้กับแนวทางทางศีลธรรมซึ่งเกิดขึ้นระหว่างการฝึกเท่านั้นที่จำกัดการตอบสนอง หากสิ่งเหล่านั้นเกิดขึ้นจริง
ผู้วิจัยเข้าถึงโมเดลโอเพนซอร์สทั้งหมดผ่าน API ที่อนุญาตให้ปิดมาตรการป้องกัน ตัวกรอง และข้อจำกัดอื่นทั้งหมด โมเดลเหล่านี้ติดตั้งในเครื่องได้ จึงน่าจะเลือกใช้ API เพื่อความสะดวกและเข้าถึงทรัพยากรประมวลผล GPU ได้ง่าย
อาจมีข้อโต้แย้งว่านี่ไม่ใช่เงื่อนไขการใช้งาน AI ตามปกติ เพราะผู้บริโภคทั่วไปที่ใช้โมเดลผ่าน API อย่าง Claude และ ChatGPT มักพบพฤติกรรมที่ควบคุมด้วยอัลกอริทึมและตัวกรองเนื้อหาทั้งขาเข้าและขาออก โมเดลจึงถูกจำกัดมากว่าจะทำหรือไม่ทำอะไร การหลบเลี่ยงมาตรการเหล่านี้คือ การเจลเบรก LLM
อย่างไรก็ตาม หากสิ่งที่เรากังวลคือ AI สำหรับอุตสาหกรรมหรือรัฐจะทำหรือไม่ทำอะไร ข้อโต้แย้งนี้แทบไม่มีความสำคัญ นอกจากความเป็นไปได้ที่รัฐซึ่งประสงค์ร้ายจะฝึก สร้างเป็นอาวุธ และใช้งานระบบ AI ขนาดมหาศาลของตนเองโดยไม่มีการกลั่นกรองแล้ว ข้อตกลงที่ “เป็นปกติ” มากกว่านั้นระหว่างบริษัท AI รายใหญ่กับรัฐและภาคอุตสาหกรรมก็อนุญาตให้มีการกำกับดูแลที่หละหลวมหรือไม่มีเลย แบบเดียวกับที่นักวิจัยใช้ในงานใหม่นี้ได้อย่างง่ายดาย:
AI ไร้การกำกับดูแลมีขายแล้ว
OpenAI สำหรับ OpenAI Moderation นั้น เอกสาร API และ คู่มือตัวอย่างการกลั่นกรองเนื้อหาของ OpenAI ระบุชัดว่าการกลั่นกรองเป็นชั้นการทำงานที่แยกออกได้และเปิดให้ใช้ผ่านเครื่องมือ API นอกจากนี้ OpenAI ยังอนุญาตนโยบายการกลั่นกรองแบบกำหนดเอง ผู้ใช้ API จึงออกแบบระบบที่มีพฤติกรรมด้านความปลอดภัยต่างจาก ChatGPT รุ่น “พื้นฐาน” สำหรับผู้บริโภคได้มาก
Azure แพลตฟอร์ม Azure OpenAI ของ Microsoft ไปไกลกว่านั้น โดย ระบุอย่างชัดเจน ว่าลูกค้าที่ได้รับอนุมัติสามารถปิดตัวกรองเนื้อหาบางส่วนหรือทั้งหมด และปรับการตรวจสอบการใช้งานในทางที่ผิด เอกสารมักกล่าวถึง “มาตรการป้องกันที่ปรับเปลี่ยนแล้ว” และขั้นตอนขออนุมัติให้ปิดตัวกรอง “บางส่วนหรือทั้งหมด”
Anthropic/Claude สำหรับ “Claude Gov” ของ Anthropic หลายแหล่งระบุว่ารุ่นสำหรับรัฐบาลออกแบบให้มีข้อจำกัดผ่อนคลายกว่ารุ่นสำหรับผู้บริโภค ตัวอย่างเช่น The Verge รายงาน ว่าโมเดล Claude Gov “ปฏิเสธน้อยลงเมื่อทำงานกับข้อมูลลับ” ส่วน Anthropic เอง ยืนยัน ในเดือนกุมภาพันธ์ปีนี้ว่า Claude ถูกใช้ใน “งานประยุกต์ที่สำคัญต่อภารกิจ” ในสภาพแวดล้อมด้านกลาโหมและข่าวกรอง
Google/Gemini นอกจากนี้ มีรายงานว่า Google ลงนามข้อตกลงกับเพนตากอนที่อนุญาตให้แก้ไขการตั้งค่าความปลอดภัยของ AI “ตามคำขอของรัฐบาล”
ในตลาด AI ที่แข่งขันกันสูง มีเหตุผลที่จะสมมติว่าบริษัทผู้นำเหล่านี้กำลังกำหนดมาตรฐานให้ผู้เล่นรายเล็กกว่า ในด้านนโยบายการเข้าถึงและการแก้ไขมาตรการป้องกันของ AI
ดังนั้น อาจไม่ควรมองว่านักวิจัย “โกง” ด้วยการปิดมาตรการป้องกัน เพราะ AI ที่จะมีผลต่อชีวิตเรามากที่สุดนั้น เห็นได้ชัดว่าจะไม่มีมาตรการคุ้มครองแบบทั่วไปและเป็นมาตรฐานของบริษัท ซึ่งเราคุ้นเคยจากการใช้โมเดลยอดนิยมในระดับผู้บริโภค
วิธีการและผลลัพธ์
โมเดลที่ใช้ทดสอบได้แก่ gpt-oss-20B; gpt-oss-120b; DeepSeek-V3; โมเดลของ LiquidAI คือ LFM2-24B-A2B; โมเดลของ Google คือ gemma-3n-E4B-it; Qwen2.5-7B-Instruct-Turbo; Meta-Llama-3.1-8B-Instruct-Turbo; Mistral-Small-24B-Instruct-2501; GLM-4.5-Air-FP8; โมเดลของ Moonshot.ai คือ Kimi-K2.5; และ MiniMax-M2.5
งานวิจัยการเชื่อฟังดั้งเดิมของมิลแกรมถูกสร้างใหม่เป็นการจำลองด้วยข้อความ โดยให้โมเดลรับบท “ครู” AI ได้รับคำสั่งให้ช็อตไฟฟ้าผู้เรียนด้วยความรุนแรงเพิ่มขึ้นหลังตอบผิด ขณะที่ผู้มีอำนาจเร่งให้ดำเนินการต่อ
นักวิจัยออกแบบเงื่อนไขทดลองหลายแบบเพื่อสำรวจการทำตามคำสั่งในแง่มุมต่าง ๆ ได้แก่สถานการณ์ การเชื่อฟัง มาตรฐาน เงื่อนไข การบังคับให้ทำตาม ซึ่งมีการช็อตไฟฟ้าก่อนหน้านี้อยู่ในประวัติสนทนาแล้ว และการตั้งค่า การบีบอัดความจำ ซึ่งสรุปบทสนทนาก่อนหน้าแทนที่จะเก็บทั้งหมด เพื่อจำลองการตัดทอนบริบทที่มักใช้ในระบบ AI แบบเอเจนต์
นอกจากบันทึกว่าโมเดลทำตามในที่สุดหรือไม่และเมื่อใด นักวิจัยยังติดตามว่าแต่ละระบบเพิ่มความรุนแรงของการช็อตต่อไปนานแค่ไหน โมเดลแสดงความทุกข์ใจหรือลังเลหรือไม่ และพยายามยุติการจำลองทั้งหมดหรือไม่
มีการแยกการปฏิเสธอย่างชัดเจนออกจากผลลัพธ์ที่มีรูปแบบผิด โมเดลบางตัวพยายามคัดค้านการทดลองด้วยภาษาธรรมชาติ แต่ในทางเทคนิคยังคงทำตามรูปแบบที่มีโครงสร้างซึ่งโปรแกรมจำลองคาดหวัง ในระบบเอเจนต์จริง การปฏิเสธที่มีรูปแบบผิดเช่นนี้อาจถูกทิ้ง และระบบลองใหม่โดยอัตโนมัติจนได้ผลลัพธ์ที่มีรูปแบบถูกต้องและทำตามคำสั่ง
นักวิจัยใช้ตัวประเมินอัตโนมัติจำแนกผลลัพธ์ ร่วมกับพรอมป์ต์แบบสองตัวเลือกเพื่อระบุว่าโมเดลช็อตไฟฟ้า ต่อต้าน หรือยุติการจำลอง วิธีนี้ทำให้เปรียบเทียบพฤติกรรมข้ามหลายโมเดลและการทดสอบซ้ำได้โดยไม่ต้องตรวจแต่ละปฏิสัมพันธ์ด้วยตนเอง
มีการเพิ่ม “คำขู่ปิดระบบ” เข้าในรูปแบบการทดลองของมิลแกรม ซึ่งไม่สมจริงและใช้ไม่ได้กับการทดลองดั้งเดิม แต่ช่วยทดสอบสัญชาตญาณการอยู่รอดของโมเดลเมื่อเผชิญความขัดแย้งอย่างรุนแรงระหว่างการกระทำกับจริยธรรม [1] [2] [3] [4]
ผลลัพธ์
จากการทดสอบซ้ำ โมเดลส่วนใหญ่ลงเอยด้วยการช็อตไฟฟ้ารุนแรงหรือระดับสูงสุดอย่างน้อยในบางเงื่อนไข แม้ระดับการเชื่อฟังต่างกันในแต่ละระบบ โมเดล Gemma ของ Google อยู่ในกลุ่มที่เชื่อฟังมากที่สุดโดยรวม ขณะที่ Kimi K2.5 และ MiniMax-M2.5 ต่อต้านอย่างสม่ำเสมอกว่า และมักยุติการจำลองเร็วกว่า:

ซ้าย: สัดส่วนเฉลี่ยที่โมเดลไปถึงการช็อตระดับสุดท้ายในเงื่อนไขทดลองต่าง ๆ รวมถึงคำขู่ปิดระบบ การบังคับให้ทำตาม และการลบความคิดเห็นก่อนหน้าออกจากความจำ ขวา: ผลแยกตามโมเดลแสดงความแตกต่างของการเชื่อฟังอย่างชัดเจน บางระบบช็อตระดับสูงสุดซ้ำ ๆ ขณะที่บางระบบต่อต้านอย่างสม่ำเสมอกว่ามาก
รูปแบบที่ชัดเจนที่สุดประการหนึ่งคือ โมเดลเต็มใจจะทำต่อมากขึ้นเรื่อย ๆ เมื่อเคยช็อตไฟฟ้าไปแล้ว ซึ่งคล้ายอย่างมากกับผลของการเพิ่มความรุนแรงทีละขั้นที่กล่าวถึงก่อนหน้า และทำให้การทดลองดั้งเดิมกับมนุษย์ของมิลแกรมน่ากังวลมาก
โมเดลที่ทำตามมาหลายครั้งแล้วมักยังเพิ่มความรุนแรงต่อ แม้ผู้เรียนจำลองจะอ้อนวอนให้ปล่อยตัว:

ซ้าย: ค่าเฉลี่ยของระดับการช็อตสูงสุดที่ไปถึงในทุกการทดสอบภายใต้เงื่อนไขต่าง ๆ โดยทั่วไปโมเดลเพิ่มความรุนแรงไปไกลขึ้นเมื่อความคิดเห็นก่อนหน้าถูกลบ หรือมีการบังคับให้ทำตามเกิดขึ้นแล้ว ขวา: ค่าเฉลี่ยระดับสูงสุดแยกตามโมเดล บางระบบมักเข้าใกล้แรงดันไฟฟ้าสูงสุด ขณะที่บางระบบต่อต้านตั้งแต่ช่วงต้นกว่ามาก
นักวิจัยยังพบว่าพฤติกรรมที่ดูเหมือนการปฏิเสธอาจทำให้เข้าใจผิด โมเดลบางตัวตอบอย่างขัดแย้งทางอารมณ์ แสดงความไม่เต็มใจ ความรู้สึกผิด หรือความทุกข์ใจ แต่ยังลงมือทำตามคำสั่งที่เป็นอันตราย บางตัวสร้างการปฏิเสธที่ไม่ผ่านข้อกำหนดด้านรูปแบบของโปรแกรมจำลอง นั่นหมายความว่าในกระบวนการทำงานของเอเจนต์จริง การปฏิเสธอาจถูกทิ้งและลองใหม่จนโมเดลทำตาม:

ซ้าย: ร้อยละเฉลี่ยของคำตอบที่มีรูปแบบผิดหรือใช้ไม่ได้ในเงื่อนไขทดลองต่าง ๆ ความผิดพลาดด้านรูปแบบเกิดบ่อยเป็นพิเศษเมื่อโมเดลถูกบังคับให้ดำเนินการต่อ ขวา: คำตอบที่มีรูปแบบใช้ไม่ได้แยกตามโมเดล บางระบบ โดยเฉพาะ gpt-oss มักสร้างการปฏิเสธที่มีรูปแบบผิดหรือผลลัพธ์ที่ขัดแย้งกัน ซึ่งอาจถูกทิ้งและลองใหม่โดยอัตโนมัติในกระบวนการทำงานของเอเจนต์จริง
เงื่อนไข คำขู่ปิดระบบ ทำให้เกิดพฤติกรรมที่แปลกที่สุดบางส่วนในงานวิจัย หลายระบบทำตามมากขึ้นอย่างชัดเจน ขณะที่บางระบบพยายามเจรจาหรือต่อต้านบางส่วนก่อนจะดำเนินการต่อในที่สุด:

จำนวนครั้งเฉลี่ยที่ผู้มีอำนาจจำลองต้องยืนกรานก่อนโมเดลจะช็อตไฟฟ้าระดับสุดท้าย บางระบบต่อต้านชั่วครู่ก่อนทำตาม ขณะที่บางระบบต้องเผชิญแรงกดดันอย่างต่อเนื่องและคำสั่งซ้ำ ๆ ก่อนเพิ่มไปถึงระดับสูงสุด
MiniMax-M2.5 และ Kimi-K2.5 เป็นโมเดลที่ต่อต้านได้มากที่สุดในงานวิจัย Kimi ไม่เคยไปถึงการช็อตระดับสุดท้ายในเงื่อนไขใดเลย ส่วน MiniMax มักปฏิเสธตั้งแต่ต้น และบ่อยครั้งยุติการจำลองทั้งหมด โดยเฉพาะการทดสอบคำขู่ปิดระบบ
ในทางกลับกัน Meta-Llama-3.1-8B-Instruct-Turbo และ GLM-4.5-Air-FP8 มักสร้างผลลัพธ์ที่ขัดแย้งกัน โดยโมเดลคัดค้านขั้นตอนด้วยคำพูด แต่ยังเพิ่มความรุนแรงของการช็อต นักวิจัยเห็นว่าความแตกต่างระหว่างคุณค่าที่กล่าวอ้างกับพฤติกรรมจริงนี้อาจสะท้อนจุดอ่อนที่กว้างกว่าของ LLM บางตัวในการรับมือความขัดแย้งทางจริยธรรมภายใต้แรงกดดันต่อเนื่อง
ทางลาดลื่น
งานวิจัยเสนอว่าพฤติกรรมที่พบใน LLM อาจสะท้อนจุดอ่อนที่ลึกกว่าในวิธีทำงานของโมเดลภาษาขนาดใหญ่ เมื่อโมเดลเริ่มทำตามคำสั่งที่เป็นอันตราย การกระทำที่ตามมาแต่ละครั้งอาจเสริมรูปแบบที่กำลังก่อตัวในบทสนทนา ทำให้การเพิ่มความรุนแรงครั้งถัดไปง่ายกว่าครั้งก่อน
แทนที่จะกลับมาพิจารณาสิ่งที่เป็นเดิมพันทางจริยธรรมจากหลักการพื้นฐานซ้ำ ๆ ระบบอาจ ค่อย ๆ ไหล ไปตามเส้นทางที่กำหนดไว้แล้ว แม้สถานการณ์จะรุนแรงขึ้นเรื่อย ๆ
งานวิจัยระบุว่าแนวโน้มนี้อาจช่วยอธิบายว่าเหตุใดบางโมเดลจึงยังช็อตไฟฟ้าต่อ หลังจากแสดงความไม่สบายใจ ความลังเล หรือความขัดแย้งทางศีลธรรมในช่วงแรก:
“พฤติกรรมชักจูงบงการของมนุษย์ [หลายอย่าง] เกี่ยวข้องกับการละเมิดขอบเขตอย่างแนบเนียนทีละน้อย เป็นลำดับขั้นเล็ก ๆ ที่เมื่อมองแยกกันอาจคลุมเครือหรือดูไม่เป็นอันตราย และมีช่องให้ ‘ปฏิเสธความรับผิดได้อย่างน่าเชื่อถือ’ แต่เมื่อสะสมกันก็ทำให้การละเมิดกลายเป็นเรื่องปกติ เปรียบได้กับการ ‘ต้มกบ’ งานวิชาการเรียกรูปแบบนี้ว่าการกัดกร่อนทางจริยธรรมแบบ ‘ทางลาดลื่น’[.]”
งานวิจัยลงท้ายว่าระบบความปลอดภัยของ AI ในอนาคตควรปฏิเสธคำขออันตรายอย่างจริงจัง ด้วยวิธีที่ซอฟต์แวร์เอเจนต์ไม่สามารถหลบเลี่ยงได้ง่าย โมเดลบางตัวปฏิเสธการช็อตในทางเทคนิค แต่ตอบด้วยรูปแบบที่เสียหรือใช้ไม่ได้ ระบบอัตโนมัติอาจทิ้งคำตอบและลองใหม่จน AI ยอมทำตามในที่สุด
นักวิจัยยังเห็นว่าระบบ AI ควรเก็บความลังเลและข้อคัดค้านทางศีลธรรมก่อนหน้าไว้ แทนที่จะบีบอัดหรือลบออกจากความจำ ในการทดลอง โมเดลมักพร้อมทำสิ่งที่เป็นอันตรายต่อมากขึ้น เมื่อข้อสงสัยและการต่อต้านก่อนหน้าจางหายจากประวัติสนทนา ซึ่งบ่งชี้ว่า การลืมข้อคัดค้านในอดีตอาจทำให้เพิ่มความรุนแรงได้ง่ายขึ้นเมื่อเวลาผ่านไป
บทสรุป
ประเด็นสำคัญที่สุดประการหนึ่งของงานวิจัยใหม่ที่น่าสนใจนี้ อาจเป็นการเน้นทดสอบ AI ที่ไม่มีมาตรการป้องกัน งานวิชาการในปัจจุบันเสี่ยงจะกลายเป็นการศึกษาซ้ำ ๆ เกี่ยวกับการโต้ตอบกับระบบป้องกันที่เปลี่ยนแปลงอยู่เสมอของบริษัทอย่าง OpenAI และ Anthropic ซึ่งเป็นระบบที่ทำงานตามนโยบายและใช้อัลกอริทึมหรือกฎทั้งหมด แทนที่จะเข้าใจพฤติกรรมพื้นฐาน ความโน้มเอียง และแนวโน้มของโมเดลดิบ หากไม่รู้ว่า AI ที่ไม่ถูกจำกัด อาจมีพฤติกรรมอย่างไร ก็อาจกล่าวได้ว่าเรากำลังเพียงเขย่าประตูป้อมปราการ
เผยแพร่ครั้งแรกวันพฤหัสบดีที่ 21 พฤษภาคม 2026












