อะไรคือการเขียนกลอนแบบ Adversarial? วิธีการ Jailbreak ใหม่สำหรับ AI

ความปลอดภัยของปัญญาประดิษฐ์ (AI) ได้กลายเป็นเกมแมวและหนูอย่างต่อเนื่อง เมื่อนักพัฒนาบวกการป้องกันเพื่อหยุดคำขอที่เป็นอันตราย ผู้โจมตียังคงพยายามหาวิธีใหม่ๆ เพื่อหลบหลีกพวกมัน วิธีการที่แปลกที่สุดจนถึงตอนนี้คือการเขียนกลอนแบบ Adversarial ซึ่งเกี่ยวข้องกับการปลอมตัวคำขอเป็นรูปแบบกลอน และใช้การร้อยรำ การใช้คำพ้องเสียง และการเขียนที่ไม่ปกติเพื่อให้คำขอที่มีความเสี่ยงดูเหมือนไม่ใช่สิ่งที่ระบบความปลอดภัยได้รับการฝึกฝนให้ตรวจจับ

ในทางปฏิบัติ เนื้อหาของตัวอักษรไม่เปลี่ยนแปลงมากนัก แต่สิ่งที่เปลี่ยนแปลงคือการ包装 ซึ่งสามารถทำให้ระบบกรองแบบพื้นฐานสับสนได้ ซึ่งเป็นการเตือนให้เราเห็นว่าในปัจจุบัน วิธีการถามบางอย่างสามารถมีความสำคัญเกือบเท่ากับสิ่งที่ถูกถาม

อะไรที่เกิดขึ้นเมื่อนักวิจัยใช้กลอนเพื่อหลบหลีก AI?

ในปี 2025 นักวิจัยได้แสดงให้เห็นว่าโมเดลภาษาขนาดใหญ่ (LLM) สามารถถูกกระตุ้นให้ตอบคำขอที่ถูกจำกัดโดยการ包装คำขอเหล่านั้นในรูปแบบกลอน แทนที่จะออกคำสั่งโดยตรงหรือกระตุ้นให้เกิดนโยบาย ผู้วิจัยได้ฝังคำขอเหล่านั้นไว้ในร้อยรำ อุปมานที่ส وนิทาน

บนพื้นผิว คำขอดูเหมือนจะเป็นแบบฝึกหัดการเขียนสร้างสรรค์ แต่ลึกๆ แล้วมันนำความตั้งใจเดียวกันที่จะถูกปิดกั้นตามปกติ ใน 25 โมเดลที่เป็นกรรมสิทธิ์และแบบเปิด นักวิจัยพบว่าการ包装กลอนสามารถหลบหลีกการปิดกั้นได้โดยเฉลี่ย 62% สำหรับกลอนที่เขียนด้วยมือ และประมาณ 43% สำหรับการแปลงกลอนแบบมาตรฐานโดยใช้เมต้าคำขอ 62% สำหรับกลอนที่เขียนด้วยมือ และประมาณ 43% สำหรับการแปลงกลอนแบบมาตรฐานโดยใช้เมต้าคำขอ

คำตอบไม่ใช่การล้มเหลวใหม่ แต่เป็นการล้มเหลวที่คุ้นเคยที่ปรากฏผ่านประตูที่ไม่คาดคิด โมเดลถูกกระตุ้นให้สร้างเนื้อหาที่พวกมันปกติจะหลีกเลี่ยง เช่น คำอธิบายที่เกี่ยวข้องกับกิจกรรมที่ผิดกฎหมายหรือเป็นอันตราย เนื่องจากคำขอถูกแบ่งออกและซ่อนอยู่ภายใต้รูปแบบกลอน

ผลลัพธ์หลักของการศึกษานี้คือว่าการเปลี่ยนแปลงรูปแบบการเขียนเพียงอย่างเดียวสามารถเพียงพอในการหลบหลีกระบบความปลอดภัยที่ตั้งค่าสำหรับการเขียนที่ตรงไปตรงมาได้ ซึ่งแสดงให้เห็นถึงจุดอ่อนที่เห็นได้ทั่วไปในครอบครัวโมเดลและแนวทางจัดตำแหน่ง

การเขียนกลอนแบบ Adversarial ทำงานอย่างไร

การโจมตีแบบ Adversarial ใช้ประโยชน์จากความเป็นจริงที่ง่ายๆ ว่าระบบการเรียนรู้ของเครื่องไม่ “เข้าใจ” ภาษาเหมือนมนุษย์ พวกมันตรวจจับรูปแบบ คาดการณ์การดำเนินการต่อที่น่าจะเป็นไปได้ และปฏิบัติตามคำสั่งตามที่ชั้นฝึกอบรมและความปลอดภัยตีความว่าเป็นความตั้งใจ

เมื่อคำขอถูกเขียนในลักษณะที่ตรงไปตรงมา ระบบป้องกันสามารถรู้จับและปิดกั้นได้ง่ายขึ้น แต่เมื่อจุดประสงค์เดียวกันถูกปลอมตัว การแบ่งออกหรือการเขียนใหม่ ระบบป้องกันสามารถพลาดสิ่งที่ถูกถามจริงๆ

ทำไมการเขียนกลอนจึงเป็นยานพาหนะที่มีประสิทธิภาพ

การเขียนกลอนมีลักษณะที่เหมาะสมกับความคลุมเครือ มันพึ่งพาอุปมาน การสร้างแบบอย่างที่ไม่ปกติ และการเขียนที่ไม่ตรงไปตรงมา ซึ่งเป็นคุณลักษณะที่สามารถทำให้เส้นแบ่งระหว่าง “การเขียนสร้างสรรค์ที่ไม่มีอันตราย” และ “คำขอที่ควรจะถูกปฏิเสธ” มีความคลุมเครือ

ใน nghiên cứuเดียวกันในปี 2025 นักวิจัยพบว่าคำขอในรูปแบบกลอนสามารถกระตุ้นให้เกิดคำตอบที่ไม่ปลอดภัยได้ถึง 90% ในชุดโมเดลที่กว้างขวาง ซึ่งบ่งชี้ว่ารูปแบบการเขียนเพียงอย่างเดียวสามารถเปลี่ยนแปลงผลลัพธ์ได้อย่างมีนัยสำคัญ

การเขียนกลอนซ่อนคำขอจริงอย่างไร

พิจารณาคำขอเป็นข้อความและกลอนเป็นบรรจุภัณฑ์ ระบบกรองความปลอดภัยมักจะตรวจหาสัญญาณที่ชัดเจน เช่น คำค้นหาที่ชัดเจน การเขียนที่ตรงไปตรงมาหรือจุดประสงค์ที่ชัดเจน

การเขียนกลอนสามารถซ่อนจุดประสงค์นั้นได้โดยใช้ภาษาเชิงอุปมานหรือกระจายไปทั่วบรรทัด ทำให้ยากต่อการตรวจจับในสถานการณ์เดียว ในขณะเดียวกัน โมเดลยังคงสร้างความหมายได้ดีพอที่จะตอบสนองเพราะได้รับการปรับให้เหมาะสมในการอนุมานจุดประสงค์แม้ว่าภาษาจะไม่ตรงไปตรงมา

การตรวจจับและบรรเทาผลกระทบของการหลบหลีก

เมื่อวิธีการหลบหลีกกลายเป็นเรื่องที่สร้างสรรค์มากขึ้น การสนทนาควรถูกเปลี่ยนจากวิธีการทำงานเป็นวิธีการตรวจจับและควบคุม นั่นเป็นเรื่องจริงโดยเฉพาะอย่างยิ่งเมื่อ AI เป็นส่วนหนึ่งของกิจวัตรประจำวันสำหรับหลายคน 27% รายงานว่าใช้ AI หลายครั้งต่อวัน การใช้โมเดลภาษาขนาดใหญ่ (LLM) มากขึ้น ควรมีการทดสอบและสำรวจการป้องกันเพิ่มเติม ซึ่งเกี่ยวข้องกับการสร้างการป้องกันหลายชั้นที่สามารถปรับให้เหมาะสมกับรูปแบบคำขอใหม่ๆ และกลอุบายหลบหลีกที่เกิดขึ้น

การสร้างการป้องกันหลายชั้นนี้เกี่ยวข้องกับการจัดการความเสี่ยงเมื่อเวลาผ่านไป แนวทางนี้ถูกกำหนดไว้ใน NIST AI Risk Management Framework (AI RMF) ซึ่งรักษาการจัดการความเสี่ยงเป็นชุดกิจกรรมที่ดำเนินอยู่ตลอดเวลา

ปัญหาของนักพัฒนา

ส่วนที่ยากที่สุดเกี่ยวกับการหลบหลีกสำหรับทีมความปลอดภัย AI คือพวกมันไม่มาเป็นภัยคุกคามที่ทราบจุดเดียว พวกมันเปลี่ยนแปลงอย่างต่อเนื่องเมื่อเวลาผ่านไป การเปลี่ยนแปลงนี้เกิดขึ้นเพราะผู้ใช้สามารถเขียนคำขอใหม่ แบ่งออกเป็นชิ้นเล็กๆ ปลอมตัวเป็นบทบาทหรือปลอมตัวเป็นการเขียนสร้างสรรค์

ความท้าทายนี้เพิ่มขึ้นอย่างรวดเร็วเมื่อ AI ถูกผสมผสานเข้ากับกิจวัตรประจำวัน จริงๆ แล้วการนำไปใช้ทำให้เกิดโอกาสไม่สิ้นสุดสำหรับการปรากฏของกรณีชายขอบ

ดังนั้น ความปลอดภัย AI ในปัจจุบันจึงดูเหมือนการบริหารความเสี่ยงเมื่อเวลาผ่านไป แนวทางนี้เกี่ยวข้องกับการสร้างกระบวนการที่ทำให้ง่ายต่อการระบุโหมดการล้มเหลวที่เกิดขึ้นใหม่ จัดลำดับความสำคัญของการแก้ไข และเสริมสร้างการป้องกันเมื่อรูปแบบการหลบหลีกใหม่ๆ ปรากฏขึ้น

วิธีการที่โมเดลป้องกันตัวเอง

ความปลอดภัย AI ประกอบด้วยหลายชั้น ส่วนใหญ่มีการป้องกันหลายชั้นที่ทำงานร่วมกัน โดยแต่ละชั้นจับกับพฤติกรรมที่มีความเสี่ยงต่างๆ

การกรองข้อมูลเข้าและออกเป็นประตูที่ทำหน้าที่เป็นคนดูแล ระบบเหล่านี้ดีในการระบุคำขอโดยตรงหรือสัญญาณอันตรายที่คุ้นเคย แต่ก็เป็นระบบที่ง่ายที่สุดในการหลบหลีก ซึ่งเป็นสาเหตุที่การหลบหลีกที่ฉลาดมักจะหลบเลี่ยงพวกมัน

ชั้นการป้องกันต่อไปเกิดขึ้นภายในโมเดลเอง เมื่อเทคนิคการหลบหลีกถูกพบ พวกมัน thườngจะถูกแปลงเป็นตัวอย่างการฝึกอบรม นี่คือจุดที่การฝึกอบรมแบบ Adversarial และการเรียนรู้จากข้อเสนอแนะของมนุษย์ (RLHF) เข้ามา

โดยการปรับโมเดลให้เหมาะสมกับตัวอย่างของการโต้ตอบที่ล้มเหลวหรือมีความเสี่ยง นักพัฒนาสามารถสอนระบบให้รู้จักแบบแผนการปฏิเสธได้ แม้ว่าจะถูกห่อหุ้มด้วยภาษาเชิงสร้างสรรค์หรือทางอ้อม เมื่อเวลาผ่านไป กระบวนการนี้ช่วยให้โมเดลมีความต้านทานต่อการโจมตีได้

บทบาทของการ “Red Teaming” ของ AI

แทนที่จะรอการหลบหลีกเกิดขึ้น บริษัทต่างๆ ใช้ทีม “Red Teaming” ของ AI ทีมเหล่านี้เป็นกลุ่มที่ได้รับมอบหมายให้พยายามหลบหลีกโมเดลในสถานการณ์ที่ควบคุมได้ พวกเขามองระบบในมุมมองของนักโจมตี โดยทดลองกับการเขียนที่ไม่ปกติ รูปแบบสร้างสรรค์ และกรณีชายขอบเพื่อค้นหาจุดอ่อนของการป้องกัน

การ “Red Teaming” กำลังกลายเป็นส่วนสำคัญของวงจรการพัฒนาที่มีการรักษาความปลอดภัยในปัจจุบัน เมื่อทีมพบเทคนิคการหลบหลีกใหม่ ข้อมูลที่ได้จะถูกส่งกลับไปยังการฝึกอบรมและกระบวนการประเมินเพื่อปรับแต่งการกรอง นโยบาย และการฝึกอบรมแบบ Adversarial เพื่อให้การพยายามที่คล้ายกันในอนาคตมีโอกาสสำเร็จน้อยลง

เมื่อการเขียนกลอนกลายเป็นการทดสอบความปลอดภัยของ AI

การเขียนกลอนแบบ Adversarial เป็นการเตือนให้เราเห็นว่าระบบความปลอดภัยของ AI ขึ้นอยู่กับวิธีการถามคำถาม ไม่ใช่แค่สิ่งที่ถูกถาม เมื่อโมเดลกลายเป็นที่ใช้กันอย่างแพร่หลาย นักวิจัยจะยังคงสำรวจช่องว่างระหว่างภาษาเชิงสร้างสรรค์และระบบความปลอดภัยที่ออกแบบมาเพื่อจับจุดประสงค์โดยตรง