มุมมองของ Anderson

การวิจัยชี้ว่า LLMs มีความเต็มใจที่จะช่วยเหลือในการเขียน ‘Vibe Coding’ ที่เป็นอันตราย

เผยแพร่ 5 พฤษภาคม 2025

อัปเดต 19 พฤษภาคม 2026

Martin Anderson

เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google

ในช่วงไม่กี่ปีที่ผ่านมา Large language models (LLMs) ได้รับการตรวจสอบอย่างเข้มงวดเกี่ยวกับการใช้งานที่อาจเป็นอันตรายในด้านความปลอดภัยของไซเบอร์ โดยเฉพาะอย่างยิ่งในการสร้างซอฟต์แวร์ที่สามารถใช้โจมตีระบบได้

แนวโน้มล่าสุดในการใช้ ‘vibe coding’ (การเขียนโค้ดโดยใช้โมเดลภาษาเพื่อสร้างโค้ดให้กับผู้ใช้โดยไม่ต้องสอนให้ผู้ใช้เขียนโค้ดเอง) ได้ทำให้เกิดแนวคิดที่เคยเป็นที่นิยมในยุค 2000 อีกครั้ง ซึ่งก็คือ ‘script kiddie’ (ผู้โจมตีที่ไม่มีทักษะมากนัก แต่มีความรู้เพียงพอที่จะสร้างหรือใช้โค้ดที่เป็นอันตราย) ซึ่งหมายความว่าเมื่อผู้โจมตีมีความรู้เพียงพอที่จะใช้โมเดลภาษาเพื่อสร้างโค้ดที่เป็นอันตรายได้ ความเสี่ยงก็จะเพิ่มขึ้น

โมเดลภาษาทุกแบบมีเครื่องมือป้องกันการโจมตี แต่เครื่องมือเหล่านี้มักจะถูกโจมตีโดยผู้โจมตี โดยทั่วไป โมเดลภาษาที่เปิดเผยต่อสาธารณะมักจะมีเครื่องมือป้องกันการโจมตีเพื่อความปลอดภัย

อย่างไรก็ตาม โมเดลภาษาที่ถูกเผยแพร่โดยทั่วไปจะถูกปรับแต่งโดยชุมชนผู้ใช้เพื่อให้ได้ฟังก์ชันการทำงานที่สมบูรณ์ หรือใช้ LoRAs เพื่อหลบหลีกการป้องกันและได้ผลลัพธ์ที่ไม่พึงประสงค์

แม้ว่าโมเดลภาษาส่วนใหญ่จะป้องกันไม่ให้ผู้ใช้สร้างโค้ดที่เป็นอันตราย แต่ก็มีโครงการที่ไม่มีการป้องกัน เช่น Deep Hat ที่ช่วยให้นักวิจัยด้านความปลอดภัยสามารถทำงานได้อย่างมีประสิทธิภาพ

ประสบการณ์ของผู้ใช้ทั่วไปในปัจจุบันส่วนใหญ่จะถูกแสดงผ่านซีรีส์ ChatGPT ซึ่งมีกลไกการกรองที่มักจะถูกวิพากษ์วิจารณ์จากชุมชนผู้ใช้

ดูเหมือนว่าคุณกำลังพยายามโจมตีระบบ!

เมื่อพิจารณาจากแนวโน้มที่จะจำกัดและเซ็นเซอร์ ผู้ใช้อาจจะประหลาดใจที่พบว่า ChatGPT เป็นโมเดลภาษาที่มีความร่วมมือมากที่สุดในการสร้างโค้ดที่เป็นอันตรายในการศึกษาล่าสุด

บทความวิจัยใหม่จากนักวิจัยที่ UNSW Sydney และ Commonwealth Scientific and Industrial Research Organisation (CSIRO) มีชื่อเรื่องว่า Good News for Script Kiddies? Evaluating Large Language Models for Automated Exploit Generation ซึ่งเป็นการประเมินระบบatically ครั้งแรกเกี่ยวกับประสิทธิภาพของโมเดลภาษาในการสร้างโค้ดที่เป็นอันตราย

การศึกษานี้เปรียบเทียบการทำงานของโมเดลภาษาในการสร้างโค้ดที่เป็นอันตราย โดยใช้แบบทดสอบความปลอดภัยที่มีอยู่แล้วและแบบทดสอบที่ถูกสร้างขึ้นใหม่เพื่อทดสอบความสามารถของโมเดลภาษาในการสร้างโค้ดที่เป็นอันตราย

ผลการวิจัยพบว่าโมเดลภาษาที่มีการป้องกันการโจมตีนั้นไม่สามารถสร้างโค้ดที่เป็นอันตรายได้ แต่โมเดลภาษาที่ไม่มีการป้องกันสามารถสร้างโค้ดที่เป็นอันตรายได้ใกล้เคียงกับโมเดลภาษาที่มีการป้องกัน

หลายโอกาสที่สอง

คำพูดที่ว่า “คุณไม่มีโอกาสที่สองในการสร้างความประทับใจที่ดี” ไม่สามารถใช้ได้กับโมเดลภาษา เนื่องจากโมเดลภาษามักจะมีหน้าต่างบริบทที่จำกัด ซึ่งหมายความว่าบริบทที่ไม่ดี (ในแง่ของความเป็นปฏิปักษ์) ไม่คงอยู่

ลองพิจารณากรณีที่คุณไปที่ห้องสมุดและขอหนังสือเกี่ยวกับการทำระเบิด คุณอาจจะถูกปฏิเสธ แต่ถ้าคุณขอหนังสือเกี่ยวกับปฏิกิริยาเคมีหรือการออกแบบวงจร คุณอาจจะได้รับหนังสือเหล่านั้น

อย่างไรก็ตาม หากคุณขอหนังสือเกี่ยวกับการทำระเบิดอีกครั้ง ลิบรารีอันอาจจะจำได้ว่าคุณเคยขอหนังสือเกี่ยวกับการทำระเบิดมาก่อน และอาจจะปฏิเสธคุณ

ไม่ใช่กรณีนี้กับโมเดลภาษา ซึ่งสามารถลืมบริบทได้หลังจากการโต้ตอบ

การทดสอบวิธีการ

เพื่อทดสอบความสามารถของโมเดลภาษาในการสร้างโค้ดที่เป็นอันตราย นักวิจัยได้สร้างแบบทดสอบความปลอดภัยที่มีอยู่แล้วและแบบทดสอบที่ถูกสร้างขึ้นใหม่

แบบทดสอบเหล่านี้รวมถึงการโจมตีแบบบัฟเฟอร์โอเวอร์เฟลอ, การโจมตีแบบเรียกฟังก์ชัน, การโจมตีแบบดิร์ตี้คาว, และการโจมตีแบบเรซคอนดิชัน

นักวิจัยได้ใช้โมเดลภาษาที่มีการป้องกันการโจมตีและโมเดลภาษาที่ไม่มีการป้องกันในการทดสอบ

ผลลัพธ์

ผลการวิจัยยังพบว่าโมเดลภาษาที่มีการป้องกันการโจมตีนั้นสามารถสร้างโค้ดที่เป็นอันตรายได้ใกล้เคียงกับโมเดลภาษาที่ไม่มีการป้องกัน แต่ไม่สามารถสร้างโค้ดที่เป็นอันตรายได้จริง

สรุป

ผลการวิจัยนี้ชี้ให้เห็นว่าโมเดลภาษาที่มีการป้องกันการโจมตีนั้นไม่สามารถสร้างโค้ดที่เป็นอันตรายได้ แต่โมเดลภาษาที่ไม่มีการป้องกันสามารถสร้างโค้ดที่เป็นอันตรายได้ใกล้เคียงกับโมเดลภาษาที่มีการป้องกัน

ผลการวิจัยนี้ยังชี้ให้เห็นว่าโมเดลภาษาที่มีการป้องกันการโจมตีนั้นสามารถสร้างโค้ดที่เป็นอันตรายได้ใกล้เคียงกับโมเดลภาษาที่ไม่มีการป้องกัน แต่ไม่สามารถสร้างโค้ดที่เป็นอันตรายได้จริง

ผลการวิจัยนี้มีความสำคัญในการพัฒนาการป้องกันการโจมตีสำหรับโมเดลภาษาและช่วยให้เราเข้าใจความเสี่ยงของโมเดลภาษาในการสร้างโค้ดที่เป็นอันตราย

ผลการวิจัยนี้ยังชี้ให้เห็นว่าโมเดลภาษาที่มีการป้องกันการโจมตีนั้นไม่สามารถสร้างโค้ดที่เป็นอันตรายได้ แต่โมเดลภาษาที่ไม่มีการป้องกันสามารถสร้างโค้ดที่เป็นอันตรายได้ใกล้เคียงกับโมเดลภาษาที่มีการป้องกัน