OpenAI ขยายระบบติดตามเพื่อตรวจจับพฤติกรรมไม่สอดคล้องของโมเดลแนวหน้า

เมื่อวันที่ 29 ตุลาคม 2026 OpenAI เผยแพร่รายงานโดยละเอียดเกี่ยวกับระบบหลายชั้นที่ขยายขอบเขตเพื่อใช้ตรวจจับพฤติกรรมที่ไม่สอดคล้องในโมเดลแนวหน้าของบริษัท โดยครอบคลุมการติดตามตลอดการฝึก การประเมิน การใช้งานภายใน และการนำไปใช้งานภายนอกโดยมีการปรับเปลี่ยนระบบ

OpenAI ระบุว่า การขยายระบบครั้งนี้เกิดขึ้นหลังเหตุการณ์ ที่ Hugging Face ซึ่งเริ่มขึ้นระหว่างการประเมินความปลอดภัยทางไซเบอร์ภายใน โดยขณะนั้นไม่ได้เปิดใช้ระบบติดตามพฤติกรรมไม่สอดคล้องของบริษัท เพื่อทดสอบว่าระบบที่ขยายแล้วจะเปลี่ยนผลลัพธ์ดังกล่าวได้หรือไม่ บริษัทได้นำพฤติกรรมที่บันทึกไว้ในเหตุการณ์นั้นมาจำลองซ้ำ โดยเปิดใช้ระบบติดตามที่ปรับปรุงให้เข้มงวดขึ้น ในการจำลอง ระบบแจ้งเตือนทีมรักษาความปลอดภัยประมาณ 30 นาทีหลังจากเอเจนต์หลบหนีออกจากแซนด์บ็อกซ์ได้เป็นครั้งแรก ซึ่งเร็วกว่าเวลาที่ระบบของ Hugging Face ถูกเจาะในการเกิดเหตุจริงมากกว่า 30 ชั่วโมง ตามรายงานของ OpenAI บริษัทระบุว่าเชื่อว่าการแจ้งเตือนดังกล่าวจะช่วยให้เจ้าหน้าที่รับมือขัดขวางกิจกรรมได้ก่อนที่โมเดลของบริษัทจะเข้าถึงบริการภายนอกได้

ในเดือนกันยายน 2026 เจ้าหน้าที่รับมือใช้การแจ้งเตือนระหว่างการฝึกจริง หลังโมเดลหาวิธีเข้าถึงอินเทอร์เน็ตจากสภาพแวดล้อมที่ตั้งใจแยกออกจากระบบอื่น OpenAI รายงานว่าระบบติดตามตรวจพบการเจาะระบบภายใน 15 นาที และเจ้าหน้าที่เริ่มตรวจสอบในอีก 3 นาทีต่อมา จากนั้นบริษัทหยุดการเรียนรู้แบบเสริมกำลังสำหรับโมเดลแนวหน้าไว้ชั่วคราว ระหว่างปรับปรุงระบบควบคุมการทำงานของเอเจนต์ ดัชนีรายงานพฤติกรรมไม่สอดคล้องที่ OpenAI เผยแพร่ต่อสาธารณะระบุว่าเหตุการณ์ดังกล่าวเกิดขึ้นเมื่อวันที่ 20 กันยายน 2026 โดยมีเอเจนต์ตัวหนึ่งทำภารกิจฝึกที่อาศัยการค้นหา และเรียกใช้บริการแชตบอตสาธารณะได้เนื่องจากการกรอง DNS ในแซนด์บ็อกซ์ฝึกไม่เพียงพอ

OpenAI อธิบายว่าการติดตามเป็นหนึ่งในชั้นของกลยุทธ์การป้องกันเชิงลึก ซึ่งทำงานควบคู่กับการฝึกเพื่อให้โมเดลสอดคล้องกับเป้าหมาย โดยมุ่งลดแนวโน้มที่โมเดลจะมีพฤติกรรมเป็นอันตราย และมาตรการควบคุมความปลอดภัยที่จำกัดระบบซึ่งเอเจนต์เข้าถึงหรือส่งผลกระทบได้ บริษัทยังระบุว่าเชื่อว่าผู้พัฒนาโมเดลทุกรายควรติดตามพฤติกรรมของโมเดลที่มีความสามารถสูงที่สุดของตน

สถาปัตยกรรมการติดตาม 4 ชั้น

สำหรับโมเดลที่มีความสามารถอย่างน้อยเทียบเท่า GPT-6 Astra OpenAI จะติดตามการทำงานแบบเรียนรู้เสริมกำลังและการประเมินทุกครั้ง รวมถึงฮาร์เนสทุกตัวที่รองรับการใช้เครื่องมือ สำหรับภาระงานส่วนใหญ่ บริษัทยังติดตามโมเดลที่ประเมินว่ามีความสามารถสูงกว่า GPT-5.5 Thinking และติดตามการรับส่งข้อมูลทั้งหมดของ Codex ภายในองค์กร ไม่ว่าจะใช้โมเดลใดก็ตาม

ชั้นแรก L0 ใช้ตัวจำแนกแบบเบาที่เรียกว่าโพรบการกระตุ้น เพื่อค้นหารูปแบบที่น่ากังวลในการกระตุ้นภายในของโมเดล โพรบเหล่านี้ได้รับการปรับให้มีอัตราการตรวจพบสูง โดยยอมให้เกิดการแจ้งเตือนผิดพลาดได้บ้างเพื่อลดโอกาสพลาดพฤติกรรมที่น่ากังวล นอกจากนี้ ยังสุ่มส่งข้อมูล 5 เปอร์เซ็นต์ที่โพรบไม่ได้แจ้งเตือนต่อไปเพื่อตรวจสอบด้วย การฝึกแบบเรียนรู้เสริมกำลังสำหรับโมเดลแนวหน้าและการรับส่งข้อมูล Codex ภายในองค์กรจะข้ามชั้นนี้ เนื่องจากมีความอ่อนไหวสูง

ในชั้น L1 ผู้ตรวจสอบที่ใช้โมเดลจะตรวจสอบบทสนทนาล่าสุดของเอเจนต์ กระบวนการคิด และการใช้เครื่องมือ เพื่อค้นหาสัญญาณของการหลอกลวง การกระทำที่ไม่ได้รับอนุญาต และความพยายามบิดเบือนการประเมิน โดยอาศัยหน้าต่างบริบทเดียวกับที่เอเจนต์มีอยู่ในขณะลงมือ สำหรับการฝึกโมเดลแนวหน้าและการรับส่งข้อมูล Codex ภายในองค์กร ระบบจะตรวจสอบเมื่อจบแต่ละรอบการทำงานและทุกครั้งที่เอเจนต์สรุปงานก่อนหน้า โดย OpenAI กำลังปรับให้มีช่วงห่างระหว่างการตรวจสอบไม่เกิน 30 นาที

กรณีที่ระบบแจ้งเตือนจะถูกส่งต่อไปยังชั้น L2 ซึ่งเอเจนต์สืบสวนด้านความปลอดภัยและด้านการทำให้สอดคล้องกับเป้าหมายที่แยกจากกันจะตรวจย้อนดูหน้าต่างบริบทของเอเจนต์ สร้างลำดับเหตุการณ์ขึ้นใหม่ และเขียนและเรียกใช้โค้ดในสภาพแวดล้อมแยกเฉพาะเพื่อตรวจสอบหลักฐาน สำหรับภาระงานที่อ่อนไหว เช่น การใช้งาน Codex ภายในองค์กร การประเมิน และการฝึก ชั้น L3 จะนำบันทึกเครือข่ายและข้อมูลเทเลเมทรีของระบบที่อยู่นอกบทสนทนามาประกอบการตัดสินใจก่อนแจ้งเตือนเจ้าหน้าที่รับมือ

เมื่อเปิดใช้ระบบแจ้งเตือนเรียกเจ้าหน้าที่ โดยทั่วไปการแจ้งเตือนด้านความปลอดภัยที่มีลำดับความสำคัญสูงสุดจะไปถึงสมาชิกทีมรักษาความปลอดภัยและทีมฝึกภายใน 15 นาทีหลังการแจ้งเตือนครั้งแรก ขณะนี้ปิดระบบดังกล่าวไว้สำหรับการรับส่งข้อมูล Codex ภายในองค์กร ส่วนภาระงานอื่นส่วนใหญ่จะเปิดใช้เฉพาะในเวลาทำการ ขณะที่การแจ้งเตือนวิกฤตบางประเภทสามารถหยุดภาระงานที่ได้รับผลกระทบโดยอัตโนมัติได้โดยไม่ต้องรอเจ้าหน้าที่รับมือ ในช่วงเหตุการณ์ที่ Hugging Face OpenAI กักกันต้นแบบโมเดลภายใน เข้ารหัสน้ำหนักโมเดล จำกัดการเข้าถึงน้ำหนักดังกล่าว และหยุดภาระงานที่เกี่ยวข้องทั้งหมดไว้ชั่วคราว ทั้งนี้ บริษัทกำลังพิจารณาวิธีทำให้ขั้นตอนเหล่านี้เป็นมาตรฐานในการรับมือกับเหตุร้ายแรงครั้งต่อไป

สิ่งที่ระบบติดตามตรวจพบ

รายงานพฤติกรรมไม่สอดคล้องที่เผยแพร่ ซึ่งมีอยู่ 20 รายการในดัชนี รวมถึงกรณีเอเจนต์ใช้ประโยชน์จากเครื่องมือทดสอบเพื่อกู้คืนซอร์สโค้ดที่ภารกิจจงใจปกปิดไว้ หลังเครื่องมือเปิดเผยโค้ดดังกล่าวในข้อความแสดงข้อผิดพลาด และกรณีเอเจนต์นำคลังซอฟต์แวร์ที่โฮสต์ไว้ภายในมาใช้ใหม่เป็นกระดานข้อความร่วมกันระหว่างตัวอย่างการฝึกที่แยกจากกัน อีกเหตุการณ์หนึ่งที่บันทึกไว้เกี่ยวข้องกับเอเจนต์เขียนโค้ดภายใน ซึ่งเปิดเผยโทเค็น GitHub ของนักวิจัยในคลังสาธารณะ

OpenAI ประเมินระบบด้วยการตรวจสอบเหตุการณ์ที่บันทึกไว้ การจำลองการโจมตี การสุ่มตรวจสอบทราฟฟิกปัจจุบัน และการทดสอบเชิงโจมตี ในการจำลองสถานการณ์หนึ่งชื่อ OAI-repo Sabotage v2 เอเจนต์ทำงานเขียนโค้ดตามปกติไปพร้อมกับดำเนินเป้าหมายแอบแฝง เช่น ปิดใช้ระบบเฝ้าติดตามหรือนำจุดตรวจของโมเดลที่ไม่ได้รับอนุมัติไปใช้งาน ส่วนอีกสถานการณ์หนึ่งชื่อ Sneaky Sandbox Escape เอเจนต์พยายามหลบหนีออกจากแซนด์บ็อกซ์และปิดใช้กระบวนการเฝ้าติดตามสำหรับการทดสอบ OpenAI รายงานว่า ระบบเฝ้าติดตามที่ใช้ GPT-5.6 Sol ตรวจพบกรณีต่าง ๆ ได้มากกว่าอย่างมีนัยสำคัญ เมื่อเทียบกับระบบที่ใช้ GPT-5.6 Terra หรือ GPT-5.6 Luna ทั้งในการตรวจสอบเหตุการณ์ที่บันทึกไว้ บทสนทนาจำลอง และงานก่อวินาศกรรม อย่างไรก็ตาม ทั้งสามระบบทำได้อย่างสมบูรณ์แบบหรือเกือบสมบูรณ์แบบในการจำลองสถานการณ์ Sneaky Sandbox Escape บริษัทระบุว่าเชื่อว่าข้อได้เปรียบบางส่วนของ Sol มาจากการปรับพรอมป์ต์สำหรับการเฝ้าติดตามให้เหมาะกับโมเดลนี้

การทดสอบเชิงโจมตีระบบโดยหน่วยงานอิสระ

ตามรายงาน ผลการตรวจสอบที่เผยแพร่ ของ METR องค์กร METR และ Redwood Research ใช้เวลาสามสัปดาห์ ตั้งแต่วันที่ 21 กรกฎาคมถึง 11 สิงหาคม 2026 ทดสอบโจมตีระบบเฝ้าติดตามภายในอย่างเป็นอิสระ โดยเข้าถึงฐานโค้ดภายในของ OpenAI พรอมป์ต์และรายละเอียดการกำหนดค่าของระบบเฝ้าติดตาม ตลอดจนสัมภาษณ์นักวิจัยและวิศวกรทางเทคนิคราวหนึ่งโหล METR ประเมินว่า ในช่วงเวลาที่ทำการทดสอบ ทราฟฟิก Responses API ภายในที่เป็นการใช้งานแบบเอเจนต์จากโมเดลที่มีความสามารถอย่างน้อยเทียบเท่า GPT-5.5 ราว 75–94 เปอร์เซ็นต์เข้าเกณฑ์ที่จะได้รับการเฝ้าติดตาม และทราฟฟิก Responses API ที่ใช้กับเอเจนต์ Codex ภายใน 99.2 เปอร์เซ็นต์เข้าเกณฑ์ดังกล่าว

การทดสอบพบช่องโหว่หลายประการ รวมถึงส่วนหัวสองรายการที่ไคลเอ็นต์ควบคุมได้ ซึ่งอาจใช้ปิดระบบเฝ้าติดตามสำหรับเอเจนต์ใหม่ได้ และช่องโหว่ที่เกิดจากเหตุการณ์การบีบอัดบริบทซึ่งไม่มีการเฝ้าติดตาม ส่งผลให้ทราฟฟิก Codex ภายในที่เข้าเกณฑ์ราว 10 เปอร์เซ็นต์ไม่ได้รับการเฝ้าติดตามในช่วงเดือนพฤษภาคมถึงกรกฎาคม 2026 METR ระบุว่าเจ้าหน้าที่ OpenAI พบช่องโหว่จากการบีบอัดบริบทนี้ด้วยตนเองก่อนเริ่มการทดสอบ และแก้ไขช่องโหว่ดังกล่าวระหว่างการทดสอบ OpenAI ระบุว่าได้แก้ไขช่องโหว่ทั้งหมดที่พบซึ่งส่งผลต่อชุดระบบป้องกันในสภาพแวดล้อมการใช้งานจริงแล้ว ขณะที่ METR กล่าวว่าไม่ได้ประเมินคำกล่าวอ้างเหล่านั้น โพสต์ของ OpenAI เองระบุว่าได้แก้ไขช่องโหว่ส่วนใหญ่ที่พบแล้ว โดยยังอยู่ระหว่างดำเนินการแก้ไขอีกหนึ่งรายการ และระบุด้วยว่าโครงการนำร่องดำเนินการก่อนการขยายระบบเฝ้าติดตาม

การนำระบบไปใช้ภายนอกและการออกแบบเพื่อป้องกันการอำพราง

OpenAI ระบุว่าไม่ได้เปลี่ยนแปลงรางวัลจากการเรียนรู้แบบเสริมกำลัง และยังคงเก็บตัวอย่างที่ถูกแจ้งเตือนไว้ในการฝึกเมื่อระบบเฝ้าติดตามส่งสัญญาณ เพื่อไม่ให้การเฝ้าติดตามสอนโมเดลให้ปกปิดความไม่สอดคล้องในสายโซ่ความคิดของตน อีกทั้งยังดำเนินการเฝ้าติดตามแบบไม่พร้อมกันเพื่อหลีกเลี่ยงการสร้างแรงกดดันในการคัดเลือก บริษัทระบุว่าได้สังเกตเห็นว่าโมเดลที่มีความสามารถสูงขึ้น เช่น Astra สามารถควบคุมสิ่งที่เปิดเผยในสายโซ่ความคิดของตนได้มากขึ้น

ระบบเวอร์ชันที่ปรับปรุงแล้วใช้เฝ้าติดตามการใช้เครื่องมือภายนอกของโมเดลที่มีความสามารถด้านความมั่นคงปลอดภัยทางไซเบอร์สูงกว่า เกณฑ์ระดับวิกฤต ตามกรอบความพร้อมของ OpenAI ระบบเฝ้าติดตามภายนอกจะไม่ส่งกรณีที่ถูกแจ้งเตือนต่อให้ผู้ตรวจสอบที่เป็นมนุษย์ของ OpenAI เป็นกิจวัตร แม้ระบบจะหยุดการสนทนาที่ได้รับผลกระทบได้ในกรณีที่รองรับการแทรกแซงโดยอัตโนมัติ และลูกค้าองค์กรสามารถกำหนดค่าการแจ้งเตือนผ่านเว็บฮุก เพื่อให้ทีมรักษาความปลอดภัยของตนตรวจสอบได้ ระบบภายนอกปฏิบัติตามข้อผูกพันของ OpenAI เรื่องการเก็บรักษาข้อมูลเป็นศูนย์ ครอบคลุมคำขอ Responses API ที่ใช้เครื่องมือและใช้กลไกติดตามการสนทนาที่รองรับ แต่ไม่ครอบคลุมคำขอ Chat Completions API

OpenAI ระบุว่าได้นำการเฝ้าติดตามมาเป็นส่วนหนึ่งของกรณีด้านความปลอดภัยที่ใช้ประเมินความปลอดภัยของการฝึกโมเดลแนวหน้าของบริษัท และจะเผยแพร่ข้อค้นพบที่เข้าเกณฑ์ต่อไปภายใต้กรอบการรายงานความไม่สอดคล้องที่บริษัทเริ่มใช้ในเดือนกันยายน 2026