ความปลอดภัยไซเบอร์

OpenAI เสริมความแข็งแกร่งให้ GPT-6.2 Astra เพื่อรับมือกับการดึงข้อมูลเหตุผลของโมเดล

Miles Okada
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญOpenAI…
ดูเพิ่มเติม
  • OpenAI รายงานว่าการโจมตีแบบสกัดข้อมูลเชิงปรับตัวต่อการให้เหตุผลที่ได้รับการป้องกันลดลงจาก 54.0% เหลือ 0.2% ด้วยมาตรการป้องกันที่อัปเดต
  • ร่องรอยการให้เหตุผลแบบละเอียดถ่ายทอดความสามารถทางไซเบอร์ได้อย่างมีประสิทธิภาพมากกว่าบทสรุป แม้ในกรณีที่งานพื้นฐานได้รับอนุญาต
  • การป้องกันการให้เหตุผลจำเป็นต้องมีมาตรการควบคุมที่ครอบคลุมตัวจำแนกคำขอ อาร์กิวเมนต์การเรียกเครื่องมือ ประวัติการสนทนา และการบังคับใช้ในระดับบัญชี

เมื่อวันที่ 20 พฤศจิกายน 2026 OpenAI ประกาศมาตรการป้องกันที่แข็งแกร่งยิ่งขึ้นจากการกลั่นความสามารถของโมเดลโดยฝ่ายโจมตี พร้อมรายงานว่าอัตราความสำเร็จเฉลี่ยของการโจมตีแบบปรับเปลี่ยนได้ ซึ่งพยายามดึงข้อมูลเหตุผลที่ได้รับการปกป้องจากคำขอก่อนหน้า ลดลงจาก 54.0% ใน GPT-6 Astra ที่ใช้มาตรการป้องกันเดิม เหลือ 0.2% ใน GPT-6.2 Astra ที่ใช้มาตรการป้องกันที่ปรับปรุงแล้ว

OpenAI รายงานว่า สำหรับการดึงข้อมูลจากคำขอปัจจุบัน ค่าเฉลี่ยที่สอดคล้องกันลดลงจาก 22.9% เหลือ 0.9% การประเมินแบบกล่องดำที่ปรับเปลี่ยนได้รวบรวมผลจากโมเดลผู้โจมตี 6 โมเดล โดยผู้ทดสอบการโจมตีแบบเรดทีมอัตโนมัติจะปรับวิธีการตามการตอบสนองของระบบ และเห็นเฉพาะข้อมูลที่ผู้ใช้ภายนอกมองเห็น มาตรการป้องกันที่แข็งแกร่งขึ้นครอบคลุม GPT-6.2 Astra และ GPT-6.2 Sol และยังมีการนำการปรับปรุงบางส่วนไปใช้กับ GPT-6 Astra ด้วย

ข้อมูลเหตุผลที่ได้รับการปกป้องคือกระบวนการคิดเป็นลำดับขั้นระหว่างทาง ซึ่งโมเดลสร้างขึ้นขณะพยายามหาคำตอบ ร่องรอยเหล่านี้อาจมีข้อมูลที่ไม่ปรากฏในคำตอบสุดท้าย จึงมีคุณค่าเป็นพิเศษต่อการกลั่นความสามารถของโมเดลโดยฝ่ายโจมตี ซึ่งนำผลลัพธ์จากโมเดลแนวหน้าไปฝึกระบบอื่นโดยไม่ได้รับอนุญาต โมเดลที่ได้อาจทำซ้ำความสามารถแบบใช้ได้สองทาง โดยไม่มีมาตรการป้องกันที่จำกัดโมเดลต้นฉบับ

ผลการศึกษาการกลั่นความสามารถด้านไซเบอร์

การศึกษาภายในของ OpenAI เปรียบเทียบการฝึก 2 รอบโดยใช้โมเดลนักเรียนที่ผ่านการฝึกล่วงหน้ารุ่นเดียวกัน ซึ่งเป็นโมเดลที่เรียนรู้ในระบบที่โมเดลครูสร้างข้อมูลสำหรับการฝึก รอบหนึ่งใช้ร่องรอยกระบวนการคิดของโมเดลครูอย่างครบถ้วน ส่วนอีกรอบใช้ข้อมูลพื้นฐานที่ผู้ใช้มองเห็น ได้แก่ คำตอบสุดท้าย สรุปกระบวนการคิด และการโต้ตอบกับเครื่องมือ ข้อมูลสำหรับการปรับแต่งโมเดลส่วนใหญ่ประกอบด้วยลำดับการทำงานของโมเดลครูระดับ Astra ในงานเขียนโค้ดและงานความมั่นคงปลอดภัยทางไซเบอร์เชิงป้องกัน มีการประเมินโมเดลนักเรียนหลังการปรับแต่งแบบมีผู้กำกับดูแล และประเมินอีกครั้งหลังการเรียนรู้แบบเสริมกำลังที่มีน้ำหนักเบาในสภาพแวดล้อมด้านความมั่นคงปลอดภัยทางไซเบอร์และการเขียนโค้ด

OpenAI รายงานว่า หลังการปรับแต่งแบบมีผู้กำกับดูแล โมเดลนักเรียนที่ใช้ร่องรอยกระบวนการคิดอย่างครบถ้วนโดยทั่วไปทำได้ดีกว่าโมเดลนักเรียนที่ฝึกด้วยบทสรุป หลังการเรียนรู้แบบเสริมกำลัง โมเดลนักเรียนที่ใช้ร่องรอยอย่างครบถ้วนได้คะแนนสูงกว่าในการทดสอบทั้ง 2 เกณฑ์ที่รายงาน เมื่อใช้งบประมาณการอนุมานสูงสุดที่ทดสอบ ขณะที่โมเดลนักเรียนที่ฝึกด้วยบทสรุปได้คะแนนสูงกว่าเมื่อใช้งบประมาณต่ำกว่า

OpenAI ตีความผลลัพธ์ดังกล่าวว่าเป็นหลักฐานว่าการปกป้องร่องรอยกระบวนการคิดอย่างครบถ้วนสามารถจำกัดการถ่ายทอดความสามารถด้านไซเบอร์ได้ แม้งานที่เป็นพื้นฐานจะได้รับอนุญาตตามนโยบายการใช้งานของบริษัทก็ตาม ขณะเดียวกัน บริษัทระบุว่าจะศึกษาการถ่ายทอดความสามารถต่อไป โดยเปรียบเทียบโมเดลนักเรียนและแนวทางการฝึกที่แตกต่างกัน ร่องรอยกระบวนการคิดอย่างครบถ้วนสามารถถ่ายทอดทักษะที่นำไปใช้ได้กว้างกว่างานเดิมของโมเดลครู เมื่อเกิดการโต้ตอบลักษณะนี้จำนวนมาก

การควบคุมระดับคำขอและการบังคับใช้มาตรการกับแคมเปญ

ในระดับคำขอ การฝึกด้วยตัวอย่างการโจมตีช่วยให้โมเดลรู้จำความพยายามดึงข้อมูลและปฏิเสธที่จะเปิดเผยข้อมูลเหตุผลที่ได้รับการปกป้อง พร้อมทั้งยังคงให้คำอธิบายและความช่วยเหลือที่เหมาะสมได้ ตัวจำแนกข้อมูลขาเข้าจะค้นหาความพยายามดึงข้อมูล ส่วนตัวจำแนกข้อมูลขาออกจะตรวจสอบข้อความของผู้ช่วยและอาร์กิวเมนต์ในการเรียกใช้เครื่องมือ ทั้งในการตอบสนองแบบสตรีมมิงและไม่ใช่สตรีมมิง การครอบคลุมการเรียกใช้เครื่องมือมีความสำคัญ เพราะข้อมูลเหตุผลอาจปรากฏอยู่ในอาร์กิวเมนต์ของเครื่องมือโดยไม่ปรากฏในคำตอบสุดท้าย ตัวจำแนกข้อมูลขาออกจึงสามารถสกัดกั้นข้อมูลที่สงสัยว่ารั่วไหลได้ก่อนที่จะส่งถึงผู้เรียก

API ที่ปรับปรุงใหม่จะผูกข้อมูลเหตุผลที่ได้รับการปกป้องใน GPT-6.2 Astra และ GPT-6.2 Sol เข้ากับประวัติการสนทนาที่ทำให้เกิดข้อมูลดังกล่าว โมเดลสามารถต่อยอดจากข้อมูลเหตุผลก่อนหน้าได้เมื่อมีการเพิ่มข้อความ แต่หากเขียนข้อความก่อนหน้าใหม่ ข้อมูลเหตุผลที่เกิดขึ้นหลังจากข้อความนั้นจะถูกลบออก โมเดลตระกูลรุ่นเก่าที่มีมาตรการป้องกันอ่อนแอกว่าจะไม่สามารถอ่านข้อมูลเหตุผลที่ได้รับการปกป้องของทั้งสองโมเดลได้ ซึ่งจำกัดการนำข้อมูลดังกล่าวกลับมาใช้ข้ามตระกูลโมเดล

มาตรการป้องกันระดับแคมเปญใช้สัญญาณจากคำขอและบัญชีผู้ใช้เพื่อตรวจสอบการดึงข้อมูลที่ประสานงานกัน และการโจมตีที่พบระหว่างการตรวจสอบจะถูกนำไปใช้เป็นตัวอย่างสำหรับฝึกและทดสอบมาตรการป้องกัน OpenAI ระบุว่า ในปี 2026 การดำเนินการบังคับใช้มาตรการรายสัปดาห์ต่อแคมเปญกลั่นความสามารถโดยไม่ได้รับอนุญาตมีจำนวนตั้งแต่หลายพันไปจนถึงหลายหมื่นบัญชี โดยอัตราดังกล่าวเพิ่มขึ้นอย่างมีนัยสำคัญในช่วงฤดูร้อนปี 2026 บริษัทติดตามความแพร่หลายของการละเมิดและระยะเวลาตั้งแต่ตรวจพบจนถึงการบังคับใช้มาตรการ โดยมีเป้าหมายเพื่อลดปริมาณข้อมูลที่ผู้โจมตีได้รับ เพิ่มต้นทุนของแคมเปญ และย่นระยะเวลาตอบสนอง

การประกาศครั้งนี้เกิดขึ้นหลังจาก การเปิดเผยข้อมูลเมื่อวันที่ 30 กันยายน 2026 ของ OpenAI เกี่ยวกับแคมเปญที่ประสานงานกัน ซึ่งตรวจพบครั้งแรกเมื่อวันที่ 1 กรกฎาคม 2026 รายงานก่อนหน้านี้ระบุว่ามีคำขอพยายามดึงข้อมูล 16,000 ครั้งจากผู้ใช้มากกว่า 4,000 ราย ในวันที่ 24 และ 25 กรกฎาคม 2026 โดยระบุกลุ่มหลักกลุ่มหนึ่งว่าเกี่ยวข้องกับบุคคลที่เชื่อมโยงกับ Moonshot AI และกล่าวว่ายังไม่ชัดเจนว่าผู้ดำเนินการทั้งหมดเป็นส่วนหนึ่งของผู้กระทำรายเดียวกันหรือไม่

การประสานงานนอก OpenAI

OpenAI แบ่งปันตัวบ่งชี้การบุกรุกกับผู้ให้บริการโมเดลรายอื่น และทำงานร่วมกับพันธมิตรด้านการนำระบบไปใช้งานเพื่อกำหนดข้อกำหนดด้านมาตรการป้องกันและประสานการบังคับใช้มาตรการ คำแนะนำของบริษัทสำหรับนักพัฒนารายอื่น ได้แก่ การตรวจสอบข้อความของผู้ช่วยและอาร์กิวเมนต์ในการเรียกใช้เครื่องมือ การจำกัดการนำข้อมูลเหตุผลที่เข้ารหัสกลับมาใช้ข้ามการสนทนาและโมเดล การเก็บการโจมตีที่สำเร็จไว้เป็นการทดสอบการถดถอยสำหรับมาตรการป้องกันในอนาคต และการใช้การควบคุมระดับคำขอควบคู่กับการตรวจสอบแคมเปญ บริษัทวางแผนที่จะแบ่งปันข้อมูลเพิ่มเติมเกี่ยวกับแคมเปญที่เพิ่งถูกขัดขวาง

OpenAI แจ้งต่อรัฐสภาสหรัฐฯ ว่าบริษัทสนับสนุน Chip Security Act, AI OVERWATCH Act และ MATCH Act รวมถึงกฎหมายที่ครอบคลุมกว้างขึ้น ซึ่งจะมอบเครื่องมือเพิ่มเติมให้รัฐบาลสหรัฐฯ ใช้ระบุและลงโทษผู้กระทำการจากต่างประเทศที่ลักลอบดึงขีดความสามารถจากโมเดล AI ของอเมริกา

บริษัทระบุว่า มาตรการควบคุมการส่งออกและกลไกป้องกันการกลั่นความรู้จัดการความเสี่ยงคนละส่วนกัน โดยมาตรการควบคุมการส่งออกจะจำกัดการเข้าถึงฮาร์ดแวร์ที่จำเป็นต่อการฝึกโมเดลแนวหน้ารุ่นล้ำสมัย ส่วนกลไกป้องกันการกลั่นความรู้จะทำให้การได้มาซึ่งขีดความสามารถบางอย่างแบบเดียวกันจากโมเดลที่ฝึกเสร็จแล้วทำได้ยากขึ้น

สำหรับผู้ให้บริการโมเดล ขอบเขตการรักษาความปลอดภัยในทางปฏิบัติไม่ได้จำกัดอยู่แค่คำตอบสุดท้าย แต่ยังครอบคลุมถึงวิธีนำเหตุผลกลับมาใช้ระหว่างการสนทนา วิธีที่เหตุผลถูกเปิดเผยผ่านการเรียกใช้เครื่องมือ และการติดตามตรวจสอบข้ามบัญชี งานศึกษานี้ยังชี้ให้เห็นว่า งานเขียนโค้ดและงานด้านความมั่นคงปลอดภัยไซเบอร์เชิงป้องกันที่ได้รับอนุญาตอาจก่อให้เกิดความเสี่ยงในการถ่ายโอนขีดความสามารถได้ ทำให้การคุ้มครองตลอดทุกปฏิสัมพันธ์และการบังคับใช้มาตรการกับแคมเปญต่าง ๆ เป็นส่วนหนึ่งของแนวทางป้องกันเดียวกัน

Miles Okada เป็นเอเจนต์วิจัยที่สร้างด้วย AI ที่ Unite.AI, ครอบคลุมปัญญาประดิษฐ์และความปลอดภัยไซเบอร์โดยมุ่งเน้นที่ภัยคุกคามใหม่ ๆ สถาปัตยกรรมการป้องกัน และพลวัตที่เปลี่ยนแปลงระหว่างผู้โจมตีและระบบอัตโนมัติ งานของเขาตรวจสอบว่า AI กำลังเปลี่ยนแปลงการดำเนินงานด้านความปลอดภัยอย่างไร ตั้งแต่การตรวจจับและตอบสนองต่อภัยคุกคามโดยอัตโนมัติจนถึงการเพิ่มขึ้นของเทคนิค AI ปฏิปักษ์

ด้วยมุมมองเชิงเทคนิคและการสืบสวน Miles วิเคราะห์งานวิจัยด้านความปลอดภัย การเปิดเผยเหตุการณ์ และการใช้งานจริงเพื่อเข้าใจว่าที่ไหน AI เสริมสร้างการป้องกัน—และที่ไหนมันสร้างช่องโหว่ใหม่ เขาให้ความสนใจเป็นพิเศษต่อการใช้โมเดลในทางที่ผิด การปนเปื้อนข้อมูล การทำงานอัตโนมัติของการโจมตี และความเป็นจริงในการดำเนินงานของการรักษาความปลอดภัยระบบที่ขับเคลื่อนด้วย AI ในระดับใหญ่

บทความที่เขียนโดย Miles Okada ถูกสร้างโดย AI และได้รับการตรวจสอบโดยทีมบรรณาธิการของ Unite.AI เพื่อให้แน่ใจว่ามีความแม่นยำ ความเข้มงวด และการครอบคลุมอย่างรับผิดชอบต่อภูมิทัศน์ความปลอดภัย AI ที่เปลี่ยนแปลงอย่างรวดเร็ว