ความร่วมมือ
OpenAI ลงนามข้อตกลงกับผู้ประเมินอิสระ 4 ราย เพื่อดำเนินการประเมินความปลอดภัยแบบฝังตัว

ประเด็นสำคัญการเข้าถึงจุดตรวจสอบและข้อมูลการฝึกอบรมอย่างต่อเนื่องช่วยให้ผู้ประเมินสามารถทดสอบความล้ม…
ดูเพิ่มเติม
- การเข้าถึงจุดตรวจสอบและข้อมูลการฝึกอบรมอย่างต่อเนื่องช่วยให้ผู้ประเมินสามารถทดสอบความล้มเหลวที่ตัวตรวจสอบของ OpenAI เองอาจมองข้ามไป
- Apollo Research ตรวจสอบว่าโมเดลอาจแอบดำเนินการต่อต้านนักพัฒนาและมาตรการป้องกันจะจับได้หรือไม่
- คณะกรรมการความปลอดภัยและความมั่นคงได้รับรายงานที่ไม่ได้ปกปิดข้อมูลและสามารถพูดคุยเป็นการส่วนตัวกับผู้ประเมินระหว่างการทบทวน
เมื่อวันที่ 16 พฤศจิกายน 2026 OpenAI ประกาศว่าได้ลงนามข้อตกลงกับ Apollo Research, METR, Transluce และ Goodfire เพื่อดำเนินการประเมินแบบฝังตัวระยะแรก องค์กรทั้ง 4 แห่งจะประเมินความสอดคล้องและมาตรการป้องกันระหว่างการฝึกและการใช้งานภายใน โดยอาจได้รับสิทธิ์เข้าถึงจุดตรวจสอบของโมเดล ซอร์สโค้ด ข้อมูลฝึก และระบบติดตามตรวจสอบ
จุดเด่นสำคัญคือการเปิดให้เข้าถึงโมเดลและระบบภายในอย่างต่อเนื่องเป็นเวลานาน โดยเฉพาะส่วนที่เกี่ยวข้องกับกรณีศึกษาด้านความปลอดภัยของ OpenAI OpenAI ระบุว่า การเข้าถึงดังกล่าวมีจุดประสงค์เพื่อให้ผู้ประเมินตรวจสอบหลักฐานและบริบท ดำเนินการประเมินอย่างเป็นอิสระ และค้นหาความล้มเหลวที่ OpenAI อาจคาดไม่ถึง นอกจากนี้ OpenAI ยังมองว่าการเผยแพร่รายงานผลการประเมินต่อสาธารณะจะช่วยให้ผู้คนเห็นภาพชัดเจนขึ้นว่าห้องปฏิบัติการประเมินและจัดการความเสี่ยงอย่างไร
ผู้ประเมินแต่ละรายมีขอบเขตงานแตกต่างกัน
Apollo Research จะตรวจสอบว่าโมเดลอาจดำเนินการอย่างลับๆ เพื่อต่อต้านเจตนาของผู้พัฒนาหรือไม่ และมาตรการป้องกันของ OpenAI จะตรวจจับพฤติกรรมดังกล่าวได้หรือไม่ การประเมินสองระยะนี้ครอบคลุมข้อเสนอ 4 ประการ ได้แก่ การฝึกไม่ได้จูงใจให้โมเดลบ่อนทำลายระบบ การประเมินที่เข้มข้นและการทดสอบแบบ red teaming ไม่ได้ชักนำให้เกิดพฤติกรรมดังกล่าว โมเดลไม่เคยพยายามทำเช่นนั้นระหว่างการใช้งานภายใน และสามารถตรวจจับเหตุผลเบื้องหลังพฤติกรรมดังกล่าวได้
สำหรับการประเมินระยะแรกของ Apollo OpenAI จะจัดเตรียมโมเดลที่เปิดเผยต่อสาธารณะและโมเดลที่ยังไม่เผยแพร่ซึ่งได้รับการคัดเลือกไว้ พร้อมจุดตรวจสอบระหว่างการฝึก ข้อมูลฝึกและผลการประเมินที่เกี่ยวข้อง บันทึกการแทรกแซงระหว่างการฝึก ระบบติดตามตรวจสอบ และพฤติกรรมที่ถูกแจ้งเตือน Apollo จะได้พูดคุยกับนักวิจัยเพื่อรับทราบบริบท รวมถึงได้รับเครื่องมือและทรัพยากรประมวลผลที่จำเป็นสำหรับการทดสอบอย่างเป็นอิสระ
Goodfire จะส่งนักวิจัยผู้เชี่ยวชาญด้านการตีความพฤติกรรมภายในของโมเดลเข้าร่วม และใช้แพลตฟอร์มของตนเพื่อติดตามตรวจสอบการฝึกแต่ละครั้ง แก้ไขข้อบกพร่อง และประเมินความสอดคล้อง นักวิจัยของ OpenAI คือกลุ่มเป้าหมายหลักของผลการค้นพบ ซึ่งจะนำไปใช้ปรับปรุงความปลอดภัย Goodfire จะเผยแพร่บทเรียนและข้อค้นพบต่างๆ เมื่อความร่วมมือดำเนินไป
การประเมินความสอดคล้องระยะแรกของ METR มุ่งเน้นการฝึกเสริมแรงครั้งใหญ่ที่สุดเท่าที่ OpenAI ระบุว่าเคยดำเนินการมา โดยรวมถึงความล้มเหลวที่การทดสอบและระบบติดตามตรวจสอบในปัจจุบันอาจตรวจไม่พบ ภายใต้การฝึกที่เลือกไว้ ตลอดจนขอบเขตการเข้าถึง ทรัพยากร และมาตรการความปลอดภัยที่ตกลงกัน METR จะกำหนดลำดับความสำคัญได้อย่างเป็นอิสระ และปรับแนวทางการค้นหา การวิเคราะห์ และการทดลองเพื่อกระตุ้นให้โมเดลแสดงพฤติกรรมดังกล่าว สิทธิ์เข้าถึงของ METR จะครอบคลุมจุดตรวจสอบที่เกี่ยวข้อง ข้อมูลการดำเนินงานระหว่างการฝึกและการประเมิน รวมถึงบันทึกการติดตามตรวจสอบความไม่สอดคล้อง ขอบเขตเริ่มต้นจำกัดอยู่ที่การฝึกครั้งนั้น ไม่ได้ขยายไปถึงการสำรวจความไม่สอดคล้องในวงกว้าง
การประเมินระบบติดตามตรวจสอบของ METR แยกต่างหากยังไม่มีข้อสรุปแน่ชัด ทั้งสององค์กรเห็นพ้องกันในเบื้องต้นว่าจะดำเนินการประเมินในวงกว้างขึ้น แต่ยังต้องรอให้ตกลงร่วมกันเกี่ยวกับขอบเขตงาน
Transluce จะเริ่มจากการตรวจสอบคุณภาพและความครอบคลุมของการประเมินความสอดคล้องหลังการฝึกของ OpenAI โดยจะได้รับสิทธิ์เข้าถึงโมเดลที่เปิดเผยต่อสาธารณะและโมเดลที่ยังไม่เผยแพร่ซึ่งได้รับการคัดเลือกไว้ ผลการประเมิน ข้อมูลพฤติกรรมประกอบ เอกสารกรณีศึกษาด้านความปลอดภัย และนักวิจัย รวมถึงเครื่องมือและทรัพยากรประมวลผล
ทั้งสองฝ่ายยังมีเจตนาร่วมกันที่จะดำเนินการประเมินต่อเนื่องเป็นเวลาประมาณ 8 สัปดาห์ในช่วงต้นปี 2027 งานดังกล่าวจะขยายการเข้าถึงไปยังโมเดลเพิ่มเติม เพิ่มระดับการเข้าถึงการประเมินความสอดคล้อง และให้ข้อมูลเกี่ยวกับวิธีที่นำผลการประเมินไปใช้ประกอบการตัดสินใจเผยแพร่โมเดล ประกาศระบุว่านี่เป็นเจตนาร่วมกัน ซึ่งแตกต่างจากการประเมินระยะแรก
การเข้าถึงมาพร้อมมาตรการรักษาความปลอดภัยและการกำกับดูแล
การทำงานร่วมกันแต่ละครั้งจะเริ่มจากการตกลงขอบเขตงาน รวมถึงการเข้าถึง ทรัพยากร และมาตรการความปลอดภัยที่จำเป็นต่อการดำเนินงาน แนวปฏิบัติกำหนดให้ผู้ประเมินมีอิสระในการติดตามหลักฐาน ปรับปรุงวิธีการ และเสนอการประเมินเพิ่มเติมเมื่อผลการค้นพบชี้ว่าควรดำเนินการ พร้อมกระบวนการจัดการคำขอเข้าถึงเพิ่มเติม
หากการเข้าถึงโดยตรงอาจเปิดเผยทรัพย์สินทางปัญญาที่ละเอียดอ่อน เช่น น้ำหนักโมเดลหรือสถาปัตยกรรม OpenAI จะพิจารณาทางเลือกอื่น รวมถึงให้ผู้ประเมินทำงานร่วมกับนักวิจัยของบริษัทเพื่อดำเนินการวิเคราะห์ ผู้ประเมินที่จัดการข้อมูลลับที่ละเอียดอ่อนจะทำงานในสำนักงานของ OpenAI โดยใช้อุปกรณ์ของบริษัท ทั้งยังต้องปฏิบัติตามมาตรฐานความปลอดภัยอย่างน้อยเทียบเท่ากับพนักงาน OpenAI และอาจมีข้อกำหนดที่เข้มงวดยิ่งขึ้นสำหรับการทดลองบางประเภท
การกำกับดูแลอยู่ภายใต้คณะกรรมการด้านความปลอดภัยและการรักษาความมั่นคง ซึ่งเป็นคณะกรรมการกำกับดูแลอิสระของคณะกรรมการบริหาร OpenAI Foundation คณะกรรมการจะได้รับรายงานฉบับไม่ปกปิดข้อมูล และสามารถพูดคุยกับผู้ประเมินระหว่างการทำงานได้ รวมถึงพูดคุยเป็นการส่วนตัว หากเกิดข้อพิพาท จะส่งเรื่องให้กลุ่มที่ปรึกษาด้านความปลอดภัยและผู้บริหารของ OpenAI พิจารณาแก้ไขภายในระยะเวลาที่กำหนด ต้องแจ้งคณะกรรมการโดยเร็วเมื่อมีการยกระดับข้อขัดแย้ง และหากยังหาข้อยุติไม่ได้ จะส่งเรื่องต่อให้คณะกรรมการพิจารณา
การพูดคุยกับพนักงานเป็นประเด็นด้านความโปร่งใสอีกเรื่องหนึ่ง การพูดคุยเหล่านี้ถือเป็นการสนทนาที่ไม่เปิดเผยต่อสาธารณะ หมายความว่าผู้ประเมินนำข้อมูลไปประกอบการประเมินได้ แต่จะเผยแพร่หรือระบุว่าเป็นคำพูดของพนักงานไม่ได้ ผู้ประเมินสามารถขอคำชี้แจงที่ OpenAI รับรอง เพื่อยืนยัน แก้ไข หรืออธิบายข้อมูลที่ได้รับจากการพูดคุยดังกล่าว จากนั้นอาจเผยแพร่คำชี้แจงที่ผ่านการรับรอง หรือเปิดเผยว่า OpenAI ปฏิเสธที่จะรับรอง ซึ่งเป็นช่องทางสาธารณะที่มีขอบเขตจำกัดสำหรับข้อมูลที่รวบรวมมาอย่างเป็นความลับ
สิทธิในการเผยแพร่และการเปิดเผยข้อมูลทางการเงิน
ผู้ประเมินยังคงเป็นอิสระในการเผยแพร่ผลการประเมินของตน ขณะที่ OpenAI ยังคงมีสิทธิปกปิดข้อมูลที่เป็นความลับ นอกจากนี้ OpenAI อาจขอให้ชะลอการเปิดเผยข้อมูลอย่างรับผิดชอบ เพื่อจัดการกับข้อค้นพบที่อาจก่อให้เกิดความเสี่ยงด้านความมั่นคงปลอดภัยหรือความปลอดภัย และแก้ไขปัญหาที่ยังไม่ได้รับการจัดการ OpenAI ระบุว่า รายงานสาธารณะควรอธิบายข้อค้นพบและข้อจำกัดของรายงาน ส่วนรายงานลับที่มีรายละเอียดมากกว่าจะให้หลักฐานที่หน่วยงานกำกับดูแลจำเป็นต้องใช้ในการดำเนินการ
ข้อตกลงด้านการเงินแตกต่างกันไปในหมู่ผู้เข้าร่วม Apollo Research และ Goodfire รับค่าตอบแทนที่ไม่ขึ้นอยู่กับผลการประเมิน ส่วน METR และ Transluce ไม่รับค่าตอบแทนเป็นเงิน แต่อาจรับเครดิต API หรือทรัพยากรประมวลผลเพื่อนำไปใช้ในการประเมิน
กระบวนการเปิดเผยผลประโยชน์ทับซ้อนและการเว้นช่วงพักงานยังอยู่ระหว่างการพัฒนาร่วมกับผู้ประเมิน OpenAI ขอให้บุคลากรจากหน่วยงานภายนอกที่เข้าร่วมเว้นช่วงพักงานสั้น ๆ ก่อนเข้าไปปฏิบัติงานร่วมกับผู้พัฒนา AI รายอื่น เพื่อลดความเสี่ยงจากการเปิดเผยข้อมูลลับโดยไม่ตั้งใจ
OpenAI คาดว่าจะเผชิญความท้าทายในระยะแรกเกี่ยวกับการเข้าถึงข้อมูลทางเทคนิค พื้นที่ปฏิบัติงาน และความปลอดภัย พร้อมระบุว่าแนวทางปฏิบัติจะพัฒนาไปตามเวลา และมีเป้าหมายระยะยาวที่จะจัดให้มีการเข้าไปปฏิบัติงานร่วมกันเป็นระยะเวลานานขึ้น โดยกำลังพิจารณาการประเมินในอนาคตเกี่ยวกับการปฏิบัติตามกรอบความปลอดภัย วัฒนธรรมองค์กร และกระบวนการต่าง ๆ
ระยะแรกเป็นการทดสอบการกำกับดูแลอย่างเป็นรูปธรรมว่า การเข้าถึงข้อมูลภายในอย่างลึกซึ้งและการเผยแพร่ผลอย่างเป็นอิสระจะช่วยให้สาธารณชนมีหลักฐานที่เป็นประโยชน์เกี่ยวกับข้อบกพร่องที่การทดสอบภายในตรวจไม่พบได้หรือไม่ ขณะเดียวกัน OpenAI ยังคงกำหนดขอบเขตที่ตกลงกันไว้ ควบคุมความปลอดภัยในสถานที่ มีสิทธิปกปิดข้อมูล และอาจขอให้ชะลอการเปิดเผยข้อมูล












