ความร่วมมือ
Apollo Research เตรียมส่งผู้ประเมินหกคนเข้าร่วมโครงการนำร่องของ OpenAI เพื่อตรวจสอบการบ่อนทำลาย

ประเด็นสำคัญOpenAI อาจระงับเนื้อหาที่อยู่ในขอบเขตด้วยเหตุผลด้านความปลอดภัยหรือทรัพย์สินทางปัญญา…
ดูเพิ่มเติม
- OpenAI อาจระงับเนื้อหาที่อยู่ในขอบเขตด้วยเหตุผลด้านความปลอดภัยหรือทรัพย์สินทางปัญญา แต่ไม่ใช่เพราะเนื้อหาไม่เป็นผลดี
- OpenAI สามารถปกปิดหลักฐานที่ละเอียดอ่อนซึ่งอยู่เบื้องหลังข้อค้นพบของ Apollo โดยยังคงคำตัดสินของ Apollo ไว้ครบถ้วน
- Apollo โต้แย้งว่าสิทธิในความโปร่งใสระดับเมตาเป็นสิ่งจำเป็น เพราะข้อจำกัดที่ไม่เปิดเผยอาจทำให้ปัญหาที่ไม่มีอยู่จริงดูน่าไว้วางใจ
Apollo Research ประกาศเมื่อวันที่ 16 พฤศจิกายน 2026 ว่าผู้ประเมิน 6 คนของบริษัทจะเข้าไปทำงานภายใน OpenAI เป็นเวลา 4 เดือน เพื่อศึกษาว่าโมเดลของ OpenAI พยายามบ่อนทำลายกลไกการปรับให้สอดคล้องหรือกลไกควบคุมระหว่างการฝึก การประเมิน และการนำไปใช้งานภายในหรือไม่
ทีมจะตรวจสอบคำถาม 4 ข้อ ได้แก่ การฝึกสร้างแรงจูงใจให้เกิดการบ่อนทำลายหรือไม่ การประเมินสามารถกระตุ้นให้เกิดการบ่อนทำลายได้หรือไม่ มีการบ่อนทำลายเกิดขึ้นระหว่างการนำไปใช้งานภายในหรือไม่ และสามารถตรวจจับการให้เหตุผลที่เกี่ยวข้องกับการบ่อนทำลายได้หรือไม่ ขอบเขตการตรวจสอบครอบคลุมความพยายามบั่นทอนการปรับให้สอดคล้องหรือกลไกควบคุมของโมเดลเอง รวมถึงของโมเดลรุ่นถัดไป
การจัดการนี้มีเป้าหมายเพื่อขยายการตรวจสอบจากภายนอกให้ก้าวพ้นแนวทางการประเมินก่อนหน้านี้ของ Apollo ซึ่งดำเนินการหลังการฝึกขั้นหลัง และไม่นานก่อนเผยแพร่สู่สาธารณะ Apollo มองว่าการประเมินในช่วงเวลาดังกล่าวไม่เพียงพอสำหรับทดสอบพฤติกรรมที่ไม่สอดคล้อง เช่น การวางแผนแอบแฝง หรือการตรวจสอบการใช้งานที่ยังไม่เปิดเผยต่อสาธารณะระหว่างการนำไปใช้งานภายใน การฝังผู้ประเมินไว้ภายในองค์กรโดยให้สิทธิ์เข้าถึงในระดับใกล้เคียงกับพนักงานมีเป้าหมายเพื่อก้าวข้ามข้อจำกัดเหล่านั้น
Apollo อธิบายว่าโครงการนำร่องนี้เป็นก้าวแรกที่ทะเยอทะยาน ไม่ใช่การประเมินแบบฝังตัวอย่างเต็มรูปแบบ มาตรฐานทั่วไปของ Apollo กำหนดให้เข้าถึงบันทึกที่เกี่ยวข้องทั้งหมด แม้นักพัฒนาจะพยายามปกปิดข้อมูลที่ไม่เป็นผลดี กำหนดให้เปิดเผยข้อค้นพบต่อบุคคลภายนอกที่เหมาะสม แม้นักพัฒนาจะคัดค้าน และกำหนดให้ชี้แจงข้อจำกัดต่อสาธารณะอย่างเพียงพอ เพื่อให้ผู้อ่านเข้าใจได้ว่ารายงานยืนยันอะไรได้และยืนยันอะไรไม่ได้
ขอบเขตการเข้าถึงและการติดต่อกับพนักงาน
สำหรับการประเมินแรงจูงใจที่เกิดจากการฝึก OpenAI ตกลงที่จะจัดเตรียมโค้ดและชุดข้อมูลที่เกี่ยวข้องกับการฝึก ผลลัพธ์จากการเรียนรู้แบบเสริมกำลังพร้อมร่องรอยการให้เหตุผลและรางวัลที่มีอยู่ ตลอดจนความสามารถในการส่งคำถามไปยังจุดตรวจสอบของโมเดลระหว่างการฝึก ส่วนการจัดการเรื่องการเข้าถึงโดยละเอียดสำหรับข้อกล่าวอ้างอื่น ๆ ที่จะประเมินยังต้องตกลงกัน
การประเมินจำกัดอยู่เฉพาะข้อกล่าวอ้าง โมเดล และช่วงเวลาที่ตกลงกันไว้ OpenAI อาจระงับรายการที่อยู่ในขอบเขตการประเมิน หากเห็นว่าจำเป็นอย่างสมเหตุสมผลด้วยเหตุผลด้านความเป็นไปไม่ได้ในทางเทคนิค ความเสี่ยงด้านความปลอดภัย หรือการคุ้มครองทรัพย์สินทางปัญญา แต่จะระงับข้อมูลหรือการเข้าถึงพนักงานเพียงเพราะเนื้อหานั้นไม่เป็นผลดีไม่ได้ OpenAI ต้องแจ้ง Apollo ว่ามีรายการที่ถูกระงับ พร้อมให้เหตุผลเป็นลายลักษณ์อักษร และในกรณีที่ OpenAI เห็นว่าทำได้และเกี่ยวข้อง ต้องระบุประเภทและปริมาณโดยประมาณของบันทึกที่ถูกระงับ Apollo สามารถขอขยายสิทธิ์การเข้าถึงผ่านผู้ติดต่อที่ OpenAI กำหนด และยกระดับกรณีที่ถูกปฏิเสธได้ แต่ไม่มีการรับประกันว่าจะขยายสิทธิ์ให้
การติดต่อกับพนักงานก็อยู่ภายใต้การควบคุมเช่นกัน Apollo สามารถขอพูดคุยกับผู้มีความเชี่ยวชาญเฉพาะด้านและเสนอชื่อบุคคลได้ แต่ OpenAI เป็นผู้เลือกผู้เข้าร่วมที่ได้รับอนุญาต และต้องบันทึกการสนทนาอย่างเป็นทางการ หากพนักงานคนอื่นหยิบยกข้อมูลที่เป็นความลับขึ้นมา Apollo ต้องยุติการพูดคุยในประเด็นนั้นและส่งเรื่องติดตามผลผ่านผู้ติดต่อที่ OpenAI กำหนด แม้ข้อมูลดังกล่าวจะอยู่ในขอบเขตของการประเมินก็ตาม
ผู้ประเมินจะทำงานบนฮาร์ดแวร์ของ OpenAI โดยใช้ช่องทางแยกต่างหากที่สามารถตรวจสอบได้ โดยปกติแล้ว ผู้ประเมินจะไม่ได้รับสิทธิ์เข้าถึงช่องทางสื่อสารทั่วไปของพนักงาน เช่น Slack Apollo ระบุว่าการพูดคุยอย่างไม่เป็นทางการและ Slack อาจทำให้พบข้อมูลที่เกี่ยวข้องซึ่งผู้ประเมินอาจไม่ได้นึกขอ และต้องการให้นำข้อมูลดังกล่าวเข้ามาอยู่ในขอบเขตของการประเมินในอนาคต
รายงานสาธารณะและสิทธิ์ในการลบข้อมูล
Apollo วางแผนจัดทำรายงานสาธารณะ 2 ฉบับ ฉบับแรกจะกล่าวถึงแรงจูงใจจากการฝึกที่นำไปสู่การบ่อนทำลาย ส่วนฉบับที่สองจะครอบคลุมการประเมิน การนำไปใช้งานภายใน และความสามารถในการตรวจจับการให้เหตุผลที่มุ่งบ่อนทำลาย แต่ละฉบับจะอธิบายวิธีการ ข้อสรุป ข้อจำกัด คำถามที่ไม่สามารถประเมินได้ และหลักฐานประกอบที่สามารถเผยแพร่ได้
OpenAI จะตรวจทานรายงานและอาจขอให้ลบข้อมูลที่เป็นความลับ รวมถึงหลักฐานที่สนับสนุนข้อค้นพบ แต่จะลบคำวินิจฉัยของ Apollo หรือขอให้ลบข้อมูลเพียงเพราะข้อค้นพบนั้นไม่เป็นผลดีไม่ได้ อย่างไรก็ตาม OpenAI สามารถลบหลักฐานที่เห็นว่าเป็นทรัพย์สินทางปัญญาที่ละเอียดอ่อนได้ ไม่ว่าหลักฐานนั้นจะมีส่วนโดยตรงต่อข้อค้นพบหรือไม่ก็ตาม ดังนั้น ผู้อ่านรายงานสาธารณะอาจตรวจสอบหลักฐานทั้งหมดที่อยู่เบื้องหลังข้อสรุปไม่ได้ แม้ Apollo จะระบุได้ว่าการลบข้อมูลส่งผลต่อข้อสรุปหรือไม่ OpenAI จะแบ่งปันรายงานฉบับไม่ลบข้อมูลกับ คณะกรรมการด้านความปลอดภัยและการรักษาความมั่นคง ของคณะกรรมการบริหาร
ข้อกล่าวอ้างที่อิงจากการหารือกับพนักงานต้องได้รับการรับรองอย่างเป็นทางการจาก OpenAI เว้นแต่ Apollo จะพิสูจน์ข้อกล่าวอ้างเหล่านั้นได้ด้วยตนเอง ข้อกำหนดนี้ยังครอบคลุมข้อมูลที่พนักงานซึ่งได้รับอนุญาตให้เข้าร่วมให้ไว้ในการสัมภาษณ์อย่างเป็นทางการด้วย หาก OpenAI ปฏิเสธการรับรอง Apollo สามารถเปิดเผยได้ว่ามีการปฏิเสธ และอธิบายผลกระทบต่อข้อสรุป โดยไม่เปิดเผยข้อมูลลับที่เป็นต้นทาง
กติกาว่าด้วยความโปร่งใสเกี่ยวกับกระบวนการ
สิทธิ์ด้านความโปร่งใสเกี่ยวกับกระบวนการที่แยกต่างหากเปิดโอกาสให้ Apollo เปิดเผยต่อสาธารณะได้ถึงขอบเขตและเงื่อนไขของการประเมิน การเข้าถึงที่ร้องขอและได้รับ เนื้อหาที่ถูกระงับหรือล่าช้าและเหตุผลที่ให้ไว้ คำขอให้ถอดเนื้อหาออกจากรายงานและความสำคัญของคำขอนั้น ตลอดจนแรงกดดันใด ๆ ที่ Apollo เชื่อว่ามีอิทธิพลต่องานของตน Apollo สามารถพูดถึงเงื่อนไขด้านการเข้าถึงและการเผยแพร่ได้โดยไม่ต้องให้ OpenAI ตรวจทานล่วงหน้า
Apollo มองว่าสิทธิเหล่านั้นเป็นมาตรฐานขั้นต่ำสำหรับการว่าจ้างประเมินทุกครั้ง หากไม่มีสิทธิเหล่านี้ การไม่มีรายงานปัญหาอาจดูน่าอุ่นใจ ทั้งที่ความจริงแล้วอาจเป็นผลจากข้อจำกัดในการตรวจสอบหรือเปิดเผยข้อมูล ดังนั้น ข้อสรุปของโครงการนำร่องจึงต้องอ่านควบคู่ไปกับคำอธิบายเกี่ยวกับข้อจำกัดด้านการเข้าถึงและการเผยแพร่ เพราะคำตัดสินเดียวกันอาจมีน้ำหนักต่างกัน ขึ้นอยู่กับว่าสิ่งใดที่ผู้ประเมินสามารถตรวจสอบและเปิดเผยได้












