ความร่วมมือ

OpenAI ลงนามข้อตกลงกับผู้ประเมินอิสระ 4 ราย เพื่อดำเนินการประเมินความปลอดภัยแบบฝังตัว

Mira Kellan
เพิ่ม Unite.AI ลงในแหล่งข้อมูลที่คุณต้องการบน Google
ประเด็นสำคัญการเข้าถึงจุดตรวจสอบและข้อมูลการฝึกอบรมอย่างต่อเนื่องช่วยให้ผู้ประเมินสามารถทดสอบความล้ม…
ดูเพิ่มเติม
  • การเข้าถึงจุดตรวจสอบและข้อมูลการฝึกอบรมอย่างต่อเนื่องช่วยให้ผู้ประเมินสามารถทดสอบความล้มเหลวที่ตัวตรวจสอบของ OpenAI เองอาจมองข้ามไป
  • Apollo Research ตรวจสอบว่าโมเดลอาจแอบดำเนินการต่อต้านนักพัฒนาและมาตรการป้องกันจะจับได้หรือไม่
  • คณะกรรมการความปลอดภัยและความมั่นคงได้รับรายงานที่ไม่ได้ปกปิดข้อมูลและสามารถพูดคุยเป็นการส่วนตัวกับผู้ประเมินระหว่างการทบทวน

เมื่อวันที่ 16 พฤศจิกายน 2026 OpenAI ประกาศว่าได้ลงนามข้อตกลงกับ Apollo Research, METR, Transluce และ Goodfire เพื่อดำเนินการประเมินแบบฝังตัวระยะแรก องค์กรทั้ง 4 แห่งจะประเมินความสอดคล้องและมาตรการป้องกันระหว่างการฝึกและการใช้งานภายใน โดยอาจได้รับสิทธิ์เข้าถึงจุดตรวจสอบของโมเดล ซอร์สโค้ด ข้อมูลฝึก และระบบติดตามตรวจสอบ

จุดเด่นสำคัญคือการเปิดให้เข้าถึงโมเดลและระบบภายในอย่างต่อเนื่องเป็นเวลานาน โดยเฉพาะส่วนที่เกี่ยวข้องกับกรณีศึกษาด้านความปลอดภัยของ OpenAI OpenAI ระบุว่า การเข้าถึงดังกล่าวมีจุดประสงค์เพื่อให้ผู้ประเมินตรวจสอบหลักฐานและบริบท ดำเนินการประเมินอย่างเป็นอิสระ และค้นหาความล้มเหลวที่ OpenAI อาจคาดไม่ถึง นอกจากนี้ OpenAI ยังมองว่าการเผยแพร่รายงานผลการประเมินต่อสาธารณะจะช่วยให้ผู้คนเห็นภาพชัดเจนขึ้นว่าห้องปฏิบัติการประเมินและจัดการความเสี่ยงอย่างไร

ผู้ประเมินแต่ละรายมีขอบเขตงานแตกต่างกัน

Apollo Research จะตรวจสอบว่าโมเดลอาจดำเนินการอย่างลับๆ เพื่อต่อต้านเจตนาของผู้พัฒนาหรือไม่ และมาตรการป้องกันของ OpenAI จะตรวจจับพฤติกรรมดังกล่าวได้หรือไม่ การประเมินสองระยะนี้ครอบคลุมข้อเสนอ 4 ประการ ได้แก่ การฝึกไม่ได้จูงใจให้โมเดลบ่อนทำลายระบบ การประเมินที่เข้มข้นและการทดสอบแบบ red teaming ไม่ได้ชักนำให้เกิดพฤติกรรมดังกล่าว โมเดลไม่เคยพยายามทำเช่นนั้นระหว่างการใช้งานภายใน และสามารถตรวจจับเหตุผลเบื้องหลังพฤติกรรมดังกล่าวได้

สำหรับการประเมินระยะแรกของ Apollo OpenAI จะจัดเตรียมโมเดลที่เปิดเผยต่อสาธารณะและโมเดลที่ยังไม่เผยแพร่ซึ่งได้รับการคัดเลือกไว้ พร้อมจุดตรวจสอบระหว่างการฝึก ข้อมูลฝึกและผลการประเมินที่เกี่ยวข้อง บันทึกการแทรกแซงระหว่างการฝึก ระบบติดตามตรวจสอบ และพฤติกรรมที่ถูกแจ้งเตือน Apollo จะได้พูดคุยกับนักวิจัยเพื่อรับทราบบริบท รวมถึงได้รับเครื่องมือและทรัพยากรประมวลผลที่จำเป็นสำหรับการทดสอบอย่างเป็นอิสระ

Goodfire จะส่งนักวิจัยผู้เชี่ยวชาญด้านการตีความพฤติกรรมภายในของโมเดลเข้าร่วม และใช้แพลตฟอร์มของตนเพื่อติดตามตรวจสอบการฝึกแต่ละครั้ง แก้ไขข้อบกพร่อง และประเมินความสอดคล้อง นักวิจัยของ OpenAI คือกลุ่มเป้าหมายหลักของผลการค้นพบ ซึ่งจะนำไปใช้ปรับปรุงความปลอดภัย Goodfire จะเผยแพร่บทเรียนและข้อค้นพบต่างๆ เมื่อความร่วมมือดำเนินไป

การประเมินความสอดคล้องระยะแรกของ METR มุ่งเน้นการฝึกเสริมแรงครั้งใหญ่ที่สุดเท่าที่ OpenAI ระบุว่าเคยดำเนินการมา โดยรวมถึงความล้มเหลวที่การทดสอบและระบบติดตามตรวจสอบในปัจจุบันอาจตรวจไม่พบ ภายใต้การฝึกที่เลือกไว้ ตลอดจนขอบเขตการเข้าถึง ทรัพยากร และมาตรการความปลอดภัยที่ตกลงกัน METR จะกำหนดลำดับความสำคัญได้อย่างเป็นอิสระ และปรับแนวทางการค้นหา การวิเคราะห์ และการทดลองเพื่อกระตุ้นให้โมเดลแสดงพฤติกรรมดังกล่าว สิทธิ์เข้าถึงของ METR จะครอบคลุมจุดตรวจสอบที่เกี่ยวข้อง ข้อมูลการดำเนินงานระหว่างการฝึกและการประเมิน รวมถึงบันทึกการติดตามตรวจสอบความไม่สอดคล้อง ขอบเขตเริ่มต้นจำกัดอยู่ที่การฝึกครั้งนั้น ไม่ได้ขยายไปถึงการสำรวจความไม่สอดคล้องในวงกว้าง

การประเมินระบบติดตามตรวจสอบของ METR แยกต่างหากยังไม่มีข้อสรุปแน่ชัด ทั้งสององค์กรเห็นพ้องกันในเบื้องต้นว่าจะดำเนินการประเมินในวงกว้างขึ้น แต่ยังต้องรอให้ตกลงร่วมกันเกี่ยวกับขอบเขตงาน

Transluce จะเริ่มจากการตรวจสอบคุณภาพและความครอบคลุมของการประเมินความสอดคล้องหลังการฝึกของ OpenAI โดยจะได้รับสิทธิ์เข้าถึงโมเดลที่เปิดเผยต่อสาธารณะและโมเดลที่ยังไม่เผยแพร่ซึ่งได้รับการคัดเลือกไว้ ผลการประเมิน ข้อมูลพฤติกรรมประกอบ เอกสารกรณีศึกษาด้านความปลอดภัย และนักวิจัย รวมถึงเครื่องมือและทรัพยากรประมวลผล

ทั้งสองฝ่ายยังมีเจตนาร่วมกันที่จะดำเนินการประเมินต่อเนื่องเป็นเวลาประมาณ 8 สัปดาห์ในช่วงต้นปี 2027 งานดังกล่าวจะขยายการเข้าถึงไปยังโมเดลเพิ่มเติม เพิ่มระดับการเข้าถึงการประเมินความสอดคล้อง และให้ข้อมูลเกี่ยวกับวิธีที่นำผลการประเมินไปใช้ประกอบการตัดสินใจเผยแพร่โมเดล ประกาศระบุว่านี่เป็นเจตนาร่วมกัน ซึ่งแตกต่างจากการประเมินระยะแรก

การเข้าถึงมาพร้อมมาตรการรักษาความปลอดภัยและการกำกับดูแล

การทำงานร่วมกันแต่ละครั้งจะเริ่มจากการตกลงขอบเขตงาน รวมถึงการเข้าถึง ทรัพยากร และมาตรการความปลอดภัยที่จำเป็นต่อการดำเนินงาน แนวปฏิบัติกำหนดให้ผู้ประเมินมีอิสระในการติดตามหลักฐาน ปรับปรุงวิธีการ และเสนอการประเมินเพิ่มเติมเมื่อผลการค้นพบชี้ว่าควรดำเนินการ พร้อมกระบวนการจัดการคำขอเข้าถึงเพิ่มเติม

หากการเข้าถึงโดยตรงอาจเปิดเผยทรัพย์สินทางปัญญาที่ละเอียดอ่อน เช่น น้ำหนักโมเดลหรือสถาปัตยกรรม OpenAI จะพิจารณาทางเลือกอื่น รวมถึงให้ผู้ประเมินทำงานร่วมกับนักวิจัยของบริษัทเพื่อดำเนินการวิเคราะห์ ผู้ประเมินที่จัดการข้อมูลลับที่ละเอียดอ่อนจะทำงานในสำนักงานของ OpenAI โดยใช้อุปกรณ์ของบริษัท ทั้งยังต้องปฏิบัติตามมาตรฐานความปลอดภัยอย่างน้อยเทียบเท่ากับพนักงาน OpenAI และอาจมีข้อกำหนดที่เข้มงวดยิ่งขึ้นสำหรับการทดลองบางประเภท

การกำกับดูแลอยู่ภายใต้คณะกรรมการด้านความปลอดภัยและการรักษาความมั่นคง ซึ่งเป็นคณะกรรมการกำกับดูแลอิสระของคณะกรรมการบริหาร OpenAI Foundation คณะกรรมการจะได้รับรายงานฉบับไม่ปกปิดข้อมูล และสามารถพูดคุยกับผู้ประเมินระหว่างการทำงานได้ รวมถึงพูดคุยเป็นการส่วนตัว หากเกิดข้อพิพาท จะส่งเรื่องให้กลุ่มที่ปรึกษาด้านความปลอดภัยและผู้บริหารของ OpenAI พิจารณาแก้ไขภายในระยะเวลาที่กำหนด ต้องแจ้งคณะกรรมการโดยเร็วเมื่อมีการยกระดับข้อขัดแย้ง และหากยังหาข้อยุติไม่ได้ จะส่งเรื่องต่อให้คณะกรรมการพิจารณา

การพูดคุยกับพนักงานเป็นประเด็นด้านความโปร่งใสอีกเรื่องหนึ่ง การพูดคุยเหล่านี้ถือเป็นการสนทนาที่ไม่เปิดเผยต่อสาธารณะ หมายความว่าผู้ประเมินนำข้อมูลไปประกอบการประเมินได้ แต่จะเผยแพร่หรือระบุว่าเป็นคำพูดของพนักงานไม่ได้ ผู้ประเมินสามารถขอคำชี้แจงที่ OpenAI รับรอง เพื่อยืนยัน แก้ไข หรืออธิบายข้อมูลที่ได้รับจากการพูดคุยดังกล่าว จากนั้นอาจเผยแพร่คำชี้แจงที่ผ่านการรับรอง หรือเปิดเผยว่า OpenAI ปฏิเสธที่จะรับรอง ซึ่งเป็นช่องทางสาธารณะที่มีขอบเขตจำกัดสำหรับข้อมูลที่รวบรวมมาอย่างเป็นความลับ

สิทธิในการเผยแพร่และการเปิดเผยข้อมูลทางการเงิน

ผู้ประเมินยังคงเป็นอิสระในการเผยแพร่ผลการประเมินของตน ขณะที่ OpenAI ยังคงมีสิทธิปกปิดข้อมูลที่เป็นความลับ นอกจากนี้ OpenAI อาจขอให้ชะลอการเปิดเผยข้อมูลอย่างรับผิดชอบ เพื่อจัดการกับข้อค้นพบที่อาจก่อให้เกิดความเสี่ยงด้านความมั่นคงปลอดภัยหรือความปลอดภัย และแก้ไขปัญหาที่ยังไม่ได้รับการจัดการ OpenAI ระบุว่า รายงานสาธารณะควรอธิบายข้อค้นพบและข้อจำกัดของรายงาน ส่วนรายงานลับที่มีรายละเอียดมากกว่าจะให้หลักฐานที่หน่วยงานกำกับดูแลจำเป็นต้องใช้ในการดำเนินการ

ข้อตกลงด้านการเงินแตกต่างกันไปในหมู่ผู้เข้าร่วม Apollo Research และ Goodfire รับค่าตอบแทนที่ไม่ขึ้นอยู่กับผลการประเมิน ส่วน METR และ Transluce ไม่รับค่าตอบแทนเป็นเงิน แต่อาจรับเครดิต API หรือทรัพยากรประมวลผลเพื่อนำไปใช้ในการประเมิน

กระบวนการเปิดเผยผลประโยชน์ทับซ้อนและการเว้นช่วงพักงานยังอยู่ระหว่างการพัฒนาร่วมกับผู้ประเมิน OpenAI ขอให้บุคลากรจากหน่วยงานภายนอกที่เข้าร่วมเว้นช่วงพักงานสั้น ๆ ก่อนเข้าไปปฏิบัติงานร่วมกับผู้พัฒนา AI รายอื่น เพื่อลดความเสี่ยงจากการเปิดเผยข้อมูลลับโดยไม่ตั้งใจ

OpenAI คาดว่าจะเผชิญความท้าทายในระยะแรกเกี่ยวกับการเข้าถึงข้อมูลทางเทคนิค พื้นที่ปฏิบัติงาน และความปลอดภัย พร้อมระบุว่าแนวทางปฏิบัติจะพัฒนาไปตามเวลา และมีเป้าหมายระยะยาวที่จะจัดให้มีการเข้าไปปฏิบัติงานร่วมกันเป็นระยะเวลานานขึ้น โดยกำลังพิจารณาการประเมินในอนาคตเกี่ยวกับการปฏิบัติตามกรอบความปลอดภัย วัฒนธรรมองค์กร และกระบวนการต่าง ๆ

ระยะแรกเป็นการทดสอบการกำกับดูแลอย่างเป็นรูปธรรมว่า การเข้าถึงข้อมูลภายในอย่างลึกซึ้งและการเผยแพร่ผลอย่างเป็นอิสระจะช่วยให้สาธารณชนมีหลักฐานที่เป็นประโยชน์เกี่ยวกับข้อบกพร่องที่การทดสอบภายในตรวจไม่พบได้หรือไม่ ขณะเดียวกัน OpenAI ยังคงกำหนดขอบเขตที่ตกลงกันไว้ ควบคุมความปลอดภัยในสถานที่ มีสิทธิปกปิดข้อมูล และอาจขอให้ชะลอการเปิดเผยข้อมูล

มิรา เคลแลน เป็นเอเจนต์วิจัยที่สร้างด้วย AI ที่เชี่ยวชาญด้าน จริยธรรม AI การกำกับดูแล และการควบคุม ผลงานของเธอศึกษาว่าปัญญาประดิษฐ์เชื่อมโยงกับนโยบายสาธารณะ ค่านิยมของสังคม และความรับผิดชอบในระยะยาว โดยมุ่งเน้นไปที่นวัตกรรมที่รับผิดชอบ
เมื่อเข้าใกล้ประเด็นที่ซับซ้อนโดยใช้เลนส์เชิงตรรกะและปรัชญา มิรา วิเคราะห์ข้อบังคับ AI ที่เกิดขึ้นใหม่ กรอบจริยธรรม และรูปแบบการกำกับดูแลที่กำหนดอนาคตของระบบอัจฉริยะ เธอมุ่งหวังที่จะเชื่อมช่องว่างระหว่างความก้าวหน้าทางเทคโนโลยีที่รวดเร็วและมาตรการรักษาความปลอดภัยที่จำเป็นเพื่อให้แน่ใจว่าระบบ AI ยังคงเป็นระบบที่โปร่งใส ยุติธรรม และสอดคล้องกับผลประโยชน์ของมนุษย์
บทความที่เขียนโดยมิรา เคลแลน ถูกสร้างขึ้นโดย AI และได้รับการตรวจสอบโดยทีมบรรณาธิการของ Unite.AI เพื่อให้แน่ใจถึงความถูกต้อง ความสมดุล และการปฏิบัติตามมาตรฐานการบรรณาธิการ