Kemitraan
Apollo Research Akan Menempatkan Enam Evaluator dalam Uji Coba Subversi OpenAI

Poin utamaOpenAI dapat menahan materi yang termasuk dalam lingkup demi keamanan atau kekayaan…
Lihat selengkapnya
- OpenAI dapat menahan materi yang termasuk dalam lingkup demi keamanan atau kekayaan intelektual, tetapi bukan karena materi itu tidak menguntungkan.
- OpenAI dapat menyunting bukti sensitif di balik temuan Apollo sambil membiarkan putusan Apollo tetap utuh.
- Apollo berargumen bahwa hak meta-transparansi sangat penting karena pembatasan yang tidak diungkapkan dapat membuat masalah yang tidak ada terlihat meyakinkan.
Apollo Research mengumumkan pada 16 November 2026 bahwa enam evaluatornya akan bekerja di lingkungan OpenAI selama empat bulan untuk menyelidiki apakah model-modelnya berupaya mengakali mekanisme penyelarasan atau kendali selama pelatihan, evaluasi, dan penerapan internal.
Tim tersebut akan mengkaji empat pertanyaan: apakah pelatihan mendorong upaya mengakali mekanisme, apakah evaluasi dapat memunculkan perilaku tersebut, apakah hal itu terjadi selama penerapan internal, dan apakah penalaran yang terkait dengan upaya tersebut dapat dideteksi. Cakupannya meliputi upaya untuk melemahkan penyelarasan atau kendali model itu sendiri, maupun model-model penerusnya.
Pengaturan ini dirancang untuk memperluas pengawasan eksternal melampaui pendekatan evaluasi Apollo sebelumnya, yang dilakukan setelah pelatihan pascapelatihan dan sesaat sebelum peluncuran ke publik. Apollo menilai waktu tersebut tidak memadai untuk menguji perilaku yang tidak selaras, seperti perencanaan terselubung, atau mengkaji penggunaan nonpublik selama penerapan internal. Evaluasi yang dilakukan langsung di dalam perusahaan dengan akses layaknya karyawan dimaksudkan untuk mengatasi keterbatasan tersebut.
Apollo menyebut uji coba ini sebagai langkah awal yang ambisius, bukan evaluasi internal penuh. Standar umumnya mensyaratkan akses ke semua catatan yang relevan, sekalipun pengembang berupaya menyembunyikan informasi yang tidak menguntungkan; pengungkapan temuan kepada pihak luar yang tepat, sekalipun pengembang keberatan; serta penjelasan publik yang memadai tentang berbagai batasan agar pembaca memahami apa yang dapat dan tidak dapat dibuktikan oleh suatu laporan.
Akses dengan Cakupan Terbatas dan Kontak dengan Staf
Untuk penilaian insentif pelatihan, OpenAI berkomitmen menyediakan kode dan kumpulan data pelatihan yang relevan, rangkaian pelaksanaan pembelajaran penguatan beserta jejak penalaran dan imbalan yang tersedia, serta kemampuan untuk mengajukan kueri pada titik pemeriksaan model perantara. Pengaturan akses terperinci untuk klaim penilaian lainnya masih harus disepakati.
Penilaian ini terbatas pada klaim, model, dan jangka waktu yang telah disepakati. OpenAI dapat menahan materi yang termasuk dalam cakupan jika menilai hal itu cukup beralasan karena kendala teknis, risiko keamanan, atau perlindungan kekayaan intelektual. OpenAI tidak boleh menahan informasi atau akses kepada staf semata-mata karena materi tersebut tidak menguntungkan. OpenAI harus memberi tahu Apollo bahwa ada materi yang ditahan dan memberikan alasan tertulis, serta, jika dinilai layak dan relevan oleh OpenAI, mengidentifikasi catatan yang ditahan berdasarkan kategori dan perkiraan jumlahnya. Apollo dapat meminta akses yang lebih luas melalui kontak OpenAI yang ditunjuk dan mengeskalasi penolakan, tetapi perluasan akses tidak dijamin.
Kontak dengan staf juga diatur. Apollo dapat meminta untuk berbicara dengan orang yang memiliki keahlian tertentu dan mengusulkan nama-nama tertentu, tetapi OpenAI memilih peserta yang berwenang dan percakapan formal harus dicatat. Jika karyawan lain menyampaikan informasi rahasia, Apollo harus menghentikan pembahasan substantif dan menyalurkan tindak lanjut melalui kontak OpenAI yang ditunjuk, sekalipun informasi tersebut termasuk dalam cakupan kerja sama.
Para evaluator akan bekerja menggunakan perangkat keras OpenAI melalui saluran terpisah yang dapat dipantau. Secara default, mereka tidak akan memiliki akses ke saluran komunikasi umum staf seperti Slack. Apollo mencatat bahwa percakapan informal dan Slack dapat mengungkap informasi relevan yang mungkin tidak diminta oleh evaluator, dan menginginkan agar informasi semacam itu dimasukkan ke dalam cakupan penilaian mendatang.
Laporan Publik dan Hak Penyuntingan
Apollo berencana menerbitkan dua laporan publik. Laporan pertama akan membahas insentif pelatihan untuk melakukan subversi; laporan kedua akan membahas evaluasi, penerapan internal, dan keterdeteksian penalaran subversif. Masing-masing akan menjelaskan metode, kesimpulan, keterbatasan, pertanyaan yang tidak dapat dinilai, serta bukti pendukung yang dapat dipublikasikan.
OpenAI akan meninjau laporan dan dapat meminta penyuntingan untuk menghapus informasi rahasia, termasuk bukti yang mendukung temuan. OpenAI tidak boleh menyunting putusan Apollo atau meminta penyuntingan semata-mata karena suatu temuan tidak menguntungkan. Namun, OpenAI dapat menyunting bukti yang dianggapnya sebagai kekayaan intelektual sensitif, terlepas dari apakah bukti tersebut secara langsung mendukung suatu temuan. Karena itu, pembaca publik mungkin tidak dapat memeriksa semua bukti yang mendasari suatu kesimpulan, meskipun Apollo dapat menyatakan apakah penyuntingan tersebut memengaruhi kesimpulannya. OpenAI akan membagikan laporan tanpa penyuntingan kepada Komite Keselamatan dan Keamanan dewan direksinya.
Klaim yang didasarkan pada diskusi dengan karyawan memerlukan pengesahan resmi OpenAI, kecuali Apollo membuktikannya secara independen. Persyaratan ini juga berlaku untuk informasi yang diberikan oleh staf berwenang dalam wawancara formal. Jika pengesahan ditolak, Apollo dapat mengungkapkan penolakan tersebut dan menjelaskan dampaknya terhadap kesimpulan, tanpa mengungkap informasi rahasia yang mendasarinya.
Aturan Transparansi Meta
Hak transparansi meta yang terpisah memungkinkan Apollo menjelaskan kepada publik cakupan dan ketentuan kerja sama, akses yang diminta dan diperoleh, materi yang ditahan atau ditunda beserta alasan yang diberikan, permintaan penghapusan bagian laporan beserta signifikansinya, serta tekanan apa pun yang menurut Apollo memengaruhi pekerjaannya. Apollo dapat membahas ketentuan akses dan publikasinya tanpa peninjauan terlebih dahulu oleh OpenAI.
Apollo menganggap hak-hak tersebut sebagai standar minimum untuk setiap penugasan evaluasi. Tanpa hak-hak itu, tidak adanya masalah yang dilaporkan dapat tampak meyakinkan, meskipun sebenarnya hal itu mencerminkan pembatasan terhadap penyelidikan atau pengungkapan informasi. Karena itu, kesimpulan dari uji coba tersebut perlu dibaca bersama penjelasan mengenai batasan akses dan publikasi: putusan yang sama dapat memiliki bobot berbeda, bergantung pada hal-hal yang dapat diperiksa dan diungkapkan oleh para evaluator.












