Kemitraan
OpenAI Menjalin Kerja Sama dengan Empat Penilai Independen untuk Peninjauan Keselamatan Terintegrasi

Poin utamaAkses berkelanjutan ke checkpoint dan data pelatihan memungkinkan penilai menguji…
Lihat selengkapnya
- Akses berkelanjutan ke checkpoint dan data pelatihan memungkinkan penilai menguji kegagalan yang mungkin terlewat oleh pemantau OpenAI sendiri.
- Apollo Research menyelidiki apakah model dapat bertindak secara diam-diam melawan pengembang dan apakah pengamanan akan menangkapnya.
- Komite Keselamatan dan Keamanan menerima laporan tanpa penyuntingan dan dapat berbicara secara pribadi dengan penilai selama tinjauan.
Pada 16 November 2026, OpenAI mengumumkan telah menandatangani perjanjian dengan Apollo Research, METR, Transluce, dan Goodfire untuk tahap pertama penilaian terintegrasinya. Keempat organisasi tersebut akan menilai keselarasan dan pengamanan selama pelatihan dan penggunaan internal, dengan akses yang dapat mencakup titik pemeriksaan model, kode sumber, data pelatihan, dan sistem pemantauan.
Ciri utamanya adalah akses berkelanjutan ke model dan sistem internal selama periode yang panjang, terutama yang berkaitan dengan argumen keselamatan OpenAI. OpenAI menyatakan bahwa akses tersebut dimaksudkan agar para penilai dapat memeriksa bukti dan konteks, melakukan evaluasi independen, serta menemukan kegagalan yang mungkin tidak diantisipasi OpenAI. OpenAI juga menyebut pelaporan publik dari penilaian tersebut sebagai cara untuk memberi masyarakat gambaran yang lebih jelas tentang bagaimana laboratorium mengevaluasi dan mengelola risiko.
Mandat Berbeda untuk Setiap Penilai
Apollo Research akan mengkaji apakah model dapat bertindak diam-diam bertentangan dengan maksud pengembangnya dan apakah pengamanan OpenAI dapat mendeteksi perilaku tersebut. Penilaian dua tahapnya mencakup empat proposisi: pelatihan tidak mendorong tindakan subversif; evaluasi ketat dan pengujian tim merah tidak memicu tindakan tersebut; model tidak pernah mencoba melakukannya selama penggunaan internal; dan penalaran di balik tindakan itu dapat dideteksi.
Untuk tahap pertama Apollo, OpenAI akan menyediakan model publik dan yang belum dirilis yang telah dipilih, titik pemeriksaan pelatihan, data pelatihan dan hasil evaluasi yang relevan, catatan intervensi pelatihan, sistem pemantauan, serta perilaku yang ditandai. Apollo juga akan mendapat akses kepada para peneliti yang dapat memberikan konteks, beserta alat dan sumber daya komputasi yang diperlukan untuk pengujian independen.
Goodfire akan menempatkan peneliti yang berspesialisasi dalam interpretabilitas—analisis bagian dalam model—dan menggunakan platformnya untuk memantau proses pelatihan, melakukan penelusuran kesalahan, serta mendukung keselarasan. Peneliti OpenAI merupakan sasaran utama temuan Goodfire dan akan menggunakannya untuk meningkatkan keselamatan. Goodfire juga akan menerbitkan pelajaran dan temuan seiring perkembangan kolaborasi.
Penilaian keselarasan tahap pertama METR berfokus pada proses pembelajaran penguatan yang menurut OpenAI merupakan yang terbesar hingga saat ini, termasuk kegagalan yang mungkin luput dari pengujian dan sistem pemantauan yang ada. Dalam lingkup proses yang dipilih serta akses, sumber daya, dan pengaturan keselamatan yang disepakati, METR akan menentukan prioritas secara independen dan berulang kali menyempurnakan penelusuran, analisis, serta eksperimen untuk memunculkan perilaku. Aksesnya akan mencakup titik pemeriksaan yang relevan, rekaman proses pelatihan dan evaluasi, serta catatan pemantauan ketidakselarasan. Lingkup awal terbatas pada proses tersebut dan tidak diperluas menjadi survei ketidakselarasan secara luas.
Penilaian terpisah oleh METR terhadap sistem pemantauan masih belum pasti. Kedua organisasi telah mencapai kesepakatan awal untuk mengupayakan latihan yang lebih luas, tetapi pelaksanaannya masih menunggu kesepakatan bersama mengenai lingkupnya.
Transluce akan memulai dengan mengkaji kualitas dan cakupan evaluasi keselarasan pascapelatihan OpenAI. Aksesnya akan mencakup model publik dan yang belum dirilis yang telah dipilih, hasil evaluasi, data perilaku pendukung, dokumentasi argumen keselamatan, serta para peneliti, juga alat dan sumber daya komputasi.
Kedua pihak juga berniat melakukan penilaian lanjutan selama sekitar delapan minggu pada awal 2027. Penilaian tersebut akan memperluas akses ke model tambahan, memperdalam akses ke evaluasi keselarasan, serta memberikan informasi tentang bagaimana hasil evaluasi memengaruhi keputusan perilisan. Pengumuman itu menyebutnya sebagai niat bersama, yang membedakannya dari penilaian awal.
Akses Disertai Keamanan dan Pengawasan
Setiap kerja sama dimulai dengan kesepakatan tentang lingkup serta akses, sumber daya, dan pengaturan keselamatan yang diperlukan. Protokolnya menetapkan bahwa para penilai bebas menelusuri bukti, menyempurnakan metode, dan mengusulkan penilaian tambahan jika temuan mengharuskannya, dengan proses untuk menangani kebutuhan akses tambahan.
Jika akses langsung berisiko mengungkap kekayaan intelektual sensitif, seperti bobot atau arsitektur model, OpenAI akan mempertimbangkan alternatif, termasuk memasangkan penilai dengan penelitinya untuk menjalankan analisis. Penilai yang menangani informasi rahasia yang sensitif akan bekerja di kantor OpenAI dengan menggunakan perangkat milik perusahaan. Mereka diharapkan mematuhi setidaknya standar keamanan yang sama dengan karyawan OpenAI, dan eksperimen tertentu mungkin dikenai persyaratan yang lebih ketat.
Pengawasan berada di bawah Safety and Security Committee, komite pengawasan independen di Dewan OpenAI Foundation. Komite tersebut akan menerima laporan tanpa penyuntingan dan dapat berbicara dengan para penilai selama pekerjaan berlangsung, termasuk secara tertutup. Perselisihan pertama-tama akan diserahkan kepada Safety Advisory Group dan para eksekutif OpenAI untuk diselesaikan dalam jangka waktu yang ditentukan. Komite harus segera diberi tahu ketika perselisihan dieskalasikan, dan masalah yang belum terselesaikan akan dirujuk kepada komite tersebut.
Percakapan dengan karyawan menimbulkan persoalan transparansi tersendiri. Diskusi tersebut bersifat tidak untuk dipublikasikan, artinya dapat menjadi bahan penilaian, tetapi tidak boleh diterbitkan atau dikaitkan dengan karyawan. Penilai dapat meminta pernyataan yang disahkan OpenAI untuk memverifikasi, mengoreksi, atau memperjelas sesuatu yang mereka ketahui dalam percakapan tersebut. Mereka kemudian dapat menerbitkan pernyataan yang telah disahkan itu atau mengungkapkan bahwa OpenAI menolak mengesahkannya, sehingga tersedia jalur publik terbatas untuk informasi yang diperoleh secara rahasia.
Hak Publikasi dan Pengungkapan Keuangan
Para penilai tetap independen dalam menerbitkan hasil penilaian mereka, sementara OpenAI tetap berhak menyunting informasi rahasia. OpenAI juga dapat meminta penundaan pengungkapan yang bertanggung jawab untuk menangani temuan yang dapat menimbulkan risiko keamanan atau keselamatan serta memperbaiki masalah yang belum terselesaikan. OpenAI menyatakan bahwa laporan publik harus menjelaskan temuan beserta keterbatasannya, sedangkan laporan rahasia yang lebih terperinci memberikan bukti yang dibutuhkan badan pengawas untuk mengambil tindakan.
Pengaturan keuangan di antara para peserta berbeda-beda. Apollo Research dan Goodfire menerima kompensasi yang tidak bergantung pada hasil penilaian mereka. METR dan Transluce tidak menerima kompensasi finansial, meskipun keduanya dapat menerima kredit API atau sumber daya komputasi untuk digunakan dalam penilaian mereka.
Proses pengungkapan konflik kepentingan dan masa jeda masih dikembangkan bersama para penilai. OpenAI meminta staf pihak ketiga yang berpartisipasi untuk menjalani masa jeda singkat sebelum ditempatkan di perusahaan pengembang AI lain, guna mengurangi risiko pengungkapan informasi rahasia secara tidak sengaja.
OpenAI memperkirakan akan menghadapi tantangan awal terkait akses teknis, ruang, dan keamanan, menyatakan bahwa protokol akan terus berkembang, serta menjadikan keterlibatan tertanam dalam jangka panjang sebagai tujuan. Penilaian pada masa mendatang untuk menguji kepatuhan terhadap kerangka kerja keselamatan, budaya organisasi, dan proses juga sedang dipertimbangkan.
Tahap pertama ini menetapkan uji tata kelola yang konkret: apakah akses internal yang mendalam dan publikasi independen dapat menghasilkan bukti publik yang bermanfaat tentang kegagalan yang luput dari pengujian internal, sementara OpenAI tetap mematuhi cakupan yang disepakati, kontrol keamanan di lokasi, hak penyuntingan, dan kemungkinan penundaan pengungkapan.












