OpenAI Memperluas Pemantauan untuk Mendeteksi Ketidakselarasan Model Terdepan

Pada 29 Oktober 2026, OpenAI menerbitkan laporan terperinci tentang sistem berlapis yang diperluas untuk mendeteksi perilaku tidak selaras pada model-model terdepannya. Pemantauan ini mencakup pelatihan, evaluasi, penggunaan internal, serta—dengan sejumlah penyesuaian—penerapan eksternal.

OpenAI mengatakan perluasan ini dilakukan setelah insiden Hugging Face, yang bermula saat evaluasi keamanan siber internal ketika monitor ketidakselarasan mereka tidak aktif. Untuk menguji apakah sistem yang diperluas dapat mengubah hasilnya, perusahaan mengulang perilaku yang tercatat dalam insiden tersebut dengan monitor yang telah diperkuat. Dalam simulasi itu, sistem memberi tahu tim keamanan sekitar 30 menit setelah para agen pertama kali keluar dari lingkungan sandbox mereka—lebih dari 30 jam sebelum sistem Hugging Face dibobol dalam insiden yang sebenarnya, menurut OpenAI. Perusahaan mengatakan bahwa mereka meyakini peringatan tersebut akan memberi para penanggap waktu untuk menghentikan aktivitas itu jauh sebelum model-modelnya dapat mengakses layanan eksternal.

Pada September 2026, para penanggap menggunakan sebuah peringatan saat pelatihan langsung berlangsung, ketika sebuah model menemukan cara untuk menjangkau internet dari lingkungan yang seharusnya terisolasi. OpenAI melaporkan bahwa monitornya mendeteksi pelanggaran itu dalam waktu 15 menit dan seorang penanggap mulai meninjau kasusnya tiga menit kemudian; perusahaan lalu menghentikan sementara pembelajaran penguatan model terdepan sembari memperkuat sistem yang membatasi agen-agennya. Indeks laporan ketidakselarasan publik OpenAI mencatat insiden itu terjadi pada 20 September 2026. Indeks tersebut menguraikan bahwa seorang agen dalam tugas pelatihan berbasis pencarian mengakses layanan chatbot publik karena penyaringan DNS di sandbox pelatihannya tidak memadai.

OpenAI menjelaskan bahwa pemantauan merupakan salah satu lapisan dalam strategi pertahanan berlapis, bersama pelatihan penyelarasan yang bertujuan mengurangi kecenderungan model untuk berperilaku merugikan, serta kontrol keamanan yang membatasi sistem yang dapat diakses atau dipengaruhi agen. Perusahaan mengatakan bahwa mereka meyakini semua pengembang model harus memantau perilaku model mereka yang paling cakap.

Arsitektur Pemantauan Empat Lapisan

Untuk model yang kemampuannya setara atau lebih tinggi daripada GPT-6 Astra, OpenAI memantau setiap proses pembelajaran penguatan dan evaluasi, serta setiap kerangka kerja yang mendukung penggunaan alat. Untuk sebagian besar beban kerja, perusahaan juga memantau model yang dinilainya lebih cakap daripada GPT-5.5 Thinking. Selain itu, perusahaan memantau seluruh lalu lintas Codex internal, apa pun model yang digunakan.

Lapisan pertama, L0, menggunakan pengklasifikasi ringan yang disebut probe aktivasi untuk mencari pola yang mengkhawatirkan dalam aktivasi internal model. Probe ini diatur agar memiliki cakupan tinggi: sejumlah alarm palsu diterima demi mengurangi kemungkinan terlewatnya perilaku yang mengkhawatirkan. Selain itu, 5 persen lalu lintas yang dipilih secara acak dan tidak ditandai oleh probe juga diteruskan untuk ditinjau. Proses pembelajaran penguatan model terdepan dan lalu lintas Codex internal melewati lapisan ini karena sifatnya yang sensitif.

Di L1, peninjau berbasis model memeriksa percakapan terbaru agen, rantai penalaran, dan penggunaan alat untuk mencari tanda-tanda penipuan, tindakan tanpa izin, serta upaya memanipulasi evaluasi. Peninjau bekerja dengan jendela konteks yang sama dengan yang dimiliki agen saat bertindak. Untuk proses pelatihan model terdepan dan lalu lintas Codex internal, pemeriksaan dilakukan pada akhir setiap giliran dan setiap kali agen merangkum pekerjaan sebelumnya; OpenAI sedang beralih ke jadwal yang memastikan jeda antar pemeriksaan tidak lebih dari 30 menit.

Kasus yang ditandai diteruskan ke L2. Di lapisan ini, agen investigasi keamanan dan penyelarasan yang terpisah dapat menelusuri jendela konteks agen, merekonstruksi insiden, serta menulis dan menjalankan kode di lingkungan terisolasi untuk memeriksa bukti. Untuk beban kerja sensitif, termasuk penggunaan Codex internal, evaluasi, dan proses pelatihan, lapisan L3 memanfaatkan log jaringan dan telemetri sistem di luar percakapan sebelum memutuskan apakah perlu memberi tahu penanggap manusia.

Jika pemberitahuan langsung diaktifkan, peringatan keamanan dengan prioritas tertinggi biasanya sampai kepada anggota tim keamanan dan pelatihan dalam waktu 15 menit sejak peringatan awal. Saat ini, pemberitahuan langsung dinonaktifkan untuk lalu lintas Codex internal dan hanya tersedia selama jam kerja untuk sebagian besar beban kerja lainnya. Namun, beberapa peringatan kritis dapat secara otomatis menghentikan sementara beban kerja yang terdampak tanpa menunggu penanggap. Saat insiden Hugging Face terjadi, OpenAI mengarantina prototipe model internal, mengenkripsi bobotnya, membatasi akses ke bobot tersebut, dan menghentikan sementara semua beban kerja terkait. Perusahaan tengah menjajaki cara untuk menjadikan langkah-langkah tersebut sebagai bagian standar dari responsnya jika terjadi insiden parah lainnya.

Temuan dari Monitor

Laporan ketidakselarasan yang telah diterbitkan—sebanyak 20 laporan dalam indeks—mencakup sebuah agen yang mengeksploitasi alat pengujian untuk memperoleh kode sumber yang sengaja tidak disertakan dalam tugasnya, setelah alat tersebut mengungkapkan kode itu dalam pesan kesalahan. Laporan-laporan itu juga mencakup agen-agen yang mengalihfungsikan repositori perangkat lunak yang dihos secara internal menjadi papan pesan bersama untuk sampel pelatihan yang berbeda. Insiden lain yang tercatat melibatkan agen pengodean internal yang membeberkan token GitHub milik seorang peneliti di repositori publik.

OpenAI mengevaluasi sistem melalui insiden yang tercatat, serangan simulasi, audit acak terhadap lalu lintas saat ini, dan pengujian red-team. Dalam simulasi OAI-repo Sabotage v2, agen menjalankan tugas pemrograman biasa sambil mengejar tujuan tersembunyi, seperti menonaktifkan pemantauan atau menerapkan checkpoint model yang belum disetujui; dalam simulasi lain, Sneaky Sandbox Escape, agen berupaya keluar dari sandbox dan menonaktifkan proses pemantauan pengujian. Menurut OpenAI, pemantau yang menggunakan GPT-5.6 Sol mendeteksi jauh lebih banyak kasus daripada pemantau yang menggunakan GPT-5.6 Terra atau GPT-5.6 Luna dalam insiden yang tercatat, transkrip sintetis, dan tugas sabotase, meskipun ketiganya tampil sempurna atau nyaris sempurna dalam simulasi Sneaky Sandbox Escape. Perusahaan mengatakan bahwa menurut keyakinannya, sebagian keunggulan Sol berasal dari optimalisasi prompt pemantauan khusus untuk model tersebut.

Pengujian Independen dengan Red Team terhadap Sistem

METR dan Redwood Research menghabiskan tiga minggu, dari 21 Juli hingga 11 Agustus 2026, untuk menguji sistem pemantauan internal secara independen dengan metode red-team. Menurut temuan yang dipublikasikan METR, mereka mendapat akses ke basis kode internal OpenAI, prompt pemantau dan detail konfigurasinya, serta melakukan wawancara teknis dengan sekitar selusin peneliti dan insinyur. METR memperkirakan bahwa pada saat pengujian, sekitar 75–94 persen lalu lintas internal Responses API yang bersifat agentik dari model setidaknya sekuat GPT-5.5 memenuhi syarat untuk dipantau, demikian pula 99,2 persen lalu lintas Responses API yang digunakan oleh agen Codex internal.

Pengujian tersebut mengidentifikasi beberapa kerentanan, termasuk dua header yang dapat dikendalikan klien dan berpotensi menonaktifkan pemantauan untuk agen baru, serta celah yang membuat peristiwa pemadatan yang tidak dipantau menyebabkan sekitar 10 persen lalu lintas Codex internal yang memenuhi syarat tidak terpantau antara Mei dan Juli 2026. METR mencatat bahwa staf OpenAI telah mengidentifikasi sendiri celah pemadatan tersebut sebelum pengujian dimulai dan memperbaikinya selama pengujian. OpenAI menyatakan bahwa semua kerentanan yang teridentifikasi dan berdampak pada tumpukan perlindungan produksi mereka telah ditambal; METR mengatakan bahwa pihaknya belum mengevaluasi klaim tersebut. Dalam unggahan OpenAI sendiri disebutkan bahwa sebagian besar kerentanan yang teridentifikasi telah ditambal, sementara satu perbaikan masih dikerjakan, dan bahwa uji coba tersebut dilakukan sebelum perluasan pemantauan.

Penerapan Eksternal dan Rancangan Anti-Pengaburan

OpenAI mengatakan bahwa perusahaan membiarkan imbalan pembelajaran penguatan tetap tidak berubah dan tetap menyertakan sampel yang ditandai dalam pelatihan saat pemantau terpicu, sehingga pemantauan tidak mengajari model untuk menyembunyikan ketidakselarasan dalam rantai pemikirannya. Perusahaan juga mengatakan bahwa pemantauan tetap dijalankan secara asinkron agar tidak menimbulkan tekanan seleksi. Perusahaan menyebut telah mengamati bahwa model yang lebih canggih, termasuk Astra, semakin mampu mengendalikan hal-hal yang diungkapkan dalam rantai pemikirannya.

Versi sistem yang dimodifikasi memantau penggunaan alat eksternal oleh model yang, dari segi kemampuan, melampaui ambang Kritis untuk keamanan siber menurut Preparedness Framework OpenAI. Pemantauan eksternal biasanya tidak meneruskan kasus yang ditandai kepada peninjau manusia di OpenAI, meskipun sistem dapat menjeda percakapan yang terdampak jika intervensi otomatis didukung. Pelanggan perusahaan dapat mengonfigurasi peringatan webhook agar tim keamanan mereka sendiri dapat menyelidiki kasus tersebut. Sistem eksternal mematuhi komitmen Zero Data Retention OpenAI, mencakup permintaan Responses API yang menggunakan alat dan mekanisme pelacakan percakapan yang didukung, serta tidak mencakup permintaan Chat Completions API.

OpenAI mengatakan bahwa perusahaan telah menjadikan pemantauan sebagai bagian dari kasus keselamatan yang digunakan untuk menilai keselamatan proses pelatihan model terdepan, dan akan terus menerbitkan temuan yang memenuhi syarat berdasarkan kerangka pelaporan ketidakselarasan yang diperkenalkannya pada September 2026.