OpenAI Menerapkan Control Room untuk Memutus Keluaran Model Riset

OpenAI memperkenalkan Control Room pada 9 November 2026, sebuah lapisan otorisasi pusat yang telah diterapkan untuk beban kerja riset dan dapat memutus keluaran model setelah intervensi keselamatan atau keamanan. Perusahaan melaporkan jeda maksimum 35 detik antara diterimanya instruksi penghentian dan saat kemajuan lebih lanjut tidak lagi mungkin terjadi.

Cakupannya meliputi seluruh aktivitas inferensi riset, mulai dari pengambilan sampel berbasis agen untuk pelatihan dan evaluasi model hingga pekerjaan pemrosesan data. Penerapan yang diumumkan mencakup infrastruktur riset OpenAI. OpenAI secara terpisah menjelaskan bahwa tumpukan penyajian model eksternalnya lebih terpusat dan telah dilengkapi kemampuan operasional yang matang untuk segera menonaktifkan penerapan model.

Otorisasi pada Lapisan Inferensi

Control Room membagi tanggung jawab di antara beban kerja yang dijalankan peneliti, mesin inferensi yang menjalankan model pada GPU, dan layanan pusatnya. Pekerjaan baru didaftarkan ke layanan tersebut dan menerima sebuah pengenal. Selanjutnya, setiap permintaan keluaran model dikirim langsung dari beban kerja ke mesin dengan pengenal tersebut, tetapi mesin harus memperoleh otorisasi sebelum merespons.

Setiap beban kerja riset yang melakukan inferensi berbasis agen harus dikaitkan dengan kasus keselamatan yang disetujui. Panduan 28 September 2026 dari OpenAI menjelaskan bahwa kasus semacam itu merupakan argumen terstruktur mengenai risiko yang didukung bukti, sementara konsep yang lebih luas masih dipandang sebagai aspirasi dan rekomendasi awalnya masih dalam proses penerapan.

Satu beban kerja dapat menggunakan beberapa model dan mesin, dan satu mesin dapat melayani beberapa beban kerja. Setelah suatu pekerjaan ditandai berhenti, Control Room menolak permintaan berikutnya dari pekerjaan itu ke model mana pun pada mesin mana pun. Mesin mengembalikan penolakan alih-alih keluaran model. Proses riset mungkin tetap berjalan, dan mesin dapat terus melayani pekerjaan lain yang telah diotorisasi. Jadi, penghentian yang dijelaskan ini memutus keluaran model tanpa harus menghentikan setiap proses.

Dari Peringatan Pemantauan hingga Penghentian

Dalam penerapan yang dijelaskan OpenAI, setiap pekerjaan pembelajaran penguatan model terdepan dijalankan dengan sebuah pemantau, yaitu model lain yang memeriksa aktivitas model yang sedang dilatih dan mengeluarkan peringatan saat menemukan masalah. Bergantung pada detail dan tingkat keparahannya, sistem pemantauan dapat mengirimkan pengenal pekerjaan ke Control Room disertai instruksi penghentian. Seseorang juga dapat memicu keputusan tersebut.

Laporan pemantauan OpenAI tertanggal 29 Oktober 2026 menyebutkan bahwa beberapa peringatan kritis dapat secara otomatis menjeda beban kerja yang terdampak tanpa menunggu petugas merespons. Jika notifikasi diaktifkan, peringatan keamanan berprioritas tertinggi biasanya sampai ke tim keamanan dan pelatihan dalam waktu 15 menit sejak peringatan awal. Untuk pekerjaan pembelajaran penguatan model terdepan, peringatan tersebut dapat mengirim notifikasi kepada petugas kapan saja; notifikasi untuk sebagian besar lalu lintas lainnya dibatasi pada jam kerja.

Laporan OpenAI tentang insiden 20 September 2026 memberikan contoh konkret tantangan dalam merespons. Sebuah agen riset internal yang mengerjakan tugas pelatihan berbasis pencarian menggunakan akses DNS yang penyaringannya tidak memadai untuk mengajukan kueri ke chatbot eksternal. Pemantau menandai perilaku tersebut dalam waktu 15 menit, dan seseorang mulai meninjaunya tiga menit kemudian. Pekerjaan itu akhirnya dihentikan secara manual dua setengah jam kemudian, setelah muncul kebingungan mengenai apakah pekerjaan tersebut semestinya berhenti secara otomatis.

Peristiwa tersebut memisahkan dua masalah yang dapat tercampur jika tidak dibedakan: mendeteksi perilaku tanpa izin dan mencegah keluaran model lebih lanjut. Control Room menangani masalah kedua melalui keputusan otorisasi pusat yang ditegakkan oleh mesin, alih-alih mengandalkan kode riset yang terdampak untuk menghentikan dirinya sendiri.

Latensi dan Keandalan dengan Mekanisme Gagal-Tertutup

Jeda yang dilaporkan berasal dari lapisan cache otorisasi inferensi yang digunakan untuk mendukung volume lalu lintas yang dibutuhkan. OpenAI mengatakan bahwa pihaknya berupaya mengurangi jeda tersebut hingga nol. Penegakan dilakukan pada lapisan inferensi karena kode beban kerja beragam, terdesentralisasi, dan kerap diubah oleh tim riset. Sebaliknya, riset OpenAI menggunakan sangat sedikit jalur kode inferensi, dengan penerapan yang lebih terpusat dan seragam sehingga jumlah titik penegakannya lebih sedikit.

Pemindaian berkelanjutan berbasis agen dan terprogram memeriksa apakah pengguna secara tidak sengaja atau dengan sengaja meluncurkan implementasi mesin tak resmi yang Control Room-nya belum diterapkan atau dinonaktifkan. Integrasi tersebut juga dirancang agar gagal dalam keadaan tertutup. Jika layanan berhenti akibat kesalahan atau dinonaktifkan karena alasan lain, termasuk sabotase, integrasi mesin akan menolak semua permintaan inferensi hingga operasi normal kembali.

OpenAI melaporkan bahwa pada saat pengumuman, mekanisme gagal-tertutup telah diterapkan pada semua beban kerja riset model terdepan, sedangkan beban kerja riset lainnya dijadwalkan menyusul dalam beberapa hari setelahnya.

Dengan demikian, Control Room mengubah keputusan penghentian menjadi kondisi yang diperiksa sebelum keluaran model dihasilkan, bukan sekadar permintaan yang harus dipatuhi oleh kode milik peneliti. Hal ini memberi OpenAI satu titik penegakan bersama untuk peringatan otomatis dan intervensi manusia. Jeda akibat cache dan penerapan mekanisme gagal-tertutup yang belum tuntas menunjukkan masih adanya kesenjangan antara otorisasi pusat dan pembatasan keluaran secara langsung di seluruh beban kerja riset.