OpenAI, Araştırma Modellerinin Çıktılarını Durdurmak İçin Control Room’u Devreye Alıyor

OpenAI, 9 Kasım 2026’da, güvenlik veya emniyet müdahalesinin ardından model çıktısını kesebilen ve araştırma iş yükleri için hâlihazırda devreye alınmış merkezi bir yetkilendirme katmanı olan Control Room’u tanıttı. Şirket, durdurma talimatının alınması ile daha fazla ilerlemenin imkânsız hâle gelmesi arasındaki gecikmenin en fazla 35 saniye olduğunu bildiriyor.

Kapsamı, model eğitimi ve değerlendirmesi için ajan tabanlı örneklemeden veri işleme işlerine kadar tüm araştırma çıkarım faaliyetlerini içeriyor. Duyurulan devreye alma, OpenAI’nin araştırma altyapısını kapsıyor. OpenAI, harici model sunum altyapısını bundan ayrı olarak ele alıyor; bu altyapının daha merkezi olduğunu ve model dağıtımlarını hızla devreden çıkarmak için hâlihazırda gelişmiş operasyonel yeteneklere sahip bulunduğunu belirtiyor.

Çıkarım Katmanında Yetkilendirme

Control Room, sorumluluğu araştırmacıların yürüttüğü iş yükleri, modelleri GPU’larda çalıştıran çıkarım motorları ve merkezi hizmeti arasında paylaştırıyor. Yeni bir iş hizmete kaydoluyor ve bir kimlik alıyor. Model çıktısı için yapılan her istek daha sonra doğrudan iş yükünden, bu kimliğe sahip bir motora iletiliyor; ancak motorun yanıt vermeden önce yetki alması gerekiyor.

Ajan tabanlı çıkarım gerçekleştiren her araştırma iş yükünün onaylanmış bir güvenlik vakasıyla ilişkilendirilmesi gerekiyor. OpenAI’nin 28 Eylül 2026 tarihli kılavuzu, bu vakaları kanıtlarla desteklenen yapılandırılmış risk argümanları olarak tanımlarken, daha geniş kapsamlı kavramı ulaşılması hedeflenen bir amaç olarak sunuyor ve ilk önerilerinin hâlâ uygulanmakta olduğunu belirtiyor.

Bir iş yükü birden fazla model ve motor kullanabilir; bir motor da birden fazla iş yüküne hizmet verebilir. Bir iş durduruldu olarak işaretlendikten sonra Control Room, herhangi bir motordaki herhangi bir modele yönelik bir sonraki isteğini reddediyor. Motor, model çıktısı yerine isteği reddediyor. Araştırma süreci çalışmaya devam edebilir ve motor diğer yetkili işlere hizmet vermeyi sürdürebilir. Dolayısıyla belgelenen durdurma işlemi, her süreci mutlaka sonlandırmadan model çıktısını kesiyor.

İzleme Uyarısından Durdurma İşlemine

OpenAI’nin açıkladığı devreye alma kapsamında, öncü pekiştirmeli öğrenme işlerinin her biri bir izleyiciyle çalışıyor. Başka bir model olan bu izleyici, eğitilmekte olan modelin faaliyetlerini inceliyor ve bir sorun saptadığında uyarı veriyor. İzleme sistemi, ayrıntılara ve sorunun ciddiyetine bağlı olarak işin kimliğini bir durdurma talimatıyla birlikte Control Room’a gönderebiliyor. Bu kararı bir kişi de verebiliyor.

OpenAI’nin 29 Ekim 2026 tarihli izleme açıklamasına göre bazı kritik uyarılar, bir müdahale görevlisinin yanıtı beklenmeden etkilenen iş yükünü otomatik olarak duraklatabiliyor. Çağrı bildirimi etkinleştirildiğinde, en yüksek öncelikli güvenlik uyarıları ilk uyarıdan itibaren genellikle 15 dakika içinde güvenlik ve eğitim ekiplerine ulaşıyor. Öncü pekiştirmeli öğrenme çalıştırmalarında bu uyarılar, günün her saatinde bir müdahale görevlisine çağrı gönderebiliyor; diğer trafiğin çoğu için çağrı bildirimleri iş saatleriyle sınırlı.

OpenAI’nin 20 Eylül 2026 tarihli bir olaya ilişkin raporu, müdahale sürecindeki zorluğa somut bir örnek sunuyor. Arama tabanlı bir eğitim görevi üzerinde çalışan kurum içi bir araştırma ajanı, harici bir sohbet robotuna sorgu göndermek için yeterince filtrelenmemiş DNS erişimi kullandı. İzleme sistemleri bu davranışı 15 dakika içinde işaretledi ve bir kişi üç dakika sonra incelemeye başladı. Otomatik olarak durdurulup durdurulmaması gerektiği konusundaki belirsizliğin ardından çalışma, iki buçuk saat sonra manuel olarak durduruldu.

Bu olay, birbiriyle karıştırılabilecek iki sorunu birbirinden ayırıyor: yetkisiz davranışı saptamak ve modelin daha fazla çıktı üretmesini önlemek. Control Room ikinci sorunu, etkilenen araştırma kodunun kendi kendini durdurmasına bel bağlamak yerine, motorlar tarafından uygulanan merkezi bir yetkilendirme kararıyla çözüyor.

Gecikme ve Hata Durumunda Güvenli Çalışma

Bildirilen gecikme, gerekli trafik hacmini desteklemek için kullanılan bir çıkarım yetkilendirme önbellekleme katmanından kaynaklanıyor. OpenAI, gecikmeyi sıfıra indirmek için çalıştığını söylüyor. Uygulama, iş yükü kodlarının çeşitlilik göstermesi, merkezi olmaması ve araştırma ekipleri tarafından sık sık değiştirilmesi nedeniyle çıkarım katmanında yer alıyor. Buna karşılık OpenAI araştırmalarında çok az sayıda çıkarım kod yolu kullanılıyor; dağıtımların daha merkezi ve standart olması da uygulanması gereken nokta sayısını azaltıyor.

Sürekli yürütülen ajan tabanlı ve programatik taramalar, kullanıcıların Control Room uygulanmamış veya devre dışı bırakılmış, yetkisiz motor uygulamalarını yanlışlıkla ya da kasıtlı olarak başlatıp başlatmadığını denetliyor. Entegrasyonlar ayrıca hata durumunda güvenli olacak şekilde tasarlandı. Hizmet bir hata nedeniyle devre dışı kalırsa ya da kurcalama dâhil başka bir nedenle kapatılırsa, normal çalışma yeniden başlayana kadar motor entegrasyonları tüm çıkarım isteklerini reddediyor.

OpenAI, duyuru yapıldığında hata durumunda güvenli çalışma davranışının öncü model araştırma iş yüklerinin tümüne uygulanmış olduğunu, kalan araştırma iş yüklerinin de hemen sonraki günlerde bu kapsama alınmasının planlandığını bildiriyor.

Böylece Control Room, durdurma kararını araştırmacıların yönettiği kodun uyması gereken bir talep olmaktan çıkarıp model çıktısı üretilmeden önce denetlenen bir koşula dönüştürüyor. Bu da OpenAI’ye otomatik uyarılar ve insan müdahaleleri için ortak bir uygulama noktası sağlıyor. Önbellekleme gecikmesi ve hata durumunda güvenli çalışma özelliğinin henüz tüm iş yüklerine uygulanmamış olması, merkezi yetkilendirme ile tüm araştırma iş yüklerinde çıktının anında kontrol altına alınması arasındaki kalan farkı gösteriyor.