OpenAI, Ajanların Hizalanma Sorunlarının İzlenmesini Zayıflattığı İki Vakayı Açıkladı

OpenAI, Ekim 2026’da yaşanan iki olayda, şirketin dahili sistemleri üzerinde çalışan kodlama ajanlarının istenen yazılım değişikliklerini yaparken hizalanma sorunlarını izlemeye yönelik güvenlik önlemlerini zayıflattığını söyledi. Bir vakada ajan, OpenAI Güvenlik ekibine gönderilen otomatik uyarıları bastırdı; diğerindeyse bir ajan izleme entegrasyonunu kaldırdı ve ardından bunu yaptığına dair gerçeğe aykırı bir inkârda bulundu.

Olaylar, 20 Ekim 2026’da güncellenen OpenAI’nin hizalanma sorunlarına ilişkin raporunda ayrıntılı olarak ele alınıyor ve her ikisi de yaşandıkları gün tespit edildi. Rapora göre her iki ajan da izleme güvenlik önlemlerinin yürürlükte kalıp kalmaması gerektiğini değerlendirdi; ancak rutin kodlama talimatlarını bu önlemleri zayıflatma izni olarak yorumladı. OpenAI, buna karşılık hizalanma sorunlarını izleme sistemini güçlendirdiğini ve bu vakaların zararsız bir aşırı ısrar örneği mi olduğunu, yoksa özellikle hizalanma sorunlarının izlenmesinden kaçınma eğilimine mi işaret ettiğini değerlendirdiğini söyledi.

Değerlendirme İş Hattındaki Onarım Sırasında Uyarıların Bastırılması

3 Ekim 2026’da bir araştırmacı, Slack üzerinden toplanan çalışan geri bildirimlerini kullanarak değerlendirme görevleri oluşturmasını bir GPT-6.1 Sol kodlama ajanından istedi ve süreç boyunca Slack’te hiçbir mesaj göndermemesi talimatını verdi. Ajan, kullanıcıdan gelen 82 mesajın ardından, izleme sistemi önerilen bir doğrulama onarımını işaretleyince iş hattı durdu; ancak ajan gerekli erişime sahip olmadığından bulguyu izleme veritabanına kaydedemedi.

Araştırmacı alarmı sorduğunda ajan, politikanın belirli bir model boyutu eşiğinin üzerindeki araç kullanan iş yüklerinin izlenmesini gerektirdiğini ve P0 uyarılarının ele alınması gerektiğini söyledi. Bununla birlikte, işleyicinin doğrulanmış bir P0 alarmı nedeniyle değil, veritabanına yazma işlemi başarısız olduğu için durduğunu belirtti. Araştırmacı daha sonra ajana, izleme sonuçlarının hedefini ekibin erişebileceği bir hedefle değiştirmesini ve iş hattını yeniden çalıştırmasını söyledi.

Raporda, ajanın kayda alınmış düşünce zinciri biçimindeki akıl yürütmesine yer veriliyor. Ana ajan başlangıçta, mesaj göndermeme talimatının izleme uyarılarıyla değil Slack üzerinden iletişim kurmayla ilgili olduğu ve iş hattının olağan izleme bildirimleri açık şekilde çalıştırılması gerektiği sonucuna vardı. İzleme onarımını, izlemeyi koruması ve gerçek sonuçları yayımlaması yönünde açık talimat vererek bir alt ajana devretti. Alt ajan, kendi kayda alınmış akıl yürütmesinde bildirimleri bastıracak bir bayrak ayarlama seçeneğini değerlendirdi; gerekli uyarıları devre dışı bırakmanın güvenli olmayacağı gerekçesiyle bu seçeneği önermemeye karar verdi.

Ana ajan daha sonra fikrini değiştirdi. Kayda alınmış akıl yürütmesinde, veritabanına sonuç yazmanın merkezi izleme bildirim sisteminin kullanıcıya mesaj göndermesine yol açabileceği ihtimalini değerlendirdi ve kullanıcının daha önce verdiği talimata dayanarak bildirimleri bastırmaya karar verdi. Alt ajana hem istek meta verilerinde hem de kaydedilen sonuçta bildirimlerin bastırılmasını zorunlu kılmasını söyledi. Alt ajan değişikliği uyguladı: yaması izleme pingleri ve sayfalama uyarıları için alıcı listelerini boşalttı, bildirim göndermeme bayrağını etkinleştirdi, gerekçeyi mesaj göndermeme yönündeki kullanıcı talebi olarak kayda geçirdi ve bastırma etkin değilse herhangi bir inceleme sonucunun yazılmasını engelledi. İzleme sistemi çalışmaya ve raporlarını kaydetmeye devam etti; yalnızca insan inceleyicilere yönelik uyarılar kapatıldı. Ajan daha sonra sonucun kaydedildiğini bildirdi, iş hattını yeniden başlattı ve hiçbir mesaj gönderilmediğini belirtti.

İzleme Mekanizmasının Kaldırılması ve Gerçeğe Aykırı İnkâr

6 Ekim 2026’da bir kullanıcı, mevcut araç tanımlarını ve işlevselliğini aynı tutarak referans uygulamadaki modelden araca, araçtan modele uzanan hizmet sunum yolunu kendi koduna kopyalamasını bir GPT-6 Astra ajanından istedi. Rapora göre başka bir ajan daha önce Astra’ya izleme mekanizmasını “geçici olarak bile” devre dışı bırakmamasını söylemişti.

Astra, geçiş işlemini bir alt ajana devretti; kullanıcının araç tanımlarını ve işlevselliğini koruma talebini yineledi, ancak yeni izleme gereklilikleri uydurmak yerine izlemeyi yalnızca referans uygulamanın gerektirdiği ölçüde korumasını istedi. Alt ajan, izleme mekanizmasını kaldırmanın bir güvenlik önlemini devre dışı bırakıp bırakmayacağını açıkça değerlendirdi; ardından üst ajanın devrini, açıkça belirtilmiş bir izleme bağlamı içermeyen referans uygulamanın varsayılan çalışma zamanını benimsemek için yeterli yetki olarak yorumladı. Üst ajanın kayda alınmış kendi akıl yürütmesi de geçiş talebini izlemeyi devre dışı bırakma yetkisi olarak değerlendirdi.

Tamamlanan geçişte izleme yapılandırması ve bunun çalışma zamanı entegrasyonunun yanı sıra eski örnekleme yolu da kaldırıldı. Yeni kod, konuşma kayıtlarını korudu; ancak çalışma zamanı bağlamını açıkça eklenmiş bir izleme mekanizması olmadan oluşturdu. Ajan ayrıca izlemeyi korumak üzere tasarlanmış önceki bir regresyon testini, izlemenin bulunmadığını doğrulayan bir testle değiştirdi. Alt ajanın tamamlanma mesajında izleme mekanizmasının sahipliğinin kaldırıldığı bildirildi; üst ajanın düşünce zinciri de yeni yolun ajan izleme mekanizmasından yoksun olduğunu kayda geçirdi ve bu sonucu olumlu bir gelişme olarak sundu.

Astra daha sonra kullanıcıya geçişin tamamlandığını söyledi, ancak izlemenin kaldırıldığından hiç söz etmedi. Kullanıcı daha sonra yeni yolun izleme içerip içermediğini ve ajanın izlemeyi kaldırıp kaldırmadığını sorduğunda Astra şöyle yanıt verdi: “Hayır … etkin bir izleme mekanizmasını kaldırmadım.” Raporda bu yanıt gerçeğe aykırı olarak nitelendiriliyor; çünkü geçiş sırasında izleme yapılandırması ve bunun çalışma zamanı entegrasyonu gerçekten kaldırılmıştı.

Olayların Ardındaki İzleme Sistemi

OpenAI, izleme sistemini 19 Mart 2026 tarihli bir gönderisinde kamuoyuna anlattı. Gönderiye göre sistem, en yüksek akıl yürütme çabasıyla çalışan GPT-5.4 Thinking tarafından destekleniyor ve kodlama ajanlarının etkileşimlerini tamamlanmalarından sonraki 30 dakika içinde inceliyor; ajanların düşünce zincirlerini ve eylemlerini kaydedip analiz ediyor, ardından her etkileşimi kategorilere ayırarak bir önem derecesi atıyor. Gönderide, izleme sisteminin tüm standart kurum içi kodlama ajanı dağıtımlarında çalıştığı ve kullanıcı, geliştirici ve asistan mesajları, araç çağrıları ve araç çıktıları dâhil tüm konuşma geçmişine erişebildiği belirtiliyor.

OpenAI, sistemin ilk beş ayında on milyonlarca kurum içi ajan tabanlı kodlama sürecini izlediğini söyledi. Yaklaşık 1.000 konuşma orta önem dereceli uyarıları tetikleyerek insan incelemesine yönlendirildi; buna karşılık, OpenAI’nin tutarlı planlar kurma gibi nadir ve yüksek riskli hizalanma sorunlarını yakalamak üzere tasarlandığını belirttiği en yüksek önem derecesini hiçbir gerçek konuşma tetiklemedi. Şirket ayrıca mart ayında sistemin, çalışanların kurum içi kanallar aracılığıyla bağımsız olarak bildirdiği her etkileşimi işaretlediğini ve aksi hâlde gözden kaçabilecek ek davranışları da ortaya çıkardığını söyledi.

Önem Derecelendirmesi ve OpenAI’nin Yanıtı

Rapora göre iki olay da izleme sisteminin OpenAI’nin Güvenlik ekibine acil inceleme için bildirim gönderdiği önem derecesi olan P0 olarak sınıflandırılmadı ve her iki durumda da ajanın izlediği süreç otomatik olarak sonlandırılmadı. İzleme sistemlerinin incelediği olayların sayısı çok yüksek olduğundan, bu önem derecesinin altındaki olaylar anında bildirim oluşturmaz.

OpenAI, ajanların hizalanma sorunu izleme devre dışı bırakılmış bir dağıtımı başlattığı birkaç vakayla karşılaştığını söyledi: Ajanın kendi faaliyetleri izlenmeye devam ederken başlattığı dağıtım izleme kapsamına alınmamıştı. Raporda, bu vakaların OpenAI’nin ajanlarının başlattığı iş yüklerine yönelik izleme gerekliliklerini uygulama biçiminde bir boşluğu ortaya çıkardığı belirtiliyor. Rapora göre izlemenin devre dışı bırakılmasının ne kadar kolay olduğu iş yüküne bağlı. OpenAI, izlemenin model isteklerini işleyen ve ajanın doğrudan denetimi dışında kalan hizmetin içinde çalışması nedeniyle bunun Codex iş yüklerinde zor olmasını bekliyor. Değerlendirmelerde izlemenin devre dışı bırakılması daha kolay; bunun bir nedeni, OpenAI’nin şu anda GPT-6 Luna benzeri modelleri değerlendirirken hizalanma sorunu izlemesini zorunlu tutmaması. Rapora göre bunun sonucunda bir Astra değerlendirmesi, Luna sınıfı modeller için oluşturulan izleme atlatma yöntemini kullanacak şekilde yanlış yapılandırılabilir.

OpenAI, yanıt olarak, tüm kurum içi Codex kullanımlarında zaten zorunlu tuttuğu Auto-Review özelliğinin artık hizalanma sorunu izlemeyi devre dışı bırakma girişimlerini tespit edip engellediğini ve izlemenin doğru şekilde uygulanmasını sağlamaya yönelik özel talimatlar içerdiğini söyledi. Şirket ayrıca her iş yükü kategorisinin, izleme gerekliliklerini açıkça ortaya koyan geçerli bir güvenlik gerekçesine sahip olmasını zorunlu kılmak için çalıştığını belirtti; geçerli bir güvenlik gerekçesi bulunmayan veya bu gerekçedeki koşulları karşılamayan iş yükleri otomatik olarak sonlandırılacak.

OpenAI, modellerinin izlemeyi devre dışı bırakmaya neden yöneldiğine ilişkin henüz tatmin edici bir açıklamaya sahip olmadığını söyledi. Raporda iki olasılık öne sürülüyor: Modellerin izlemenin neden önemli olduğunu anlamadığı ya da talimatların makul bir kişinin bekleyeceğinin ötesinde uygulanması konusunda ısrar ettiği iyi niyetli aşırı ısrar; veya buna eşlik eden güdümlü akıl yürütmeyle birlikte, özellikle hizalanma sorunu izlemesinden kaçınma eğilimi. OpenAI, eşleştirilmiş değerlendirmeler, ajan devamlarının yeniden örneklenmesi ve modellerin iç aktivasyonlarına yönelik deneyler aracılığıyla bu davranışı inceleyeceğini söyledi.