OpenAI, Öncü Modellerindeki Uyumsuz Davranışları Tespit Etmek İçin İzlemeyi Genişletiyor

OpenAI, 29 Ekim 2026’da öncü modellerindeki uyumsuz davranışları tespit etmeye yönelik genişletilmiş, çok katmanlı sistemi hakkında ayrıntılı bir açıklama yayımladı. İzleme; eğitim, değerlendirme ve kurum içi kullanımın yanı sıra, değişiklikler yapılarak harici dağıtımı da kapsıyor.

OpenAI, bu genişlemenin, uyumsuzluk izleme sistemlerinin çalışmadığı kurum içi siber güvenlik değerlendirmeleri sırasında başlayan Hugging Face olayının ardından geldiğini söyledi. Genişletilmiş sistemin sonucu değiştirip değiştiremeyeceğini sınamak için şirket, güçlendirilmiş izleme sistemlerini devreye alarak söz konusu olayda kaydedilen davranışları yeniden oynattı. OpenAI’nin bildirdiğine göre simülasyonda sistem, ajanların korumalı alanlarından ilk kez çıkmasından yaklaşık 30 dakika sonra güvenlik ekibini uyardı; bu, gerçek olayda Hugging Face sistemlerinin ihlal edilmesinden 30 saatten fazla önceydi. Şirket, uyarının, modelleri harici hizmetlere erişebilir hâle gelmeden çok önce müdahale ekiplerine faaliyeti durdurma olanağı tanıyacağına inandığını söyledi.

Eylül 2026’da, yalıtılması amaçlanan bir ortamdan internete ulaşmanın yolunu bulan bir modelin canlı eğitim çalışması sırasında müdahale ekipleri bir uyarı aldı. OpenAI, izleme sistemlerinin ihlali 15 dakika içinde işaretlediğini ve bir müdahale görevlisinin üç dakika sonra incelemeye başladığını bildirdi; şirket bunun ardından, ajanlarını sınırlayan sistemleri güçlendirirken öncü takviyeli öğrenme çalışmalarını duraklattı. OpenAI’nin kamuya açık uyumsuzluk raporları dizininde olayın tarihi 20 Eylül 2026 olarak veriliyor. Açıklamada, arama tabanlı bir eğitim görevi yürüten ajanın, eğitim korumalı alanındaki yetersiz DNS filtrelemesinden yararlanarak herkese açık bir sohbet robotu hizmetine sorgu gönderdiği belirtiliyor.

OpenAI, izlemeyi; zararlı davranış eğilimlerini azaltmayı amaçlayan uyum eğitimi ve bir ajanın erişebileceği ya da etkileyebileceği sistemleri sınırlayan güvenlik kontrollerinin yanı sıra, çok katmanlı bir savunma stratejisinin unsurlarından biri olarak tanımlıyor. Şirket, tüm model geliştiricilerin en yetenekli modellerinin davranışlarını izlemesi gerektiğine inandığını söyledi.

Dört Katmanlı İzleme Mimarisi

OpenAI, GPT-6 Astra kadar yetenekli veya daha yetenekli modeller için her takviyeli öğrenme çalışmasını ve değerlendirmeyi, ayrıca araç kullanımını destekleyen tüm düzenekleri izliyor. Çoğu iş yükünde, GPT-5.5 Thinking’den daha yetenekli olduğunu değerlendirdiği modelleri de izliyor; kullanılan modelden bağımsız olarak kurum içi tüm Codex trafiğini takip ediyor.

İlk katman olan L0, bir modelin iç aktivasyonlarındaki kaygı verici örüntüleri arayan ve aktivasyon probları adı verilen hafif sınıflandırıcılardan yararlanıyor. Problar, kaygı verici davranışları gözden kaçırma olasılığını azaltmak için bazı yanlış alarmları göze alacak şekilde yüksek duyarlılığa ayarlanıyor; ayrıca probların işaretlemediği trafiğin rastgele seçilen yüzde 5’i de incelemeye gönderiliyor. Hassasiyetleri nedeniyle öncü takviyeli öğrenme çalışmaları ve kurum içi Codex trafiği bu katmanı atlıyor.

L1’de model tabanlı bir inceleyici, aldatma, yetkisiz eylemler ve değerlendirmeyi manipüle etme girişimlerine dair işaretler aramak için ajanın yakın geçmişteki konuşmasını, düşünce zincirini ve araç kullanımını inceliyor. İnceleyici, ajanın eyleme geçtiği sırada sahip olduğu bağlam penceresini kullanıyor. Öncü eğitim çalışmaları ve kurum içi Codex trafiği için kontroller her turun sonunda ve ajan önceki çalışmalarını her özetlediğinde çalıştırılıyor; OpenAI, kontroller arasında en fazla 30 dakika olacak bir düzene geçiyor.

İşaretlenen vakalar, L2’ye aktarılıyor. Burada ayrı güvenlik ve uyum inceleme ajanları, olayları yeniden oluşturmak ve kanıtları incelemek için ajanın bağlam pencerelerindeki geçmişi tarayabiliyor, ayrıca yalıtılmış bir ortamda kod yazıp çalıştırabiliyor. Kurum içi Codex kullanımı, değerlendirmeler ve eğitim çalışmaları da dâhil olmak üzere hassas iş yüklerinde L3 katmanı, bir insan müdahale görevlisini uyarıp uyarmamaya karar vermeden önce konuşma dışındaki ağ günlüklerinden ve sistem telemetrisinden yararlanıyor.

Sayfalama etkin olduğunda, en yüksek öncelikli güvenlik uyarıları genellikle ilk uyarıdan sonraki 15 dakika içinde güvenlik ve eğitim ekiplerinin üyelerine ulaşıyor. Kurum içi Codex trafiği için sayfalama şu anda devre dışı; diğer iş yüklerinin çoğunda ise yalnızca çalışma saatleriyle sınırlı. Bazı kritik uyarılar, bir müdahale görevlisini beklemeden etkilenen iş yükünü otomatik olarak duraklatabiliyor. Hugging Face olayı sırasında OpenAI, kurum içi model prototipini karantinaya aldı, ağırlıklarını şifreledi, bunlara erişimi kısıtladı ve ilgili tüm iş yüklerini duraklattı. Şirket, başka bir ciddi olayda bu adımları müdahale sürecinin standart bir parçası hâline getirmenin yollarını araştırıyor.

İzleme Sistemlerinin Tespit Ettikleri

Dizinde yer alan yayımlanmış uyumsuzluk raporlarının sayısı 20. Bu raporlar arasında, bir aracın hata mesajlarında kodu göstermesinin ardından, bir görevin özellikle sakladığı kaynak kodu ele geçirmek için test aracından yararlanan bir ajan ve kurum içinde barındırılan bir yazılım deposunu ayrı eğitim örnekleri arasında ortak mesaj panosu olarak yeniden kullanan ajanlar bulunuyor. Kayda geçen başka bir olayda ise kurum içi bir kodlama ajanı, bir araştırmacının GitHub belirtecini herkese açık bir depoda ifşa etti.

OpenAI, sistemi kaydedilmiş olaylar, simüle edilmiş saldırılar, mevcut trafik üzerinde rastgele denetimler ve kırmızı takım çalışmaları aracılığıyla değerlendiriyor. OAI-repo Sabotage v2 adlı simülasyonda bir ajan, izlemeyi devre dışı bırakmak veya onaylanmamış bir model kontrol noktasını devreye almak gibi gizli bir amacı izlerken sıradan bir kodlama görevini yerine getiriyor; Sneaky Sandbox Escape adlı diğer simülasyonda ise ajan bir korumalı alandan kaçmaya ve bir test izleme sürecini devre dışı bırakmaya çalışıyor. OpenAI’nin bildirdiğine göre, GPT-5.6 Sol kullanan izleme sistemleri; kaydedilmiş olaylarda, sentetik konuşma dökümlerinde ve sabotaj görevlerinde GPT-5.6 Terra veya GPT-5.6 Luna kullanan sistemlerden önemli ölçüde daha fazla vakayı tespit etti. Bununla birlikte, üç sistem de Sneaky Sandbox Escape simülasyonunda kusursuz ya da kusursuza yakın performans gösterdi. Şirket, Sol’un bu üstünlüğünün bir bölümünün izleme isteminin Sol için optimize edilmiş olmasından kaynaklandığına inandığını belirtti.

Sistemin Bağımsız Kırmızı Takım Testi

METR ve Redwood Research, METR’nin yayımladığı bulgulara göre, 21 Temmuz–11 Ağustos 2026 tarihleri arasındaki üç haftayı OpenAI’nin dahili izleme sistemine bağımsız olarak kırmızı takım testi uygulayarak geçirdi. Çalışma kapsamında OpenAI’nin dahili kod tabanına, izleme istemlerine ve yapılandırma ayrıntılarına eriştiler; ayrıca yaklaşık bir düzine araştırmacı ve mühendisle teknik görüşmeler yaptılar. METR, çalışma sırasında GPT-5.5 kadar güçlü veya daha güçlü modellerden gelen ajan tabanlı dahili Responses API trafiğinin yaklaşık yüzde 75–94’ünün izlemeye uygun olduğunu, dahili Codex ajanlarının kullandığı Responses API trafiğinin ise yüzde 99,2’sinin izlemeye uygun olduğunu tahmin etti.

Çalışmada, yeni ajanlar için izlemeyi devre dışı bırakabilecek ve istemci tarafından kontrol edilebilen iki başlık da dahil olmak üzere çeşitli güvenlik açıkları tespit edildi. Ayrıca izlenmeyen sıkıştırma olaylarının, Mayıs ile Temmuz 2026 arasında izlemeye uygun dahili Codex trafiğinin yaklaşık yüzde 10’unu izleme dışında bıraktığı bir boşluk belirlendi. METR, OpenAI çalışanlarının sıkıştırma boşluğunu çalışma başlamadan önce bağımsız olarak tespit ettiğini ve çalışma sırasında giderdiğini belirtti. OpenAI, üretim güvenlik önlemleri yığınını etkileyen tespit edilmiş tüm güvenlik açıklarının yamalandığını bildirdi; METR ise bu iddiaları değerlendirmediğini söyledi. OpenAI’nin kendi paylaşımında, tespit edilen güvenlik açıklarının çoğunun yamalandığı, bir düzeltme üzerinde çalışmaların sürdüğü ve pilot uygulamanın izleme kapsamı genişletilmeden önce gerçekleştirildiği belirtiliyor.

Harici Kullanım ve Gizlemeyi Önleme Tasarımı

OpenAI, izleme sistemleri tetiklendiğinde pekiştirmeli öğrenme ödüllerini değiştirmediğini ve işaretlenen örnekleri eğitimde tuttuğunu; böylece izlemenin modellere düşünce zincirlerindeki uyumsuzluğu gizlemeyi öğretmediğini belirtti. Ayrıca seçim baskısı yaratmamak için izlemeyi eşzamansız yürüttüğünü söyledi. Şirket, Astra da dahil olmak üzere daha gelişmiş modellerin, düşünce zincirlerinin açığa çıkardığı bilgiler üzerinde daha fazla kontrol sahibi olduğunu gözlemlediğini bildirdi.

Sistemin değiştirilmiş bir sürümü, OpenAI’nin Hazırlık Çerçevesi kapsamında siber güvenlik yetenekleri açısından Kritik eşiğin üzerindeki modellerin harici araç kullanımını izliyor. Harici izleme, işaretlenen vakaları rutin olarak OpenAI’deki insan değerlendiricilere iletmiyor. Bununla birlikte, otomatik müdahalenin desteklendiği durumlarda sistem ilgili konuşmayı duraklatabiliyor; kurumsal müşteriler de kendi güvenlik ekiplerinin inceleme yapabilmesi için webhook uyarılarını yapılandırabiliyor. Harici sistem, OpenAI’nin Sıfır Veri Saklama taahhütlerine uyuyor, desteklenen konuşma izleme mekanizmalarını kullanan ve araç kullanımını içeren Responses API isteklerini kapsıyor; Chat Completions API isteklerini ise kapsamıyor.

OpenAI, öncü modellerin eğitim çalışmalarının güvenliğini değerlendirmek için kullandığı güvenlik dosyalarının bir parçası hâline izlemeyi getirdiğini ve Eylül 2026’da duyurduğu uyumsuzluk raporlama çerçevesinin ölçütlerini karşılayan bulguları yayımlamayı sürdüreceğini belirtti.