Siber Güvenlik
OpenAI, GPT-6.2 Astra’yı akıl yürütme çıkarımına karşı güçlendiriyor

Öne çıkan noktalarOpenAI, güncellenmiş koruma önlemleriyle korunan akıl yürütmeye yönelik uyarlanabilir…
Daha fazla göster
- OpenAI, güncellenmiş koruma önlemleriyle korunan akıl yürütmeye yönelik uyarlanabilir çıkarım saldırılarının %54,0'ten %0,2'ye düştüğünü bildiriyor.
- Tam akıl yürütme izleri, temel görevler izin verilmiş olsa bile siber yetenekleri özetlerden daha etkili biçimde aktarıyor.
- Akıl yürütmeyi savunmak, istek sınıflandırıcıları, araç çağrısı argümanları, konuşma geçmişi ve hesap düzeyinde kampanya yaptırımını kapsayan kontroller gerektirir.
OpenAI, 20 Kasım 2026’da düşmanca damıtmaya karşı savunmalarını güçlendirdiğini duyurdu ve korumalı akıl yürütmeyi önceki bir istekten çıkarmayı amaçlayan uyarlanabilir saldırıların ortalama başarı oranının, ilk güvenlik önlemlerine sahip GPT-6 Astra’da %54,0 iken güncellenmiş güvenlik önlemlerine sahip GPT-6.2 Astra‘da %0,2’ye düştüğünü bildirdi.
OpenAI’nin bildirdiğine göre, mevcut istekteki akıl yürütmeyi çıkarmaya yönelik saldırılarda ortalama oran %22,9’dan %0,9’a düştü. Uyarlanabilir kara kutu değerlendirmesi, altı saldırgan modelin sonuçlarını bir araya getiriyor. Otomatik kırmızı takım sistemleri, sistemin yanıtlarına göre yaklaşımlarını değiştiriyor ve yalnızca harici bir kullanıcının görebileceklerini görebiliyor. Güçlendirilmiş korumalar GPT-6.2 Astra ve GPT-6.2 Sol’u kapsıyor; belirli iyileştirmeler GPT-6 Astra‘ya da uygulanıyor.
Korumalı akıl yürütme, bir modelin yanıt üretmeye çalışırken oluşturduğu ara düşünce zinciridir. Bu izler, nihai yanıtlarda yer almayan bilgiler içerebilir; bu da onları, başka bir sistemi eğitmek için öncü bir modelin çıktılarını izinsiz kullanan düşmanca damıtma açısından özellikle değerli kılar. Ortaya çıkan model, ilk modeli kısıtlayan güvenlik önlemleri olmadan çift kullanımlı yetenekleri yeniden üretebilir.
Siber Güvenlik Alanındaki Damıtma Araştırması Ne Gösterdi?
OpenAI’nin kurum içi araştırması, aynı önceden eğitilmiş öğrenci modelini kullanan iki eğitim çalışmasını karşılaştırdı. Öğretmen modelin eğitim verilerini ürettiği bir düzende öğrenen taraf öğrenci modeldir. Çalışmalardan birinde öğretmenin akıl yürütme izlerinin tamamı, diğerindeyse kullanıcıların görebildiği temel içerik olan nihai yanıtlar, akıl yürütme özetleri ve araç etkileşimleri kullanıldı. İnce ayar verileri ağırlıklı olarak kodlama ve savunma amaçlı siber güvenlik görevlerinde Astra düzeyindeki öğretmen modelin izlediği adımlardan oluşuyordu. Öğrenciler, denetimli ince ayarın ardından ve siber güvenlik ile kodlama ortamlarında hafif pekiştirmeli öğrenme uygulandıktan sonra değerlendirildi.
OpenAI’nin bildirdiğine göre, denetimli ince ayarın ardından tam izlerle eğitilen öğrenci model genel olarak özetlerle eğitileni geride bıraktı. Pekiştirmeli öğrenmeden sonra, bildirilen her iki kıyaslamada da en yüksek test edilmiş çıkarım bütçesinde tam izlerle eğitilen model daha yüksek puan alırken, daha düşük bütçelerde özetlerle eğitilen model daha yüksek puan aldı.
OpenAI, sonuçları, temel görevler kullanım politikaları kapsamında izinli olsa bile tam izleri korumanın siber yeteneklerin aktarımını sınırlayabileceğinin kanıtı olarak yorumluyor. Şirket, farklı öğrenci modelleri ve eğitim yöntemleri arasındaki aktarımı incelemeyi sürdüreceğini de belirtiyor. Bu tür çok sayıda etkileşim boyunca tam izler, öğretmen modelin başlangıçtaki görevlerinin ötesine genellenebilen beceriler öğretebilir.
İstek Düzeyindeki Kontroller ve Kampanyalara Karşı Uygulama
İstek düzeyinde, düşmanca eğitme yöntemleri modellere çıkarım girişimlerini tanımayı ve meşru açıklama ve yardımı sunmayı sürdürürken korumalı akıl yürütmeyi açıklamayı reddetmeyi öğretir. Girdi sınıflandırıcıları çıkarım girişimlerini ararken çıktı sınıflandırıcıları, hem akışlı hem de akışsız yanıtlarda asistan mesajlarını ve araç çağrısı bağımsız değişkenlerini inceler. Araç çağrılarının kapsama alınması önemlidir; çünkü akıl yürütme, nihai yanıtta görünmese bile bir aracın bağımsız değişkenlerinde yer alabilir. Çıktı sınıflandırıcıları, şüpheli sızıntıları çağırana ulaşmadan engelleyebilir.
Güncellenen API, GPT-6.2 Astra ve Sol’daki korumalı akıl yürütmeyi, bu akıl yürütmenin üretildiği konuşma geçmişine bağlıyor. Mesajlar eklendikçe model önceki akıl yürütmeler üzerine yenilerini kurabilir; ancak önceki bir mesaj yeniden yazıldığında, onu izleyen akıl yürütme silinir. Güvenlik önlemleri daha zayıf olan eski model aileleri, iki modelin korumalı akıl yürütmesini okuyamaz; bu da model aileleri arasında yeniden kullanım olanağını kısıtlar.
Kampanya düzeyindeki savunmalar, eşgüdümlü çıkarım faaliyetlerini araştırmak için istek ve hesap sinyallerinden yararlanır. Soruşturmalar sırasında ortaya çıkarılan saldırılar, güvenlik önlemlerinin eğitimi ve test edilmesi için örnek hâline gelir. OpenAI, 2026’da yetkisiz damıtma kampanyalarına karşı haftalık uygulama işlemlerinin binlerce ila on binlerce hesabı kapsadığını ve bu oranın 2026 yazında belirgin biçimde arttığını söyledi. Şirket, kötüye kullanımın yaygınlığını ve tespitten yaptırım uygulanmasına kadar geçen süreyi izliyor; saldırganların elde ettiği veriyi azaltmayı, kampanya maliyetlerini artırmayı ve müdahale sürelerini kısaltmayı hedefliyor.
Duyuru, OpenAI’nin 1 Temmuz 2026’da ilk kez gözlemlediği eşgüdümlü bir kampanyaya ilişkin 30 Eylül 2026 tarihli açıklamasının ardından geldi. Önceki raporda, 24 ve 25 Temmuz 2026’da 4.000’den fazla kullanıcının 16.000 çıkarım girişiminde bulunduğu belirtilmiş; temel bir kümenin Moonshot AI ile bağlantılı kişilerden oluştuğu ifade edilmiş ve tüm operatörlerin aynı aktöre bağlı olup olmadığının belirsiz olduğu kaydedilmişti.
OpenAI’nin Ötesinde Eşgüdüm
OpenAI, güvenliği ihlal edilmiş sistemlere ilişkin göstergeleri diğer model sağlayıcılarıyla paylaşıyor; güvenlik gereklilikleri ve eşgüdümlü yaptırımlar konusunda dağıtım ortaklarıyla birlikte çalışıyor. Şirketin diğer geliştiricilere önerileri arasında asistan mesajlarını ve araç çağrısı bağımsız değişkenlerini kontrol etmek, şifrelenmiş akıl yürütmenin konuşmalar ve modeller arasında yeniden kullanılmasını kısıtlamak, başarılı saldırıları gelecekteki güvenlik önlemleri için regresyon testleri olarak saklamak ve istek kontrollerini kampanya soruşturmalarıyla birlikte yürütmek yer alıyor. Şirket, yakın zamanda engellenen kampanyalar hakkında daha fazla bilgi paylaşmayı planlıyor.
OpenAI, Kongre’ye Chip Security Act’i, AI OVERWATCH Act’i ve MATCH Act’i desteklediğini, ayrıca ABD hükümetine Amerikan yapay zekâ modellerinden yasa dışı yollarla yetenek elde eden yabancı aktörleri tespit etmek ve cezalandırmak için daha fazla araç sağlayacak kapsamlı bir yasal düzenlemeyi de desteklediğini bildirdi.
Şirket, ihracat kontrolleri ile damıtma karşıtı savunmaların bu riskin farklı yönlerini ele aldığını savunuyor: İhracat kontrolleri, öncü modelleri eğitmek için gereken donanıma erişimi kısıtlarken damıtma karşıtı savunmalar, hâlihazırda eğitilmiş modellerden aynı yeteneklerden bazılarını edinmeyi zorlaştırıyor.
Model sağlayıcıları açısından pratik güvenlik sınırı, nihai yanıtların ötesine geçerek akıl yürütmenin konuşmalar arasında nasıl yeniden kullanıldığını, araç çağrıları yoluyla nasıl açığa çıktığını ve hesaplar genelinde nasıl izlendiğini de kapsıyor. Çalışma ayrıca, izin verilen kodlama ve savunma amaçlı siber güvenlik görevlerinin yetenek aktarımı riski yaratabileceğine işaret ediyor; bu da etkileşim genelinde koruma ile kampanyalara yönelik yaptırımları aynı savunmanın parçaları hâline getiriyor.












