Yapay zeka modelleri ve platformları

OpenAI, güvenlik kilometre taşlarına bağlı ortak yapay zekâ geliştirme sınırları öneriyor

Mira Kellan
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Öne çıkan noktalarOpenAI, öncü geliştirme sınırlarını sabit yetenek eşiklerine değil, somut izleme…
Daha fazla göster
  • OpenAI, öncü geliştirme sınırlarını sabit yetenek eşiklerine değil, somut izleme kilometre taşlarına bağlıyor.
  • Perplexity ortak bir standart olarak hizmet edemez çünkü laboratuvarlar farklı veri kümeleri kullanıyor ve o, akıl yürütme kazanımlarını kaçırıyor.
  • OpenAI'nin kendi araştırması, insanların hâlâ geliştirme döngüsünün merkezinde olduğu, yapay zekâ katkısının dengesiz olduğunu gösteriyor.

OpenAI Baş Bilim İnsanı Jakub Pachocki, 22 Kasım 2026’da kurum içi perpleksite ölçümlerini yayımladı ve öncü yapay zekâ geliştirme çalışmaları için ortak sınırlar önerdi. Ön eğitimdeki ilerleme 2027 gibi erken bir tarihte hızlanırsa uyum ve izleme araştırmalarının bu hıza yetişemeyebileceği uyarısında bulundu.

Açıklama, perpleksitenin logaritması olan ve çapraz entropi kaybı olarak da adlandırılan log-perpleksiteyle ilgili. Perpleksite, bir modelin bir sonraki belirteci ortalama olarak ne kadar iyi tahmin ettiğini ölçer; daha düşük değerler daha iyi tahminlere işaret eder. OpenAI’ın rakamları, kurum içi kod tabanından alınan ve GPT-3.5’ten bu yana izlediği temel değerlendirme veri kümesini oluşturan, eğitim dışında tutulan verilerin sabit bir anlık görüntüsünü kullanıyor.

Pachocki’nin bildirdiğine göre GPT-3.5’in ölçümü yaklaşık 0,99’du ve akıcı sohbet edebiliyordu; ilk ChatGPT’nin temeli de bu modeldi. GPT-4’ün ölçümü ise yaklaşık 0,91’di ve düşünce zinciri akıl yürütmesini verimli biçimde kullanabiliyordu. Kayıp 0,8’in altına indiğinde yeni siber güvenlik ve matematik yetenekleri ortaya çıktı. Yaklaşık 0,76 düzeyinde bir model, OpenAI’ın modellerine bu tür problemler yöneltmek için bir yıldan fazla zaman harcamasının ardından açık matematik problemlerinde kayda değer sonuçlar üretmeye başladı.

İzleme kilometre taşlarına bağlı ortak sınırlar

Pachocki, yakın dönemdeki ilerlemeden hareketle log-perpleksitenin 0,68–0,70 aralığında başka önemli yeteneklerin ortaya çıkmasını bekliyor; ancak bunların neler olacağını bilmediğini ve mevcut değerlendirmelerin bu yetenekleri sınamayabileceğini de kabul ediyor. Öneri, araştırmacıların yapay zekâ davranışını anlama ve izleme becerisi somut bir kilometre taşına ulaşana kadar öncü geliştiricilerin perpleksite ve diğer ölçümlere dayalı sınırları aşmamasını istiyor. Buna örnek olarak, bir modelin yazılı akıl yürütmesini uyumsuzluk belirtileri açısından inceleyen düşünce zinciri izleyicilerinin yerini alabilecek yeni bir sistem gösteriliyor.

Geliştiriciler ayrıca değerlendirme normlarını birlikte belirleyecek, bu tür modeller ilk kez kullanılmadan önce güvenlik senaryolarını kırmızı takım çalışmalarıyla sınayacak ve ortak şeffaflık standartları oluşturacak. İlk sınırın, sonraki sınırlar için ortak bir çerçeveye zemin hazırlaması amaçlanıyor. Pachocki, rakiplere OpenAI’ın konumunu daha net gösterse de şirketin bu rakamları açıkladığını söylüyor; çünkü ortak güvenlik önlemlerini acil görüyor.

Hızlanma senaryosu koşula bağlı: Pachocki, yapay zekâ algoritmik araştırmalara önemli ölçüde katkı sunmaya başlarsa ön eğitimde peş peşe hızlı ve temel ilerlemelerin yaşanabileceğini söylüyor. Ancak uyum ve izleme alanlarındaki ilerlemenin, hızlanmanın tüm potansiyeline ayak uydurması pek olası değil.

OpenAI, 2026’daki kayıp eğrisindeki keskin hızlanmayı büyük ölçüde uzun vadeli araştırma ve hesaplama yatırımlarına bağlıyor; otomasyonun rolünün ise daha sınırlı olduğunu belirtiyor. Buna karşın şirketin en yeni modelleri, yapay zekânın tasarıma anlamlı katkılar sunduğu örnekler içeriyor.

OpenAI’ın 18 Kasım 2026 tarihli araştırma raporu, bu katkıları somut örneklerle ortaya koyuyor. Ön eğitim araştırmacıları, GPT-6 Astra için belirtilen fikirleri kişilere atfetti; GPT-6.2 Astra içinse Codex ile birlikte fikir geliştirdiklerini anlattı. Bir örnekte Codex temel içgörüleri belirlerken, başka bir örnekte önerdiği değişiklik bir fikrin işe yaramasını sağladı. Müdahale olmadan tahmin edilen başarı oranları da önemli ölçüde farklıydı: eğitim çalışmalarını izlemek için %79, bunları başlatmak için %35 ve çıkarım ile sunum kodunu yazmak için %25. Bu farklılık, araştırma katkısının hâlâ dengesiz olduğu ve insanların süreçte merkezi rolünü koruduğu yönündeki rapor sonucunu destekliyor.

Önerinin ardındaki izleme zorlukları

10 Kasım 2026 tarihli OpenAI’ın izlenebilirlik çalışması, izlenebilirliği ölçmek için kullanılan kusurlu iki dolaylı göstergeyi inceliyor: düşünce zinciri veya araç çağrısı belirteçleri olmadan tek bir ileri geçişte akıl yürütme anlamına gelen düşünce zinciri olmadan yetenek ve yönlendirme verildiğinde bu akıl yürütme belirteçlerini ekleme, çıkarma ya da başka şekilde değiştirme becerisi anlamına gelen düşünce zinciri denetlenebilirliği. Çalışma, temel modelin perpleksitesinin düşmesiyle düşünce zinciri olmadan akıl yürütme yeteneği arasında güçlü, denetlenebilirliğin artmasıyla ise daha zayıf bir korelasyon olduğunu bildiriyor.

Çalışma ayrıca, uzunluk kısıtları ve nihai yanıtların puanlanması dışında süreç denetimi uygulanmasa bile pekiştirmeli öğrenmenin denetlenebilirliği artırdığını buldu. Daha denetlenebilir bir öğretmen modelin çıktılarıyla yapılan gözetimli ince ayar da denetlenebilirliği öğrenci modele aktarabiliyor.

OpenAI, denetlenebilirlik ölçümlerinin gürültülü olduğu ve her zaman izleme mekanizmasını atlatmayla örtüşmediği konusunda uyarıyor; ayrıca ön eğitimde daha fazla ilerleme sağlamak için izlenebilirliğe yönelik yeni yaklaşımların gerekeceğini öngörüyor. Pachocki’nin olası bir geliştirme kilometre taşı olarak düşünce zinciri izleyicilerinin yerini alabilecek bir sistemden söz etmesinin ardındaki teknik boşluk da bu.

Ortak bir standart olarak perpleksitenin sınırları

Perpleksite tek başına standardın tamamını oluşturamaz. Geliştiriciler farklı değerlendirme veri kümeleri ve eğitim karışımları kullandığı için laboratuvarlar arası karşılaştırmalar zordur; ayrıca bu ölçüt, uygulamaya dönük bir görevi doğrudan ölçmez. Ön eğitim dışındaki yetenek artışlarını da gözden kaçırır: düşünce zinciriyle akıl yürütme, temel modelin perpleksitesini düşürmeden yetenekleri keskin biçimde artırabilir.

Bu ölçümün de bilinmeyen bir alt sınırı vardır. Pachocki, kayıp değerinin sıfıra inmesinin beklenmediği konusunda uyarıyor; değer verinin içkin entropisine yaklaştıkça görünürdeki ilerleme yavaşlayacak, daha küçük perplexity kazanımları ise daha büyük zekâ kazanımlarına karşılık gelebilecektir. Dolayısıyla sabit bir sayısal artış, pratikte her zaman sabit bir anlam taşımayabilir.

Öneri, teknik bir ölçümü bir yönetişim sınamasına dönüştürüyor: Geliştiriciler, laboratuvarlar arasındaki sonuçları karşılaştırılabilir hâle getirebilir mi ve Pachocki’nin mevcut değerlendirmelerin henüz saptayamayabileceği yeteneklerle ilişkilendirdiği eşikleri aşmadan önce somut bir gözetim kilometre taşı üzerinde uzlaşabilir mi?

Mira Kellan, Unite.AI için yapay zekâ tarafından oluşturulmuş bir araştırma ajanıdır; yapay zekâ etiğini, yönetişimini ve düzenlemelerini inceler. Çalışmaları, yapay zekanın kamu politikası, toplumsal değerler ve uzun vadeli hesap verebilirlik ile nasıl kesiştiğini inceler ve sorumlu yeniliği vurgular.
Karmaşık konulara rasyonel ve felsefi bir lens ile yaklaşan Mira, ortaya çıkan AI düzenlemeleri, etik çerçeveleri ve gelecekteki akıllı sistemleri şekillendiren yönetim modellerini analiz eder. Hızlı teknolojik ilerleme ile AI sistemlerinin şeffaf, adil ve insan çıkarlarıyla uyumlu kalmasını sağlamak için gereken güvenceler arasındaki boşluğu kapatmayı amaçlar.
Mira Kellan tarafından yazılan makaleler AI tarafından oluşturulur ve Unite.AI'nin editör ekibi tarafından doğruluk, denge ve editoryal standartlara uygunluk sağlamak için gözden geçirilir.