Yapay zeka modelleri ve platformları
Perplexity, Aynı Model Üzerinden Yedeklemeye Geçiş Özelliği Sunan Orchestrator API’yi Başlattı

Öne çıkan noktalarOrchestrator, başarısız istekleri aynı modelin başka bir dağıtımında yeniden dener…
Daha fazla göster
- Orchestrator, başarısız istekleri aynı modelin başka bir dağıtımında yeniden dener; böylece bir Claude isteği modeli değiştirmeden sağlayıcı değiştirebilir.
- Perplexity, Orchestrator aracılığıyla yapılan Claude ve GPT isteklerinin, ölçtüğü herhangi bir tek sağlayıcıya yapılan isteklerden daha sık başarılı olduğunu bildiriyor.
- Otomatik model yönlendirme, tek bir konuşma içinde turlar arasında yetenek ve maliyetin değişebileceği bir önizlemedir.
Perplexity, şirketin çıkarım altyapısında barındırılan özel modellere ve açık ağırlıklı modellere erişim sağlayan bir API olan Orchestrator’ı başlattı. Bu API; birleştirilmiş faturalandırma, aynı model için sağlayıcı yedekleme özelliği ve önizleme aşamasındaki isteğe bağlı otomatik model yönlendirme özelliği sunuyor.
Yönlendirme belgeleri, iki kararı birbirinden ayırıyor. Bir model seçildikten sonra sağlayıcı yönlendirmesi; gözlemlenen hata oranlarını, kapasiteyi ve gecikmeyi kullanarak trafiği dağıtımlar arasında paylaştırıyor. Müşteriler dağıtımı seçmiyor. Sağlayıcı hataları, hız sınırı aşımları ve zaman aşımları, aynı modelin başka bir dağıtımında yeniden denemeyi tetikleyebilir. Bu nedenle bir Claude isteği, Claude isteği olarak kalırken başarısızlık sonrasında Anthropic’ten AWS Bedrock’a geçebilir.
Orchestrator; OpenAI Chat Completions, OpenAI Responses ve Anthropic Messages isteklerini kabul ediyor. Geliştiriciler mevcut OpenAI veya Anthropic SDK’larını kullanmaya devam edip Perplexity API anahtarına, Orchestrator temel URL’sine ve katalogdaki tam model kimliğine geçebilir. Hızlı başlangıç kılavuzu, hizmeti durumsuz olarak tanımlıyor ve müşterilerin kendi istemleri ile araçlarını kullanarak modellere doğrudan erişmesi amacıyla tasarlandığını belirtiyor. Bu yönüyle, web kaynaklarına dayalı yanıtları yerleşik atıflarla sunan Agent API’den ayrılıyor.
Katalogda Anthropic, OpenAI, Google, xAI, Z.AI, DeepSeek ve Moonshot AI’ın model aileleri yer alıyor. Google, xAI ve açık ağırlıklı modellere tüm kullanım kademelerinde erişilebiliyor. OpenAI ve Anthropic modellerini çağırmak için Tier 1 veya üzeri gerekirken Claude Opus 5, Opus 5.5 ve Fable modelleri için Tier 2 veya üzeri gerekiyor.
Sağlayıcılar Arasında Yedeklemeye Geçiş ve Ölçülen Performans
Perplexity, 4 Ekim 2026 ile 2 Kasım 2026 arasında Orchestrator üzerinden gönderilen Claude ve GPT isteklerinin, ölçtüğü her bir sağlayıcıya gönderilen isteklerden daha sık başarıyla sonuçlandığını ve sağlayıcı sorunları sırasında günlük dalgalanmaların daha sınırlı kaldığını bildiriyor. Başarısızlık, kullanılabilir tüm dağıtımların tüketilmesi veya sunum katmanının hata döndürmesi anlamına geliyordu; geçersiz istekler ve istemci tarafındaki hız sınırı ihlalleri gibi istemci hataları değerlendirme dışı bırakıldı. Aynı 30 gün içinde Anthropic ve AWS Bedrock, Claude Opus 5.5’in çıktı hızında 15’er gün öne geçti; Azure’un GPT-5.6 Sol için medyan çıktı hızı ise OpenAI’ınkinden %27 daha yüksekti. Bu hız farklarına yanıt veren uyarlanabilir yönlendirme hâlâ geliştirme aşamasında.
Yedeklemeye geçişin sınırları vardır. Geçersiz istekler ve bir modelin bağlam penceresini aşan istemler, başka bir dağıtımda yeniden denenmeden HTTP 400 hatası döndürür. Tüm dağıtımların tükenmesi, Retry-After başlığıyla birlikte HTTP 429 yanıtı oluşturur; çıktı üretmeden başarısız olan istekler için ücret alınmaz. Akış başladıktan sonra kesilirse müşteriden o ana kadar iletilen belirteçlerin ücreti alınır.
Önizleme Aşamasındaki Yönlendirme ve Kullanıma Dayalı Faturalandırma
Otomatik model yönlendirme, dağıtım seçimini değil model seçimini ele alır. Modeli şu şekilde ayarlamak perplexity/auto konuşma metnini ve düz dille yazılmış rota açıklamalarını gören, ancak rota adlarını veya model kimliklerini görmeyen bir karar modelini çağırır. Özel bir yönlendirme nesnesi, bir varsayılan model ve bir ila beş görev rotası tanımlayabilir. Hiçbir rota uygun olmadığında, karar modeli başarısız olduğunda veya zaman aşımına uğradığında ya da konuşmada görüntü, ses, video veya dosya bulunduğunda varsayılan model kullanılır.
Yönlendirme her istek için bağımsız olarak gerçekleşir; bu nedenle görev değiştikçe aynı konuşmadaki farklı turlar farklı modelleri kullanabilir. Her istekte konuşmanın tamamının gönderilmesi gerekir ve her model ayrı bir istem önbelleği kullanır. Kararlı oturum tanımlayıcıları veya istem önbelleği anahtarları, ilişkili isteklerin tek bir dağıtımda tutulmasına yardımcı olabilir; ancak bu yakınlık en iyi çaba esasına dayanır ve turlar boyunca model seçimini sabitlemez. Yanıt başlıkları yönlendirmenin sonucunu ve seçilen rotayı belirtir; yanıtın model alanı ise yanıtı gerçekten veren modeli gösterir.
Faturalandırma, isteğe yanıt veren modele göre yapılır ve isteği hangi dağıtımın sunduğundan bağımsız olarak modelin yayımlanmış belirteç başı ücreti uygulanır. Kullanım, diğer Perplexity API projeleriyle aynı ön ödemeli kredilerden düşülür. Katalogda Tier 0’daki GLM-5.3 Flash için girdi belirteçlerinin milyon başına 0,15 dolar, çıktı belirteçlerinin milyon başına 0,50 dolar olduğu; önbellek okumalarının ise milyon belirteç başına 0,03 dolar tuttuğu belirtiliyor. Akıl yürütme belirteçleri, geçerli çıktı ücreti üzerinden ücretlendirilir.
Orchestrator’ın en belirgin güvenilirlik vaadi, seçilen modeli veya belirteç ücretini değiştirmeden dayanıklılık sağlamasıdır. Daha kapsamlı otomasyon ise bazı koşullara bağlıdır: model yönlendirme, turlar arasında özellikleri ve maliyeti değiştirebilen bir önizleme aşamasındadır; hıza duyarlı uyarlanabilir sağlayıcı seçimi ise hâlâ geliştirme aşamasındadır.












