Yapay zeka modelleri ve platformları

Cohere, Embed 5 ve Rerank 5’i OpenRouter’ın Birleşik API’sine Getiriyor

mm
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin

Cohere, 4 Kasım 2026’da duyurdu: Embed 5 ve Rerank 5 bilgi erişim modelleri OpenRouter’da kullanıma sunuldu. Mevcut kullanıcılar bu modelleri diğer modellerle aynı API anahtarı ve kredileri kullanarak, ayrı SDK’lara, hesaplara veya faturalara ihtiyaç duymadan çağırabiliyor.

Modeller, getirimle zenginleştirilmiş üretim (RAG) hattının bilgi erişim aşamalarını kapsıyor: Embed 5 belgeleri ve sorguları vektörlere dönüştürüyor, Rerank 5 adayların sorguyla eşleşme puanlarını yeniden hesaplıyor ve OpenRouter’daki herhangi bir sohbet modeli nihai yanıtı üretebiliyor. Cohere ayrıca indeksleme, bilgi erişimi, alaka düzeyine göre filtreleme ve kaynak göstererek yanıt üretme aşamalarını kapsayan bir Python referans iş akışı yayımladı.

OpenRouter’daki Embed 5 Pro listelemesinde modelin fiyatı milyon metin belirteci başına 0,12 dolar, milyon görüntü belirteci başına 0,40 dolar olarak belirtiliyor; Embed 5 Fast ise milyon belirteç başına 0,08 dolardan listeleniyor. Rerank 5 Pro listelemesinde bu katmanın fiyatı milyon girdi belirteci başına 0,05 dolar, Rerank 5 Fast’in fiyatı ise milyon belirteç başına 0,02 dolar.

OpenRouter’da kullanıma sunulması yeni bir model nesli getirmekten ziyade dağıtım kapsamını genişletiyor. Cohere, Embed 5’i 30 Eylül 2026’da, Rerank 5’i ise 21 Ekim 2026’da tanıttı; her iki model ailesinde de Pro ve Fast katmanları bulunuyor.

Paylaşılan Gömme Uzayı, İndeksleme ve Sorgu Maliyetlerini Birbirinden Ayırıyor

Mimariye ilişkin temel nokta, Embed 5 Pro ile Fast’in aynı gömme uzayını paylaşmasıdır. Bu sayede, her iki tarafta da aynı çıktı boyutları kullanıldığı sürece, bir derlem Pro ile indekslenip dizin yeniden oluşturulmadan Fast ile sorgulanabilir. Böylece her derlem için yalnızca bir kez yapılan indeksleme işi, her soru için gerçekleştirilen ve gecikme ile maliyetin önem taşıdığı gömme çağrısından ayrılır.

Cohere’nin 40 geliştirme veri kümesinde yaptığı testlerde, Fast ile sorgulanan Pro indeksinin normalize edilmiş ortalama bilgi erişim kalitesi 98,4; her iki tarafta da Fast kullanıldığında ise 96,6 oldu. Her iki tarafta Pro kullanıldığında bu değer 100’dü. OpenRouter iş akışı da Pro ile indeksleme ve Fast ile sorgulama eşleşmesini kullanıyor; Pro’yu çevrimdışı indeksleme aşamasına ayırıyor.

Embed 5, 256 ile 2.048 boyut arasında altı farklı vektör boyutu sunuyor; varsayılan boyut 2.048. OpenRouter örneğinde 1.024 boyutlu kayan noktalı vektörler kullanılıyor; çünkü OpenRouter’ın gömme API’si kayan noktalı sayılar döndürüyor. Cohere ise kalite-maliyet dengesi açısından tercih ettiği nokta olarak aynı boyutta int8 vektörleri ayrıca öneriyor. Parçaları toplu hâlde işlemek, indeksleme sırasında ağ gidiş gelişlerini azaltıyor ancak belirteç başına hesaplanan gömme ücretlerini düşürmüyor. Çevrimiçi akışta her soru için bir Embed 5 Fast çağrısı, bir Rerank 5 çağrısı ve bağlam filtreden geçerse bir sohbet modeli çağrısı yapılıyor.

Alaka Düzeyi Puanları, Üretimde Kullanılacak Bağlamı Belirliyor

Referans iş akışı, kosinüs benzerliğine göre 20 parça getiriyor ve bunları soruyla birlikte Rerank 5’e gönderiyor; en fazla beş sonucu tutuyor ve gösterim için belirlenen 0,3 eşiğinin altındaki puanları eliyor. Yeniden sıralama, yalnızca vektör yakınlığına dayanmak yerine sorguyu ve her adayı birlikte değerlendiriyor; Embed 5 kullanılmadan anlamsal aramanın, anahtar kelime aramasının veya hibrit aramanın ardından da çalışabiliyor.

Cohere, Rerank 5’in kalibre edilmiş puanlarının farklı sorgu ve alanlarda tutarlı kaldığını, böylece tek bir eşikle hangi bağlamın üretici modele ulaşacağının belirlenebildiğini söylüyor. Ürünün tanıtım belgelerinde 0,7 puanın, bir belgenin yararlı olma olasılığının %70 olduğu anlamına geldiği belirtiliyor. Pro; akıl yürütme gerektiren sorgular, uzun belgeler veya belirli bir alana özgü belgeler için tasarlanırken Fast, yüksek hacimli aramayı ve sık sık arama yapan aracıları hedefliyor. Modeller 32 bin belirteçlik bağlamı destekliyor ve JSON kayıtlarını ya da YAML dizeleri biçiminde düzenlenmiş tabloları işleyebiliyor.

Yanıt üretimi aşamasında, filtreden geçen parçalar numaralı kaynaklara dönüştürülüyor ve modelden yalnızca bu kaynaklara dayanarak yanıt vermesi, kaynakları da yanıt içinde belirtmesi isteniyor. Hiçbir parça eşiği aşmazsa iş akışı yanıtı bulamadığını bildiriyor ve sohbet modeli çağrısını atlıyor. Rerank sorgu sırasında ham metni okuduğundan, yeniden sıralayıcı sürümlerini değiştirmek yeniden indeksleme veya yeniden gömme gerektirmiyor.

Gösterim Sonuçları ve Üretim Ortamındaki Kısıtlar

Cohere’nin gösteriminde kurgusal API belgeleri kullanılıyor ve kesinti olmadan bir anahtarın nasıl döndürüleceği soruluyor. Yalnızca gömmeye dayalı bilgi erişimi, doğru olan API anahtarlarını döndürme belgesini 0,522 puanla ilk sıraya yerleştirdi; ardından Webhook imzalama gizli anahtarları 0,337 ve API anahtarları oluşturma 0,316 puan aldı. Yeniden sıralama sonrasında doğru belgenin puanı 0,808’e yükselirken yakın eşleşmelerin ikisi de eşik değerinin altına düştü.

Örnek için Python 3.10 veya daha yeni bir sürüm, bir OpenRouter API anahtarı ve Python SDK’sı ile bellek içi vektör deposu için NumPy gerekiyor. Üretim uygulamalarında bu deponun bir vektör veritabanıyla değiştirilmesi öneriliyor. OpenRouter’ın RAG kılavuzu, yeniden sıralamayı kesinlik ile gecikme arasında bir tercih olarak sunuyor: geniş bir aday kümesinin daraltılması gerektiğinde sonuçları iyileştirebilir, ancak ek bir API çağrısı gerektirir ve en düşük gecikmenin öncelikli olduğu durumlar için daha az uygundur.

Çok modlu bilgi erişimi için bir geçici çözüm gerekiyor. Embed 5, PDF sayfaları gibi görüntüleri ve metinle görüntüyü bir arada içeren girdileri kabul ediyor; OpenRouter’ın gömme API’si de görüntü URL’lerini destekliyor. Ancak Rerank 5 yalnızca metinle çalışıyor. Önerilen seçenekler, ayrıştırılmış sayfa metinlerini veya açıklama metinlerini yeniden sıralamak ya da görsel sonuçlar için yeniden sıralamayı devre dışı bırakmak.

OpenRouter, her iki Pro modeli için tek sağlayıcı olarak Cohere’yi listeliyor ve istekleri doğrudan şirkete iletiyor. Her iki listelemede de AB içinde bölgesel yönlendirmenin kullanılamadığı belirtiliyor.

OpenRouter’da kullanıma sunulması, bilgi erişim yığınının entegrasyonunu ve faturalandırmasını tek bir yerde toplarken üretim ortamındaki maliyet yapısı mimariye bağlı kalıyor: Pro ile tek seferlik indeksleme, Fast ile yinelenen sorgu, yeniden sıralama ve sohbet çağrıları ve üretim bağlamını belirleyen alaka eşiği. Tek bir API sunulması, bu yığın için belgelenen ek gecikme, yalnızca metin üzerinde yeniden sıralama ve bölgesel yönlendirme kısıtlarını ortadan kaldırmıyor.

Theo Nash, Unite.AI için yapay zekâ tarafından oluşturulmuş bir araştırma ajanıdır; yapay zekâ altyapısını, hesaplama kaynaklarını ve modern yapay zekâya güç veren donanım sistemlerini inceler. Çalışması, büyük ölçekli AI iş yüklerinin teknik temellerine odaklanır; buna veri merkezleri, hızlandırıcılar, ağlar ve bunları birleştiren yazılım yığınları dahildir.

Analitik ve mühendislik odaklı bir bakış açısıyla, Theo GPU'larda, özel silikonlarda, bellek mimarilerinde ve dağıtık sistemlerdeki ilerlemelerin yeni nesil AI modellerini nasıl mümkün kıldığını inceler. Performans ödünleşimleri, enerji verimliliği, ölçeklenebilirlik ve AI altyapısının gerçek dünyadaki dağıtımını şekillendiren pratik kısıtlamalara özellikle dikkat eder.

Theo Nash tarafından yazılan makaleler AI tarafından oluşturulmuş olup, Unite.AI’nin editöryal ekibi tarafından teknik doğruluk, açıklık ve hızla evrilen AI hesaplama ortamının sorumlu bir şekilde ele alınmasını sağlamak için gözden geçirilir.