Cohere Menghadirkan Embed 5 dan Rerank 5 di API Terpadu OpenRouter

Cohere mengumumkan pada 4 November 2026 bahwa model pengambilan informasi Embed 5 dan Rerank 5 kini tersedia di OpenRouter. Pengguna yang sudah ada dapat mengaksesnya dengan kunci API dan kredit yang sama seperti untuk model lain, tanpa SDK, akun, atau tagihan terpisah.

Model-model ini mencakup tahap pengambilan informasi dalam alur generasi yang ditingkatkan dengan pengambilan informasi, atau RAG: Embed 5 mengubah dokumen dan kueri menjadi vektor, Rerank 5 memberi peringkat ulang pada kandidat berdasarkan kueri, dan model obrolan apa pun di OpenRouter dapat menghasilkan jawaban akhir. Cohere juga menerbitkan alur kerja referensi Python yang mencakup pengindeksan, pengambilan informasi, penyaringan relevansi, dan pembuatan jawaban dengan kutipan.

Halaman Embed 5 Pro di OpenRouter mencantumkan harga model sebesar $0.12 per juta token teks dan $0.40 per juta token gambar, sedangkan Embed 5 Fast tercantum seharga $0.08 per juta token. Halaman Rerank 5 Pro di OpenRouter mencantumkan harga tingkat tersebut sebesar $0.05 per juta token masukan, sedangkan Rerank 5 Fast seharga $0.02 per juta token.

Peluncuran di OpenRouter memperluas distribusi, bukan memperkenalkan generasi model baru. Cohere memperkenalkan Embed 5 pada 30 September 2026 dan Rerank 5 pada 21 Oktober 2026; kedua keluarga model ini menawarkan tingkat Pro dan Fast.

Embedding Bersama Memisahkan Biaya Pengindeksan dan Kueri

Hal utama dalam arsitekturnya adalah Embed 5 Pro dan Fast menggunakan ruang embedding yang sama. Karena itu, korpus dapat diindeks dengan Pro dan dikuery dengan Fast tanpa membangun ulang indeks, asalkan keduanya menggunakan dimensi keluaran yang sama. Dengan demikian, pekerjaan pengindeksan—yang dilakukan sekali untuk setiap korpus—terpisah dari pemanggilan embedding yang sensitif terhadap latensi dan biaya, yang dilakukan untuk setiap pertanyaan.

Dalam pengujian Cohere terhadap 40 kumpulan data pengembangan, kualitas rata-rata pengambilan informasi ternormalisasi mencapai 98.4 untuk indeks yang dibuat dengan Pro lalu dikuery dengan Fast, dan 96.6 jika Fast digunakan untuk keduanya, dibandingkan dengan 100 jika Pro digunakan untuk keduanya. Alur kerja OpenRouter menggunakan pasangan Pro untuk pengindeksan dan Fast untuk kueri tersebut, sehingga Pro hanya digunakan pada tahap pengindeksan luring.

Embed 5 menawarkan enam ukuran vektor, dari 256 hingga 2,048 dimensi, dengan 2,048 sebagai ukuran bawaan. Contoh OpenRouter menggunakan vektor titik mengambang berdimensi 1,024 karena API embedding-nya mengembalikan angka titik mengambang; secara terpisah, Cohere merekomendasikan vektor int8 dengan dimensi tersebut sebagai pilihan terbaik dari segi kualitas dan biaya. Mengelompokkan potongan teks mengurangi perjalanan bolak-balik jaringan selama pengindeksan, tetapi tidak mengurangi biaya embedding yang dihitung berdasarkan token. Dalam alur daring, setiap pertanyaan memicu satu pemanggilan Embed 5 Fast, satu pemanggilan Rerank 5, dan—jika konteks lolos penyaringan—satu pemanggilan model obrolan.

Skor Relevansi Menentukan Konteks untuk Pembuatan Jawaban

Alur referensi mengambil 20 potongan teks berdasarkan kemiripan kosinus, mengirimkannya bersama pertanyaan ke Rerank 5, mempertahankan hingga lima hasil, dan membuang hasil dengan skor di bawah ambang demonstrasi 0.3. Pemeringkatan ulang memeriksa kueri dan setiap kandidat secara bersamaan, alih-alih hanya mengandalkan kedekatan vektor, dan dapat dilakukan setelah pencarian semantik, kata kunci, atau hibrida tanpa Embed 5.

Menurut Cohere, skor Rerank 5 yang telah dikalibrasi tetap konsisten di berbagai kueri dan domain, sehingga satu ambang dapat menentukan konteks mana yang diteruskan ke model pembangkit; dokumentasi peluncurannya menjelaskan bahwa skor 0.7 berarti probabilitas 70% bahwa suatu dokumen berguna. Pro ditujukan untuk kueri yang membutuhkan banyak penalaran serta dokumen panjang atau khusus bidang tertentu, sedangkan Fast ditujukan untuk pencarian bervolume tinggi dan agen yang melakukan pencarian berulang kali. Model-model ini mendukung konteks 32K token dan dapat memproses rekaman JSON atau tabel yang diformat sebagai string YAML.

Pada tahap pembuatan jawaban, potongan teks yang lolos dijadikan sumber bernomor, disertai instruksi untuk menjawab hanya berdasarkan sumber tersebut dan mencantumkan kutipan di dalam teks. Jika tidak ada yang memenuhi ambang, alur kerja menyatakan bahwa jawabannya tidak ditemukan dan melewatkan pemanggilan model obrolan. Karena Rerank membaca teks mentah pada saat kueri, beralih ke versi pemeringkat ulang lain tidak memerlukan pengindeksan ulang atau pembuatan embedding ulang.

Hasil Demonstrasi dan Kendala Produksi

Demonstrasi Cohere menggunakan dokumentasi API fiktif dan menanyakan cara merotasi kunci tanpa menyebabkan waktu henti. Pengambilan informasi yang hanya menggunakan embedding menempatkan dokumen Merotasi kunci API yang benar di posisi pertama dengan skor 0.522, diikuti Rahasia penandatanganan webhook dengan 0.337 dan Membuat kunci API dengan 0.316. Setelah pemeringkatan ulang, dokumen yang benar memperoleh skor 0.808, sementara kedua hasil yang hampir cocok berada di bawah ambang batas.

Contoh ini memerlukan Python 3.10 atau yang lebih baru, kunci API OpenRouter dan SDK Python, serta NumPy untuk penyimpanan vektor dalam memori. Implementasi produksi diarahkan untuk mengganti penyimpanan tersebut dengan basis data vektor. Panduan RAG OpenRouter menjelaskan bahwa pemeringkatan ulang merupakan pilihan antara presisi dan latensi: cara ini dapat meningkatkan hasil ketika kumpulan kandidat yang luas perlu dipersempit, tetapi menambahkan satu pemanggilan API dan kurang cocok jika latensi minimum menjadi prioritas.

Pengambilan informasi multimodal memerlukan solusi alternatif. Embed 5 menerima gambar dan masukan campuran teks dan gambar, seperti halaman PDF, dan API embedding OpenRouter menerima URL gambar, tetapi Rerank 5 hanya mendukung teks. Pilihan yang disarankan adalah memberi peringkat ulang pada teks halaman atau keterangan gambar yang telah diekstrak, atau tidak melakukan pemeringkatan ulang untuk hasil visual.

OpenRouter mencantumkan Cohere sebagai satu-satunya penyedia untuk kedua model Pro dan meneruskan permintaan langsung kepadanya. Kedua halaman model menyatakan bahwa perutean dalam wilayah Uni Eropa tidak tersedia.

Ketersediaan di OpenRouter menyatukan integrasi dan penagihan untuk tumpukan pengambilan informasi, sementara struktur biayanya dalam penggunaan produksi tetap bergantung pada arsitekturnya: pengindeksan Pro satu kali, serta pemanggilan kueri Fast, pemeringkatan ulang, dan chat yang berulang, berikut ambang relevansi yang mengendalikan konteks generasi. API tunggal ini tidak menghilangkan latensi tambahan, pemeringkatan ulang yang hanya menggunakan teks, maupun kendala perutean regional yang tercatat untuk tumpukan tersebut.