Cohere đưa Embed 5 và Rerank 5 lên API thống nhất của OpenRouter

Cohere thông báo vào ngày 4 tháng 11 năm 2026 rằng các mô hình truy xuất Embed 5 và Rerank 5 hiện đã có trên OpenRouter. Người dùng hiện tại có thể gọi các mô hình này bằng cùng khóa API và số dư tín dụng như những mô hình khác, không cần SDK, tài khoản hay hóa đơn riêng.

Các mô hình đảm nhiệm những giai đoạn truy xuất trong quy trình tạo sinh tăng cường truy xuất, hay RAG: Embed 5 chuyển tài liệu và truy vấn thành các vector, Rerank 5 chấm điểm lại các ứng viên dựa trên truy vấn, còn bất kỳ mô hình trò chuyện nào trên OpenRouter cũng có thể tạo câu trả lời cuối cùng. Cohere cũng công bố quy trình tham khảo bằng Python, bao gồm lập chỉ mục, truy xuất, lọc mức độ liên quan và tạo câu trả lời có trích dẫn.

Trang niêm yết Embed 5 Pro của OpenRouter định giá mô hình ở mức 0,12 USD cho mỗi triệu token văn bản và 0,40 USD cho mỗi triệu token hình ảnh; Embed 5 Fast được niêm yết ở mức 0,08 USD cho mỗi triệu token. Trang niêm yết Rerank 5 Pro định giá phiên bản Pro ở mức 0,05 USD cho mỗi triệu token đầu vào, còn Rerank 5 Fast có giá 0,02 USD cho mỗi triệu token.

Việc triển khai trên OpenRouter mở rộng phạm vi phân phối, chứ không đưa ra một thế hệ mô hình mới. Cohere ra mắt Embed 5 vào ngày 30 tháng 9 năm 2026 và Rerank 5 vào ngày 21 tháng 10 năm 2026; cả hai dòng đều có phiên bản Pro và Fast.

Embedding dùng chung giúp tách biệt chi phí lập chỉ mục và truy vấn

Điểm kiến trúc cốt lõi là Embed 5 Pro và Fast dùng chung một không gian embedding. Vì vậy, có thể lập chỉ mục một tập dữ liệu bằng Pro rồi truy vấn bằng Fast mà không cần xây dựng lại chỉ mục, miễn là cả hai dùng cùng số chiều đầu ra. Cách làm này tách công việc lập chỉ mục, chỉ thực hiện một lần cho mỗi tập dữ liệu, khỏi lệnh gọi embedding nhạy cảm với độ trễ và chi phí, vốn được thực hiện cho mỗi câu hỏi.

Trong các thử nghiệm trên 40 tập dữ liệu phát triển của Cohere, chất lượng truy xuất trung bình đã chuẩn hóa đạt 98,4 khi truy vấn chỉ mục được tạo bằng Pro bằng Fast, và 96,6 khi dùng Fast ở cả hai khâu; mức chuẩn để Pro đảm nhiệm cả hai khâu là 100. Quy trình OpenRouter áp dụng cách kết hợp này—lập chỉ mục bằng Pro, truy vấn bằng Fast—và dành Pro cho giai đoạn lập chỉ mục ngoại tuyến.

Embed 5 cung cấp sáu kích thước vector, từ 256 đến 2.048 chiều; 2.048 là mặc định. Ví dụ của OpenRouter dùng vector dấu phẩy động 1.024 chiều vì API embedding của nền tảng trả về số dấu phẩy động; riêng Cohere khuyến nghị dùng vector int8 ở số chiều đó vì đây là điểm cân bằng chất lượng/chi phí mà hãng ưu tiên. Gom các đoạn thành lô giúp giảm số lượt trao đổi mạng trong quá trình lập chỉ mục, nhưng không làm giảm phí embedding tính theo token. Quy trình trực tuyến thực hiện một lệnh gọi Embed 5 Fast, một lệnh gọi Rerank 5 và, nếu ngữ cảnh vượt qua bước lọc, một lệnh gọi mô hình trò chuyện cho mỗi câu hỏi.

Điểm mức độ liên quan quyết định ngữ cảnh dùng để tạo câu trả lời

Quy trình tham khảo truy xuất 20 đoạn bằng độ tương đồng cosine, gửi chúng cùng câu hỏi đến Rerank 5, giữ lại tối đa năm kết quả và loại bỏ những kết quả có điểm dưới ngưỡng minh họa 0,3. Rerank đánh giá đồng thời truy vấn và từng ứng viên, thay vì chỉ dựa vào khoảng cách vector; mô hình cũng có thể hoạt động sau bước tìm kiếm ngữ nghĩa, tìm kiếm từ khóa hoặc tìm kiếm kết hợp mà không cần Embed 5.

Cohere cho biết điểm số đã hiệu chuẩn của Rerank 5 vẫn nhất quán giữa các truy vấn và lĩnh vực, nhờ đó một ngưỡng duy nhất có thể quyết định ngữ cảnh nào được chuyển đến mô hình tạo sinh; tài liệu ra mắt của hãng mô tả điểm 0,7 là xác suất 70% rằng tài liệu hữu ích. Pro dành cho các truy vấn đòi hỏi suy luận nhiều và tài liệu dài hoặc chuyên biệt theo lĩnh vực, trong khi Fast hướng đến tìm kiếm khối lượng lớn và các tác tử tìm kiếm lặp đi lặp lại. Các mô hình hỗ trợ ngữ cảnh 32K token và có thể xử lý bản ghi JSON hoặc bảng được định dạng thành chuỗi YAML.

Ở giai đoạn tạo câu trả lời, các đoạn vượt qua bước lọc trở thành những nguồn được đánh số; mô hình được yêu cầu chỉ trả lời dựa trên các nguồn này và trích dẫn chúng ngay trong câu trả lời. Nếu không có đoạn nào vượt ngưỡng, quy trình sẽ báo rằng không tìm được câu trả lời và bỏ qua lệnh gọi mô hình trò chuyện. Vì Rerank đọc văn bản thô tại thời điểm truy vấn, việc chuyển đổi phiên bản mô hình xếp hạng lại không đòi hỏi lập chỉ mục hay tạo embedding lại.

Kết quả minh họa và các giới hạn khi triển khai thực tế

Bản minh họa của Cohere dùng tài liệu API giả định và đặt câu hỏi về cách xoay vòng khóa mà không gây gián đoạn dịch vụ. Khi chỉ truy xuất bằng embedding, tài liệu chính xác nhất—Xoay vòng khóa API—đứng đầu với điểm 0,522, tiếp theo là Bí mật ký webhook với 0,337 và Tạo khóa API với 0,316. Sau khi xếp hạng lại, tài liệu chính xác đạt 0,808, còn cả hai tài liệu gần khớp đều có điểm thấp hơn ngưỡng.

Mẫu yêu cầu Python 3.10 trở lên, khóa API OpenRouter, SDK Python và NumPy để tạo kho vector trong bộ nhớ. Hướng dẫn dành cho các triển khai thực tế yêu cầu thay kho này bằng cơ sở dữ liệu vector. Hướng dẫn RAG của OpenRouter xem việc xếp hạng lại là lựa chọn đánh đổi giữa độ chính xác và độ trễ: phương pháp này có thể cải thiện kết quả khi cần thu hẹp một tập ứng viên rộng, nhưng làm phát sinh thêm một lệnh gọi API và kém phù hợp hơn khi ưu tiên độ trễ tối thiểu.

Truy xuất đa phương thức cần có giải pháp thay thế. Embed 5 chấp nhận hình ảnh và đầu vào kết hợp văn bản với hình ảnh, chẳng hạn như các trang PDF; API embedding của OpenRouter cũng chấp nhận URL hình ảnh, nhưng Rerank 5 chỉ xử lý văn bản. Các phương án được đề xuất là xếp hạng lại văn bản đã trích xuất từ trang hoặc chú thích hình ảnh, hoặc bỏ qua bước xếp hạng lại đối với kết quả trực quan.

OpenRouter liệt kê Cohere là nhà cung cấp duy nhất cho cả hai mô hình Pro và chuyển tiếp yêu cầu trực tiếp đến Cohere. Cả hai trang niêm yết đều nêu rằng không hỗ trợ định tuyến trong khu vực EU.

Việc có mặt trên OpenRouter hợp nhất khâu tích hợp và thanh toán của hệ thống truy xuất, trong khi chi phí vận hành trong môi trường sản xuất vẫn phụ thuộc vào kiến trúc: lập chỉ mục Pro một lần, các lệnh gọi truy vấn Fast, xếp hạng lại và trò chuyện định kỳ, cùng ngưỡng mức độ liên quan chi phối ngữ cảnh tạo sinh. API duy nhất không loại bỏ các hạn chế đã ghi nhận của hệ thống này về độ trễ tăng thêm, khả năng xếp hạng lại chỉ dựa trên văn bản và định tuyến theo khu vực.