Perplexity ra mắt các mô hình Decider V1.3 với khả năng trích xuất đoạn văn bản

Perplexity đã ra mắt Decider v1.3 và Decider Flash v1.3 vào ngày 12 tháng 11 năm 2026, bổ sung khả năng trích xuất nguyên văn đoạn văn bản và cung cấp trọng số Apache-2.0 để tải xuống. Công ty cho biết mô hình lớn hơn đạt độ chính xác trung bình 91.6% trên 63 tác vụ phân loại truy vấn, với các nhãn tham chiếu được một LLM tiên tiến gán lại độc lập; kết quả này cao hơn 6.54 điểm phần trăm so với các bộ phân loại đang được triển khai trong thực tế.

Tính năng Locate trả về đoạn văn bản khớp chính xác cùng vị trí ký tự bắt đầu và kết thúc, phục vụ nhận dạng thực thể có tên, phát hiện thông tin cá nhân và trả lời câu hỏi trích xuất; nếu không tìm thấy kết quả khớp, hệ thống trả về một danh sách rỗng. Cả hai mô hình cũng có trên OpenRouter và Decisions API của Perplexity.

Decider trả về xác suất cho câu hỏi có/không, các lựa chọn tùy chỉnh hoặc điểm số có thứ tự, thay vì tạo văn bản. Ứng dụng có thể đặt nhiều câu hỏi về cùng một văn bản, JSON hoặc hình ảnh, rồi dùng các con số nhận được để phân loại, định tuyến yêu cầu, kiểm duyệt, lọc, đánh giá đầu ra và xếp hạng lại. Những tác vụ này thường cần một ngưỡng quyết định thay vì khả năng tạo nội dung tự do.

Những thay đổi về kiến trúc và huấn luyện

Decider điều chỉnh các mô hình nền tạo sinh bằng cách thay đầu ra dự đoán token tiếp theo bằng một đầu phân loại quyết định, được đọc tại một token đánh dấu. Đầu này chỉ khởi tạo từ các hàng của mô hình nền tương ứng với những token lựa chọn câu trả lời. Trong v1.3, Perplexity chuyển các lớp chú ý toàn phần sang cơ chế hai chiều và ngăn các câu hỏi chú ý trực tiếp đến nhau, đồng thời cho phép trạng thái đầu vào dùng chung chú ý đến các câu hỏi. Cách thiết kế này thay thế cấu trúc của v1.2, trong đó câu trả lời có thể thay đổi tùy theo những câu hỏi khác được đặt ra, và nhằm giúp câu trả lời ổn định hơn.

Quá trình huấn luyện chuyển đổi hàng trăm bộ dữ liệu công khai sang một định dạng chung gồm trạng thái, câu hỏi, các lựa chọn và mục tiêu. Quá trình tinh chỉnh tổng quát loại trừ các phân vùng huấn luyện của bộ chuẩn đối chiếu; Perplexity cho biết họ cũng loại bỏ những mẫu có thể trùng lặp với các bộ đánh giá của mình. Giai đoạn chuyên biệt hóa sau đó cho từng lĩnh vực và thị giác sử dụng LoRA, một phương pháp đóng băng trọng số đã tiền huấn luyện trong khi huấn luyện các ma trận phân rã hạng được chèn vào. Perplexity dùng phương pháp gộp bộ điều hợp có trọng số để kiểm soát độ lệch và lấy trung bình trọng số từ ba lần chạy trong các giai đoạn xử lý văn bản.

Sau đó, Flash được chưng cất từ mô hình lớn hơn; phương pháp này sử dụng độ phân kỳ KL để giảm chênh lệch giữa xác suất đầu ra của mô hình Flash và mô hình giáo viên, thay vì chỉ học từ các nhãn chuẩn. Thẻ mô hình Decider v1.3 nêu rõ mô hình nền Qwen3.8-27B và trọng số BF16 có dung lượng khoảng 49 GiB; thẻ Decider Flash v1.3 nêu Qwen3.5-4B và dung lượng khoảng 8.5 GiB. Để tự lưu trữ một trong hai mô hình, cần có GPU CUDA và bộ nhớ hoạt động ngoài dung lượng dành cho trọng số; vì vậy, Flash có yêu cầu phần cứng thấp hơn.

Giới hạn triển khai của Locate

Locate chỉ xử lý văn bản và giới hạn mỗi yêu cầu ở 128 câu hỏi Locate. Các yêu cầu kết hợp Locate với câu hỏi quyết định cần chạy riêng một lượt truyền xuôi cho từng loại, làm tăng độ trễ so với yêu cầu chỉ gồm một loại.

Perplexity không gộp các bộ điều hợp Locate vì việc gộp gây suy giảm hiệu quả trên những yêu cầu quyết định thông thường; các bộ điều hợp này chỉ được kích hoạt cho yêu cầu Locate. Thiết kế này duy trì hành vi quyết định hiện có, nhưng các khối lượng công việc kết hợp không thể dùng chung hoàn toàn một lượt tính toán.

Đánh giá và sử dụng trong thực tế

Bộ đánh giá nội bộ của Perplexity gồm hơn 200 tác vụ và chạy theo phương thức zero-shot, không tinh chỉnh riêng cho từng tác vụ. Bộ này bổ sung các bảng xếp hạng công khai bằng những tác vụ triển khai thực tế riêng tư và các đánh giá trên tập dữ liệu công khai không thuộc bộ chuẩn đối chiếu nhưng được giữ lại, nhằm kiểm tra khả năng khái quát hóa vượt ra ngoài những bộ đánh giá quen thuộc.

Trên 72 tác vụ truy xuất, công ty cho biết phương pháp xếp hạng lại theo từng cặp, zero-shot, đạt nDCG@10 trung bình 83.99; trong phương pháp này, mỗi cặp truy vấn-tài liệu được chấm điểm độc lập. Kết quả cao hơn Qwen3-Reranker-8B 1.81 điểm.

Để kiểm tra trong thực tế, Perplexity lấy mẫu một triệu yêu cầu API đã loại bỏ trùng lặp và che thông tin cá nhân, từ 18 ngày đầu tiên API hoạt động. Mẫu này bao gồm 2,318,887 câu hỏi riêng lẻ, tất cả đều được đưa vào nghiên cứu với sự cho phép rõ ràng của người dùng. Các giám khảo LLM tiên tiến cung cấp câu trả lời tham chiếu vì yêu cầu thực tế không có nhãn chuẩn.

Perplexity cho biết v1.3 đạt mức độ đồng thuận 93.98% với các giám khảo đó, so với 93.68% của v1.2. Mức chênh lệch không lớn; chỉ số này thể hiện sự đồng thuận với các câu trả lời tham chiếu do mô hình tạo ra, chứ không phải độ chính xác so với nhãn chuẩn.

Với cùng mẫu yêu cầu, Perplexity báo cáo chi phí là $26.47 cho Decider v1.3 và $13.24 cho Flash. Decider chạy cục bộ; phép so sánh không nêu cách hạch toán chi phí phần cứng cục bộ hoặc cung cấp kết quả độ trễ được đo trong điều kiện tương đương. Vì vậy, các con số này phản ánh khối lượng công việc cụ thể đó, chứ không cho thấy lợi thế phổ quát về chi phí hay tốc độ.

Perplexity cũng dùng Decider ngoại tuyến để rà soát nhật ký bảo mật của tác nhân, tìm các vấn đề bị bỏ sót và cảnh báo sai. Trong một ngày được báo cáo, hệ thống xử lý 1 billion token trên 7,000 phiên tác nhân và phát hiện các lỗ hổng dẫn đến 14 đề xuất sửa quy tắc; sáu đề xuất trong số đó được phê duyệt và triển khai trong vòng hai ngày. Khi chạy lại nhật ký của một tuần với các bản sửa đổi, lưu lượng của quy tắc bận nhất giảm 52%, trong khi các quy tắc được mở rộng phát hiện nhiều hơn khoảng 40% hành động hợp lệ cần điều tra.

Một hệ thống nội bộ thứ hai lưu trữ xác suất về các lỗi trong học tăng cường và cách diễn giải của tác nhân, cho phép thay đổi ngưỡng mà không cần truy vấn Decider mới. Hệ thống này chỉ quan sát và chẩn đoán, không bao giờ điều chỉnh phần thưởng hay dừng các lượt chạy. Decider cũng lọc các trang chất lượng thấp được thu thập bằng trình thu thập dữ liệu, đồng thời đánh giá đối tượng độc giả, tên miền, nội dung độc hại hoặc bất hợp pháp và thông tin cá nhân trong cùng một lượt xử lý.

Perplexity khuyến nghị hiệu chỉnh các ngưỡng quyết định trên những ví dụ có nhãn đại diện, vì tần suất xuất hiện của các nhãn và chi phí của dương tính giả cũng như âm tính giả khác nhau tùy ứng dụng. Perplexity định vị mô hình đầy đủ dành cho những đánh giá tinh tế, trong đó sai sót phải trả giá đắt, còn Flash dành cho các tác vụ khối lượng lớn bị giới hạn bởi độ trễ và chi phí.

Do đó, phạm vi ứng dụng rộng của Decider đi kèm với gánh nặng triển khai: các xác suất giúp mô hình có thể tái sử dụng cho nhiều tác vụ vẫn đòi hỏi ngưỡng riêng cho từng ứng dụng, còn khả năng trích xuất bổ sung của Locate làm tăng lượng tính toán đối với các yêu cầu kết hợp.