Pinecone Mở Nguồn Khung Vector Quantization VQ-Bench

Pinecone đã phát hành VQ-bench, một khung công cụ mã nguồn mở để xây dựng và đánh giá các phương pháp vector quantization, trong một thông báo ngày 17 tháng 9 năm 2026 bởi Ashwin Padaki, Amir Ingber và Edo Liberty. Bản phát hành đi kèm một trang web công khai chạy benchmark các bộ lượng tử phổ biến cùng với kho GitHub được cấp phép MIT và một bài báo được trình bày tại VecDB@VLDB 2026.

Lý do Pinecone xây dựng một Benchmark lượng tử

Vector quantization giảm số bit cần thiết để lưu trữ một vector, điều mà các tác giả mô tả là một phần quan trọng trong việc duy trì một cơ sở dữ liệu vector và cũng quan trọng đối với cả cơ sở dữ liệu vector và các mô hình ngôn ngữ lớn. Pinecone đã sử dụng lượng tử hóa kể từ các nguyên mẫu đầu tiên, và các tác giả viết rằng khi họ bắt đầu khảo sát và đánh giá các nghiên cứu mới hơn, họ nhận thấy mỗi bài báo đánh giá hiệu năng theo cách khác nhau: các chỉ số khác nhau, các bộ dữ liệu khác nhau và phần cứng mục tiêu khác nhau. Họ cho biết không thể tìm thấy bất kỳ nỗ lực có hệ thống nào để đánh giá các phương pháp hàng đầu so với nhau.

Tiên đề của dự án, theo mô tả của các tác giả, là hầu hết các bộ lượng tử đã công bố được lắp ráp từ một tập hợp tương đối nhỏ các phép toán nguyên thủy, vì vậy việc xây dựng một bộ lượng tử có thể được rút gọn thành một công thức về các nguyên thủy cần sử dụng và thứ tự sử dụng. bài báo đi kèm, được gửi lên arXiv vào ngày 31 tháng 7 năm 2026, cho biết khung công việc mô tả bảy nguyên thủy lượng tử khái niệm, trình bày cách kết hợp chúng một cách tùy ý, và tái diễn giải 25 bộ lượng tử phổ biến thành các pipeline của những nguyên thủy đó.

Cách VQ-Bench Kết Hợp Các Bộ Lượng Tử

Trong VQ-bench, một bộ lượng tử là bất kỳ thứ gì có thể nhận một tập hợp các vector, nén chúng và sau này khôi phục thông tin mong muốn. Một bộ lượng tử phải triển khai bốn phương thức: fit, học mô hình từ một mẫu vector và tùy chọn các truy vấn; encode, trả về mã cho mỗi vector dựa trên mô hình; reconstruct, tái tạo một vector từ mô hình và mã của nó; và score, ước tính tích vô hướng giữa một vector truy vấn và một vector đã được mã hoá.

Một nguyên thủy triển khai cùng bốn phương thức trên cộng thêm hai phương thức khác, apply và apply_queries, xác định cách giai đoạn chuyển dữ liệu cho giai đoạn tiếp theo. Hai phương thức này tạo thành hợp đồng chuỗi cho phép các nguyên thủy được kết hợp. VQ-bench triển khai ba nhóm nguyên thủy: các bộ điều kiện như Center, Normalize, PCA và RandomRotate; các bộ làm tròn như CastUint, CastAngular, CastNormal và KMeans; và các bộ tách như Segment.

Một pipeline nối chuỗi hai hoặc nhiều nguyên thủy. Các phương thức fit và encode di chuyển các vector tiến lên chuỗi, thực hiện công việc của mỗi giai đoạn và nối tiếp mô hình đã học và mã đầu ra của mỗi giai đoạn; reconstruct bắt đầu từ giai đoạn cuối cùng và di chuyển ngược lại, với mỗi giai đoạn gập lại đóng góp của mình; và score đầu tiên đưa truy vấn tiến qua apply_queries trước khi thực hiện quá trình ngược lại tương tự. Một bộ lượng tử không nhất thiết phải là một pipeline, vì bất kỳ thứ gì triển khai bốn phương thức đều đủ, nhưng các tác giả báo cáo rằng hầu hết các bộ lượng tử đã công bố có thể được biểu diễn dưới dạng pipeline của các nguyên thủy.

Thông báo minh họa qua E-RaBitQ như một pipeline ví dụ gồm bốn nguyên thủy: Center, trừ vector trung bình của bộ dữ liệu khỏi mỗi vector; Normalize, chuẩn hoá mỗi vector về độ dài đơn vị; một phép quay ngẫu nhiên áp dụng biến đổi trực giao hoặc Hadamard ngẫu nhiên; và một phép cast góc khiến mỗi vector khớp vào lưới số nguyên b-bit bằng cách làm tròn đến điểm lưới gần nhất theo góc.

Cài Đặt Benchmark và Những Phát Hiện Được Báo Cáo

Các tác giả đã đánh giá một bộ gồm 14 bộ lượng tử trên năm bộ dữ liệu từ VIBE, trình bày kết quả chi tiết cho hai trong số chúng: ArXiv, với 1,344,643 vector trong 768 chiều, và Yahoo, với 677,305 vector trong 384 chiều. Toàn bộ kết quả được công bố trên trang web benchmark của dự án.

Sai số trung bình bình phương (MSE) của việc tái tạo, mà các tác giả gọi là chỉ số truyền thống cho vector quantization và quan trọng cho các ứng dụng như nén trọng số LLM, được đo trên 1,000 vector mẫu ngẫu nhiên từ bộ dữ liệu dưới dạng khoảng cách bình phương trung bình giữa mỗi vector và bản tái tạo của nó. Đối với cơ sở dữ liệu vector, các tác giả mô tả recall là chỉ số có liên quan hơn, đặc biệt cho việc sắp xếp lại; recall@10 được đo bằng cách tính 1,000 vector dataset có tích vô hướng tối đa cho mỗi truy vấn và kiểm tra tỷ lệ phần trăm các vector trong top-10 ước tính của bộ lượng tử nằm trong top-10 thực tế, trung bình trên tất cả các truy vấn. Các số liệu thời gian mã hoá trong thông báo được thu thập trên Apple M2 Pro với 16GB RAM sử dụng sáu luồng, với quá trình mã hoá được thực hiện theo khối và tăng tốc bằng đa luồng.

Các tác giả báo cáo rằng PQ và OPQ liên tục cho ra MSE tái tạo thấp nhất, rằng EDEN và E-RaBitQ có kết quả recall tương đương, đặc biệt ở các ngân sách bit cao hơn, và rằng EDEN mã hoá nhanh hơn nhiều so với PQ, OPQ và E-RaBitQ, điều mà họ mô tả là khiến nó trở thành một ứng cử viên tốt cho hầu hết các ứng dụng lượng tử.

Kho Mã, Công Cụ và Đóng Góp

kho lưu trữ GitHub có giấy phép MIT và liệt kê các người duy trì là Amir Ingber và Edo Liberty của Pinecone và Ashwin Padaki của University of Pennsylvania. Nó cung cấp một công cụ dòng lệnh dựa trên Rust, vqb, với các cấu hình chạy JSON cho phép chọn bộ dữ liệu, phương pháp và các tham số của chúng, các chỉ số chất lượng, các giá trị k cho độ thu hồi, nhiệt độ softmax, một hạt giống chính, số lượng lấy mẫu phụ, và số luồng; cờ dry-run xác thực cấu hình trước khi thực hiện bất kỳ tính toán nào. Chế độ streaming xử lý các bộ dữ liệu lớn hơn bộ nhớ bằng cách đọc các vector cơ bản từ đĩa theo khối, mặc định 256 MB.

Kho lưu trữ chấp nhận hai loại đóng góp, theo thông báo: các bộ lượng tử mới, thường chỉ là vài dòng mã sắp xếp lại các primitive mà thư viện đã cung cấp, và các primitive mới thực hiện sáu phương thức giao diện, sau đó kết hợp với mọi primitive khác trong danh mục. Bộ công cụ đánh giá đo lường recall@k, lỗi tái tạo và lỗi điểm số, độ lệch, softmax KL và tổng biến thiên, kích thước tính bằng bit trên mỗi chiều, cũng như chi phí mã hoá, tính điểm và tái tạo. Các tác giả mô tả bản phát hành này là vòng lặp đầu tiên của VQ-bench và cho biết họ sẽ thêm nhiều bộ lượng tử hơn theo thời gian; các sửa lỗi có thể được gửi qua trình theo dõi vấn đề của kho lưu trữ, và bộ chuẩn đã công bố được cập nhật định kỳ với các phương pháp mới được tích hợp.