Yapay zeka modelleri ve platformları
Pinecone, VQ-Bench Vektör Kuantizasyon Çerçevesini Açık Kaynak Olarak Sunuyor
Unite.AI sitesini Google'daki tercih ettiğiniz kaynaklara ekleyin
Pinecone, VQ-bench’i, vektör kuantizasyon yöntemlerini oluşturmak ve karşılaştırmak için açık kaynak bir çerçeve olarak, 17 Eylül 2026 duyurusunda Ashwin Padaki, Amir Ingber ve Edo Liberty tarafından yayınladı. Bu sürüm, popüler kuantizatörlerin çalışan bir karşılaştırmasını barındıran bir halka açık web sitesini, MIT lisanslı bir GitHub deposu ve VecDB@VLDB 2026’da sunulan bir makaleyi birleştiriyor.
Pinecone Neden Kuantizasyon Benchmark’ı Oluşturdu
Vektör kuantizasyonu, bir vektörü depolamak için gereken bit sayısını azaltır; yazarlar bunu bir vektör veritabanını sürdürmenin kritik bir parçası ve hem vektör veritabanları hem de büyük dil modelleri için önemli bir unsur olarak tanımlıyor. Pinecone, ilk prototiplerinden bu yana kuantizasyonu kullanıyor ve yazarlar, daha yeni araştırmaları incelemek ve karşılaştırmak istediklerinde, her makalenin performansı farklı ölçütler, farklı veri setleri ve farklı hedef donanım ile değerlendirdiğini gördüklerini belirttiler. Lider yöntemleri birbirleriyle karşılaştırmaya yönelik sistematik bir çaba bulamadıklarını söylediler.
Projenin temel varsayımı, yazarların belirttiği gibi, yayınlanan çoğu kuantizatörün nispeten küçük bir temel işlem kümesinden oluşturulmasıdır; bu nedenle bir kuantizatör inşa etmek, hangi temel işlemlerin ve hangi sırayla kullanılacağını belirten bir tarifeye indirgenebilir. eşlik eden makale, 31 Temmuz 2026’da arXiv’e gönderilmiş, çerçevenin yedi kavramsal kuantizasyon temelini tanımladığını, bunların keyfi olarak nasıl birleştirileceğini gösterdiğini ve 25 yaygın kuantizatörü bu temel işlemlerin ardışık hatları olarak yeniden ifade ettiğini belirtmektedir.
VQ-Bench Kuantizatörleri Nasıl Oluşturur
VQ-bench’te bir kuantizatör, bir dizi vektörü alabilen, sıkıştırabilen ve daha sonra istenen bilgiyi geri elde edebilen herhangi bir şeydir. Bir kuantizatör dört yöntemi uygulamalıdır: fit, vektör örneklerinden bir model öğrenir ve isteğe bağlı olarak sorgular; encode, modele dayanarak her vektör için kodlar döndürür; reconstruct, modeli ve kodunu kullanarak bir vektörü yeniden oluşturur; ve score, bir sorgu vektörü ile kodlanmış bir vektör arasındaki nokta çarpımını tahmin eder.
Bir temel işlem aynı dört yöntemi ve ek olarak apply ve apply_queries yöntemlerini uygular; bu yöntemler aşamanın veriyi bir sonraki aşamaya nasıl aktaracağını belirler. Bu iki yöntem, temel işlemlerin birleştirilebilmesini sağlayan zincirleme sözleşmesini oluşturur. VQ-bench üç grup temel işlem uygular: Center, Normalize, PCA ve RandomRotate gibi koşullandırıcılar; CastUint, CastAngular, CastNormal ve KMeans gibi yuvarlayıcılar; ve Segment gibi bölücüler.
Bir ardışık hat iki veya daha fazla temel işlemi zincirler. fit ve encode yöntemleri, vektörleri zincir boyunca ileri doğru hareket ettirir, her aşamanın görevini yerine getirir ve her aşamanın öğrenilen modelini ve çıktı kodlarını birleştirir; reconstruct, son aşamadan başlayarak geriye doğru yürür ve her aşama kendi katkısını geri ekler; score ise önce sorguyu apply_queries aracılığıyla ileri iterek aynı geriye doğru geçişi çalıştırır. Bir kuantizatör bir ardışık hat olmak zorunda değildir; dört yöntemi uygulayan herhangi bir şey yeterlidir, ancak yazarlar, yayınlanan çoğu kuantizatörün temel işlemlerin ardışık hatları olarak ifade edilebileceğini bildiriyor.
Duyuru, dört temel işlemden oluşan bir örnek ardışık hat olarak E-RaBitQ’yu kullanır: Center, her vektörden ortalama veri seti vektörünü çıkarır; Normalize, her vektörü birim normuna ölçeklendirir; rastgele bir döndürme, rastgele ortogonal ya da Hadamard dönüşümü uygular; ve açısal bir cast, her vektörü b-bitlik bir tam sayı ızgarasına, açıdaki en yakın ızgara noktasına yuvarlayarak sabitleştirir.
Karşılaştırma Kurulumu ve Bildirilen Bulgular
Yazarlar, VIBE’den beş veri seti üzerinde 14 kuantizatörden oluşan bir paket değerlendirdi ve bunların ikisi için ayrıntılı sonuçlar sundu: 768 boyutta 1.344.643 vektöre sahip ArXiv ve 384 boyutta 677.305 vektöre sahip Yahoo. Tam sonuçlar projenin karşılaştırma web sitesinde yayınlanmaktadır.
Yazarların geleneksel vektör kuantizasyon metriği ve LLM ağırlık sıkıştırması gibi uygulamalar için önemli olduğunu belirttikleri yeniden yapılandırma ortalama kare hatası, 1.000 rastgele seçilen veri seti vektörü üzerinde, her vektör ile yeniden yapılandırması arasındaki ortalama kare mesafe olarak ölçülür. Vektör veritabanları için yazarlar, özellikle yeniden sıralama için daha ilgili metrik olarak geri çağırmayı (recall) tanımlar; recall@10, her sorgunun 1.000 en yüksek nokta çarpımı veri seti vektörünü hesaplayarak ve kuantizatörün tahmin ettiği ilk 10’un gerçek ilk 10 içinde ne kadar bulunduğunu kontrol ederek, tüm sorgular üzerinde ortalama alınır. Duyurudaki kodlama süresi rakamları, 16 GB RAM ve altı iş parçacığı kullanan bir Apple M2 Pro üzerinde, kodlamanın parçalar halinde ve çok iş parçacıklı hızlandırma ile yapıldığı ortamda elde edilmiştir.
Yazarlar, PQ ve OPQ’nun tutarlı bir şekilde en düşük yeniden yapılandırma MSE’sini ürettiğini, EDEN ve E-RaBitQ’nun özellikle daha yüksek bit bütçelerinde geri çağırma açısından karşılaştırılabilir olduğunu ve EDEN’in PQ, OPQ ve E-RaBitQ’dan çok daha hızlı kodladığını rapor ediyor; bu da onu çoğu kuantizasyon uygulaması için iyi bir aday haline getirdiğini belirtiyorlar.
Depo, Araçlar ve Katkılar
The GitHub repository MIT lisanslıdır ve Pinecone’dan Amir Ingber ve Edo Liberty ile University of Pennsylvania’dan Ashwin Padaki adlı bakımcıları listeler. Rust tabanlı bir komut satırı aracı olan vqb’yi içerir; JSON çalışma yapılandırmaları veri setlerini, yöntemleri ve parametrelerini, kalite metriklerini, geri çağırma için k değerlerini, softmax sıcaklıklarını, bir ana tohum, alt örnekleme sayılarını ve iş parçacığı sayısını seçer; bir dry-run bayrağı, bir şey hesaplanmadan önce yapılandırmayı doğrular. Streaming modu, belleği aşan veri setlerini, temel vektörleri diskten bloklar halinde, varsayılan olarak 256 MB okuyarak işler.
Depo, duyuruma göre iki tür katkıyı kabul ediyor: zaten kütüphanenin sağladığı ilkelere yeniden sıralama getiren birkaç satır koddan oluşan yeni kuantizatörler ve katalogdaki diğer tüm ilkelere birleşebilen altı arayüz metodunu uygulayan yeni ilkeller. Değerlendirme çerçevesi recall@k, yeniden yapılandırma ve skor hatası, önyargı, softmax KL ve toplam varyasyon, boyutun bit per dimension, ayrıca kodlama, skor ve yeniden yapılandırma maliyetini ölçer. Yazarlar bu sürümü VQ-bench’in ilk yinelemesi olarak tanımlıyor ve zamanla daha fazla kuantizatör ekleyeceklerini belirtiyor; düzeltmeler depo sorun izleyicisi üzerinden gönderilebilir ve yayınlanan benchmark, yeni yöntemler eklenerek düzenli aralıklarla güncellenir.
