Pinecone avaa lähdekoodiksi VQ-Bench vektorikvanttauskehyksen

Pinecone on julkaissut VQ-benchin, avoimen lähdekoodin kehyksen vektorikvanttausmenetelmien rakentamiseen ja vertailuun, 17. syyskuuta 2026 ilmoituksessa Ashwin Padakin, Amir Ingberin ja Edo Liberty toimesta. Julkaisu yhdistää julkisen verkkosivuston, joka tarjoaa käynnissä olevan vertailun suosituista kvantisoijista, MIT-lisensoidun GitHub-repositorion ja VecDB@VLDB 2026 -konferenssissa esitellyn artikkelin.

Miksi Pinecone rakensi kvantisointibenchi

Vektorikvanttaus vähentää vektorin tallentamiseen tarvittavien bittien määrää, ja tekijät kuvaavat sitä kriittisenä osana vektoritietokannan ylläpitoa sekä tärkeänä sekä vektoritietokannat että suurille kielimalleille. Pinecone on käyttänyt kvantisointia jo ensimmäisissä prototyypeissaan, ja tekijät kirjoittivat, että kun he alkoivat kartoittaa ja vertailla uutta tutkimusta, he huomasivat, että jokainen artikkeli arvioi suorituskykyä eri tavoin: erilaiset mittarit, erilaiset aineistot ja erilainen kohdelaitteisto. He totesivat, etteivät löytäneet yhtään systemaattista yritystä arvioida johtavia menetelmiä toisiaan vastaan.

Projektin oletus, kuten tekijät kuvaavat, on, että suurin osa julkaistuista kvantisoijista koostuu melko pienestä joukosta perusoperaatioita, joten kvantisoijan rakentaminen voidaan tiivistää reseptiin siitä, mitä perusoperaatioita käytetään ja missä järjestyksessä. Liitteenä oleva artikkeli, joka on lähetetty arXiviin 31. heinäkuuta 2026, toteaa, että kehys kuvaa seitsemän käsitteellistä kvantisointiperusoperaatiota, näyttää miten ne voidaan yhdistää mielivaltaisesti, ja esittää 25 yleistä kvantisoijaa näiden perusoperaatioiden putkistoina.

Kuinka VQ-Bench koostaa kvantisoijia

VQ-benchissä kvantisoija on mikä tahansa, joka pystyy ottamaan joukon vektoreita, pakkaamaan ne ja palauttamaan halutun tiedon myöhemmin. Kvantisoijan on toteutettava neljä menetelmää: fit, joka oppii mallin vektorinäytteestä ja tarvittaessa kyselyistä; encode, joka palauttaa jokaiselle vektorille koodit annetun mallin perusteella; reconstruct, joka rakentaa vektorin mallin ja sen koodin avulla; sekä score, joka arvioi pistetulon kyselyvektorin ja koodatun vektorin välillä.

Perusoperaatio toteuttaa samat neljä menetelmää sekä kaksi lisämenetelmää, apply ja apply_queries, jotka määrittelevät, miten vaihe siirtää dataa seuraavalle. Nämä kaksi menetelmää muodostavat ketjuttamissopimuksen, jonka avulla perusoperaatioita voidaan yhdistää. VQ-bench toteuttaa kolme perusoperaatioiden ryhmää: ehtojentäjät, kuten Center, Normalize, PCA ja RandomRotate; pyöristäjät, kuten CastUint, CastAngular, CastNormal ja KMeans; sekä jakajat, kuten Segment.

Putki ketjuttaa kaksi tai useampia perusoperaatioita. Fit- ja encode-menetelmät kuljettavat vektorit eteenpäin ketjussa, suorittaen kunkin vaiheen tehtävän ja liittäen yhteen kunkin vaiheen oppiman mallin ja tuotetut koodit; reconstruct aloittaa viimeisestä vaiheesta ja kulkee taaksepäin, jolloin jokainen vaihe lisää oman kontribuationsa takaisin; ja score siirtää ensin kyselyn eteenpäin apply_queries-menetelmän kautta ennen saman taaksepäin kulkevan vaiheen suorittamista. Kvantisoijan ei tarvitse olla putki, koska mikä tahansa neljä menetelmää toteuttava kelpaa, mutta tekijät raportoivat, että suurin osa julkaistuista kvantisoijista voidaan esittää perusoperaatioiden putkina.

Ilmoituksessa E-RaBitQ toimii esimerkkiputkena, jossa on neljä perusoperaatiota: Center, joka vähentää jokaisesta vektorista aineiston keskiarvoisen vektorin; Normalize, joka skaalaa jokaisen vektorin yksikkönormiin; satunnainen kierto, joka soveltaa satunnaista ortogonaalista tai Hadamard-muunnosta; sekä kulmallinen muunnos, joka napauttaa jokaisen vektorin b-bittiseen kokonaislukugittiin pyöristämällä lähimpään kulmakoordinaatin ruutupisteeseen.

Vertailun asetukset ja raportoituja havaintoja

Tekijät arvioivat 14 kvantisoijaa viidellä VIBE‑aineistolla, esittäen yksityiskohtaiset tulokset kahdelle niistä: ArXiv, jossa on 1 344 643 vektoria 768 ulottuvuudessa, ja Yahoo, jossa on 677 305 vektoria 384 ulottuvuudessa. Kaikki tulokset on julkaistu projektin vertailusivustolla.

Rekonstruoinnin keskineliövirhe (MSE), jota tekijät kutsuvat perinteiseksi vektorikvantauksen mittariksi ja joka on tärkeä sovelluksissa kuten LLM‑mallien painojen pakkaus, mitataan 1 000 satunnaisesti otetulla aineistovektorilla keskimääräisenä neliöetäisyytenä jokaisen vektorin ja sen rekonstruoinnin välillä. Vektoritietokannoille tekijät kuvaavat recall‑mittaria merkityksellisempänä, erityisesti uudelleenjärjestämisessä; recall@10 mitataan laskemalla jokaisen kyselyn 1 000 suurinta pistetulovektoria aineistosta ja tarkistamalla, kuinka suuri osuus kvantisoijan arvioimasta top‑10:stä osuu todelliseen top‑10:een, keskiarvona kaikista kyselyistä. Ilmoituksessa esitetyt koodausajat on saatu Apple M2 Pro -laitteella, jossa on 16 GB RAM-muistia ja kuusi säiettä, koodaus tapahtui paloittain ja monisäikeistys nopeutti prosessia.

Tekijät raportoivat, että PQ ja OPQ tuottivat johdonmukaisesti alhaisimmat rekonstruoinnin MSE‑arvot, että EDEN ja E-RaBitQ olivat vertailukelpoisia recall‑mittarissa, erityisesti suuremmilla bittibudjeteilla, ja että EDEN koodasi huomattavasti nopeammin kuin PQ, OPQ ja E-RaBitQ, mikä heidän mukaansa tekee siitä hyvän ehdokkaan useimpiin kvantisointisovelluksiin.

Varasto, työkalut ja kontribuutiot

GitHub-arkisto on MIT-lisenssiä ja siinä luetellaan ylläpitäjät Amir Ingber ja Edo Liberty Pineconesta sekä Ashwin Padaki Pennsylvanian yliopistosta. Se sisältää Rust-pohjaisen komentorivityökalun, vqb:n, jonka JSON-suoritusasetukset valitsevat tietoaineistot, menetelmät ja niiden parametrit, laatumittarit, k‑arvot palauttamiselle, softmax‑lämpötilat, pääsiemenen, alinäytteiden määrät ja säikeiden määrän; dry‑run‑lippu tarkistaa asetuksen ennen kuin mitään lasketaan. Suoratoistotila käsittelee muistia suurempia tietoaineistoja lukemalla perusvektorit levyltä lohkoina, oletuksena 256 Mt.

Arkisto hyväksyy ilmoituksen mukaan kaksi tyyppiä kontribuutioita: uudet kvantisoijat, jotka ovat usein vain muutama koodirivi, jotka järjestävät uudelleen kirjaston jo tarjoamat primitiivit, sekä uudet primitiivit, jotka toteuttavat kuusi rajapintametodia ja jotka sitten yhdistyvät kaikkiin muihin primitiiveihin luettelossa. Arviointirakenne mittaa recall@k:n, rekonstruktio‑ ja pistemäärävirheen, vinouman, softmax‑KL:n ja kokonaisvaihtelun, koon biteinä per dimensio sekä koodaus‑, pistemäärä‑ ja rekonstruktio‑kustannuksen. Tekijät kuvaavat tätä julkaisua VQ-benchin ensimmäisenä iteraationa ja kertovat lisäävänsä ajan myötä uusia kvantisoijia; korjauksia voi tehdä arkiston ongelmaseurannassa, ja julkaistu vertailuarvio päivitetään säännöllisesti uusilla menetelmillä.