Meta’nın Faiss 1.16.0 Sürümü, Büyük Ölçekli Kümelemeyi Hızlandırmak için E-Means’i Ekliyor

Meta’nın Faiss bakımını üstlenen ekip, 10 Kasım 2026’da 1.16.0 sürümünü yayımladı. Sürümde FAIR at Meta’nın e-means kümeleme algoritması CPU, GPU ve dağıtık uygulamalarıyla sunuluyor. Araştırmacılar, karşılaştırılan uygulamalara kıyasla Lloyd k-means algoritmasının 25. dönemdeki hata düzeyini 1,4 ila 2,6 dönemde yakaladıklarını ve GPU’da geçen gerçek süre açısından 10–45 kat hızlanma sağladıklarını bildiriyor.

Yazılım sürümünden önce, 6 Kasım 2026’da araştırma ön baskısı arXiv’de sunulmuştu; dolayısıyla bu sürüm algoritmanın ilk kez kamuoyuna açıklanması anlamına gelmiyor. Çalışma, FAIR at Meta ve École Nationale des Ponts et Chaussées araştırmacıları tarafından yürütüldü.

1.16.0 sürümü; referans e-means uygulamalarını, dağıtık ve küme merkezleri parçalanmış eğitimi, Triton ve CuTe atama arka uçlarını, daha düşük hassasiyetli atamayı ve araştırma sonuçlarını yeniden üretmeye yönelik kıyaslamaları ekliyor. Ayrıca verileri bellekte tutan veya SSD’lerden akışla okuyan DINO gösterimleri de içeriyor.

E-Means Küme Merkezlerini Nasıl Güncelliyor?

K-means, vektörlerle en yakın küme merkezleri arasındaki ortalama kare uzaklığı en aza indiren küme merkezlerini bulmayı amaçlar; bu yaklaşım bilgi getirme, niceleme ve veri kürasyonu için kullanılır. Lloyd algoritması her noktayı en yakın küme merkezine atar, ardından tüm veri kümesini kullanarak her kümenin toplamını ve eleman sayısını yeniden hesaplar. e-means ise mini gruplardan gelen toplamları ve eleman sayılarını üstel olarak azaltılmış biçimde günceller; böylece önceki atamaların etkisi zamanla azalır. Her küme merkezinin değeri, biriken vektör toplamının biriken eleman sayısına bölünmesiyle elde edilir. Tüm veri kümesinin tek bir mini grup olarak kullanılması ve adım büyüklüğünün 1 olması, Lloyd algoritmasının bir iterasyonunu yeniden üretir.

Uyarlanmış iki ölçekleme yasası, veri kümesinin boyutuna, küme sayısına ve dönem bütçesine göre mini grup büyüklüğünü ve başlangıç adım büyüklüğünü belirleyerek önceki mini grup yaklaşımlarında gereken ayrı hiperparametre taramasını ortadan kaldırır. Kosinüs çizelgesi, adım büyüklüğünü başlangıç değerinin onda birine indirir. Yayımlanan sınıfın varsayılanı beş eğitim turudur ve kesirli tur sayılarını kabul eder.

Yazarlar, yasaları DEEP yapılandırmalarında 75.000 optimizasyon çalıştırması kullanarak uyarladı. Ayrılmış veri kümelerindeki medyan pişmanlık değerini, yani en iyi ızgara ayarına kıyasla ortaya çıkan fazla hatayı, adım yasası için %0,07 ve varsayılan mini grup yasası için %0,19 olarak bildiriyorlar. Yöntem ayrıca yeterince kullanılmayan kümeleri, bir kaynak kümeyi bölerek yeniden canlandırıyor; ardından her küme için son dönemdeki atamaların tam ortalamasını hesaplayarak işlemi tamamlıyor. Ayrı bir yavaş hareketli ortalama sonlandırma yöntemi ise örneklem dışı hatayı hedefliyor.

Kıyaslamalar On Milyar Vektöre Kadar Genişliyor

Makalenin tamamında, gömme ve sentetik veri kümelerinde yapılan doğrulama anlatılıyor. Başlıca GPU karşılaştırmaları H100 80GB GPU’larda, CPU deneyleriyse 64 çekirdekli Xeon Platinum 8462Y+ üzerinde gerçekleştirildi. Yazarlar, 11 VIBE gömme testinde e-means’in Lloyd algoritmasının 25 dönemde ulaştığı hata düzeyine 1,6 ila 2,6 dönemde eriştiğini bildiriyor. Her testte 20 rastgelelik tohumu kullanılırken, tek H100 üzerinde Flash-KMeans’e kıyasla 8,0 ila 22,8 kat; 64 CPU çekirdeğinde Faiss’e kıyasla 9,0 ila 15,0 kat hızlanma elde edildi.

En büyük ölçekte yazarlar, 10 milyar adet 1.024 boyutlu DINO yama gömmesi içeren DINO10B’yi, tam atama yöntemiyle 2,5 dönemde yaklaşık 16,7 milyon kümeye ayırdıklarını ve 25 dönemlik Lloyd temel çizgisinden biraz daha düşük bir test hatasına ulaştıklarını bildiriyor. Bu çalışma, 32 makinede toplam 779 GPU-saati kullandı. Ters dosya (IVF) dizini üzerinden yaklaşık en yakın küme merkezi araması kullanan ayrı bir çalışma ise sekiz GPU’lu tek bir makinede 23,2 GPU-saati harcayarak üç dönemden sonra temel çizgiyi geçti. IVF yaklaşımı, her noktayı her küme merkeziyle karşılaştırmak yerine seçili küme merkezi kovalarını arar.

Makale, on milyar vektör ölçeğinde IVF atamasının tam atamaya göre 34 kat daha düşük maliyetli olduğunu, ancak 100 milyon vektörde herhangi bir kazanç sağlamadığını bildiriyor. Bu fark, dönem sayısının tek başına altyapı gereksinimlerini belirlemediğini gösteriyor: Bir çalıştırmanın ne kadar donanıma ihtiyaç duyacağını uygulama ve atama yöntemi belirliyor.

Kullanılabilirlik ve Belgelenmiş Sınırlamalar

Resmî kullanım kılavuzu şunları sunuyor: NumpyEmeans NumPy verileri için ve Emeans PyTorch tensörleri için. Yalnızca Faiss CPU’da çalıştırmayı destekler; GPU’da çalıştırmak için CUDA etkinleştirilmiş PyTorch gerekir. CuTe çekirdekleri H100 ve H200’de, Triton ise desteklenen diğer yeni NVIDIA GPU’larında kullanılabilir. GPU’da yalnızca en yakın küme merkezini belirleme işlemi düşük hassasiyet kullanırken küme merkezleri, biriken toplamlar ve döndürülen uzaklıklar FP32 biçiminde kalır. Çoğaltılmış ve parçalanmış küme merkezleri sınıfları çok GPU’lu eğitimi destekler; makalede 16 milyon küme merkezine ait FP32 toplamların 64 GiB yer kapladığı belirtilerek bu ölçekte parçalamanın neden gerekli olduğu açıklanır.

Ölçekleme yasaları, boyutu görece yüksek veriler için ayarlanmıştır ve boyutu çok düşük ya da çok küçük veri kümelerinde en iyi sonucu vermez. Bu nedenle yayımlanan varsayılan ayarlar, 16 veya daha az boyutta kalite odaklı mini grup yasasını seçer; iki veya daha az boyutta ise yeniden canlandırmayı devre dışı bırakır. Kılavuz ayrıca döndürülen eğitim etiketlerinin son geçişten geldiği ve son küme merkezlerine yapılan atamalarla mutlaka örtüşmediği konusunda uyarıyor. GPU yolu, girdilerde NaN veya sonsuz değer olup olmadığını da denetlemiyor.

Büyük gömme koleksiyonlarını kümeleyen yapay zekâ işlem hatları için bu sürüm, ödünleşimi somutlaştırıyor: Daha az eğitim geçişi artık bakımı sürdürülen bir kütüphanede kullanılabiliyor; ancak GPU kullanımındaki en büyük düşüşler ölçeğe, donanıma ve yaklaşık atamanın iş yüküne uygun olup olmadığına bağlı.