نماذج ومنصات الذكاء الاصطناعي
يضيف Faiss 1.16.0 من Meta خوارزمية E-Means لتسريع التجميع واسع النطاق
أضف Unite.AI إلى مصادرك المفضلة على Google
أصدر القائمون على صيانة Faiss من Meta الإصدار 1.16.0 في 10 نوفمبر 2026، متضمناً خوارزمية التجميع e-means التي طورتها FAIR at Meta، مع تطبيقات لوحدات المعالجة المركزية ووحدات معالجة الرسوميات والبيئات الموزعة. ويفيد الباحثون بأن الخوارزمية تتفوق على خسارة خوارزمية Lloyd في K-means بعد 25 حقبة، وذلك خلال 1.4 إلى 2.6 حقبة، مع تسريع زمن التنفيذ على وحدات معالجة الرسوميات بمقدار 10–45 ضعفاً مقارنة بالتطبيقات التي خضعت للمقارنة.
صدر البرنامج بعد إيداع البحث التمهيدي على arXiv في 6 نوفمبر 2026، وليس بوصفه أول إعلان علني عن الخوارزمية. ويأتي هذا العمل من باحثين في FAIR at Meta وÉcole Nationale des Ponts et Chaussées.
يضيف الإصدار 1.16.0 تطبيقات مرجعية لخوارزمية e-means، وتدريباً موزعاً وتدريباً تُجزّأ فيه المراكز، وواجهات إسناد خلفية لـTriton وCuTe، وإسناداً بدقة مخفضة، ومعايير قياس لإعادة إنتاج نتائج البحث. كما يتضمن عروضاً توضيحية لـDINO تُبقي البيانات في الذاكرة أو تبثها من وحدات SSD.
كيف تحدّث خوارزمية E-Means المراكز
تهدف خوارزمية K-means إلى إيجاد مراكز تقلل متوسط مربع المسافة بين المتجهات وأقرب مركز إليها، بما يدعم الاسترجاع والتكميم وتنظيم البيانات. وتُسنِد خوارزمية Lloyd كل نقطة إلى أقرب مركز، ثم تعيد احتساب مجموع كل عنقود وعدد نقاطه باستخدام مجموعة البيانات كاملة. أما e-means، فتحدّث المجاميع والأعداد باستخدام اضمحلال أسي انطلاقاً من الدفعات المصغّرة، بحيث يتراجع تأثير الإسنادات الأقدم تدريجياً؛ ويظل كل مركز مساوياً لنسبة مجموع متجهاته الجاري إلى عدده الجاري. ويؤدي استخدام مجموعة البيانات بأكملها دفعةً واحدة مع خطوة مقدارها 1 إلى إعادة تنفيذ تكرار واحد من خوارزمية Lloyd.
تستخلص قانونا تحجيم ملائمان حجم الدفعة وحجم الخطوة الابتدائي من حجم مجموعة البيانات وعدد العناقيد وميزانية الحقب، ما يلغي الحاجة إلى إجراء مسح مستقل للمعلمات الفائقة كما في أساليب الدفعات المصغّرة السابقة. ويخفض جدول جيبي حجم الخطوة إلى عُشر قيمتها الابتدائية. ويضبط الإعداد الافتراضي للصنف الصادر خمس جولات تدريب، مع إمكانية تحديد عدد كسري من الجولات.
لائم المؤلفون القانونين باستخدام 75,000 عملية تحسين على تكوينات DEEP. ويذكرون أن وسيط الندم على مجموعة البيانات المحجوبة، أي مقدار الخطأ الزائد مقارنة بأفضل إعداد ضمن شبكة المعلمات، بلغ 0.07% لقانون حجم الخطوة و0.19% لقانون حجم الدفعة الافتراضي. كما تعيد الوصفة تنشيط العناقيد قليلة الاستخدام عبر تقسيم عنقود مانح، ثم تنتهي بحساب المتوسط الدقيق لكل عنقود استناداً إلى إسنادات الحقبة الأخيرة. أما أسلوب الإنهاء المنفصل المعتمد على متوسط متحرك بطيء، فيستهدف الخطأ خارج العينة.
تمتد معايير القياس إلى عشرة مليارات متجه
يعرض البحث الكامل عملية التحقق باستخدام مجموعات بيانات للتضمينات وأخرى اصطناعية، مع إجراء المقارنات الرئيسية على وحدات معالجة الرسوميات H100 بسعة 80GB، والتجارب على وحدات المعالجة المركزية باستخدام Xeon Platinum 8462Y+ ذي 64 نواة. وفي 11 اختباراً لتضمينات VIBE، يفيد المؤلفون بأن e-means احتاجت إلى 1.6–2.6 حقبة لبلوغ مستوى الخطأ الذي حققته خوارزمية Lloyd في 25 حقبة، مع تسريع بمقدار 8.0–22.8 ضعفاً مقارنةً بـFlash-KMeans على وحدة H100 واحدة، وبمقدار 9.0–15.0 ضعفاً مقارنةً بـFaiss على 64 نواة من وحدات المعالجة المركزية، مع استخدام 20 بذرة لكل اختبار.
على أكبر نطاق، يفيد المؤلفون بتقسيم DINO10B، الذي يضم 10 مليارات تضمين رقع DINO ذات 1,024 بُعداً، إلى نحو 16.7 مليون عنقود خلال 2.5 حقبة باستخدام الإسناد الدقيق، مع تحقيق خطأ اختبار أقل قليلاً من خط الأساس لخوارزمية Lloyd بعد 25 حقبة. واستخدم هذا التشغيل 779 ساعة من وقت وحدات معالجة الرسوميات عبر 32 جهازاً. وفي تشغيل منفصل، تجاوز البحث التقريبي عن أقرب مركز باستخدام فهرس الملفات المعكوسة (IVF) خط الأساس بعد ثلاث حقب، مستهلكاً 23.2 ساعة من وقت وحدات معالجة الرسوميات على جهاز واحد مزود بثماني وحدات معالجة رسوميات. ويبحث نهج IVF في مجموعات مختارة من المراكز بدلاً من مقارنة كل نقطة بكل مركز.
يفيد البحث بأن إسناد IVF أقل كلفةً بمقدار 34 ضعفاً من الإسناد الدقيق عند التعامل مع عشرة مليارات متجه، لكنه لا يحقق أي مكسب عند التعامل مع 100 مليون متجه. ويوضح هذا الفرق سبب عدم كفاية عدد الحقب وحده لتحديد متطلبات البنية التحتية؛ إذ يحدد التطبيق وطريقة الإسناد مقدار العتاد اللازم للتشغيل.
التوافر والقيود الموثقة
يوفّر دليل المستخدم الرسمي NumpyEmeans لبيانات NumPy و Emeans يدعم Faiss وحده التنفيذ على وحدات المعالجة المركزية؛ أما التنفيذ على وحدات معالجة الرسوميات فيستخدم PyTorch الممكّن لـCUDA، مع إتاحة نوى CuTe على H100 وH200 وTriton على وحدات معالجة الرسوميات الحديثة الأخرى من NVIDIA التي يدعمها النظام. ويقتصر استخدام الدقة المخفضة على إسناد أقرب مركز على وحدة معالجة الرسوميات، بينما تظل المراكز والمجاميع الجارية والمسافات المعادة بدقة FP32. وتدعم أصناف المراكز المكررة والمجزأة التدريب على وحدات معالجة رسوميات متعددة؛ ويشير البحث إلى أن مجاميع FP32 الخاصة بـ16 مليون مركز تشغل 64 GiB، ما يبرر التجزئة عند هذا الحجم.
ضُبطت قوانين التحجيم لتناسب البيانات ذات الأبعاد المرتفعة نسبياً، وهي ليست مثالية للبيانات شديدة الانخفاض في الأبعاد أو لمجموعات البيانات الصغيرة جداً. وبناءً على ذلك، تختار الإعدادات الافتراضية الصادرة قانون حجم الدفعة الذي يحسّن الجودة عند 16 بُعداً أو أقل، وتعطّل إعادة التنشيط عند بُعدين أو أقل. ويحذر الدليل أيضاً من أن تسميات التدريب المعادة تستند إلى الجولة الأخيرة، ولا تمثل بالضرورة إسنادات إلى المراكز النهائية، وأن مسار التنفيذ على وحدات معالجة الرسوميات لا يتحقق من وجود قيم NaN أو قيم لا نهائية في المدخلات.
بالنسبة إلى مسارات عمل الذكاء الاصطناعي التي تجمع مجموعات كبيرة من التضمينات، يجعل هذا الإصدار المفاضلة واضحة: إذ يتيح مكتبةً تتم صيانتها لتقليل عدد جولات التدريب، بينما يعتمد تحقيق أكبر خفض في استهلاك وحدات معالجة الرسوميات على الحجم والعتاد ومدى ملاءمة الإسناد التقريبي لعبء العمل.
