تطلق Supermicro تخزينًا مشتركًا لذاكرة KV المؤقتة لدعم الذكاء الاصطناعي ذي السياق الطويل

أعلنت Supermicro في 5 نوفمبر 2026، بالتعاون مع IBM وNVIDIA، عن حل لتخزين ذاكرة KV المؤقتة، يهدف إلى نقل سياق استدلال الذكاء الاصطناعي القابل لإعادة الاستخدام إلى مساحة تخزين مشتركة تتجاوز ذاكرة وحدات معالجة الرسومات. وتفيد الشركات بأن الاختبارات المشتركة أظهرت تسريعًا يصل إلى 56 ضعفًا في زمن ظهور أول رمز، عند استخدام مطالبة من 130,000 رمز.

يجمع هذا الحل بين خوادم التخزين الفلاشية بالكامل Petascale من Supermicro، المزودة بمعالجات AMD EPYC 9005، وبرمجيات IBM Storage Scale، وإطار الاستدلال Dynamo من NVIDIA، وشبكات Spectrum-X Ethernet. وهو يستهدف تطبيقات التفاعل متعدد الجولات والتطبيقات الوكيلة، ومساعدات البرمجة، والذكاء الاصطناعي متعدد الوسائط، والتوليد المعزز بالاسترجاع ذي السياق الطويل. وقد تؤدي قواعد الشيفرات الكبيرة والوثائق والصور وسجلات المحادثات إلى إنشاء حالات مفاتيح-قيم تتجاوز سعة ما يمكن لذاكرتَي وحدات معالجة الرسومات والمعالجات المركزية الاحتفاظ به.

إعادة استخدام السياق عبر الطلبات

تحوّل مرحلة التهيئة المسبقة مطالبةً مجزأة إلى رموز إلى حالات مفاتيح-قيم وسيطة يستخدمها النموذج. ويتيح الاحتفاظ بهذه الحالات للطلبات اللاحقة إعادة استخدام السياق بدلًا من إعادة احتسابه. وتوفر البنية طبقة تخزين عالية التوافر، مع إمكانية الوصول المشترك عبر عُقد وحدات معالجة الرسومات والمجموعات، إلى جانب توسيع سعة الذاكرة المؤقتة من دون تعطيل العمل.

يضيف Dynamo توجيهًا يراعي الذاكرة المؤقتة، ويفصل بين مرحلتَي التهيئة المسبقة وفك الترميز، وينقل الكتل المخزنة مؤقتًا إلى مساحة تخزين خارجية عبر مدير كتل KV ومكتبة النقل NIXL. وتوفر IBM Storage Scale Erasure Coding Edition طبقة التخزين المشتركة G4 ضمن التسلسل الهرمي للذاكرة لدى NVIDIA.

نتائج الاختبارات المعيارية وظروف الاختبار

تورد بنية مرجعية من IBM Redbooks، نُشرت في 5 يونيو 2026 وحُدثت آخر مرة في 20 أغسطس 2026، أن إعادة الاحتساب على وحدة معالجة الرسومات تستغرق 32.14 ثانية عند استخدام 130,000 رمز، مقابل 0.570 ثانية عند استخدام الذاكرة المؤقتة المدعومة بالتخزين. وتستند عملية الإطلاق إلى هذه القياسات المنشورة سابقًا، لا إلى دراسة جديدة نُشرت في نوفمبر.

استخدم اختبار منفصل شمل 200 طلب 28 اتصالًا متزامنًا، واستند إلى 100 مطالبة فريدة تمثل 24 مليون رمز و825 GB من بيانات ذاكرة KV المؤقتة. ويذكر الكتاب المرجعي ارتفاع معدل المعالجة من 0.19 إلى 4.26 طلب في الثانية، وانخفاض إجمالي وقت المعالجة من 1,048.56 إلى 46.94 ثانية. وبدأت الذاكرة المؤقتة فارغة، لذا يشمل متوسط التشغيل الكامل فترة بدء بارد، إلى أن أخذت إعادة الاستخدام في الازدياد.

في اختبار للتداخل بين المستخدمين، أنشأ أربعة عملاء آخرين حركة إدخال وإخراج شبكية منافسة بلغت 200 GB/s. وحافظ النظام الذي يستخدم الذاكرة المؤقتة على معدل 3.6 طلب في الثانية، وأنجز 200 طلب في 55.56 ثانية؛ ويصف الكتاب المرجعي ذلك بأنه انخفاض بنسبة 18% في معدل المعالجة مقارنة بنتيجة النظام ذي الذاكرة المؤقتة على شبكة غير مزدحمة.

أُخذت جميع قياسات الاستدلال من عقدة عميل واحدة من Supermicro مزودة بوحدات معالجة رسومات، تضم أربع وحدات NVIDIA RTX PRO 6000، ومتصلة بمجموعة تخزين Petascale مكوّنة من ثماني عُقد. واستخدمت حزمة البرمجيات Dynamo v0.9.0+ وvLLM v0.14.1 وNVIDIA AIPerf والنموذج openai/gpt-oss-120b. وعُطّلت طبقتا الذاكرة المؤقتة في ذاكرة وحدات معالجة الرسومات وذاكرة النظام DRAM لعزل طبقة G4 المشتركة.

هامش سعة الشبكة وتحديد حجم النشر

شكّلت ثلاثة محولات Spectrum-X SN5600 شبكة اختبار ذات بنية العمود الفقري والأوراق. ويذكر الكتاب المرجعي أن عرض النطاق الترددي المواجه للعملاء يصل إلى 80 GB/s، فيما حقق نظام التخزين المؤلف من ثماني عُقد معدل نقل قراءة يصل إلى 315 GB/s. وهذا يجعل شبكة جانب العميل، لا كامل سعة القراءة في طبقة التخزين، هي القيد في هذا التكوين.

تستخدم أمثلة تحديد الحجم الواردة في الكتاب المرجعي أربع عُقد تخزين لعمليات النشر الصغيرة لإثبات المفهوم، وثماني عُقد للتكوين المتوسط الذي خضع للاختبار، و16 عقدة أو أكثر لمصانع الذكاء الاصطناعي الكبيرة. وتعتمد البنية المناسبة على السعة وعرض النطاق الترددي والتزامن وحجم النموذج وعبء العمل. وتقول Supermicro إن خدماتها لدمج الرفوف في المصنع والنشر في الموقع يمكن أن تقلص مدة النشر من أسابيع إلى أيام.

يجمع هذا الإطلاق بنيةً موثقة سابقًا وخضعت للتحقق المشترك، ويهيئها للنشر؛ غير أن مكاسبها ترتبط بنموذج محدد ومزيج معين من المطالبات ومستوى معين من التزامن والشبكة. ويتمثل السؤال الأساسي عند النشر في مدى التوازن بين سعة التخزين وعرض النطاق الترددي للعميل من جهة، والطلب الفعلي على إعادة استخدام السياق من جهة أخرى؛ فزيادة هامش سعة القراءة في التخزين لن تحسن الاستدلال إذا عجزت شبكة العميل عن نقل البيانات.