نماذج ومنصات الذكاء الاصطناعي
إطلاق Valkey 9.2 مع التخزين المؤقت الموزع للقيم والمفاتيح لاستدلال الذكاء الاصطناعي

النقاط الرئيسيةيتيح التخزين المؤقت الموزّع للقيم والمفاتيح لمحركات الاستدلال إعادة استخدام موترات…
عرض المزيد
- يتيح التخزين المؤقت الموزّع للقيم والمفاتيح لمحركات الاستدلال إعادة استخدام موترات المطالبة بدلاً من إعادة حسابها أثناء مرحلة التعبئة المسبقة.
- قدّمت Multiverse Computing طلبات أكثر بنسبة 50% على وحدات معالجة الرسومات نفسها مع تحقيق هدف زمن استجابة الرمز الأول.
- لا يقدّم التخزين المؤقت المشترك فائدة تُذكر عندما تكون مجموعة العمل بأكملها مناسبة أصلاً لذاكرة وحدة معالجة الرسومات وذاكرة المضيف.
أصدرت Valkey الإصدار 9.2 في 19 نوفمبر 2026، وأرفقته بتخزين مؤقت موزع للقيم والمفاتيح لاستدلال الذكاء الاصطناعي. ويذكر الإعلان المصاحب للمشروع أن ذاكرة التخزين المؤقت المشتركة قد تخفض نفقات الاستدلال بنسبة تصل إلى 40%، ومدة انتظار ظهور الرمز الأول من الاستجابة بنسبة تصل إلى 80%، على البنية التحتية الحالية لوحدات معالجة الرسومات.
يشرح منشور تقني من Valkey نُشر في 20 أكتوبر 2026 ذاكرة تخزين مؤقت مشتركة تتجاوز ذاكرة وحدات معالجة الرسومات وذاكرة المضيف، وتخزّن موترات القيم والمفاتيح التي يُنشئها النموذج عند معالجة تعليمات المطالبة وتعريفات الأدوات وسجل المحادثة. ويمكن لمحركات الاستدلال إعادة استخدام هذه الموترات عند تكرار السياق، بدلًا من إعادة احتسابها خلال مرحلة التهيئة المسبقة، وهي مرحلة المعالجة التي تسبق إنشاء مخرجات جديدة. ويتيح توزيع هذه الطبقة على خوادم وحدات معالجة الرسومات لأي عقدة تحميل محادثة أُخرجت من الذاكرة المحلية.
يمكن لعمليات النشر المُدارة ذاتيًا، التي تشغّل نماذج مفتوحة الأوزان، ربط ذاكرة التخزين المؤقت بمحركات مثل vLLM وSGLang عبر موصل LMCache، وذلك بتغيير الإعدادات من دون تحديث شيفرة التطبيق. ويتيح نوع البيانات الجديد Path Hash، المدعوم بشجرة راديكس في الإصدار 9.2، البحث الدقيق ومطابقة أطول بادئة واجتياز البادئات. وتقدّمه Valkey بوصفه فهرسًا خفيفًا للعثور على أطول بادئة مخزّنة مؤقتًا تطابق المطلوب وتحديد موقعها، بينما تبقى بيانات الذكاء الاصطناعي الأكبر حجمًا في ذاكرة وحدات معالجة الرسومات أو ذاكرة المضيف.
المكاسب المقاسة وحدود أعباء العمل
قال Ennio Pastore، مدير منصة الذكاء الاصطناعي في Multiverse Computing، إن التخزين المؤقت الموزع للقيم والمفاتيح في Valkey مكّن الشركة من معالجة طلبات أكثر بنسبة 50% باستخدام وحدات معالجة الرسومات نفسها، مع الالتزام بهدفها المتمثل في ألا يتجاوز وسيط زمن ظهور الرمز الأول ثانية واحدة. وانخفض وسيط زمن ظهور الرمز الأول بنسبة 23% في ظروف حركة المرور المعتادة، وبنسبة 95% في أوقات الذروة. كما أسهمت Multiverse في تحسينات موصل LMCache، بهدف تعزيز قدرة التخزين المؤقت الموزع على تحمّل الأعطال.
استخدم الاختبار المعياري الاصطناعي الذي وصفه المنشور التقني لـValkey 100 محادثة متزامنة، يتراوح سياق كل منها بين 12,000 و28,000 رمز، بمعدل وصول بلغ 8 طلبات في الثانية عبر عقدتي وحدات معالجة رسومات، تضم كل منهما ثمانية معالجات H100. وشغّلت العقدتان النموذج Llama-3.1-70B عبر vLLM وLMCache، مع مجموعة Valkey 9 مؤلفة من ثلاث قطع في منطقة التوافر نفسها التي توجد فيها ذاكرة التخزين المؤقت المشتركة. وسجّل المشروع زيادة بنحو 25% في عدد الطلبات، وبنحو 28% في عدد الرموز الناتجة، في حين رفعت ذاكرة التخزين المؤقت فاتورة وحدات معالجة الرسومات بنحو 15%.
توضح إرشادات Valkey للاختبار والنشر حدودًا واضحة: لا تحقق ذاكرة التخزين المؤقت المشتركة فائدة تُذكر عندما تتسع ذاكرة وحدات معالجة الرسومات وذاكرة المضيف لمجموعة البيانات النشطة بالفعل، أو عندما تفتقر الطلبات إلى سياق متكرر؛ كما أنها لا تستطيع توفير قدرة حوسبة لوحدات معالجة الرسومات عندما تصبح التهيئة المسبقة لرموز جديدة عنق الزجاجة. ويوصى بوضعها في منطقة التوافر نفسها التي تضم أسطول وحدات معالجة الرسومات، لأنها تقع على مسار إنتاج الرمز الأول، وقد تؤدي حركة البيانات بين المناطق إلى زيادة زمن الاستجابة ورسوم نقل البيانات.
خفض استهلاك الذاكرة وأعباء الشبكة
إلى جانب التخزين المؤقت للذكاء الاصطناعي، يستهدف الإصدار 9.2 تكاليف البنية التحتية لمخزن البيانات نفسه. وتستخدم اللقطات التي لا تعتمد على التفريع ومزامنة النسخ المتماثلة بالكامل، عند تفعيلهما اختياريًا، خيطًا يعمل في الخلفية بدلًا من إنشاء عملية خادم منفصلة، ما يتجنب العبء الإضافي على الذاكرة الناجم عن النسخ عند الكتابة أثناء أعباء العمل كثيفة الكتابة. وتضيف البنية التحتية أربعة بايتات لكل مفتاح، كما أن prefer-forkless السياسة تعود إلى استخدام التفريع عند الضرورة.
يُتفاوض على ضغط التكرار المستمر بصورة منفصلة مع كل نسخة متماثلة، لذا تواصل النسخ الأقدم أو التي لم يُفعّل فيها الضغط تلقي البيانات بنص صريح. ويذكر منشور إصدار Valkey أن اختبارًا شمل 3 ملايين مفتاح، يبلغ حجم كل منها نحو 315 بايتًا، أظهر أن LZ4 خفّض عرض نطاق التكرار بنسبة 52% مع عبء إضافي على الإنتاجية يقل عن 1%. ويدعم ضغط اللقطة على مستوى التدفق بأكمله LZ4 وZstandard؛ ويتطلب Zstandard خيارًا يُحدد وقت البناء، ويستهدف خصوصًا التكرار بين المناطق، حيث ترتفع تكاليف الشبكة مقارنةً بتكاليف الحوسبة.
تستخدم المجموعات المرتبة الكبيرة الآن شجرة B+ بدلًا من قائمة تخطٍّ. وتفيد Valkey بأن العبء الإضافي على الذاكرة لكل عنصر انخفض بنسبة تتراوح بين 36% و43% في اختبار ضمّ 5 ملايين عنصر، يحتوي كل منها على بيانات بطول 20 بايتًا. وتشمل الإضافات التشغيلية الأخرى اكتشاف المفاتيح كثيرة الاستخدام على جانب الخادم، وإمكان إعادة استخدام أدوار التحكم في الوصول، وإعطاء الأولوية للرسائل النبضية للمجموعة وللتكرار، وحجز اتصالات إدارية، وإتاحة خفض معدل الكتابة اختياريًا عندما تتأخر نسخة متماثلة.
يشير سجل إصدار 9.2.0 إلى أنه أول إصدار مستقر من 9.2، وتعرض صفحة التنزيل وسوم Docker والملفات الثنائية الخاصة بكل منصة. وتصف Valkey الإصدار 9.2 بأنه إصدار فرعي لا يتضمن تغييرات غير متوافقة، لكنها تحذر من أن ملفات الإلحاق فقط الأساسية المكتوبة باستخدام ضغط LZ4 أو Zstandard تتطلب إصدارًا متوافقًا من Valkey إذا قرر المشغّل لاحقًا الرجوع إلى إصدار أقدم.
يجمع Valkey 9.2 بين جانبين من اقتصاديات الاستدلال: استعادة قدرة وحدات معالجة الرسومات المهدرة بسبب تكرار التهيئة المسبقة، وخفض أعباء الذاكرة والشبكة في طبقة البيانات. وبالنسبة إلى المشغّلين الذين يقيّمون هذه الطبقة الجديدة، تربط النتائج الموثقة قيمتها بإعادة استخدام أعباء العمل وضغط الإخلاء من الذاكرة، مع حد أقصى واضح للفائدة عندما تستهلك التهيئة المسبقة لرموز جديدة بالفعل قدرة الحوسبة المتاحة لوحدات معالجة الرسومات.












