شراكات
تجمع SambaNova بين وحدات معالجة الرسومات من Intel وSN50 لاستدلال الذكاء الاصطناعي بالتبريد الهوائي

النقاط الرئيسيةتقوم SambaNova بتقسيم الاستدلال بحيث تتولى وحدات معالجة الرسومات من Intel مرحلة التعبئة…
عرض المزيد
- تقوم SambaNova بتقسيم الاستدلال بحيث تتولى وحدات معالجة الرسومات من Intel مرحلة التعبئة المسبقة بينما تتولى وحدات RDU الخاصة بها مرحلة فك التشفير المرتبطة بالذاكرة.
- تربط إيثرنت القياسية وبرمجيات الخدمة المفتوحة مجموعتي المسرعات دون وصلات ربط احتكارية.
- يستهدف التصميم المبرد بالهواء مراكز البيانات القائمة حيث يكون تحديث التبريد السائل غير عملي.
أعلنت SambaNova Systems في 15 نوفمبر 2026 أنها وIntel عرضتا نظامًا لاستدلال الذكاء الاصطناعي بالتبريد الهوائي في SuperComputing 2026، يشغّل GLM-5.3 على أربعة مسرّعات Intel GPU D-Series لمعالجة المطالبات، وعلى SambaRack SN50 لتوليد الرموز.
يقسّم النظام عملية الاستدلال إلى مرحلتين: التهيئة المسبقة، التي تعالج المطالبة الواردة وتنشئ ذاكرة التخزين المؤقت للمفاتيح والقيم (KV)، وفك الترميز، الذي يولّد رموز المخرجات. تتولى أجهزة Intel مرحلة التهيئة المسبقة كثيفة العمليات الحسابية، بينما تتولى وحدات تدفق البيانات القابلة لإعادة التهيئة من الجيل الخامس لدى SambaNova (RDUs) مرحلة فك الترميز المعتمدة على الذاكرة. وتقدّم SambaNova النظام المسجّل بوصفه تصميمًا سيتمكن العملاء من نشره في مراكز بيانات قائمة.
أجهزة مختلفة لكل مرحلة من مراحل الاستدلال
العرض التوضيحي أصغر بكثير من التهيئة المرجعية لدى Intel. وتصف SambaNova رفًا مرجعيًا من D-Series يضم 80 وحدة معالجة رسومات، ويوفر قدرة حوسبة قصوى تبلغ 208 بيتافلوب بدقة FP4، مع ذاكرة تتراوح سعتها بين 12 و38 تيرابايت، بحسب التهيئة. وتخص هذه الأرقام تصميم التهيئة المسبقة الأكبر؛ وهي ليست قياسات أداء مأخوذة من إعداد SuperComputing.
تُدرج مواصفات منتج D270 من Intel وحدة معالجة رسومات بالتبريد الهوائي، بقدرة 350 واط، تضم 32 نواة Xe3P و256 محركًا مصفوفيًا من نوع XMX، وتدعم معيار PCIe 5.0، وذاكرة LPDDR5X تصل سعتها إلى 480 غيغابايت لكل بطاقة. وقد صُمّم الشكل القياسي للوحدة ليعمل في الخوادم الحالية من دون شبكات احتكارية أو أنظمة مخصصة.
يحتوي كل SambaRack SN50 على 16 وحدة RDU، ويتطلب عادةً قدرة قدرها 20 كيلوواط للاستدلال. ويمكن تشغيل ما يصل إلى 16 رفًا كوحدة واحدة تضم ما يصل إلى 256 وحدة RDU، مع توزيع عبء العمل على رفوف أقل استهلاكًا للطاقة. وتقول SambaNova إن بنية تدفق البيانات لديها تربط عمليات النموذج عبر الشرائح بدلًا من إعادة البيانات إلى الذاكرة بين نوى معالجة الرسومات المنفصلة، ما يقلل حركة البيانات في الذاكرة والعبء الناتج عن إعادة إطلاق النوى أثناء توليد الرموز.
برمجيات مفتوحة تربط مجموعات الأجهزة
تعمل NVIDIA Dynamo أمام مجموعتي المسرّعات، وقد صُممت لتوجيه كل طلب إلى الأجهزة التي تحتفظ مسبقًا بسياقه المخزّن مؤقتًا. وتخدم vLLM مساري التهيئة المسبقة على Intel وفك الترميز على SN50، فيما تنقل NIXL بيانات ذاكرة التخزين المؤقت للمفاتيح والقيم عبر UCX/RDMA باستخدام شبكة Ethernet قياسية متوافقة مع RoCEv2. وبذلك، يمكن تنفيذ عملية التسليم عبر بنية Ethernet راسخة بدلًا من وصلة ترابط احتكارية بين نوعَي الأجهزة.
يحتفظ SN50 بالبادئات المستمدة من المطالبات السابقة في ذاكرة DDR متصلة به، فيما تدعم ذاكرتا SRAM وHBM على الشريحة فك الترميز الجاري. وعندما يعود وكيل إلى محادثة أو سياق مشترك، يمكن للتوجيه المراعي لذاكرة التخزين المؤقت إرسال الطلب إلى جهاز SN50 الذي يحتفظ بتلك البادئة، بحيث تمر المواد الجديدة وحدها عبر التهيئة المسبقة على وحدات معالجة الرسومات، وتعبر الشبكة كمية أقل من حالة KV. وتقول SambaNova إن إصابات ذاكرة التخزين المؤقت هذه تقلل الزمن اللازم لإنتاج الرمز الأول وتوفر سعة من وحدات معالجة الرسومات للطلبات الجديدة. ويصف المنشور هذه الفوائد من دون الإبلاغ عن نتائج مقاسة لزمن الاستجابة أو معدل الإنتاجية في العرض التوضيحي الموحّد.
التوسع ضمن المواقع القائمة المبرّدة بالهواء
يتيح هذا التقسيم أيضًا لمزودي الخدمة توسيع كل مرحلة على نحو مستقل. فقد تتطلب المطالبات الأطول سعة أكبر للتهيئة المسبقة على D-Series، بينما قد تحتاج الوكلاء التي تنتج مخرجات أطول إلى سعة إضافية لفك الترميز على SN50، من دون زيادة سعة المجموعة الأخرى بالتناسب.
تستهدف هذه المرونة المشغّلين الذين لا تستطيع منشآتهم استيعاب أنظمة التبريد السائل بسهولة. وتقول Intel إن شكل PCIe القياسي في D270 وتصميمه بالتبريد الهوائي بقدرة 350 واط ملائمان للرفوف الحالية، من دون الحاجة إلى تحديث متخصص للتبريد السائل. وبالاقتران مع خصائص استهلاك الطاقة على مستوى الرف في SN50، صُمم هذا الحل لإضافة سعة للاستدلال ضمن البيئات القائمة المبرّدة بالهواء.
تكمن أهمية العرض التوضيحي في التكامل: إذ يمكن إسناد معماريتين مختلفتين للمسرّعات، تربط بينهما برمجيات تقديم شائعة الاستخدام وشبكة Ethernet قياسية، إلى مرحلتين مختلفتين من الاستدلال وتوسيع نطاقهما وفقًا لعبء العمل. وبالنسبة إلى مزودي الخدمة الذين يواجهون حدودًا ثابتة للطاقة والتبريد، يبقى السؤال هو ما إذا كانت أعباء العمل الإنتاجية ستحقق من فوائد التخزين المؤقت وتحسين الاستفادة الموصوفة قدرًا يبرر تشغيل المجموعتين معًا.












