كشف Enfabrica عن منسق ذاكرة إيثيرنت يمكن أن يعيد تعريف الاستدلال الاصطناعي على نطاق واسع

Enfabrica، شركة ناشئة مقرها وادي السيليكون ومدعومة من Nvidia (NVDA ) ، كشفت عن منتج ثوري قد يغير بشكل كبير طريقة نشر وتنمية حمولات العمل الاصطناعي على نطاق كبير. نظام منسق الذاكرة المرنة (EMFASYS) الجديد للشركة هو أول منسق ذاكرة إيثيرنت متاح تجارياً مصمم خصيصاً لمعالجة العائق الأساسي لاستدلال الذكاء الاصطناعي التوليدي: الوصول إلى الذاكرة.

في وقت يزداد فيه نماذج الذكاء الاصطناعي تعقيداً واعتماداً على السياق وثباتاً – مما يتطلب كميات هائلة من الذاكرة لكل جلسة مستخدم – يقدم نظام EMFASYS نهجاً جديداً لفصل الذاكرة عن الحوسبة، مما يسمح لمراكز البيانات بتحسين الأداء بشكل كبير وتخفيض التكاليف وزيادة استخدام الموارد الأكثر تكلفة: وحدات معالجة الرسومات (GPUs).

ما هو منسق الذاكرة – ولماذا يهم؟

تقليدياً، كانت الذاكرة داخل مراكز البيانات مرتبطة بشكل صارم بالخادم أو العقدة التي تقع فيها. لكل وحدة معالجة رسومات (GPU) أو وحدة معالجة مركزية (CPU) الوصول فقط إلى الذاكرة عالية السرعة المرفقة بها – عادةً HBM لوحدات معالجة الرسومات أو DRAM لوحدات المعالجة المركزية. هذا الهيكل يعمل جيداً عندما تكون حمولات العمل صغيرة ومنتظمة. لكن الذكاء الاصطناعي التوليدي غير اللعبة. تتطلب نماذج اللغة الكبيرة (LLMs) الوصول إلى نوافذ سياق كبيرة وتاريخ المستخدم وذاكرة وكلاء متعددين – كل ذلك يجب معالجته بسرعة ودون تأخير. غالباً ما يتجاوز هذه المتطلبات الذاكرة المتاحة للذاكرة المحلية، مما يخلق عائقاً يؤدي إلى تقليل أداء وحدات معالجة الرسومات وزيادة تكاليف البنية التحتية.

يحل منسق الذاكرة هذا العائق عن طريق تحويل الذاكرة إلى مورد مشترك وموزع – نوع من الذاكرة المرفقة بالشبكة يمكن الوصول إليها بواسطة أي وحدة معالجة رسومات أو وحدة معالجة مركزية في المجموعة. افكر في ذلك كخلق “سحابة ذاكرة” داخل رف مركز البيانات. بدلاً من تكرار الذاكرة عبر الخوادم أو التحميل الزائد للذاكرة HBM عالية التكلفة، يسمح المنسق بدمج الذاكرة وتنسيقها ووصولها عند الطلب عبر شبكة عالية السرعة. هذا يسمح لتحميلات العمل الاصطناعي بالتوسع بشكل أكثر كفاءة دون أن تكون مقيدة بحدود الذاكرة الفيزيائية لأي عقدة واحدة.

نهج Enfabrica: إيثيرنت و CXL، معاً في النهاية

يحقق نظام EMFASYS هذا الهيكل الموزع للذاكرة على مستوى الرف عن طريق الجمع بين تقنيتين قويتين: RDMA عبر إيثيرنت و روابط التعبير الحاسوبي (CXL). الأولى تمكن من نقل بيانات منخفض التأخير وعالية الإنتاجية عبر شبكات إيثيرنت القياسية. الثانية تسمح بفصل الذاكرة عن وحدات المعالجة المركزية ووحدات معالجة الرسومات ودمجها في موارد مشتركة يمكن الوصول إليها عبر روابط CXL عالية السرعة.

في قلب نظام EMFASYS يوجد شريحة ACF-S من Enfabrica، وهي شريحة “SuperNIC” بسعة 3.2 تيرابيت في الثانية (Tbps) التي تدمج الشبكات وسيطرة الذاكرة في جهاز واحد. تسمح هذه الشريحة للخوادم بالتفاعل مع برك ضخمة من ذاكرة DDR5 التكلفة المنخفضة – تصل إلى 18 تيرابايت لكل عقدة – موزعة عبر الرف. ومن المهم أن تفعل ذلك باستخدام منافذ إيثيرنت القياسية، مما يسمح للمشغلين بالاستفادة من بنية تحتية مركز البيانات الحالية دون الاستثمار في موصلات مخصصة.

ما يجعل نظام EMFASYS جذاباً بشكل خاص هو قدرته على إعادة توجيه حمولات العمل المرتبطة بالذاكرة ديناميكياً من ذاكرة HBM المرتبطة بوحدات معالجة الرسومات الغالية إلى ذاكرة DRAM الأكثر توفراً ومتانة، مع الحفاظ على زمن الوصول على مستوى المايكروثانية. يتضمن برنامج النظام خوارزميات ذكية للتخزين المؤقت وتوازن الحمل تخفف من التأخير وتنسق حركة الذاكرة بطرق غير ظاهرة لنماذج اللغة الكبيرة (LLMs) التي تعمل على النظام.

الآثار على صناعة الذكاء الاصطناعي

هذا ليس مجرد حل أجهزة ذكية – بل يمثل تغييراً فلسفياً في كيفية بناء بنية تحتية للذكاء الاصطناعي وتوسيعها. مع تحول الذكاء الاصطناعي التوليدي من عجائب إلى ضروريات، مع معالجة مليارات استفسارات المستخدمين يومياً، أصبحت تكلفة تشغيل هذه النماذج غير مستدامة للعديد من الشركات. غالباً ما تكون وحدات معالجة الرسومات غير مستخدمة ليس بسبب نقص الحوسبة، ولكن لأنها تظل في حالة انتظار للذاكرة. نظام EMFASYS يعالج هذا الخلل مباشرة.

من خلال تمكين الذاكرة المجمعة المرتبطة بالمنسق ويمكن الوصول إليها عبر إيثيرنت، تقدم Enfabrica مشغلين مراكز البيانات بديلاً قابل للتوسيع لشراء المزيد من وحدات معالجة الرسومات أو ذاكرة HBM. بدلاً من ذلك، يمكنهم زيادة سعة الذاكرة بشكل متواضع باستخدام ذاكرة DRAM جاهزة وشبكات ذكية، مما يقلل من الحجم الإجمالي ويحسن اقتصاديات استدلال الذكاء الاصطناعي.

تتجاوز الآثار التكاليف الفورية المحسنة. هذا النوع من الهيكل المنفصل يفتح الطريق لنماذج الذاكرة كخدمة، حيث يمكن أن تستمر السياق والتاريخ و状态 الوكيل بعد جلسة واحدة أو خادم واحد، مما يفتح الباب لنظم ذكاء اصطناعي أكثر ذكاء وتخصيصاً. كما يضع الأساس لنظم سحابة ذكاء اصطناعي أكثر مرونة، حيث يمكن توزيع الحمولات بسهولة عبر رف أو مركز بيانات كامل دون قيود ذاكرة صارمة.

النظر إلى الأمام

يتم حالياً اختبار نظام Enfabrica’s EMFASYS مع عملاء مختارين، ولم تكشف الشركة عن هؤلاء الشركاء بعد، ولكن تقرير رويترز يشير إلى أن مقدمي خدمات سحابة الذكاء الاصطناعي الكبار يختبرون النظام بالفعل. هذا يضع Enfabrica ليس فقط كمزود مكونات، ولكن كمنشئ رئيسي في الجيل التالي من بنية تحتية الذكاء الاصطناعي.

من خلال فصل الذاكرة عن الحوسبة و جعلها متاحة عبر شبكات إيثيرنت عالية السرعة، تقوم Enfabrica بتهيئة الأرضية لera جديدة من بنية الذكاء الاصطناعي – حيث يمكن للاستدلال أن يتوسع دون تعرض، حيث لا يتم تخصيص الموارد، وحيث يبدأ اقتصاد نشر نماذج اللغة الكبيرة في الحصول على معنى.

في عالم يزداد تعريفاً بالنظم الاصطناعية الغنية بالسياق والمعاملات المتعددة، لم تعد الذاكرة مجرد ممثل مساند – إنها المسرح. و Enfabrica تراهن على أن من يبني أفضل مسرح سوف يحدد أداء الذكاء الاصطناعي للأعوام القادمة.