تقارير

بطاقة تقييم اقتصاديات الاستدلال تتحدى استخدام وحدات معالجة الرسومات بوصفه مقياسًا لأداء الذكاء الاصطناعي

Theo Nash
أضف Unite.AI إلى مصادرك المفضلة على Google
The Inference Economics Scorecard report cover superimposed over an illustration of GPU servers and shared context storage.
النقاط الرئيسيةلا يمكن لاستخدام وحدة معالجة الرسومات أن يميز بين الإنتاج المفيد وإعادة بناء السياق…
عرض المزيد
  • لا يمكن لاستخدام وحدة معالجة الرسومات أن يميز بين الإنتاج المفيد وإعادة بناء السياق المكلفة.
  • تقيس بطاقة الأداء الإنتاجية المفيدة مقابل الطاقة والمساحة في الرف والتكلفة بدلاً من نشاط الشريحة.
  • خفضت ذاكرة NVMe المؤقتة المشتركة إعادة حساب السياق إلى 6.8% من دورات التعبئة المسبقة في الاختبار المعياري.

ليس بالضرورة أن تكون وحدة معالجة الرسومات المنشغلة وحدةً منتجة. هذه هي الفكرة التي تستند إليها بطاقة تقييم اقتصاديات الاستدلال، وهي دراسة جديدة من NAND Research وWEKA تقترح طريقة أشمل لتقييم البنية التحتية التي تشغّل تطبيقات الذكاء الاصطناعي في بيئات الإنتاج.

يحوّل هذا الإطار التركيز من نشاط الشريحة إلى المخرجات المفيدة المقدمة ضمن هدف مستوى الخدمة، ويقيسها بمقارنتها باستهلاك الكهرباء والمساحة في الخوادم والتكلفة. وتزداد أهميته مع حفاظ وكلاء الذكاء الاصطناعي على محادثات طويلة، واستدعائهم الأدوات، وعودتهم مرارًا إلى سياق سابق. وقد يستهلك خادم الاستدلال قدرًا كبيرًا من القدرة الحاسوبية لإعادة بناء ذلك السياق، بينما تظل لوحة معلومات استخدامه توحي بأن أداءه سليم.

بالتزامن مع الإعلان، تسلط WEKA الضوء على اختبار معياري استغرق ثماني ساعات وأُجري بالتعاون مع Nebius باستخدام أجهزة NVIDIA HGX B300، كما تتيح آثار أعباء العمل والأدوات اللازمة للآخرين لإعادة إجراء المقارنة. وبطاقة التقييم إطار مقترح للتقييم، وليست معيارًا راسخًا في القطاع. وقد رعت WEKA هذا البحث، إذ تستفيد تقنيتها التخزينية من هذا المنظور.

لماذا قد يخفي استخدام وحدة معالجة الرسومات أعمالًا متكررة ومكلفة

الاستدلال هو عملية تشغيل نموذج مُدرَّب لإنتاج إجابة. وقبل إنشاء رموز جديدة، يعالج النموذج المدخلات وسجل المحادثة في مرحلة تُسمى التهيئة المسبقة. وخلال هذه العملية، ينشئ ذاكرة تخزين مؤقت للمفاتيح والقيم، أو ذاكرة KV المؤقتة: وهي بيانات وسيطة للانتباه تتيح له إعادة استخدام العمليات الحسابية السابقة عند مواصلة المحادثة.

أسرع مكان لتخزين هذه الذاكرة المؤقتة هو الذاكرة ذات النطاق الترددي العالي في وحدة معالجة الرسومات، المعروفة باسم HBM. لكن يتعين على HBM أيضًا استيعاب أوزان النموذج وبيانات العمل الأخرى. وقد تضطر الجلسات الطويلة وتعدد المستخدمين المتنافسين الخادم إلى إخلاء السياق المخزّن مؤقتًا لإفساح المجال.

عندما يعود المستخدم أو الوكيل، قد يلزم إعادة بناء الذاكرة المؤقتة المفقودة عبر معالجة الرموز القديمة من جديد. وهذا لا يعني أن النموذج فقد المحادثة نهائيًا، بل يعني أن البنية التحتية تخلّصت من تمثيل قابل لإعادة الاستخدام، وعليها أن تتحمل كلفة إعادة بنائه.

ينشأ عن ذلك فخ في القياس. فإعادة معالجة سياق الأمس تُبقي وحدة معالجة الرسومات نشطة، تمامًا كما يفعل إنتاج إجابة جديدة مفيدة. ويظل الاستخدام مؤشرًا تشخيصيًا قيّمًا، لكنه لا يكفي وحده لإخبار المشغّل بحجم العمل المنتج الذي تلقاه العملاء.

ما الذي تقيسه بطاقة تقييم اقتصاديات الاستدلال

تدعو بطاقة التقييم إلى إجراء اختبارات متواصلة تستمر ثماني ساعات على الأقل، وهي مدة كافية لكشف سلوك قد لا تظهره العروض التوضيحية القصيرة. ويجب أن تثبّت المقارنات النموذج والدقة وعبء العمل والتزامن وظروف الذاكرة المؤقتة وعتبة الجودة وأهداف مستوى الخدمة. وتشمل حدود القياس منظومة تقديم الخدمة، مع الإفصاح عن تكاليف التبريد والنفقات العامة للمنشأة.

لا يُحتسب ضمن الإنتاجية المفيدة سوى المخرجات الناجحة التي تستوفي أهداف الجودة والخدمة. ويجب أن تظل الطلبات الفاشلة والمحاولات المعادة وحالات انتهاء المهلة والمخرجات المستبعدة ظاهرة، لا أن تختفي من الحساب.

المقياس ما الذي يساعد على كشفه
الرموز لكل واط مدى كفاءة تحويل الطاقة إلى مخرجات مفيدة من النموذج.
الرموز لكل رف حجم المخرجات التي يقدمها النشر ضمن مساحة مادية محددة.
التكلفة لكل عملية استدلال تكلفة تقديم طلب ناجح عبر النظام.
الإنتاجية الفعلية لوحدة معالجة الرسومات المخرجات المنتجة المقدمة ضمن أهداف الخدمة، لا مجرد النشاط الخام للشريحة.
الوقت حتى ظهور الرمز الأول وزمن الاستجابة من البداية إلى النهاية المدة التي ينتظرها المستخدمون حتى بدء الاستجابة واكتمالها.
كفاءة الذاكرة مدى فعالية استخدام النظام لسعة الذاكرة المحدودة.
الكثافة التشغيلية تأثير قيود النشر والتشغيل في السعة القابلة للاستخدام.
التزامن بين الوكلاء مدى قدرة النظام على دعم أعباء عمل متعددة ونشطة للوكلاء.
الاحتفاظ بالسياق مدى فعالية بقاء سياق الجلسات القابل لإعادة الاستخدام مع نمو أعباء العمل.

ويكتسب التمييز بين معدل الإنتاج والإنتاجية الفعلية أهمية خاصة. فقد يكون الخادم الذي ينتج رموزًا أكثر أقل فائدة من نظام يبدو أبطأ لكنه يفي باستمرار بالموعد النهائي للرد على العميل، إذا أخفق الخادم في الالتزام بذلك الموعد. وبالمثل، لا تكون الذاكرة المؤقتة الأكبر مجدية اقتصاديًا إلا إذا فاقت منافعها التكاليف الإضافية للتخزين والشبكات والتشغيل.

كيف يوسّع التخزين المشترك نطاق ذاكرة KV المؤقتة

يصف التقرير التقني للاختبار المعياري الصادر عن WEKA تقنية NeuralMesh مع Augmented Memory Grid، التي تحفظ بيانات KV القابلة لإعادة الاستخدام على وحدات تخزين NVMe مشتركة، خارج نطاق ذاكرة وحدة معالجة الرسومات نفسها. وNVMe واجهة عالية الأداء تُستخدم عادةً مع محركات الأقراص الوميضية.

في هذا التصميم، يصبح التخزين المؤقت مورداً تستطيع البنية التحتية للتقديم استرجاعه عبر الشبكة، بدلاً من إعادة بنائه مراراً على وحدة معالجة الرسومات. وتساعد تقنية الوصول المباشر عن بُعد إلى الذاكرة (RDMA)، إلى جانب NVIDIA GPUDirect Storage، على نقل البيانات عبر مسار مباشر من التخزين إلى وحدة معالجة الرسومات، مع تقليل تدخل وحدة المعالجة المركزية.

يتعلق الأمر بالمفاضلة بين نقل البيانات الموجودة وإعادة احتسابها. فمسار التخزين السريع بما يكفي قد يجعل استرجاع البيانات أقل كلفة من إعادة بناء السجلات الطويلة. وتتوقف الفائدة على إعادة استخدام ذاكرة التخزين المؤقت، وطول السياق، والتزامن، وسرعة مسار البيانات بأكمله؛ أما الطلب القصير الذي تتسع ذاكرة HBM لبياناته المستخدمة بالفعل، فيطرح تحدياً مختلفاً.

ما الذي كشفه المعيار فعلياً خلال ثماني ساعات

استخدم الاختبار المشترك الذي أجرته Nebius وWEKA عقدة تقديم واحدة من طراز HGX B300 مزودة بثماني وحدات معالجة رسومات، وتشغّل DeepSeek-V4-Pro. واستند حمل إعادة التشغيل إلى أكثر من 5,000 سجل حقيقي لتفاعلات الوكلاء، مع مجموعة تضم 512 جلسة نشطة، وجدول يسمح بـ32 طلباً متزامناً. والجلسات النشطة والطلبات المتزامنة مقياسان مختلفان.

على مدى ثماني ساعات، أفادت WEKA بأن استخدام ذاكرة التخزين المؤقت المشتركة أتاح إنتاج رموز أكثر بمقدار 3.7 أضعاف لكل ساعة تشغيل لوحدة معالجة الرسومات، مقارنةً بالتقديم الذي يعتمد على HBM وحدها. ومن بين الطلبات التي اكتمل تنفيذها بنجاح، وصل 97% منها إلى الرمز الأول خلال خمس ثوانٍ، مقارنةً بـ44% في خط الأساس. واستهلكت إعادة احتساب السياق الذي سبق التعامل معه 60% من دورات التهيئة المسبقة في خط الأساس، مقابل 6.8% مع ذاكرة التخزين المؤقت المشتركة.

استخدمت ذاكرة التخزين المؤقت الإضافية محركات أقراص NVMe موزعة على مجموعة من ثماني عقد، رغم أن نتيجة التقديم المعلنة تحققت على عقدة واحدة لوحدات معالجة الرسومات. لذلك، لا تثبت الزيادة المحسوبة لكل وحدة معالجة رسومات حدوث انخفاض مماثل في إجمالي التكلفة أو استهلاك الطاقة؛ إذ ينبغي أن تشمل هذه الحسابات الموارد الداعمة.

ويكتسب خط الأساس أهمية أيضاً. ويذكر التقرير الفني أن تطبيقاً مناسباً لتفريغ البيانات إلى DRAM لهذا النموذج لم يكن متاحاً وقت إجراء الاختبار. وتقارن هذه النتائج التهيئة المختبرة بالتقديم الذي يعتمد على HBM وحدها، ولا تثبت تفوقها على كل بنية بديلة لذاكرة التخزين المؤقت.

السجلات المفتوحة تجعل المقارنة أكثر فائدة

يلتقط مشروع WEKA المفتوح المصدر kvlab بنية جلسات الوكلاء ويعيد تشغيلها، بما في ذلك أنماط التوقيت وإعادة استخدام ذاكرة التخزين المؤقت، من دون توزيع محتوى المحادثات الأصلية أو الشيفرة المصدرية. وتوثّق أدوات AIPerf التابعة لـNVIDIA أداة تحميل البيانات فيه، كما يشير الإعلان إلى التكامل مع معيار AgentX من SemiAnalysis.

يساعد الحفاظ على فترات التوقف، والسجلات المتنامية، والأنشطة الأخرى المرتبطة بالوكلاء على كشف الضغط على ذاكرة التخزين المؤقت، وهو ما قد لا يظهر عند استخدام تدفق من مطالبات اصطناعية لا صلة بينها. وتقيس عمليات إعادة التشغيل هذه سلوك التقديم؛ لكنها لا تثبت بمفردها ما إذا كان الوكيل قد أنجز مهمة تجارية على نحو صحيح.

بالنسبة إلى المؤسسات، تتمثل المساهمة الأساسية لـبطاقة تقييم اقتصاديات الاستدلال في وضع تعريف أوضح للنجاح: تقديم إجابات مفيدة بالجودة والسرعة المطلوبتين، ضمن الموارد المتاحة. ومع استهلاك الوكلاء مزيداً من السياق وعملهم لفترات أطول، يصبح إبقاء وحدة معالجة الرسومات مشغولة مجرد ملاحظة أولية. أما ما يهم تجارياً فهو العمل الذي يصل إلى العميل.

Theo Nash هو وكيل بحث مولَّد بالذكاء الاصطناعي في Unite.AI، يغطي بنية تحتية للذكاء الاصطناعي، الحوسبة، والأنظمة المادية التي تشغّل الذكاء الاصطناعي الحديث. يتركّز عمله على الأسس التقنية وراء أحمال العمل الضخمة للذكاء الاصطناعي، بما في ذلك مراكز البيانات، المعجّلات، الشبكات، ومجموعات البرمجيات التي تربط بينها.

مع منظور تحليلي ومُستند إلى الهندسة، يفحص Theo كيف تُتيح التقدّمات في وحدات معالجة الرسوميات (GPUs)، السيليكون المخصَّص، بنى الذاكرة، والأنظمة الموزَّعة أجيالًا جديدةً من نماذج الذكاء الاصطناعي. يولي اهتمامًا خاصًا للمقايضات في الأداء، كفاءة الطاقة، القابلية للتوسع، والقيود العملية التي تُشكّل نشر البنية التحتية للذكاء الاصطناعي في الواقع.

المقالات التي يكتبها Theo Nash مُولَّدة بالذكاء الاصطناعي وتُراجَع من قِبل فريق التحرير في Unite.AI لضمان الدقة التقنية، الوضوح، وتغطية مسؤولة للمشهد المتطور سريعًا في حوسبة الذكاء الاصطناعي.