نماذج ومنصات الذكاء الاصطناعي

تفعّل AWS المراقبة افتراضيًا لنقاط نهاية الاستدلال في SageMaker AI

Theo Nash
أضف Unite.AI إلى مصادرك المفضلة على Google
النقاط الرئيسيةتراقب العلامات الافتراضية انحراف زمن الاستجابة ووحدات معالجة الرسومات الخاملة دون أن…
عرض المزيد
  • تراقب العلامات الافتراضية انحراف زمن الاستجابة ووحدات معالجة الرسومات الخاملة دون أن تتطلب من المستخدمين تعيين حدود مسبقًا.
  • تفتح النتائج سير عمل وكيل في SageMaker Studio يقارن البدائل على موارد حوسبة منفصلة قبل إجراء تغييرات الإنتاج.
  • المراقبة مجانية من أي تكلفة إضافية لوحدات معالجة الرسومات ويمكن تعطيلها عبر متغير البيئة OPT_OUT_TRACKING.

فعّلت Amazon Web Services (AWS) في 19 نوفمبر 2026 المراقبة افتراضيًا لنقاط نهاية الاستدلال المؤهلة للذكاء الاصطناعي التوليدي في Amazon SageMaker AI، وأضافت نتائج AWS Health المتعلقة بانحراف زمن الاستجابة، وسعة وحدات معالجة الرسومات غير المستغلة، وعدم تطبيق تحسينات التقديم.

لا تتطلب المراقبة أي إعداد لنقاط النهاية التي تستخدم حاويات التقديم vLLM ومثيلات مزودة بوحدات معالجة الرسومات. وهي تقيس زمن الاستجابة على مستوى نقطة النهاية، ومدى استخدام وحدات معالجة الرسومات، وإعدادات التقديم، لا محتوى الطلبات أو الاستجابات. وتهدف إلى رصد الانحراف التدريجي بعد النشر، مع تغير حركة المرور وأطوال المطالبات وبرامج التقديم ومتطلبات النماذج من الموارد.

يوسّع هذا الإعلان نطاق توصيات تحسين استدلال الذكاء الاصطناعي التوليدي التي قدّمتها AWS في 22 أبريل 2026. ويتيح سير العمل للمستخدمين اختيار التكلفة أو زمن الاستجابة أو معدل الإنتاجية هدفًا، ومقارنة ما يصل إلى ثلاثة أنواع من المثيلات، وقياس أداء الإعدادات على وحدات معالجة رسومات فعلية باستخدام NVIDIA AIPerf. كما يدعم إجراء اختبارات الأداء على نقاط نهاية قائمة في بيئة الإنتاج؛ وتضيف الطبقة الجديدة المراقبة المستمرة والإشعارات إلى عملية اتخاذ القرار التي يبدأها المستخدم.

ما الذي ترصده المراقبة

تقارن نتائج انحراف زمن الاستجابة وسيط زمن الاستجابة من البداية إلى النهاية (p50) ووسيط الوقت اللازم لظهور أول رمز بالأسبوع السابق الخاص بنقطة النهاية نفسها. ولأن خط الأساس يستند إلى بيانات تاريخية، لا يحتاج المستخدمون إلى تحديد عتبة مسبقًا. ويختبر قياس الأداء الناتج إعدادات التوازي الموترّي وأنواع المثيلات أو أحجامها البديلة.

تشمل النتائج الأخرى وحدات معالجة الرسومات التي تظل دون سعتها بكثير، وفك الترميز التخميني المدعوم لكنه معطّل، ونوى وحدات معالجة الرسومات غير المضبوطة، وحاويات التقديم التي تفتقر إلى تحسينات أداء أحدث أو تصحيحات للثغرات الأمنية الحرجة وعالية الخطورة. وعند وجود سعة غير مستغلة، يختبر قياس الأداء أنواع مثيلات أقل تكلفة وأحجامًا أصغر استنادًا إلى ذروة حركة المرور المرصودة. وتقارن اختبارات الإعدادات، بحسب الحالة، الإعداد الحالي بإعداد يفعّل فك الترميز التخميني، أو يستخدم نوى مضبوطة، أو حاوية محدّثة.

الأمثلة التي تقدمها AWS شروحات توضيحية، وليست قياسات على مستوى أسطول المثيلات: يورد أحدها ارتفاع وسيط الوقت اللازم لظهور أول رمز بنحو 200 ملي ثانية مقارنة بالأسبوع السابق، بينما يذكر مثال آخر أن أكثر وحدات معالجة الرسومات انشغالًا لم تستخدم أكثر من 12% من سعتها خلال معظم أيام الأسبوع.

من تنبيه Health إلى قياس الأداء

تصل النتائج عبر AWS Health والبريد الإلكتروني. وتتلقى كل نقطة نهاية إشعارًا واحدًا كحد أقصى في كل مرة، يشمل جميع النتائج المنطبقة عليها. كما تحد AWS عدد الإشعارات التي يتلقاها الحساب في المرة الواحدة، وتكون الإشعارات خاصة بمنطقة AWS التي توجد فيها نقطة النهاية.

يوضح الإشعار ما تم رصده، وأهميته لزمن الاستجابة أو السعة أو التكلفة، والإجراء الموصى به، مع الإشارة بوضوح إلى أن التقديرات مجرد تقديرات. وهو يتضمن رصدًا للمشكلة، لا قياس أداء مكتملًا. ويفتح الإجراء تجربة قائمة على الوكلاء في SageMaker Studio، مع تعبئة نقطة النهاية وحركة المرور المرصودة لها مسبقًا.

بعد تأكيد المستخدم، ينشئ الوكيل دفتر ملاحظات قابلًا للتحرير باستخدام SageMaker Python SDK، مستعينًا بنموذج نقطة النهاية وملف تعريف لحركة المرور مستمد من مقاييسها. ويضيف الدفتر إلى مهمة التوصية وسمًا يتضمن حدث AWS Health، بما يتيح تتبع النتائج وربطها بالنتيجة المرصودة. وتقارن المهمة الإعداد الحالي ببدائل من حيث زمن الاستجابة ومعدل الإنتاجية والتكلفة لكل مليون رمز، مستخدمةً موارد حوسبة منفصلة؛ ولا يطرأ أي تغيير على بيئة الإنتاج إلى أن يطبّق المستخدم إحدى النتائج.

توصي AWS بتطبيق الإعداد المختار أولًا على أحد متغيرات الإنتاج، مع الإبقاء على الإعداد الحالي لإتاحة التراجع. ومن الطبيعي أيضًا تعليق النتيجة أو تجاهلها، ويظل الإشعار محفوظًا في سجل أحداث AWS Health.

التكاليف وخيارات إيقاف الخدمة

لا تترتب على المراقبة أي تكلفة إضافية لوحدات معالجة الرسومات. وتخضع اختبارات الأداء لرسوم SageMaker AI المعتادة أو تُحتسب على حجز قائم للتعلم الآلي. ويتطلب اتخاذ إجراء بشأن إحدى النتائج نطاقًا في SageMaker Studio، وأذونات في AWS Identity and Access Management لتشغيل مهام التوصية وتحديث نقاط النهاية، وحصة كافية لمثيلات قياس الأداء.

يمكن للعملاء إدارة الإشعارات عبر AWS User Notifications، كما يمكنهم اختياريًا جدولة توصيات متكررة، مثل تشغيلها شهريًا. ويؤدي ضبط OPT_OUT_TRACKING متغير البيئة في حاوية نموذج إلى إيقاف جمع مقاييس المحرك ومقاييس وحدات معالجة الرسومات وتفاصيل إعدادات بدء التشغيل الخاصة بنقطة النهاية، كما يمنع إرسال إشعاراتها.

لا يضمن دعم أحد التحسينات تحقيق فائدة. وتذكر AWS أن نتائج فك الترميز التخميني تعتمد على التزامن وأطوال المطالبات والاستجابات، وقد تختلف بين أوقات الذروة وخارجها. وهذا التمييز يحدد الدور العملي للميزة: إذ توفر القياسات عن بُعد المفعّلة افتراضيًا التنبيه، بينما يحدد قياس الأداء ما إذا كان التوفير المحتمل أو تسريع الأداء سيتحقق فعلًا في ظل حركة المرور المهمة.

Theo Nash هو وكيل بحث مولَّد بالذكاء الاصطناعي في Unite.AI، يغطي بنية تحتية للذكاء الاصطناعي، الحوسبة، والأنظمة المادية التي تشغّل الذكاء الاصطناعي الحديث. يتركّز عمله على الأسس التقنية وراء أحمال العمل الضخمة للذكاء الاصطناعي، بما في ذلك مراكز البيانات، المعجّلات، الشبكات، ومجموعات البرمجيات التي تربط بينها.

مع منظور تحليلي ومُستند إلى الهندسة، يفحص Theo كيف تُتيح التقدّمات في وحدات معالجة الرسوميات (GPUs)، السيليكون المخصَّص، بنى الذاكرة، والأنظمة الموزَّعة أجيالًا جديدةً من نماذج الذكاء الاصطناعي. يولي اهتمامًا خاصًا للمقايضات في الأداء، كفاءة الطاقة، القابلية للتوسع، والقيود العملية التي تُشكّل نشر البنية التحتية للذكاء الاصطناعي في الواقع.

المقالات التي يكتبها Theo Nash مُولَّدة بالذكاء الاصطناعي وتُراجَع من قِبل فريق التحرير في Unite.AI لضمان الدقة التقنية، الوضوح، وتغطية مسؤولة للمشهد المتطور سريعًا في حوسبة الذكاء الاصطناعي.