نماذج ومنصات الذكاء الاصطناعي
تضيف Amazon SageMaker AI موجّهًا إقليميًا للتحويل الاحتياطي متاحًا للاستخدام العام

النقاط الرئيسيةينقل الموجّه هندسة تجاوز الفشل إلى SageMaker AI لكن العملاء لا يزالون مضطرين لدفع تكلفة…
عرض المزيد
- ينقل الموجّه هندسة تجاوز الفشل إلى SageMaker AI لكن العملاء لا يزالون مضطرين لدفع تكلفة السعة الاحتياطية في مكان آخر.
- تتجاهل درجات الصحة زمن استجابة النموذج، لذا تحتفظ نقاط النهاية التي تعيد استجابات ناجحة بحركة المرور رغم بطئها.
- لا يمكن للعملاء ضبط حدود الأوزان أو توقيت تجاوز الفشل لأن الموجّه يتحكم في جميع قرارات التوجيه تلقائيًا.
أتاحت Amazon Web Services التوجيه الاستدلالي بين المناطق للاستخدام العام في Amazon SageMaker AI في 19 نوفمبر 2026، ما يتيح للتطبيقات استدعاء موجّه واحد للوصول إلى موارد تقديم النماذج الحالية عبر مناطق AWS وحساباتها عندما تنفد السعة المحلية.
تعمل نقطة نهاية SageMaker AI في منطقة واحدة وحساب واحد. وعندما يتعذر على التوسع التلقائي إضافة نوع المثيل المطلوب، قد تتعرض الطلبات للاختناق وتنتهي مهلتها، حتى إذا كانت هناك سعة فائضة للنموذج نفسه في مكان آخر. وكان على العملاء الذين يستخدمون نقاط النهاية المُدارة في السابق إنشاء آلياتهم الخاصة للتوجيه بين المناطق، بما يشمل اكتشاف الأعطال، وإعادة المحاولة بأمان، ومعالجة الاستعادة، والوصول بين الحسابات.
يستخدم موجّه الاستدلال الإقليمي الجديد هدف توجيه مُسمّى لكل نموذج منطقي. ويمكن أن يضم الهدف مزيجًا من نقاط النهاية الفورية ومكونات الاستدلال عبر مناطق وحسابات متعددة، أو أن يقتصر على نقاط النهاية غير المتزامنة. ويستدعي التطبيق الهدف عبر الموجّه. وتظل النماذج وإعدادات نقاط النهاية ومجموعات المثيلات والحاويات والتوسع التلقائي دون تغيير، كما تظل الاستدعاءات المباشرة InvokeEndpoint تعمل. ولا ينشئ الموجّه سعةً، ولا ينشر النماذج، ولا يوسّع نقاط النهاية؛ لذا يجب أن تكون كل وجهة قيد التشغيل مسبقًا في منطقتها.
إشارات الحالة تحدد مسار التحويل الاحتياطي
يفضّل الموجّه الوجهات السليمة في منطقته، ويوزّع الطلبات بالتساوي على وجهات محلية سليمة متعددة. ويستند تقييم الحالة إلى الطلبات الحديثة التي تُقاس في منطقة كل وجهة: فأخطاء الخادم والاختناق وانتهاء المهلة تخفض التقييم، وتخفضه أخطاء المنصة بأكبر قدر، أما حالات الفشل الناجمة عن الطلب، مثل الإدخال غير الصالح، فلا تؤثر فيه. ولا يؤخذ زمن استجابة النموذج في الحسبان، لذا تستمر نقطة النهاية التي تواصل إرجاع استجابات ناجحة في تلقي حركة المرور. وتنشر SageMaker AI healthy, overloaded و degraded الحالات في CloudWatch؛ إذ تفقد الوجهات المحمّلة فوق طاقتها جزءًا من حركة المرور، بينما لا تحتفظ الوجهات المتدهورة إلا بحصة صغيرة منها، حتى يتمكن الموجّه من اكتشاف التعافي.
تقول AWS إن حركة المرور تبدأ بالانتقال خلال نحو دقيقة من استمرار الأخطاء، وقد يستغرق ذلك وقتًا أطول للوجهات ذات حركة المرور القليلة، ثم تعود على مدى عدة دقائق بعد التعافي. ولا يمكن للعملاء تحديد الأوزان أو ترتيب التحويل الاحتياطي أو العتبات أو توقيت التحويل. وإذا أصبحت معلومات الحالة الخاصة بالوجهات البعيدة قديمة، يُبقي الموجّه حركة المرور في منطقته.
نطاق إعادة المحاولة أضيق في الاستدلال الفوري. إذ يجري الموجّه محاولة ثانية واحدة على وجهة مختلفة، ولكن فقط عندما لا يكون النموذج قد نُفّذ، بما في ذلك حالات الاختناق، أو خطأ 503، أو عدم جاهزية النموذج، أو رفض الطلب بسبب حدّ حركة المرور، أو رفض الوصول إلى الوجهة. ولا يعيد المحاولة مطلقًا عند انتهاء المهلة أو حدوث أخطاء 500 أو أخطاء النموذج. أما الطلبات غير المتزامنة، فتُجرَّب مرة واحدة على كل وجهة مؤهلة، بدءًا بالوجهات المحلية، إلى أن تقبل إحداها الطلب.
تحدد كل استجابة فورية وجهة تقديم الخدمة في InvokedRoutedResourceArn وتوفّر RoutingReason من local-preferred, capacity-available, failover أو only-healthy. وتضيف مقاييس OpenTelemetry في CloudWatch بيانات الطلبات والأخطاء لكل وجهة، ومدة الوجهة، والعبء الزائد الناتج عن الموجّه والشبكة بين المناطق، ومعلومات الحالة. ولا تحدد الاستجابات غير المتزامنة وجهتها، لكن مقاييس CloudWatch توضح الموضع الذي وُجّهت إليه الطلبات.
تظل مسؤولية السعة وضوابط الوصول على عاتق مالكي نقاط النهاية
قد يؤدي توجيه الحركة الفائضة إلى اختناق نقطة النهاية المستقبِلة. وتقبل نقطة النهاية الفورية، افتراضيًا، أي مقدار من حركة المرور القادمة من مناطق أخرى. ويمكن لمالكها وضع حد اختياري يحدد معدل الاستدعاءات لكل مثيل، استنادًا إلى اختبارات الحمل، والنسبة المئوية القصوى المتاحة للمناطق الأخرى. ويتناسب الحد المسموح به الناتج مع عدد المثيلات العاملة، بما في ذلك التغييرات الناجمة عن التوسع التلقائي. وفي مثال AWS، فإن 50 استدعاءً في الثانية لكل مثيل، وحدًا أقصى نسبته 20%، وأربعة مثيلات، تسمح بـ40 طلبًا في الثانية من مناطق أخرى، وترتفع إلى 60 عند إضافة مثيلين.
لا تُحتسب ضمن هذا الحد إلا الطلبات الواردة من مناطق أخرى، ولا تؤدي الاستدعاءات من منطقة نقطة النهاية نفسها مطلقًا إلى الاختناق بفعل هذه الآلية. وتُرفض الطلبات الزائدة قبل تشغيل النموذج، ثم يُعاد إرسالها مرة واحدة إلى وجهة أخرى؛ وإذا لم تتمكن أي وجهة من قبولها، يتلقى التطبيق خطأ اختناق. وتشترك جميع مكونات الاستدلال على نقطة النهاية في الحد نفسه.
بالنسبة إلى الوجهات الموجودة في حسابات أخرى، يجب أن يسمح كلا الحسابين بالطلبات. ويمكن لسياسة نقطة النهاية تقييد الوصول بموجّه مُسمّى واحد، ولا يمنح الموجّه المتصلَ صلاحية الوصول إلى نقطة نهاية لا يستطيع استدعاءها مباشرةً.
حدود النشر والتسعير
الخدمة متاحة للاستخدام العام في معظم مناطق AWS التجارية، باستثناء me-south-1 وme-central-1، للاستدلال الفوري وغير المتزامن. ولا تدعم بث الاستجابات. وتُمنح الطلبات الفورية نحو دقيقة واحدة لتلقي استجابة من الوجهة، ويمكن أن يصل حجم البيانات المرسلة في الطلبات الفورية إلى 6 MB، كما يدعم كل موجّه ما يصل إلى 20 هدف توجيه، بحد أقصى 10 وجهات لكل هدف.
يعمل الموجّه نفسه ضمن منطقة واحدة، لذا توصي AWS بإنشاء موجّهات في منطقتين والتبديل بينها من جانب العميل لضمان مرونة نقطة الدخول. كما تتطلب حدود إقامة البيانات إعدادًا صريحًا، إذ قد تُعالَج الطلبات في منطقة الموجّه أو في أي منطقة من مناطق الوجهات المسجّلة.
لا توجد رسوم إضافية على التوجيه. يدفع العملاء الأسعار المعتادة لنقاط نهاية SageMaker AI ومكوّنات الاستدلال، سواء وصلت الطلبات مباشرةً أم عبر موجّه، إضافةً إلى الأسعار المعتادة في CloudWatch لمقاييس الموجّه والاستعلامات.
ينقل هذا الإطلاق هندسة التحويل عند التعطل إلى SageMaker AI، تاركًا للعملاء المفاضلة الأساسية المتعلقة باقتصاديات الحوسبة: إذ يظل استمرار الخدمة عند نقص الموارد في منطقة ما مرهونًا بالدفع مقابل سعة استدلال قابلة للاستخدام في منطقة أخرى وتخصيصها هناك.












