تقدّم Together AI التجميع المستمر لاستدلال الإنتاج

أعلنت Together AI في 4 نوفمبر 2026 عن الاستدلال متعدد الأشكال، وقدّمت Together Compiler بوصفه أول تطبيق له. وتعيد هذه المنظومة المدعومة بالوكلاء ضبط الاستدلال باستمرار لمواكبة التغيرات في النماذج وحركة الطلبات والأجهزة، وهي تعمل بالفعل على كثير من أعباء الاستدلال الرئيسية للشركة في بيئات الإنتاج، وعلى بعض نقاط النهاية الشائعة عديمة الخوادم.

تقول Together AI إن المترجم حقق، خلال أقل من 24 ساعة، معدلًا يتراوح بين 1.3 و3 أضعاف عدد الرموز في الثانية مقارنةً بخطوط الأساس مفتوحة المصدر والمحسّنة بدرجة كبيرة، وذلك في اختبارات شملت Kimi K3 وGLM 5.3 وMiniMax M3.1-Flash وDeepSeek v4.1-Flash. وتوضح هذه النتائج الفكرة الأساسية للإعلان: إذ يمكن أن يكون التحسين عملية بحث مستمرة مرتبطة بعملية نشر بعينها، بدلًا من جولة ضبط يدوي تُجمَّد عند الإطلاق.

تغيّر النماذج وحركة المرور والأجهزة

الاستدلال متعدد الأشكال هو المصطلح الذي تستخدمه Together AI لوصف بنية خدمة تتكيف مع تسارع إصدار النماذج، وتنوع البنى، وتطور أنماط حركة المرور ومتطلبات مستوى الخدمة، فضلًا عن تزايد وتيرة التغييرات في الأجهزة. أما النهج الثابت المقابل، فيبدأ بإعدادات محددة مسبقًا لمحرك الاستدلال. وليس بالضرورة أن تلائم الإعدادات المضبوطة لظرف معين ظرفًا آخر، ولا سيما حين يتغير سلوك النموذج وتوزيع الطلبات.

تقدم ملاحظات الشركة من بيئة الإنتاج أمثلة ملموسة. وتفيد Together AI بأن المطالبات خلال ساعات العمل في إحدى الدول بلغت نحو 97,000 رمز، مقارنةً بـ70,000 في أماكن أخرى، وأن أطوال المطالبات زادت بنسبة 80% خلال الأسبوعين التاليين لإصدار أحد النماذج، مع تحول الاستخدام نحو أعباء العمل المعتمدة على الوكلاء. وقد تؤدي أيضًا الزيادة المفاجئة في طلبات العملاء إلى مضاعفة أطوال المطالبات وخفض معدلات إصابة ذاكرة التخزين المؤقت، ما يغيّر الظروف التي ضُبطت الإعدادات القائمة على أساسها.

يُعيد الإعلان أيضًا النظر في تركيز Together AI السابق على النوى العملاقة، التي تدمج العمليات في نواة واحدة. فبعد تشغيل الإصدارات الأولية في بيئة الإنتاج، خلصت الشركة إلى أن الدمج وحده ليس هدفًا تصميميًا يصلح لجميع الحالات؛ إذ قد تتطلب بنى مزيج الخبراء وأعباء العمل الديناميكية تقنيات مختلفة. وبالمثل، قد لا تكون النوى المطوّرة لحركة مرور ثابتة أو عشوائية مضبوطة على نحو ملائم لحركة المرور في بيئة الإنتاج، حيث يؤثر التوجيه المعتمد على البيانات في تحديد التحسينات الأجدى.

آلية عمل التجميع المستمر

يتلقى Together Compiler نمط حركة المرور والنموذج والأجهزة مدخلاتٍ، ثم يستخدم الوكلاء لإنشاء تحسينات مرشحة لمحرك الاستدلال وقياس أدائها. ويحمّل محرك دائم النموذج مرة واحدة، ثم يعيد تحميل التمريرات الأمامية المرشحة مباشرةً من دون إعادة تشغيل المحرك بأكمله. وينشئ الوكلاء المتوازيون تحسينات مرشحة ويتواصلون عبر لوحة رسائل، مع إبقاء التجارب في قائمة الانتظار بينما يستدل وكلاء آخرون أو يستخدمون الأدوات.

توازن مستويان للقياس بين حجم التجارب وواقعيتها. تحمّل المحركات السريعة مجموعة فرعية من الطبقات لإجراء تكرارات سريعة وقياسات زمنية منخفضة التباين؛ أما المحركات الأبطأ فتحمّل عددًا أكبر من الطبقات لاختبار مدى صمود التحسينات المرشحة مع توزيعات بيانات واقعية. ويجمع نموذج مستقل للتكلفة بين مواصفات الأجهزة والاختبارات المعيارية المصغرة والتمريرات الأمامية المقيسة، لتقليص نطاق البحث عن إعدادات التوازي قبل أن يقضي الوكلاء وقتًا في تحسين الخيارات المرشحة.

تذكر الورقة التقنية أن النماذج المرشحة الفائزة تخضع لاختبارات تحقق من تلوث ذاكرة التخزين المؤقت للمفاتيح والقيم (KV) ومن جودة المخرجات قبل إتاحتها للخدمة. وتُجرى هذه الاختبارات بعد استنفاد ميزانية التحسين، عند إعداد الشيفرة المصدرية النهائية لدمجها في محرك تقديم الخدمة.

تفيد المقارنة الواردة في منشور الإطلاق بأن التسلسل المتبع حاليًا يستغرق 467 ثانية لبدء التشغيل حتى إتاحة الخدمة، مقابل 9.0 ثوانٍ باستخدام إعداد Together Compiler. وتشمل هذه الأرقام بدء تشغيل المحرك أثناء التحسين، لا زمن استجابة الطلبات الفردية، وتساعد على توضيح سبب محورية إعادة التحميل الفورية في زيادة معدل إنجاز التجارب في النظام.

نطاق التقييم وإتاحة النظام للعملاء

في مقارنات المحركات، استخدمت الورقة أفضل الإعدادات المفتوحة المتاحة حتى 30 أكتوبر 2026، وأبقت استراتيجية التوازي في خط الأساس ثابتة لعزل أثر التحسين القائم على الوكلاء. وكان Trainium2 الاستثناء المعلن من عبء العمل القياسي للتقييم؛ إذ استُخدمت معه مجموعة بيانات اصطناعية متعددة الأدوار، لأن التطبيق لم يكن يدعم بعد مستويات أعلى من التزامن ضمن سعة HBM المتاحة.

وتعزو Together AI نتائج التحسين جزئيًا إلى أن معدل إنجاز التجارب لديها أعلى بـ252 مرة منه في أنظمة التحسين القائمة على التحسين الذاتي التكراري بالوكلاء في خط الأساس.

وبعيدًا عن استدلال النماذج اللغوية، تذكر الورقة تحقيق تسارعات تتراوح بين 1.5 و6.4 أضعاف في النماذج المختبرة الخاصة بالطقس وعلم الأحياء والسلاسل الزمنية والمعادلات التفاضلية الجزئية، مع الحفاظ على مخرجات مطابقة تمامًا على مستوى البت في التقييمات المذكورة.

يمكن للعملاء النهائيين طلب الوصول المبكر عبر برنامج تجريبي محدود. وتخطط Together AI لإتاحة تحسين نقاط النهاية المخصصة بنقرة واحدة، فيما تشمل خارطة طريقها البحثية فك الترميز التخميني المتكيف بحسب المجال والطلب والرمز وحمل حركة المرور، إلى جانب التوجيه الديناميكي بين العاملين وإعدادات النشر للتعامل مع حركة المرور المتنوعة عديمة الخوادم.

يجعل الإطلاقُ القياسَ الخاص بكل عملية نشر، لا البحث عن نواة مثلى على نحو شامل، المبدأَ الناظم لمنظومة الاستدلال لدى Together AI. والسؤال المباشر الذي يطرحه العملاء هو ما إذا كان الإصدار التجريبي المحدود سيتمكن من تحقيق المكاسب المُعلنة على نماذجهم وحركة مرورهم وأجهزتهم، مع اجتياز اختبارات الجودة نفسها؛ وهذا هو التباين الذي صُمم التجميع المستمر لمعالجته.