تطلق Bito أداة Governor لخفض تكاليف وكلاء البرمجة عبر الاستفادة من السياق وتوجيه المهام إلى النماذج المناسبة

قد يقضي وكيل البرمجة جزءًا كبيرًا من الجلسة في البحث عن الملفات المناسبة قبل إجراء تغيير مفيد. ويضيف كل بحث مزيدًا من السياق، وقد يُعاد إرساله إلى النموذج في جولات لاحقة، ما يحوّل مهمة بسيطة إلى فاتورة استدلال متزايدة. تستهدف Bito جانبي هذه التكلفة من خلال Governor، وهو موجّه جديد للنماذج يجمع بين سياق قاعدة الشيفرة وتحديد النموذج الأنسب لتنفيذ المهمة.

أُطلقت Governor في 27 أكتوبر، وتعمل بين وكلاء البرمجة الحاليين والنماذج التي يستدعونها. وتقول Bito إن الأداة تستطيع خفض إنفاق الوكلاء بنسبة تتراوح بين 40% و70% مع الحفاظ على الجودة، وذلك عبر تقليل سياق البحث غير الضروري واختيار نموذج ومستوى استدلال مناسبين. وهذه النسبة نتيجة أبلغت عنها الشركة، وليست وفورات مضمونة لكل فريق.

تدعم الأداة سير العمل الذي يستخدم أدوات مثل Claude Code وCursor وCodex. ويوجّه الفرق وكلاءها إلى نقطة نهاية مشتركة بدلًا من استبدال بيئة البرمجة التي يستخدمها المطورون بالفعل.

لماذا قد تكلّف جلسة البرمجة الطويلة أكثر من المتوقع

لا يشكّل سعر الرمز الواحد سوى جزء من فاتورة الوكيل. فقد تتضمن الجلسة عمليات بحث وقراءة ملفات وتعديلات وتشغيل اختبارات متكررة، ثم يُعاد تمرير المحادثة الناتجة إلى النموذج عند استدعائه في المرات اللاحقة. لذلك، قد يظل تأثير قراءة ملف كبير في وقت مبكر من المهمة ظاهرًا في التكاليف حتى بعد مرور وقت طويل على فتح الوكيل له أول مرة.

توضح Bito المشكلة بمثال جلسة واحدة في Claude Code أعادت فيها عمليات البحث نحو 65,000 رمز. وبحسب الشركة، بلغ إجمالي الرموز في الجلسة ستة ملايين بحلول نهايتها، نتيجة تكرار معالجة السياق المتراكم. وتصف هذه الأرقام جلسة واحدة جرى قياسها، لا تكلفة نموذجية لكل مهمة برمجية.

يمكن أن يؤدي تخزين الأوامر مؤقتًا إلى خفض تكلفة المدخلات المتكررة، لكن أسعار الرموز المخزنة مؤقتًا تختلف عن أسعار الرموز التي تُعالَج حديثًا. وهذا يعني أن إجمالي الفاتورة يعتمد على طريقة عمل الوكيل، والسياق الذي يحتفظ به، وما إذا كان الانتقال إلى نموذج آخر يحافظ على حالة ذاكرة التخزين المؤقت المفيدة أو يبددها.

قال عمار غويل، الشريك المؤسس والرئيس التنفيذي لـBito، في الإعلان: «اختيار النموذج المناسب مهم، لكن لا يقل عنه أهمية احتساب تكلفة بحث الوكيل في الشيفرة وإعادة إرسال كل ما سبق له الاطلاع عليه».

محرك سياق الشيفرة يقلل تكرار استكشافها

تحتفظ Governor برسم بياني حي لشيفرة الشركة. وعندما يحتاج الوكيل إلى استكشاف قاعدة الشيفرة، تقول Bito إن Governor تستطيع إجراء هذا البحث باستخدام نموذج أصغر وأسرع، ثم تقديم إجابة موجزة تتضمن سياق الشيفرة ذي الصلة.

تأتي الوفورات المستهدفة من تجنب تكرار الاستكشاف باستخدام نموذج متقدم، ومنع نتائج البحث غير الضرورية من الوصول إلى محادثة الوكيل الرئيسي. فتقديم إجابة مركّزة يغيّر مقدار السياق الذي ينتقل عبر الجولات اللاحقة، ولا يقتصر أثره على سعر البحث الأول.

يشرح توثيق منصة Bito الرسم البياني الأساسي بمزيد من التفصيل. فهو يفهرس الرموز وبنية الخدمات والتبعيات والعلاقات بين المستودعات، إلى جانب السياق المستمد من مصادر مثل متتبعات المشكلات ووثائق التصميم ونقاشات فرق الهندسة. كما يرسم مخططات قواعد البيانات والأنماط المعمارية وسياق النشر.

وهذا يمنح المنتج نطاقًا أوسع للاسترجاع من مجرد مطابقة المقاطع النصية. فقد يتطلب سؤال عن تغيير في المصادقة تحديد الخدمة المسؤولة عن واجهة ما، والجهات المستدعية التي تعتمد عليها، والأساس المنطقي وراء قرار تصميم سابق. ويساعد ربط هذه العلاقات الوكيل على استقصاء أثر التغيير قبل اقتراح الشيفرة.

والناتج الأهم هو أدلة يمكن الاستفادة منها. ويصف التعريف بـGovernor من Bito إجابات بحثية موجزة مرتبطة بمراجع الملفات وأرقام الأسطر، ما يتيح للوكيل الرئيسي الاستناد إلى قاعدة الشيفرة الفعلية في خطوته التالية.

يعتمد التوجيه على المهمة وذاكرة التخزين المؤقت

تختار Governor أيضًا النموذج ومستوى الاستدلال بناءً على العمل المطلوب. وتقول Bito إنها تأخذ في الحسبان نوع المهمة، وعواقب الإجابة السطحية أو الخاطئة، وقصد المستخدم، وذاكرة التخزين المؤقت التي تكوّنت بالفعل خلال الجلسة.

ويكتسب هذا السياق أهمية عندما تحمل رسالة قصيرة تعليمات واسعة النطاق. فقد تعني عبارة «تابع» الإذن بتنفيذ خطة معقدة، رغم قلة النص في الرسالة نفسها. وقد يعجز موجّه يتخذ من طول الرسالة مقياسًا للصعوبة عن إدراك ما يطلبه المطور من الوكيل فعليًا.

تصف Bito Governor بأنها تتخذ قرار التوجيه عند بدء طلب جديد من المطور، وتحافظ على هذا الاختيار بينما ينفذ الوكيل المهمة. كما توازن بين الوفورات المحتملة من تبديل النماذج وفقدان فائدة ذاكرة تخزين مؤقت موجودة بالفعل.

لذلك، لا يكون النموذج الأرخص تلقائيًا الخيار الأقل تكلفة للاستدعاء التالي. فقد تغيّر ذاكرة تخزين مؤقت جاهزة على نموذج أعلى سعرًا حسابات التكلفة، ولا سيما عندما تكون المحادثة طويلة بالفعل. وتضيف إعدادات الاستدلال متغيرًا آخر: فقد تبرر المهمة التي تتطلب تحليلًا أعمق إجراء حسابات إضافية، بينما قد لا تستدعيها خطوة اعتيادية.

يهدف تصميم نشر Governor إلى الحفاظ على سير العمل القائم. وتقول Bito إنها تدعم واجهات API المتوافقة مع Anthropic وOpenAI، وتعمل باستخدام مفاتيح مزودي الخدمة الخاصة بالفريق، ويمكن تشغيلها إلى جانب بوابة قائمة. وهذا يصف طبقة التوجيه؛ لكن لا يزال على الفرق إعداد الوكلاء وإتاحة الوصول إلى مزودي الخدمة الذين تعتزم استخدامها.

Privado تسجل تكلفة أقل وعددًا أقل من الخطوات

في المثال المقدم عن أحد العملاء مع الإعلان، أجرت شركة برمجيات الخصوصية Privado اختبارًا مضبوطًا على مهامها الهندسية باستخدام Claude Code. وتفيد Bito بأن تكلفة المهمة انخفضت من 4.12 دولارات إلى 2.14 دولار، أي بنسبة 48%، في حين احتاج الوكيل إلى 23 خطوة لكل مهمة بدلًا من 47.

وتقول الشركة إن الجودة ظلت على حالها، وإن إنجاز المهام أصبح أسرع بنسبة 38%. ويوضح موقع Bito أن مقارنة العميل بنظام A/B شملت 40 مهمة هندسية، واستخدمت المهام والنموذج وبيئة الاختبار نفسها، مع جعل Governor العامل المتغير.

تجعل هذه التفاصيل النتيجة أكثر إفادة من ادعاء عام بتحقيق وفورات، لكنها تظل تحد من مدى إمكانية تعميمها. فقد يؤدي اختلاف المستودع أو مزيج المهام أو ترتيب مزودي الخدمة أو النموذج المستخدم مبدئيًا إلى توازن مختلف بين الاسترجاع واستخدام ذاكرة التخزين المؤقت وتكلفة الاستدلال.

تنشر Bito أيضًا أبحاثًا عن تكلفة نماذج البرمجة وجودتها. وتعرض دراستها الصادرة في سبتمبر 29 نموذجًا اختُبرت على 60 مهمة هندسية، مع تقييم 1,740 إجابة. جرى التحقق من بعض المهام عبر تشغيل الشيفرة أو اكتشاف عيوب مزروعة عمدًا؛ أما مهام أخرى، فقيّمها حكم يعمل بالذكاء الاصطناعي وفق معايير وُضعت قبل إجراء الاختبارات. وهذه الدراسة الأوسع للنماذج منفصلة عن مقارنة العميل Privado.

تتيح عناصر التحكم للفرق اختبار التوجيه قبل تغيير حركة الطلبات

يوفر Governor إعدادات الجودة والتوازن والتكلفة، إلى جانب وضع المحاكاة الذي يسجل الكيفية التي سيوجه بها حركة طلبات الفريق من دون تغيير طريقة التعامل مع الطلبات. ويتيح ذلك لقادة الفرق الهندسية فحص القرارات المقترحة قبل تفعيلها.

وتشمل الضوابط الإضافية حدًا أقصى صارمًا للسعر، وقيودًا على التوجيه إلى نماذج أعلى تكلفة من دون إذن، والرجوع إلى النموذج المطلوب إذا حدث خطأ ما. كما تُسجَّل قرارات التوجيه مع أسبابها.

تعتزم Bito توسيع نطاق Governor ليشمل ما يتجاوز وكلاء البرمجة. وفي الوقت الراهن، يعالج الإطلاق مشكلة هندسية ملموسة: تكلفة الاستكشاف المتكرر واستدعاءات النماذج خلال جلسات تطوير البرمجيات الطويلة.

المقياس المفيد هو تكلفة إنجاز العمل بنجاح، إلى جانب مستوى الجودة والوقت اللازم. وتتمثل الفكرة التي يطرحها Governor في أن الفرق تستطيع تحسين هذا المقياس عبر تزويد الوكلاء بسياق أفضل وتخصيص قدرات النماذج على نحو أكثر تعمدًا، من دون مطالبة المطورين بالتخلي عن الأدوات التي يستخدمونها بالفعل.