تم اختبار جهاز الحافة الخاص بك على تمريرة أمامية. سيقوم وكيلك بتشغيل حلقة.

أصبح النقاش حول الأجهزة في مجال الذكاء الاصطناعي الطرفي أكثر صراحةً خلال العام الماضي. جادل مقال حديث على هذا الموقع بأن التسلسل الهرمي القديم للتصميم — “زيادة الإنتاجية إلى أقصى حد، ثم إدارة الطاقة والحرارة حولها” — قد انقلب، وأنه في عمليات النشر الصناعية أصبحت الطاقة هي الأهم، بينما تأتي الإنتاجية الخام في المرتبة الأخيرة. يتبع ذلك حجة كانت هذه النشرة تدافع عنها منذ فترة: أن الأجهزة الطرفية “محدودة حرارياً، لا محدودة بـ MIPS/الحوسبة”، وأن الهواتف الذكية تصل إلى تلك الحدود بالفعل. كلاهما تصحيح حقيقي ومتأخر.

لكنها لا تزال تحمل افتراضًا واحدًا من العالم الذي تصححه. كل عنصر في ذلك التسلسل يُخصَّص وفق عبء عمل مفترض، والعبء الذي لا يزال معظم الناس يخصِّصون له هو تمريرة أمامية واحدة: يتلقى النموذج مدخلًا، ينتج مخرجًا، ثم يحصل السيليكون على لحظة لتبريد.

هذا ليس ما يفعله الوكيل. يقرر الوكيل، يستدعي أداة، يقرأ ما يُرجع، ثم يقرر مرة أخرى. عدد المرات التي يدور فيها حول تلك الحلقة ليس خاصية في جهازك، ولا هو خاصية في نموذجك أيضًا. إنها خاصية للمشكلة التي سلّمها أحدهم له في الصباح. لدي وكلاء يعملون على أجهزة طرفية، وأطول ما استغرقني لقبوله لم يكن بطئهم. بل كان أن تكلفة التشغيل تُحدَّد في مكان لا أملك رؤية إليه أثناء التصميم.

الحلقة غير محدودة حتى يكتب أحدهم رقمًا

هذا ليس إطارًا بلاغيًا؛ إنه الطريقة التي تُبنى بها الأطر فعليًا. في SDK الوكلاء الخاص بـ OpenAI، “يشغل المُنفذ حلقة”، وعندما ينتج النموذج استدعاءات أدوات، سي “يشغل تلك الاستدعاءات، يضيف النتائج، ويعيد تشغيل الحلقة”. الشيء الوحيد الذي يوقف ذلك هو حد عدد الأدوار — إذا تجاوزت max_turns ستحصل على استثناء — وتُشير الوثائق إلى أنه يمكنك تمرير max_turns=None لتعطيل الحد تمامًا.

على الخادم، هذا الرقم هو قرار فواتير. يلاحظ أحدهم الفاتورة.

على الجهاز، هذا الرقم هو قرار حراري، لأن طول الحلقة هو دورة العمل. ودورة العمل هي المتغير الوحيد الذي لا يمكن للتبريد السلبي الجدال معه.

الحمولة المستمرة تفعل شيئًا مختلفًا للهاتف مقارنةً بالمعيار

وضع معيار مارس 2026 أربعة منصات تحت هذا النوع من الحمولة بالضبط: نموذج مُكمَّن بكمية 1.5 مليار معامل، موجه ثابت من 258 رمزًا، عشرون تشغيلًا متتاليًا، تم قياس الإنتاجية والطاقة والحرارة لكلٍ منها. هو مسودة قبل النشر، ويقيس نموذجًا واحدًا على أربعة أجهزة، لذا اعتبر الأرقام المحددة توصيفًا لتلك المنصات وليس قانونًا طبيعيًا. ما يهم هو شكل النتيجة.

وصل iPhone 16 Pro إلى ذروة 40.35 رمزًا في الثانية ولم يستطع الحفاظ عليها. ظهرت الانخفاضات خلال استنتاجين. استقر عند 22.56 رمزًا في الثانية — انخفاض بنسبة 44 بالمئة — وظل مخفضًا للسرعة طوال 65 بالمئة من الاختبار. قامت تقنية تعديل الجهد والتردد الديناميكي، الآلية التي تخفض سرعات الساعة عندما ترتفع درجة حرارة الوصلة، بما هو متوقع.

فشل Galaxy S24 Ultra بطريقة مختلفة، وأسوأ. بدلاً من الانخفاض التدريجي، فرض الحاكم الحراري لنظام Android حدًا أدنى ثابتًا لتردد وحدة معالجة الرسومات عند التكرار السادس، عند 78.3°C، وتوقف الاستنتاج. يوضح المؤلفون النقطة المهمة هنا أفضل مما أستطيع: بالنسبة لنشر الوكلاء، هذا “أكثر اضطرابًا من الانخفاض التدريجي اللطيف”، لأن النظام لا يصبح أبطأ؛ يصبح غير قابل للاستخدام.

الآن تمسك بالتفصيل الذي يجعل هذا مدينًا أكثر من كونه مجردًا مثيرًا للاهتمام. كل واحدة من تلك العشرين تشغيلًا استخدمت نفس الموجه. هذه هي أخف عبء عمل قد يرى جهاز الوكيل. ولم يتمكن هاتفان رائدان من الحفاظ عليها لعشرين تكرار. وهذا ليس اكتشافًا جديدًا أيضًا — نقطة MELTing، التي عُرضت في MobiCom عام 2024، استنتجت أنه من الناحية الطاقية والحرارية “يبقى التنفيذ المستمر لنماذج اللغة الكبيرة بعيد المنال”. بعد عامين وعدة عقد عملية، الجدار نفسه.

منحنيان يقتربان من بعضهما، ويعطل منتجك عند تقاطعهما

حلقة الوكيل أسوأ من موجه متكرر بطريقة ميكانيكية محددة.

الترميز مقيد بعرض نطاق الذاكرة: تُحكم الإنتاجية بسرعة قراءة النموذج لذاكرة التخزين المؤقت للمفاتيح والقيم، وليس بعدد العمليات التي يمكن للرقاقة أن تُجريها نظريًا. تلك الذاكرة تنمو مع السياق. كل خطوة في الحلقة تُضيف نتيجة أداة، ملاحظة، خطة جزئية — لذا فإن الخطوة العاشرة تُولِّد رموزًا ضد ذاكرة أكبر بكثير من ما كانت عليه الخطوة الأولى.

في هذه الأثناء، يسخن الجهاز، ويخفض الحاكم ترددات الساعة.

لذا ترتفع تكلفة كل خطوة في اللحظة التي تنخفض فيها قدرة الجهاز على دفعها. يلتقي المنحنيان، وحيثما يلتقيا هو المكان الذي يفشل فيه منتجك. لا يحدث ذلك أبدًا في الخطوة الأولى. الخطوة الأولى هي ما اختبرته.

هناك مشكلة مقياس تحت هذا أيضًا. العمل التوليدي هو ببساطة ترتيب مختلف من النفقات مقارنةً بما أنفقته شرائح الطرفية على مدار عقد من الزمن: تم قياسه عبر 88 نموذجًا، تكلفة تصنيف النص حوالي 0.002 كيلوواط ساعة لكل ألف استنتاج مقابل 0.047 كيلوواط ساعة لتوليد النص — أي ما يقرب من عشرين مرة أكثر، قبل أن تضاعف الحلقة أي تكلفة. تم أخذ تلك القياسات على وحدة معالجة رسومات في مركز بيانات، وليس على هاتف، لذا فسرها كنسبة بين أنواع العمل وليس كقيمة طاقة لجهازك. بالنسبة للمقياس، تُظهر الدراسة نفسها أن شحن هاتف ذكي كامل يستهلك 0.022 كيلوواط ساعة.

اشترِ بال جول لكل مهمة مكتملة، لا بالرموز في الثانية

أكثر نتيجة مفيدة في معيار 2026 هي التي تبدو الأقل إبهارًا.

أدار معالج NPU من نوع Hailo-10H 6.9 رمزًا في الثانية بأقل من 2 واط. بطيء — بطيء حقًا، ويؤكد ذلك المؤلفون. لكن معامل التباين في الإنتاجية كان 0.04 بالمئة، أي أكثر استقرارًا بمرتبتين من أي شيء آخر تم اختباره. وقد قدمت وحدة معالجة رسومات الحاسوب المحمول في نفس الدراسة 131.7 رمزًا في الثانية بقدرة 34.1 واط.

ثم قارن الاثنين من حيث الطاقة وليس السرعة: 270.5 ملي جول لكل رمز على الـ NPU الصغير مقابل 297.3 على وحدة معالجة الرسومات. رغم الفجوة التي تبلغ تسعة عشر مرة في الإنتاجية، فقد قام الجزء الصغير بكمية قليلة من الحساب لكل جول — وفعل ذلك دون تباين تقريبًا.

إذا اخترت الأجهزة بناءً على الرموز في الثانية، فستشتري الأسرع. إذا اخترت بناءً على القدرة على إكمال حلقة محدودة بتكلفة متوقعة، وهو ما يحتاجه الوكيل فعليًا، فإن الترتيب يتغير. الوحدة التي يجب أن تظهر في ورقة المواصفات هي جول لكل مهمة مكتملة، مع رقم التباين بجانبها. المعيار الذي يُبلغ عن أقصى إنتاجية يخبرك عن أول استنتاج في اليوم.

الاعتراض الصادق، وما لا يحله

الرد الواضح هو أن هذه مشكلة مؤقتة: يتحسن السيليكون، وتصبح NPUs أكثر نضجًا، وأي شيء مكتوب عن هاتف 2026 سيبدو قديمًا. أو، عمليًا أكثر، نقل الخطوات المكلفة إلى خادم.

كنت سأراهن على الأجهزة بنفسي. لكن النقل إلى الخادم هو الرحلة ذهابًا وإيابًا التي انتقلنا إلى الطرف لتجنبها، والوكيل لا يدفعها مرة واحدة — يدفعها في كل خطوة من الحلقة، وطول الحلقة هو ما لا يمكنك التنبؤ به. لا تُزيل التصاميم المختلطة التباين؛ بل تنقله إلى الشبكة.

عدم التوازن الأعمق لا يتحرك مع عقد العملية. ميزانية الجهاز ثابتة في وقت التصميم. طلب الوكيل يُحدد في وقت التشغيل، بحسب ما يطلبه المستخدم. تحسين السيليكون يرفع السقف. لكنه لا يخبر الوكيل أين السقف.

لذا أخبره. ضع حد الأدوار في مواصفات المنتج بدلاً من اكتشافه في مراجعة الكود، واختر الرقم من الغلاف الحراري: قرر عدد الخطوات التي تتناسب، ثم صمم الوكيل ليُنتج أفضل إجابة متاحة عند هذا الحد بدلاً من إجابته المثالية عند حد عشوائي. اعتبره موعدًا نهائيًا، لا هدفًا.

ثم أعطِ الوكيل الميزانية كمدخل. السعة المتبقية، حالة البطارية، ما إذا كانت المنصة قد بدأت بالفعل في تقليل السرعة — كل ذلك ينتمي إلى السياق، كما الحال مع الوقت الحالي. الوكيل الذي يعرف أنه في الخطوة الثامنة من عشرة يمكنه التلخيص والالتزام. الوكيل الذي لا يعرف سيستمر في الاستكشاف حتى يقرر نظام التشغيل ذلك له.

واختبر الطرف، لا المتوسط، وهو ما يعني على جهاز مادي اختبارًا في المحاكاة. حالة الفشل لا تكون أبدًا في تشغيل نظيف. إنها التشغيل الذي استغرق أربعة عشر خطوة لأن أداة أعادت شيئًا غامضًا في الخطوة الثالثة، ولا يمكنك تعدادها يدويًا على هاتف يحتاج إلى تبريد بين المحاولات. أنظمتي تدرب ضد المحاكاة إلى حد كبير لهذا السبب: السلوك المثير يكون في الجولات الطويلة، والجولات الطويلة هي بالضبط ما لا يسمح لك الجهاز بتجربته يدويًا.

لا يتطلب أي من هذا رقاقة أسرع. ما يتطلبه هو الاعتراف بأن عبء العمل تغير شكله. لا أحد يرسل جهازًا بطاريته مُصممة لالتقاط صورة واحدة. ما زلنا نرسل أجهزة ميزانيتها الحرارية مُصممة لاستنتاج واحد.