كيفية الحفاظ على برودة الهواتف الذكية عند تشغيل نماذج التعلم الآلي

اقترح باحثون من جامعة أوستن و كارنيجي ميلون طريقة جديدة لتشغيل نماذج التعلم الآلي المكثفة حسابيًا على أجهزة محمولة مثل الهواتف الذكية وأجهزة الحواف الأقل قوة ، دون تشغيل الخنق الحراري – آلية حماية شائعة في الأجهزة المهنية والاستهلاكية ، مصممة لخفض درجة حرارة الجهاز المضيف عن طريق إبطاء أدائه ، حتى يتم الحصول على درجات حرارة تشغيل مقبولة مرة أخرى.

يمكن أن تساعد هذه الطريقة الجديدة نماذج التعلم الآلي الأكثر تعقيدًا في تشغيل الاستدلال وتنفيذ أنواع مختلفة من المهام دون تهديد استقرار الهاتف الذكي ، على سبيل المثال.

الفكرة المركزية هي استخدام الشبكات الديناميكية ، حيث يمكن الوصول إلى أوزان نموذج بواسطة نسخة “منخفضة الضغط” و “كامل الشدة” من نموذج التعلم الآلي المحلي.

في الحالات التي قد يتسبب فيها تشغيل نموذج التعلم الآلي المحلي ارتفاع درجة حرارة الجهاز بشكل حرج ، سيتحول النموذج ديناميكيًا إلى نموذج أقل طلبًا حتى تثبت درجة الحرارة ، ثم يعود إلى الإصدار الكامل.

مهمة الاختبار تتكون من وظيفة تصنيف الصور ووظيفة الاستدلال اللغوي الطبيعي (QNLI) – كلاهما من نوع التشغيل الذي من المحتمل أن يشارك تطبيقات الذكاء الاصطناعي المحمول. مصدر: https://arxiv.org/pdf/2206.10849.pdf

أجرى الباحثون اختبارات إثبات مفهوم لنماذج الرؤية الحاسوبية ومعالجة اللغة الطبيعية على هاتف هونور V30 Pro إصدار 2019 و Raspberry Pi 4B 4GB.

من النتائج (لهاتف الذكي) ، يمكننا رؤية درجة حرارة الجهاز المضيف ترتفع وتنخفض مع الاستخدام. تمثل الخطوط الحمراء نموذجًا يعمل بدون التحويل الديناميكي.

على الرغم من أن النتائج قد تبدو متشابهة ، إلا أنها ليست كذلك: ما يسبب ارتفاع درجة الحرارة وتناقصها للخطوط الزرقاء (أي باستخدام طريقة الورقة الجديدة) هو التبديل ذهابًا وعودة بين نسخ نموذج أبسط وأكثر تعقيدًا. في أي نقطة من التشغيل ، لا يتم تشغيل الخنق الحراري أبدًا.

ما يسبب ارتفاع درجة الحرارة وتناقصها في حالة الخطوط الحمراء هو تشغيل الخنق الحراري التلقائي في الجهاز ، الذي يبطئ من أداء النموذج ويزيد من تأخيره.

فيما يتعلق بمدى سهولة استخدام النموذج ، يمكننا رؤية أن تأخير النموذج غير المُساعد أعلى بكثير أثناء تشغيله بالخنق الحراري:

في الوقت نفسه ، تظهر الصورة أعلاه عدم وجود تغيرات تُذكر في التأخير للنموذج الذي يتم إدارته بواسطة التحويل الديناميكي ، والذي يظل سريع الاستجابة طوال الوقت.

بالنسبة إلى المستخدم النهائي ، يمكن أن يعني التأخير العالي زيادة في وقت الانتظار ، مما قد يؤدي إلى إهمال المهمة وعدم الرضا عن التطبيق الذي يستضيفه.

في حالة أنظمة معالجة اللغة الطبيعية (بدلاً من رؤية الكمبيوتر) ، يمكن أن يكون وقت الاستجابة العالي أكثر إزعاجًا ، حيث قد تعتمد المهام على استجابة سريعة (مثل الترجمة التلقائية أو الأدوات لمساعدة المستخدمين المعاقين).

بالنسبة إلى التطبيقات الحساسة للوقت – مثل الواقع الافتراضي / الواقع المعزز في الوقت الفعلي – سيكون التأخير العالي قاتلاً لفائدة النموذج.

يذكر الباحثون:

‘نحن نجادل بأن الخنق الحراري يشكل تهديدًا خطيرًا لتطبيقات التعلم الآلي المحمول التي تعتمد على التأخير. على سبيل المثال ، خلال التصيير المرئي في الوقت الفعلي للبث أو الألعاب ، سيكون للانفجار المفاجئ في تأخير المعالجة لكل إطار تأثير سلبي كبير على تجربة المستخدم. بالإضافة إلى ذلك ، توفر أنظمة التشغيل المحمول في كثير من الأحيان خدمات وتطبيقات خاصة للأفراد ذوي الإعاقة البصرية ، مثل VoiceOver على iOS و TalkBack على Android.’

‘يتمتع المستخدم عادةً بالتفاعل مع الهواتف الذكية بالاعتماد الكامل على الكلام ، لذلك جودة هذه الخدمات تعتمد بشكل كبير على استجابة التطبيق أو التأخير.’

مخططات تظهر أداء BERT w50 d50 غير مساعد (الأحمر) ، ومساعد بالتحويل الديناميكي (الأزرق). لاحظ تساوي التأخير في التحويل الديناميكي (الأزرق).

تحمل الورقة عنوان الحفاظ على البرودة: التحويل الديناميكي يمنع الخنق الحراري، وهي تعاون بين باحثين من جامعة أوستن، وباحث من كارنيجي ميلون، وباحث يمثل المؤسستين معًا.

الذكاء الاصطناعي المبني على المعالج الدقيق للموبايل

على الرغم من أن التحويل الديناميكي والهياكل متعددة المقاييس هما مجال بحث راسخ ونشط ، فإن معظم المبادرات ركزت على مجموعات أجهزة حسابية أعلى ، والجهد الحالي منقسم بين تحسين الشبكات العصبية المحلية (أي على جهاز) بشكل مكثف ، وعادةً لأغراض الاستدلال وليس التدريب ، وتحسين الأجهزة المخصصة للموبايل.
أُجريت اختبارات الباحثين على شرائح CPU لا على شرائح GPU. وعلى الرغم من الاهتمام المتزايد باستغلال موارد GPU المحلية في تطبيقات التعلم الآلي المحمولة، بل وحتى التدريب مباشرة على الأجهزة المحمولة، الذي قد يحسن جودة النموذج النهائي، فإن وحدات GPU تستهلك عادة طاقة أكبر. وهذا عامل حاسم في سعي الذكاء الاصطناعي إلى الاستقلال عن الخدمات السحابية والعمل بصورة مفيدة على جهاز محدود الموارد.

اختبار مشاركة الأوزان

تم اختبار الشبكات في المشروع وهي شبكات قابلة لتعديل العرض (slimmable networks) و DynaBERT ، تمثل على التوالي مهمة رؤية الكمبيوتر ومهمة معالجة اللغة الطبيعية.

على الرغم من وجود مبادرات مختلفة لجعل إصدارات من BERT يمكنها تشغيل كفء واقتصادي على أجهزة الموبايل ، إلا أن بعض هذه المحاولات قد انتُقدت على أنها حلول معقدة ، ويلاحظ الباحثون في الورقة الجديدة أن استخدام BERT في الفضاء الموبايل هو تحد ، وأن “نماذج BERT بشكل عام معقدة حسابيًا لدرجة أن الهواتف الذكية لا تستطيع التعامل معها”.

يُعد DynaBERT مبادرة صينية لتحسين إطار NLP / NLU القوي من جوجل في سياق بيئة محرومة من الموارد ؛ ومع ذلك ، وجد الباحثون أن حتى هذا التطبيق من BERT كان متطلبًا للغاية.

على أي حال ، على الهاتف الذكي و جهاز Raspberry PI ، قام المؤلفون بتشغيل تجربتين. في تجربة رؤية الكمبيوتر ، تمت معالجة صورة واحدة تم اختيارها عشوائيًا بشكل مستمر ومتكرر في ResNet50 كمهمة تصنيف، واستطاع النموذج العمل باستقرار ودون تشغيل الخنق الحراري لمدة ساعة كاملة من وقت تشغيل التجربة.

تنص الورقة على ما يلي:

‘على الرغم من أنه قد يضحي ببعض الدقة ، فإن التحويل الديناميكي المقترح له سرعة استدلال أسرع. وأهم شيء هو أن نهج التحويل الديناميكي الذي نقترحه يتمتع باستدلال متسق.’

تشغيل ResNet50 غير مساعد ومع التحويل الديناميكي بين Slimmable ResNet50 x1.0 و x0.25 على مهمة تصنيف الصور المستمرة ، لمدة ساعة.

بالنسبة إلى تجارب NLP ، قام المؤلفون بضبط التجربة لتبديل بين أصغر نموذجين في مجموعة DynaBERT ، ولكن وجدوا أنه عند 1.4X من التأخير ، يتعرض BERT للخنق الحراري عند نحو 70°. لذلك ، قاموا بضبط التبديل لحدوثه عندما تصل درجة الحرارة التشغيلية إلى 65°.

تضمنت تجربة BERT تشغيل الاستدلال بشكل مستمر على زوج سؤال / إجابة من مجموعة بيانات ONLI من GLUE.

كانت عمليات التبادل بين التأخير والدقة أكثر حدة مع مهمة BERT الطموحة أكثر من تنفيذ رؤية الكمبيوتر ، وتم الحصول على الدقة على حساب الحاجة إلى التحكم في درجة حرارة الجهاز بشكل أكبر ، لتجنب الخنق الحراري:

التأخير مقابل الدقة لتجارب الباحثين عبر المهام المتعددة.

يلاحظ المؤلفون:

‘التحويل الديناميكي ، بشكل عام ، لا يمكن منع نماذج BERT من الخنق الحراري بسبب كثافة الحساب الهائلة للنموذج. ومع ذلك ، في ظل بعض القيود ، يمكن أن يكون التحويل الديناميكي لا يزال مفيدًا عند نشر نماذج BERT على الهواتف الذكية.’

وجد المؤلفون أن نماذج BERT تتسبب في ارتفاع درجة حرارة وحدة المعالجة المركزية في هاتف Honor V30 إلى 80° في أقل من 32 ثانية ، وستشغل الخنق الحراري في أقل من ست دقائق من النشاط. لذلك ، استخدم المؤلفون نماذج BERT بعرض نصف فقط.

تم تكرار التجارب على إعداد Raspberry PI ، وتمكنت التقنية أيضًا في هذه البيئة من منع تشغيل الخنق الحراري. ومع ذلك ، يلاحظ المؤلفون أن Raspberry PI لا تعمل تحت نفس القيود الحرارية القصوى مثل هاتف ذكي مزدحم ، ويبدو أنهم أضافوا هذه المجموعة من التجارب كتجربة إضافية لإثبات فعالية الطريقة في بيئات المعالجة المعتدلة.

نُشر لأول مرة في 23 يونيو 2022.