كيفية الحفاظ على برودة الهواتف الذكية عند تشغيل نماذج التعلم الآلي

اقترح باحثون من جامعة أوستن و كارنيجي ميلون طريقة جديدة لتشغيل نماذج التعلم الآلي الحاسوبية على أجهزة محمولة مثل الهواتف الذكية وأجهزة الحواف الأقل قوة ، دون تشغيل التحكم الحراري – آلية حماية شائعة في الأجهزة المهنية والاستهلاكية ، مصممة لخفض درجة حرارة الجهاز المضيف عن طريق إبطاء أدائه ، حتى يتم الحصول على درجات حرارة تشغيل مقبولة مرة أخرى.

يمكن أن تساعد هذه الطريقة الجديدة نماذج التعلم الآلي الأكثر تعقيدًا في تشغيل الاستدلال وتنفيذ أنواع مختلفة من المهام دون تهديد استقرار الهاتف الذكي ، على سبيل المثال.

الفكرة المركزية هي استخدام الشبكات الديناميكية ، حيث يمكن الوصول إلى أوزان نموذج بواسطة نسخة “منخفضة الضغط” و “كامل الشدة” من نموذج التعلم الآلي المحلي.

في الحالات التي يجب أن تسبب فيها تشغيل نموذج التعلم الآلي المحلي ارتفاع درجة حرارة الجهاز بشكل حرج ، سيتحول النموذج ديناميكيًا إلى نموذج أقل طلبًا حتى تثبت درجة الحرارة ، ثم يعود إلى الإصدار الكامل.

مهمة الاختبار تتكون من وظيفة تصنيف الصور ووظيفة الاستدلال اللغوي الطبيعي (QNLI) – كلاهما من نوع التشغيل الذي من المحتمل أن يشارك تطبيقات الذكاء الاصطناعي المحمول. مصدر: https://arxiv.org/pdf/2206.10849.pdf

أجرى الباحثون اختبارات概念ية لنموذج رؤية الكمبيوتر ونموذج معالجة اللغة الطبيعية على هاتف هونور V30 Pro و Raspberry Pi 4B 4GB.

من النتائج (لهاتف الذكي) ، يمكننا رؤية درجة حرارة الجهاز المضيف ترتفع وتنخفض مع الاستخدام. تمثل الخطوط الحمراء نموذجًا يعمل بدون التحويل الديناميكي.

على الرغم من أن النتائج قد تبدو متشابهة ، إلا أنها ليست كذلك: ما يسبب ارتفاع درجة الحرارة وتناقصها للخطوط الزرقاء (أي باستخدام طريقة الورقة الجديدة) هو التبديل ذهابًا وعودة بين نسخ نموذج أبسط وأكثر تعقيدًا. في أي نقطة من التشغيل ، لا يتم تشغيل التحكم الحراري أبدًا.

ما يسبب ارتفاع درجة الحرارة وتناقصها في حالة الخطوط الحمراء هو تشغيل التحكم الحراري التلقائي في الجهاز ، الذي يبطئ من أداء النموذج ويزيد من تأخيره.

فيما يتعلق bằng مدى استخدام النموذج ، يمكننا رؤية أن تأخير النموذج غير المُساعد أعلى بكثير أثناء تشغيله بالتحكم الحراري:

في الوقت نفسه ، تظهر الصورة أعلاه几乎 لا توجد تغييرات في التأخير للنموذج الذي يتم إدارته بواسطة التحويل الديناميكي ، والذي يبقى استجابة طوال الوقت.

对于 المستخدم النهائي ، يمكن أن يعني التأخير العالي زيادة في وقت الانتظار ، مما قد يؤدي إلى إهمال المهمة وعدم الرضا عن التطبيق الذي يستضيفه.

في حالة أنظمة معالجة اللغة الطبيعية (بدلاً من رؤية الكمبيوتر) ، يمكن أن يكون وقت الاستجابة العالي أكثر إزعاجًا ، حيث قد تعتمد المهام على استجابة سريعة (مثل الترجمة التلقائية أو الأدوات لمساعدة المستخدمين المعاقين).

对于 التطبيقات الحاسوبية الحاسمة – مثل الواقع الافتراضي / الواقع المعزز في الوقت الفعلي – سيكون التأخير العالي قاتلاً لفائدة النموذج.

يذكر الباحثون:

‘نحن نجادل بأن التحكم الحراري يشكل تهديدًا خطيرًا لتطبيقات التعلم الآلي المحمول التي تعتمد على التأخير. على سبيل المثال ، خلال التصيير المرئي في الوقت الفعلي للبث أو الألعاب ، سيكون للانفجار المفاجئ في تأخير المعالجة لكل إطار تأثير سلبي كبير على تجربة المستخدم. بالإضافة إلى ذلك ، توفر أنظمة التشغيل المحمول في كثير من الأحيان خدمات وتطبيقات خاصة للأفراد ذوي الإعاقة ، مثل VoiceOver على iOS و TalkBack على Android.’

‘يتمتع المستخدم عادةً بالتفاعل مع الهواتف الذكية بالاعتماد الكامل على الكلام ، لذلك جودة هذه الخدمات تعتمد بشكل كبير على استجابة التطبيق أو التأخير.’

مخططات تظهر أداء BERT w50 d50 غير مساعد (الأحمر) ، ومساعد بالتحويل الديناميكي (الأزرق). لاحظ تساوي التأخير في التحويل الديناميكي (الأزرق).

الورقة هي مشاركة بين两个 باحثين من جامعة أوستن وواحد من جامعة كارنيجي ميلون وواحد يمثل كلا المؤسستين.

الذكاء الاصطناعي المبني على المعالج الدقيق للموبايل

على الرغم من أن التحويل الديناميكي والهياكل متعددة المقاييس هو مجال دراسة قائم ومستمر ، فإن معظم المبادرات ركزت على مجموعات أجهزة حسابية أعلى ، وال焦点 الحالي منقسم بين تحسين الشبكات العصبية المحلية (أي على جهاز) بشكل مكثف ، وعادةً لأغراض الاستدلال وليس التدريب ، وتحسين الأجهزة المخصصة للموبايل.

اختبار مشاركة الأوزان

تم اختبار الشبكات في المشروع وهي شبكات رفيعة و DynaBERT ، تمثل على التوالي مهمة رؤية الكمبيوتر ومهمة معالجة اللغة الطبيعية.

على الرغم من وجود مبادرات مختلفة لجعل إصدارات من BERT يمكنها تشغيل كفء واقتصادي على أجهزة الموبايل ، إلا أن بعض هذه المحاولات قد انتُقدت على أنها حلول معقدة ، ويلاحظ الباحثون في الورقة الجديدة أن استخدام BERT في الفضاء الموبايل هو تحد ، وأن “نماذج BERT بشكل عام معقدة حسابيًا لدرجة أن الهواتف الذكية لا تستطيع التعامل معها”.

يُعد DynaBERT مبادرة صينية لتحسين إطار NLP / NLU القوي من جوجل في سياق بيئة محرومة من الموارد ؛ ومع ذلك ، وجد الباحثون أن حتى هذه التنفيذ من BERT كان متطلبًا للغاية.

على أي حال ، على الهاتف الذكي و جهاز Raspberry PI ، قام المؤلفون بتشغيل تجربتين. في تجربة رؤية الكمبيوتر ، تمت معالجة صورة واحدة تم اختيارها عشوائيًا بشكل مستمر ومتكرر في ResNet50 كمهام تصنيف ، وتمكنت من تشغيل مستقر ودون تشغيل التحكم الحراري لمدة ساعة كاملة من وقت تشغيل التجربة.

تنص الورقة على ما يلي:

‘على الرغم من أنه قد يتضح بعض الدقة ، فإن التحويل الديناميكي المقترح له سرعة استدلال أسرع. وأهم شيء هو أن نهج التحويل الديناميكي الذي نقترحه يتمتع باستدلال متسق.’

تشغيل ResNet50 غير مساعد ومع التحويل الديناميكي بين Slimmable ResNet50 x1.0 و x0.25 على مهمة تصنيف الصور المستمرة ، لمدة ساعة.

对于 تجارب NLP ، قام المؤلفون بضبط التجربة لتبديل بين أصغر نموذجين في مجموعة DynaBERT ، ولكن وجدوا أنه عند 1.4X من التأخير ، يتم تشغيل BERT عند حوالي 70°. لذلك ، قاموا بضبط التبديل لحدوثه عندما تصل درجة الحرارة التشغيلية إلى 65°.

تضمنت تجربة BERT تشغيل الاستدلال بشكل مستمر على زوج سؤال / إجابة من مجموعة بيانات ONLI من GLUE.

كانت عمليات التبادل بين التأخير والدقة أكثر حدة مع مهمة BERT الطموحة أكثر من تنفيذ رؤية الكمبيوتر ، وتم الحصول على الدقة على حساب الحاجة إلى التحكم في درجة حرارة الجهاز بشكل أكبر ، لتجنب التحكم الحراري:

التأخير مقابل الدقة لتجارب الباحثين عبر المهام المتعددة.

يلاحظ المؤلفون:

‘التحويل الديناميكي ، بشكل عام ، لا يمكن منع نماذج BERT من التحكم الحراري بسبب كثافة الحساب الهائلة للنموذج. ومع ذلك ، في ظل بعض القيود ، يمكن أن يكون التحويل الديناميكي لا يزال مفيدًا عند نشر نماذج BERT على الهواتف الذكية.’

وجد المؤلفون أن نماذج BERT تسبب في ارتفاع درجة حرارة هاتف Honor V30 إلى 80° في أقل من 32 ثانية ، وستشغل التحكم الحراري في أقل من ست دقائق من النشاط. لذلك ، استخدم المؤلفون نماذج BERT بعرض نصف فقط.

تم تكرار التجارب على إعداد Raspberry PI ، وتمكنت التقنية أيضًا في هذا البيئة من منع تشغيل التحكم الحراري. ومع ذلك ، يلاحظ المؤلفون أن Raspberry PI لا تعمل تحت نفس القيود الحرارية القصوى مثل هاتف ذكي مزدحم ، ويبدو أنهم أضافوا هذه المجموعة من التجارب كتجربة إضافية لإثبات فعالية الطريقة في بيئات المعالجة المعتدلة.

نُشر لأول مرة في 23 يونيو 2022.