باحثون يطورون بديلاً لمعالج الرسومات

قام علماء الحاسوب من جامعة رايس، بالتعاون مع شركاء من شركة إنتل، بتطوير بديل أكثر كفاءة في التكلفة لمعالج الرسومات. يُسمى الخوارزمية الجديدة “محرك التعلم العميق الفرعي الخطي” (SLIDE)، ويتضمن استخدام وحدات المعالجة المركزية العامة (CPUs) دون أجهزة تعزيز متخصصة.

تم تقديم النتائج في مركز مؤتمرات أوستن، الذي يستضيف مؤتمر أنظمة التعلم الآلي MLSys.

من أكبر التحديات في مجال الذكاء الاصطناعي هو أجهزة التعزيز المتخصصة مثل وحدات معالجة الرسومات. قبل التطورات الجديدة، كان يُعتقد أن استخدام هذه الأجهزة المتخصصة ضروري لتعزيز سرعة تقنية التعلم العميق.

كثير من الشركات قد أبدت اهتمامًا كبيرًا في الاستثمار في وحدات معالجة الرسومات والأجهزة المتخصصة للتعلم العميق، والتي تُستخدم في تكنولوجيا مثل المساعدين الرقميين، والتعرف على الوجوه، وأنظمة توصية المنتجات. واحدة من هذه الشركات هي شركة نيفيديا، التي تُنتج وحدات معالجة الرسومات Tesla (TSLA ) V100 Tensor Core. وأفادت نيفيديا مؤخرًا عن زيادة بنسبة 41% في إيراداتها للربع الرابع مقارنة بالعام الماضي.

يفتح تطوير SLIDE إمكانيات جديدة تمامًا.

أنسومالي شريفاستافا هو أستاذ مساعد في مدرسة هاوارد للهندسة في جامعة رايس، وساهم في اختراع SLIDE مع طلاب الدراسات العليا بيدي تشين وثارون مديني.

“تُظهر اختباراتنا أن SLIDE هو أول تنفيذ ذكي للخوارزمية للتعلم العميق على وحدة المعالجة المركزية التي يمكن أن تتفوق على تعزيز الأجهزة لمعالج الرسومات في مجموعات بيانات التوصية على نطاق الصناعة مع بنية متصلة بالكامل كبيرة،” قال شريفاستافا.

يتجاوز SLIDE تحدي وحدات معالجة الرسومات بسبب نهجه المختلف تمامًا للتعلم العميق. حاليًا، تقنية التدريب القياسية للشبكات العصبية العميقة هي “الانتشار العكسي”، وتتطلب ضرب المصفوفات. يتطلب هذا الحمل الوظيفي استخدام وحدات معالجة الرسومات، لذا قام الباحثون بتعديل تدريب الشبكة العصبية بحيث يمكن حلها باستخدام جداول التجزئة.

يقلل هذا النهج الجديد بشكل كبير من العبء الحسابي لمحرك SLIDE. أفضل منصة لمعالج الرسومات الحالية التي تستخدمها شركات مثل أمازون وجوجل للتعلم العميق السحابي هي八 Tesla V100، وتبلغ التكلفة حوالي 100,000 دولار.

(AMZN ) (GOOGL )

“لدينا واحد في المختبر، وفي حالة الاختبار، اخترنا حمولة مثالية ل V100، واحدة تحتوي على أكثر من 100 مليون معامل في شبكات متصلة بالكامل كبيرة تتناسب مع ذاكرة معالج الرسومات،” قال شريفاستافا. “لقد قمنا بتدريبه باستخدام أفضل حزمة برمجية متاحة، وهي TensorFlow من جوجل، واستغرق التدريب 3 ساعات و 30 دقيقة.

“ثم أظهرنا أن خوارزميتنا الجديدة يمكن أن تقوم بالتدريب في ساعة واحدة، وليس على وحدات معالجة الرسومات، بل على وحدة معالجة مركزية من فئة Xeon بقوة 44 نواة،” продолжил.

التجزئة هي نوع من أساليب فهرسة البيانات التي تم اختراعها في التسعينيات للبحث على الإنترنت. تُستخدم الأساليب العددية لتشفير كميات كبيرة من المعلومات على شكل سلسلة من الأرقام، ويُسمى هذا التشفير “التجزئة”. يتم سرد التجزئات لإنشاء جداول يمكن البحث فيها بسرعة.

“لن يكون لدينا أي معنى لتنفيذ خوارزميتنا على TensorFlow أو PyTorch لأن أول ما يريدون القيام به هو تحويل ما تقوم به إلى مشكلة ضرب مصفوفة،” قال تشين. “ذلك هو بالضبط ما كنا نريد الهروب منه. لذلك كتبنا رمزنا الخاص بلغة C++ من البداية.

وفقًا لشريفاستافا، فإن أكبر ميزة لمحرك SLIDE هي أنه موازٍ للبيانات.

“بمعنى أنني إذا كان لديّ مثيلين من البيانات التي أريد تدريبها، على سبيل المثال، صورة لقطة وصور أخرى لقطار، فمن المحتمل أن تنشط نيورونات مختلفة، ويمكن لمحرك SLIDE تحديث أو تدريب هذه النيورونات بشكل مستقل،” قال. “هذا هو استخدام أفضل للتوازي على وحدات المعالجة المركزية.”

“الجانب السلبي، بالمقارنة مع وحدات معالجة الرسومات، هو أننا نحتاج إلى ذاكرة كبيرة،” قال. “هناك هرمية ذاكرة في الذاكرة الرئيسية، وإذا لم تكن حريصًا، يمكن أن تواجه مشكلة تسمى تسرب الذاكرة، حيث تحصل على الكثير من أخطاء الذاكرة.”

فتح محرك SLIDE الباب لطرق جديدة لتنفيذ التعلم العميق، ويعتقد شريفاستافا أنه مجرد البداية.

“لقد كسرنا سطح الأمر فقط،” قال. “هناك الكثير مما يمكننا القيام به لتحسين الأداء. لم نستخدم التوجيه، على سبيل المثال، أو المعززات المدمجة في وحدة المعالجة المركزية، مثل Intel (INTC ) Deep Learning Boost. هناك الكثير من الحيل الأخرى التي يمكننا استخدامها لجعلها أسرع.”