نمو و تقليم استراتيجية الذكاء الاصطناعي تقلل من استهلاك الطاقة

تعمل الدماغ البشري بطريقة “نمو و تقليم”، حيث يبدأ بكمية هائلة من الاتصالات العصبية ثم يقلل من الاتصالات غير المستخدمة مع مرور الوقت. مؤخرًا، قام فريق من باحثي الذكاء الاصطناعي بتطبيق هذه الطريقة على أنظمة الذكاء الاصطناعي ووجدوا أنها يمكن أن تقلل بشكل كبير من كمية الطاقة المطلوبة لتدريب الذكاء الاصطناعي.

قام فريق من الباحثين من جامعة برينستون مؤخرًا بإنشاء طريقة جديدة لتدريب أنظمة الذكاء الاصطناعي. هذه الطريقة الجديدة تظهر أنها قادرة على تحقيق أو تجاوز معايير الصناعة لالدقة، ولكنها قادرة على تحقيق ذلك مع استهلاك كمية أقل من القوة الحاسوبية، وبالتالي أقل طاقة، من نماذج التعلم الآلي التقليدية. على مدار ورقتين بحثيتين، أظهر باحثو برينستون كيفية نمو الشبكة بإضافة عصبونات ووصلات إليها. ثم تم تقليم الوصلات غير المستخدمة مع مرور الوقت، تاركة فقط الأجزاء الأكثر فعالية وكفاءة من النموذج.

أوضح نيراج جها، أستاذ الهندسة الكهربائية في برينستون، لصحيفة برينستون نيوز أن النموذج الذي طوره الباحثون يعمل على نمط “نمو و تقليم”. أوضح جها أن دماغ الإنسان هو الأكثر تعقيدًا عندما يكون عمره ثلاث سنوات، وبعد هذه النقطة يبدأ الدماغ في تقليم الاتصالات العصبية غير المستخدمة. النتيجة هي أن الدماغ الكامل قادر على أداء جميع المهام المعقدة التي نقوم بها كل يوم، ولكنه يستخدم حوالي نصف جميع الاتصالات العصبية التي كان لديه في ذروته. لجها والباحثون الآخرون قاموا بمحاكاة هذه الاستراتيجية لتحسين تدريب الذكاء الاصطناعي.

أوضح جها:

“نحن نتبع نمط نمو و تقليم. هذا مشابه لما يفعله الدماغ من khi نكون رضيعًا حتى khi نكون طفلًا. في السنة الثالثة، يبدأ دماغ الإنسان في تقليم الاتصالات بين الخلايا العصبية. هذا العملية تستمر حتى البلوغ، بحيث يعمل الدماغ الكامل بمقدار نصف الاتصالات العصبية التي كان لديه في ذروته. الدماغ الكامل متخصص في التدريب الذي قدمناه له. إنه ليس جيدًا لتعلم الأغراض العامة مثل دماغ الطفل.”

بفضل تقنية النمو و التقليم، يمكن إجراء تنبؤات جيدة بنفس القدر حول الأنماط في البيانات باستخدام جزء فقط من القوة الحاسوبية التي كانت مطلوبة في السابق. يهدف الباحثون إلى العثور على طرق لتقليل استهلاك الطاقة وتكلفة الحوسبة، حيث أن هذا هو المفتاح لجلب التعلم الآلي إلى الأجهزة الصغيرة مثل الهواتف والساعات الذكية. تقليل كمية الطاقة التي يستهلكها خوارزميات التعلم الآلي يمكن أن يساعد أيضًا الصناعة على تقليل بصمتها الكربونية. أوضح شياو ليانغ داي، المؤلف الأول في الأوراق، أن النماذج تحتاج إلى التدريب محليًا بسبب أن نقلها إلى السحابة يتطلب الكثير من الطاقة.

خلال الدراسة الأولى، حاول الباحثون تطوير أداة إنشاء شبكة عصبية يمكنهم استخدامها لتصميم شبكات عصبية وإعادة إنشاء بعض الشبكات العصبية الأعلى أداء من الصفر. كانت الأداة تسمى NeST (أداة合成 الشبكة العصبية)، وعندما يتم تزويد彼女 ببعض العصبونات والاتصالات، فإنها تزداد سريعًا في التعقيد بإضافة المزيد من العصبونات إلى الشبكة. بمجرد أن تصل الشبكة إلى معيار معين، تبدأ في تقليم نفسها مع مرور الوقت. في حين أن نماذج الشبكة السابقة استخدمت تقنيات التقليم، كانت الطريقة التي صممها باحثو برينستون هي الأولى التي تأخذ شبكة وت模ulates مراحل التطور، من “الرضيع” إلى “الطفل” و最終 إلى “الدماغ البالغ”.

خلال الورقة الثانية، تعاون الباحثون مع فريق من جامعة كاليفورنيا بيركلي وشركة فيسبوك لتحسين تقنيتهم باستخدام أداة تسمى Chameleon. Chameleon قادرة على البدء بنقطة النهاية المرغوبة، النتائج المرغوبة، والعمل بشكل عكسي لإنشاء نوع الشبكة العصبية الصحيح. هذا يزيل الكثير من التخمين المطلوب في تعديل الشبكة يدوياً، مما يوفر لمهندسي البداية النقاط التي من المحتمل أن تكون مفيدة على الفور. Chameleon تتنبأ بأداء الهياكل المختلفة تحت ظروف مختلفة. يمكن أن يساعد الجمع بين Chameleon و إطار NeST المنظمات البحثية التي تفتقر إلى الموارد الحاسوبية الثقيلة في الاستفادة من قوة الشبكات العصبية.