ما هي التخلف الخلفي؟

ما هي التخلف الخلفي؟

نظم التعلم العميق قادرة على تعلم أنماط معقدة للغاية، وتحقق ذلك عن طريق تعديل أوزانها. كيف يتم تعديل أوزان شبكة عصبونية عميقة بالضبط؟ يتم تعديلها من خلال عملية تسمى عملية تسمى التخلف الخلفي. بدون التخلف الخلفي، لن تكون الشبكات العصبونية العميقة قادرة على أداء مهام مثل التعرف على الصور وفهم اللغة الطبيعية. فهم كيفية عمل التخلف الخلفي أمر بالغ الأهمية لفهم الشبكات العصبونية العميقة بشكل عام، لذلك دعونا نناقش التخلف الخلفي ونرى كيف يتم استخدام العملية لتعديل أوزان الشبكة.

يمكن أن يكون التخلف الخلفي صعب الفهم، والتحديدات المستخدمة في تنفيذ التخلف الخلفي يمكن أن تكون معقدة للغاية. سيحاول هذا المقال تقديم فهم直يحي للخلف، باستخدام القليل من الرياضيات المعقدة. ومع ذلك، فإن بعض مناقشة الرياضيات وراء التخلف الخلفي ضرورية.

هدف التخلف الخلفي

دعونا نبدأ بتعريف هدف التخلف الخلفي. أوزان شبكة عصبونية عميقة هي قوة الاتصالات بين الوحدات في شبكة عصبونية. عندما يتم إنشاء شبكة عصبونية، يتم افتراض بعض الافتراضات حول كيفية اتصال الوحدات في طبقة معينة بالطبقات المرتبطة بها. عندما يتحرك البيانات عبر الشبكة العصبونية، يتم حساب الأوزان وافتراض بعض الافتراضات. عندما يصل البيانات إلى الطبقة النهائية من الشبكة، يتم إجراء تنبؤ حول كيفية ارتباط الميزات بالفئات في مجموعة البيانات. الفرق بين القيم المتوقعة والقيم الفعلية هو الخسارة / الخطأ، وهدف التخلف الخلفي هو تقليل الخسارة. يتم تحقيق ذلك عن طريق تعديل أوزان الشبكة، مما يجعل الافتراضات أكثر تشابها مع العلاقات الحقيقية بين الميزات الإدخالية.

تدريب شبكة عصبونية عميقة

قبل أن يتم تنفيذ التخلف الخلفي على شبكة عصبونية، يجب أن يتم تمرير الشبكة العصبونية بشكل منتظم / إلى الأمام. عندما يتم إنشاء شبكة عصبونية، يتم 초기لة مجموعة من الأوزان. قيمة الأوزان ستتغير مع تدريب الشبكة. يمكن اعتبار تمرير الشبكة العصبونية إلى الأمام على أنه ثلاث خطوات منفصلة: تنشيط العصبون، نقل العصبون، وتمرير إلى الأمام.

عند تدريب شبكة عصبونية عميقة، نحتاج إلى استخدام العديد من الدوال الرياضية. العصبونات في شبكة عصبونية عميقة تتكون من البيانات الإدخالية ودالة تنشيط، التي تحدد القيمة اللازمة لتنشيط العقدة. يتم حساب قيمة تنشيط العصبون باستخدام عدة مكونات، وهي مجموع موزون للبيانات الإدخالية. تعتمد الأوزان والقيم الإدخالية على فهرس العقد التي يتم استخدامها لحساب التنشيط. يجب أن يتم أخذ رقم آخر في الاعتبار عند حساب قيمة التنشيط، وهو قيمة الانحياز. لا تتغير قيم الانحياز، لذلك لا يتم ضربها مع الأوزان والبيانات الإدخالية، بل يتم فقط إضافتها. كل هذا يعني أن المعادلة التالية يمكن استخدامها لحساب قيمة التنشيط:

التنشيط = مجموع (الوزن * الإدخال) + الانحياز

بعد تنشيط العصبون، يتم استخدام دالة تنشيط لتحديد ما هي الإخراج الفعلي للعصبون. الدوال التنشيطية المثالية مختلفة ل_tasks مختلفة، ولكن الدوال التنشيطية الشائعة تشمل دالة السجمايد، دالة التنغيم، ودالة ريلو.

مرة واحدة يتم حساب إخراج العصبون عن طريق تشغيل قيمة التنشيط من خلال دالة التنشيط المطلوبة، يتم إكمال التمرير إلى الأمام. التمرير إلى الأمام هو مجرد أخذ إخراج طبقة واحدة وجعله الإدخال للطبقة التالية. يتم استخدام الإدخالات الجديدة لحساب وظائف التنشيط الجديدة، ويتم تمرير إخراج هذه العملية إلى الطبقة التالية. يستمر هذا العملية حتى نهاية الشبكة العصبونية.

التخلف الخلفي في الشبكة

عملية التخلف الخلفي تأخذ قرارات نهائية لتمرير تدريب نموذج، ثم تحدد الأخطاء في هذه القرارات. يتم حساب الأخطاء من خلال مقارنة إخراجات الشبكة / قراراتها مع الإخراجات المتوقعة / المطلوبة للشبكة.

مرة واحدة يتم حساب الأخطاء في قرارات الشبكة، يتم إعادة توجيه هذه المعلومات عبر الشبكة وتعديل معاملات الشبكة على طول الطريق. الطريقة المستخدمة لتحديث أوزان الشبكة تستند إلى التفاضل، تحديدا إلى قاعدة السلسلة. ومع ذلك، لا يلزم فهم التفاضل لفهم فكرة التخلف الخلفي. فقط اعلم أن عندما يتم توفير قيمة إخراج من عصبون، يتم حساب ميل قيمة الإخراج باستخدام دالة نقل، مما ينتج عنه إخراج مشتق. عند تنفيذ التخلف الخلفي، يتم حساب الخطأ لعصبون معين وفقًا للصيغة التالية :

الخطأ = (الإخراج المتوقع – الإخراج الفعلي) * ميل إخراج العصبون

عند العمل على عصبونات الطبقة الإخراج، يتم استخدام قيمة الفئة كقيمة متوقعة. بعد حساب الخطأ، يتم استخدام الخطأ كإدخال للعصبونات في الطبقة المخفية، مما يعني أن خطأ هذه الطبقة المخفية هو الأوزان المعززة للعصبونات الموجودة في الطبقة الإخراج. يتم計算 حسابات الأخطاء بشكل متعاقب عبر الشبكة على طول أوزان الشبكة.

بعد حساب الأخطاء للشبكة، يجب تحديث الأوزان في الشبكة. كما ذكرنا، يتضمن حساب الخطأ تحديد ميل قيمة الإخراج. بعد حساب الميل، يمكن استخدام عملية تسمى الانحدار التدرجي لتعديل الأوزان في الشبكة. الانحدار هو ميل، يمكن قياس زاويته / انحداره. يتم حساب الميل عن طريق رسم “y على” أو “الارتفاع” على “الجري”. في حالة الشبكة العصبونية ومعدل الخطأ، “y” هو الخطأ المحسوب، بينما “x” هي معاملات الشبكة. هناك علاقة بين معاملات الشبكة وقيم الخطأ المحسوبة، وعندما يتم تعديل أوزان الشبكة، يزيد أو يقلل معدل الخطأ.

“الانحدار التدرجي” هو عملية تحديث الأوزان بحيث يقلل من معدل الخطأ. يتم استخدام التخلف الخلفي لتوقع العلاقة بين معاملات الشبكة العصبونية ومعدل الخطأ، مما يعد الشبكة للانحدار التدرجي. التدريب على شبكة باستخدام الانحدار التدرجي يتضمن حساب الأوزان من خلال التمرير إلى الأمام، وإعادة توجيه الخطأ، ثم تحديث أوزان الشبكة.