ما هي نظرية بايز؟

إذا كنت قد بدأت في تعلم العلوم المتعلقة بالبيانات أو تعلم الآلة، فمن المحتمل أنك قد سمعت مصطلح “نظرية بايز” أو “مصنف بايز” من قبل. يمكن أن تكون هذه المفاهيم بعض الشيء غامضة، خاصة إذا لم تكن معتادًا على التفكير في الاحتمالية من منظور إحصائي تقليدية. سيحاول هذا المقال شرح المبادئ التي تقوم عليها نظرية بايز وكيف يتم استخدامها في تعلم الآلة.

ما هي نظرية بايز؟

نظرية بايز هي طريقة لحساب الاحتمالية المشروطة. الطريقة التقليدية لحساب الاحتمالية المشروطة (احتمال حدوث حدث معين مع حدوث حدث آخر) هي استخدام صيغة الاحتمالية المشروطة، حساب الاحتمالية المشتركة لحدوث حدثين معًا، ثم قسمة النتيجة على احتمال حدوث الحدث الثاني. ومع ذلك، يمكن حساب الاحتمالية المشروطة بطريقة مختلفة قليلاً باستخدام نظرية بايز.
عند حساب الاحتمالية المشروطة بنظرية بايز، تستخدم الخطوات التالية:

• تحديد احتمال صحة الشرط ب، مع افتراض صحة الشرط أ.
• تحديد احتمال صحة الحدث أ.
• ضرب الاحتمالين معًا.
• قسمة النتيجة على احتمال حدوث الحدث ب.

هذا يعني أن صيغة نظرية بايز يمكن التعبير عنها كما يلي:
P(A|B) = P(B|A)*P(A) / P(B)
حساب الاحتمالية المشروطة بهذه الطريقة مفيد بشكل خاص عندما يمكن حساب الاحتمالية المشروطة العكسية بسهولة، أو عندما يكون حساب الاحتمالية المشتركة صعبًا للغاية.

مثال على نظرية بايز

قد يكون هذا أسهل في التفسير إذا قمنا ببعض الوقت في النظر إلى مثال على كيفية تطبيق المنطق البايزي ونظرية بايز. دعونا نفترض أنك كنت تلعب لعبة بسيطة حيث ي告诉ك المشاركون العديد من القصص ويجب عليك تحديد من هو الكاذب. دعونا نملأ معادلة نظرية بايز bằng المتغيرات في هذا السيناريو الوهمي.
نحن نحاول التنبؤ بمن هو الكاذب أو الصادق، لذلك إذا كان هناك ثلاثة لاعبين غيرك، يمكن التعبير عن المتغيرات الكategoriale على أنها A1 و A2 و A3. الأدلة على كذبهم أو صحة قصصهم هي سلوكياتهم. كما هو الحال في لعب البوكر، كنت تبحث عن بعض “الدلالات” التي يشير إلى أن شخصًا ما يكذب، وتستخدم هذه الإشارات كأدلة لتقديم تخمينك. أو إذا كنت مسموحًا بطرح الأسئلة، فإنها ستكون أي دليل على أن قصتهم لا تتوافق. يمكننا تمثيل الأدلة على كذب شخص ما على أنه B.
للتأكيد، نحن نهدف إلى التنبؤ باحتمال (A يكذب / يقول الحقيقة | مع أدلة على سلوكياتهم). لفعل ذلك، نريد معرفة احتمال B مع أ، أو احتمال أن يكون سلوكهم كذلك مع كون الشخص يكذب أو يقول الحقيقة. أنت تحاول تحديد الظروف التي سيحدث فيها السلوك الذي تراه أكثر منطقية. إذا كان هناك ثلاثة سلوكيات تشاهدونها، فستقوم بحساب كل سلوك على حدة. على سبيل المثال، P(B1 و B2 و B3 * A). ثم تفعل ذلك لكل حدوث ل A / لكل شخص في اللعبة باستثنائك. هذا جزء من المعادلة أعلاه:
P(B1 و B2 و B3 | A) * P | A
أخيرًا، نقسم ذلك على احتمال B.
إذا تلقينا أي أدلة حول الاحتمالات الفعلية في هذه المعادلة، سنقوم بإنشاء نموذج الاحتمال الخاص بنا مرة أخرى، مع الأخذ في الاعتبار الأدلة الجديدة. يسمى هذا تحديث الأقدماء، حيث تقوم بتحديث افتراضاتك حول الاحتمالية السابقة لحدوث الأحداث الملاحظة.

تطبيقات تعلم الآلة لنظرية بايز

استخدام نظرية بايز الأكثر شيوعًا عند التعامل مع تعلم الآلة هو في شكل خوارزمية بايز البسيطة.
تستخدم بايز البسيطة للتصنيف لكل من مجموعات البيانات الثنائية ومتعددة الطبقات، تحصل بايز البسيطة على اسمها لأن القيم المحددة للأدلة / السمات – Bs في P(B1 و B2 و B3 * A) – يفترض أنها مستقلة عن بعضها البعض. يفترض أن هذه السمات لا تؤثر على بعضها البعض من أجل تبسيط النموذج وجعل الحسابات ممكنة، بدلاً من محاولة مهمة معقدة لحساب العلاقات بين كل من السمات. على الرغم من أن هذا النموذج المبسط، فإن بايز البسيطة تميل إلى الأداء جيدًا كخوارزمية تصنيف، حتى عندما لا يكون هذا الافتراض صحيحًا (الذي هو معظم الأحيان).
هناك أيضًا متغيرات شائعة الاستخدام من مصنف بايز البسيطة مثل بايز البسيطة متعددة الحدود وبايز البسيطة برنولي وبايز البسيطة غاوسية.
تستخدم خوارزميات بايز البسيطة متعددة الحدود بشكل شائع لتصنيف الوثائق، حيث أنها فعالة في تفسير تكرار الكلمات داخل الوثيقة.
تعمل بايز البسيطة برنولي بشكل مشابه لبايز البسيطة متعددة الحدود، ولكن التنبؤات التي تقدمها الخوارزمية هي قيم منطقية. هذا يعني أن التنبؤ بالفئة سيكون قيمًا ثنائية، نعم أو لا. في مجال تصنيف النص، ستعين خوارزمية بايز البسيطة برنولي المعلمات بناءً على وجود كلمة معينة داخل الوثيقة النصية.
إذا كانت قيمة المتنبئين / الميزات ليست قيمًا متقطعة ولكنها قيم مستمرة، فيمكن استخدام بايز البسيطة غاوسية. يفترض أن القيم التي تتمتع بها الميزات المستمرة تمت عينتتها من توزيع غاوسي.