Bayes Teoremi nedir?

Veri bilimi veya makine öğrenimi hakkında bilgi ediniyorsanız büyük ihtimalle şunu duymuşsunuzdur: "Bayes Teoremi" terimi önce veya bir “Bayes sınıflandırıcısı”. Bu kavramlar biraz kafa karıştırıcı olabilir, özellikle de olasılığı geleneksel, sık istatistik perspektifinden düşünmeye alışkın değilseniz. Bu makale Bayes Teoreminin ardındaki ilkeleri ve bunun makine öğreniminde nasıl kullanıldığını açıklamaya çalışacaktır.

Bayes Teoremi nedir?

Bayes Teoremi bir yöntemdir koşullu olasılığın hesaplanması. Koşullu olasılığı (farklı bir olayın meydana gelmesi durumunda bir olayın meydana gelme olasılığı) hesaplamanın geleneksel yöntemi, koşullu olasılık formülünü kullanmak, aynı anda meydana gelen birinci ve ikinci olayın ortak olasılığını hesaplamak ve sonra bunu bölmektir. ikinci olayın olma olasılığına göre. Bununla birlikte, koşullu olasılık, Bayes Teoremi kullanılarak biraz farklı bir şekilde de hesaplanabilir.

Bayes teoremi ile koşullu olasılığı hesaplarken aşağıdaki adımları kullanırsınız:

• A koşulunun doğru olduğunu varsayarak, B koşulunun doğru olma olasılığını belirleyin.
• A olayının gerçek olma olasılığını belirleyiniz.
• İki olasılığı birlikte çarpın.
• B olayının olma olasılığına bölün.

Bu, Bayes Teoremi formülünün şu şekilde ifade edilebileceği anlamına gelir:

P(A|B) = P(B|A)*P(A) / P(B)

Koşullu olasılığın bu şekilde hesaplanması, özellikle ters koşullu olasılığın kolayca hesaplanabildiği veya ortak olasılığın hesaplanmasının çok zor olduğu durumlarda yararlıdır.

Bayes Teoremi Örneği

Bir şeye bakarak biraz zaman harcarsak, bunu yorumlamak daha kolay olabilir. örnek Bayes muhakemesini ve Bayes Teoremini nasıl uygulayacağınız. Birden fazla katılımcının size bir hikaye anlattığı basit bir oyun oynadığınızı ve katılımcılardan hangisinin size yalan söylediğini belirlemeniz gerektiğini varsayalım. Bayes Teoremi denklemini bu varsayımsal senaryodaki değişkenlerle dolduralım.

Oyundaki her bireyin yalan mı yoksa doğru mu söylediğini tahmin etmeye çalışıyoruz yani sizden başka üç oyuncu varsa kategorik değişkenler A1, A2 ve A3 olarak ifade edilebilir. Yalanlarının/doğruluklarının delili davranışlarıdır. Örneğin, poker oynarken, bir kişinin yalan söylediğine dair belirli "söylemler" ararsınız ve bunları tahmininizi oluşturmak için bilgi parçaları olarak kullanırsınız. Ya da onları sorgulamanıza izin verilseydi, bu onların hikayelerinin uyuşmadığına dair herhangi bir kanıt olurdu. Bir kişinin yalan söylediğinin kanıtını B olarak sunabiliriz.

Açık olmak gerekirse, Olasılığı tahmin etmeyi amaçlıyoruz (A yalan söylüyor/doğruyu söylüyor|davranışlarının kanıtı göz önüne alındığında). Bunu yapmak için, A verildiğinde B olasılığını veya gerçekten yalan söyleyen veya doğruyu söyleyen kişi göz önüne alındığında davranışlarının ortaya çıkma olasılığını bulmak isteriz. Karşılaştığınız davranışın hangi koşullar altında en mantıklı olacağını belirlemeye çalışıyorsunuz. Tanık olduğunuz üç davranış varsa, her davranış için hesaplama yaparsınız. Örneğin, P(B1, B2, B3 * A). Bunu daha sonra oyundaki kendiniz dışında her kişi için her A/ oluşumu için yaparsınız. Yukarıdaki denklemin bu kısmı:

P(B1, B2, B3,|A) * P|A

Son olarak, bunu B'nin olasılığına böleriz.

Bu denklemdeki gerçek olasılıklar hakkında herhangi bir kanıt alsaydık, yeni kanıtları dikkate alarak olasılık modelimizi yeniden oluştururduk. Gözlemlenen olayların meydana gelme olasılığı hakkındaki varsayımlarınızı güncellediğiniz için buna önceliklerinizi güncellemek denir.

Bayes teoremi için Makine Öğrenimi Uygulamaları

Makine öğrenimi söz konusu olduğunda Bayes teoreminin en yaygın kullanımı Naive Bayes algoritması biçimindedir.

Naive Bayes, hem ikili hem de çok sınıflı veri kümelerinin sınıflandırılması için kullanılır, Naive Bayes adını tanık kanıtlarına/niteliklerine atanan değerlerin - P(B1, B2, B3 * A)'daki Bs - bağımsız olduğu varsayıldığından alır. Birbirlerinin. Niteliklerin her biri arasındaki ilişkileri hesaplamak gibi karmaşık bir göreve girişmek yerine, modeli basitleştirmek ve hesaplamaları mümkün kılmak için bu özniteliklerin birbirini etkilemediği varsayılır. Bu basitleştirilmiş modele rağmen, Naive Bayes, bu varsayım muhtemelen doğru olmasa bile (çoğu zaman doğrudur) bir sınıflandırma algoritması olarak oldukça iyi performans gösterme eğilimindedir.

Ayrıca, var yaygın olarak kullanılan değişkenler Multinomial Naive Bayes, Bernoulli Naive Bayes ve Gaussian Naive Bayes gibi Naive Bayes sınıflandırıcısının.

Çok terimli Naif Bayes Algoritmalar, bir belgedeki kelimelerin sıklığını yorumlamada etkili olduğundan, genellikle belgeleri sınıflandırmak için kullanılır.

Bernoulli Saf Bayes Multinomial Naive Bayes'e benzer şekilde çalışır, ancak algoritma tarafından işlenen tahminler mantıksal değerlerdir. Bu, bir sınıfı tahmin ederken değerlerin ikili, hayır veya evet olacağı anlamına gelir. Metin sınıflandırma alanında, bir Bernoulli Naive Bayes algoritması, metin belgesinde bir kelimenin bulunup bulunmadığına bağlı olarak parametrelere evet veya hayır atar.

Tahmin edicilerin/özelliklerin değeri ayrı değil, bunun yerine sürekli ise, Gauss Saf Bayes kullanılabilir. Sürekli özelliklerin değerlerinin bir gauss dağılımından örneklendiği varsayılır.