X'inhu teorema ta' Bayes?

Jekk kont qed titgħallem dwar ix-xjenza tad-dejta jew it-tagħlim tal-magni, hemm ċans tajjeb li smajt il- terminu “Teorema ta’ Bayes” qabel, jew “Klassifikatur Bayes”. Dawn il-kunċetti jistgħu jkunu kemmxejn konfużi, speċjalment jekk m'intix imdorri taħseb dwar il-probabbiltà minn perspettiva ta' statistika tradizzjonali u frekwenti. Dan l-artikolu se jipprova jispjega l-prinċipji wara t-Teorema ta’ Bayes u kif jintuża fit-tagħlim tal-magni.

X'inhu teorema ta' Bayes?

Teorema ta' Bayes huwa metodu ta' kalkolu tal-probabbiltà kundizzjonali. Il-metodu tradizzjonali tal-kalkolu tal-probabbiltà kundizzjonali (il-probabbiltà li jseħħ avveniment wieħed minħabba l-okkorrenza ta 'avveniment differenti) huwa li tuża l-formula tal-probabbiltà kundizzjonali, tikkalkula l-probabbiltà konġunta tal-avveniment wieħed u l-avveniment tnejn li jseħħu fl-istess ħin, u mbagħad tiddividiha bil-probabbiltà li jseħħ it-tieni avveniment. Madankollu, il-probabbiltà kondizzjonali tista 'wkoll tiġi kkalkulata b'mod kemmxejn differenti bl-użu tat-Teorema ta' Bayes.

Meta tikkalkula l-probabbiltà kundizzjonali bit-teorema ta’ Bayes, tuża l-passi li ġejjin:

• Iddetermina l-probabbiltà li l-kundizzjoni B tkun vera, jekk wieħed jassumi li l-kundizzjoni A hija vera.
• Iddetermina l-probabbiltà li l-avveniment A jkun veru.
• Immoltiplika ż-żewġ probabbiltajiet flimkien.
• Aqsam bil-probabbiltà li jseħħ l-avveniment B.

Dan ifisser li l-formula għat-Teorema ta’ Bayes tista’ tiġi espressa hekk:

P(A|B) = P(B|A)*P(A) / P(B)

Il-kalkolu tal-probabbiltà kondizzjonali bħal dan huwa speċjalment utli meta l-probabbiltà kundizzjonali inversa tista 'tiġi kkalkulata faċilment, jew meta l-kalkolu tal-probabbiltà konġunta jkun ta' sfida wisq.

Eżempju tat-Teorema ta' Bayes

Dan jista 'jkun aktar faċli biex tinterpreta jekk inqattgħu ftit ħin inħarsu lejn an Eżempju ta’ kif tapplika r-raġunament Bayesjan u t-Teorema ta’ Bayes. Ejja nassumu li kont qed tilgħab logħba sempliċi fejn diversi parteċipanti jgħidulek storja u trid tiddetermina liema wieħed mill-parteċipanti qed jigdeb lilek. Ejja nimlew l-ekwazzjoni għat-Teorema ta' Bayes bil-varjabbli f'dan ix-xenarju ipotetiku.

Qed nippruvaw inbassru jekk kull individwu fil-logħba hux jigdeb jew jgħidx il-verità, allura jekk hemm tliet plejers apparti minnek, il-varjabbli kategoriċi jistgħu jiġu espressi bħala A1, A2, u A3. L-evidenza għall-gideb/verità tagħhom hija l-imġieba tagħhom. Bħal meta tilgħab il-poker, int tfittex ċerti "jgħid" li persuna tkun qed tigdeb u tużahom bħala bits ta 'informazzjoni biex tinforma l-raden tiegħek. Jew jekk tħallejtek tistaqsihom tkun xi evidenza li l-istorja tagħhom ma tammontax. Nistgħu nirrappreżentaw l-evidenza li persuna qed tigdeb bħala B.

Biex inkunu ċari, qed nimmiraw li nbassru l-Probabbiltà (A qed tigdeb/tgħid il-verità | minħabba l-evidenza tal-imġieba tagħhom). Biex nagħmlu dan irridu nsemmu l-probabbiltà ta 'B mogħtija A, jew il-probabbiltà li l-imġieba tagħhom iseħħ meta l-persuna ġenwinament gideb jew tgħid il-verità. Int qed tipprova tiddetermina taħt liema kundizzjonijiet l-imġieba li qed tara tagħmel l-aktar sens. Jekk ikun hemm tliet imġieba li qed tara, inti tagħmel il-kalkolu għal kull imġieba. Per eżempju, P(B1, B2, B3 * A). Imbagħad tagħmel dan għal kull okkorrenza ta 'A/għal kull persuna fil-logħba apparti minnek innifsek. Dik hija din il-parti tal-ekwazzjoni ta' hawn fuq:

P(B1, B2, B3,|A) * P|A

Fl-aħħarnett, aħna biss naqsmu dak bil-probabbiltà ta 'B.

Jekk irċevejna xi evidenza dwar il-probabbiltajiet attwali f'din l-ekwazzjoni, aħna nirrikreaw il-mudell tal-probabbiltà tagħna, billi nqisu l-evidenza l-ġdida. Dan jissejjaħ aġġornament tal-preċedenti tiegħek, hekk kif taġġorna s-suppożizzjonijiet tiegħek dwar il-probabbiltà minn qabel tal-avvenimenti osservati li jseħħu.

Applikazzjonijiet ta' Tagħlim Magni għat-teorema ta' Bayes

L-aktar użu komuni tat-teorema ta’ Bayes fejn jidħol it-tagħlim tal-magni huwa fil-forma tal-algoritmu Naive Bayes.

Naive Bayes jintuża għall-klassifikazzjoni ta’ settijiet ta’ data kemm binarji kif ukoll multi-klassi, Naive Bayes jieħu ismu minħabba li l-valuri assenjati lill-evidenza/attributi tax-xhieda – Bs f’P(B1, B2, B3 * A) – huma preżunti li huma indipendenti ta’ xulxin. Huwa preżunt li dawn l-attributi ma jaffettwawx lil xulxin sabiex jissimplifikaw il-mudell u jagħmlu l-kalkoli possibbli, minflok ma tipprova l-kompitu kumpless li tikkalkula r-relazzjonijiet bejn kull wieħed mill-attributi. Minkejja dan il-mudell simplifikat, Naive Bayes għandu t-tendenza li jaħdem pjuttost tajjeb bħala algoritmu ta 'klassifikazzjoni, anke meta din is-suppożizzjoni probabbilment mhix vera (li huwa l-biċċa l-kbira tal-ħin).

Hemm ukoll varjanti użati komunement tal-klassifikatur Naive Bayes bħal Multinomial Naive Bayes, Bernoulli Naive Bayes, u Gaussian Naive Bayes.

Bayes Naive Multinomjali l-algoritmi spiss jintużaw biex jikklassifikaw id-dokumenti, peress li huwa effettiv biex jinterpreta l-frekwenza tal-kliem f'dokument.

Bernoulli Naive Bayes topera b'mod simili għal Multinomial Naive Bayes, iżda l-previżjonijiet mogħtija mill-algoritmu huma booleans. Dan ifisser li meta tbassar klassi l-valuri se jkunu binarji, le jew iva. Fil-qasam tal-klassifikazzjoni tat-test, algoritmu Bernoulli Naive Bayes jassenja l-parametri iva jew le skont jekk tinstabx kelma jew le fid-dokument tat-test.

Jekk il-valur tal-prevedituri/karatteristiċi mhumiex diskreti iżda minflok huma kontinwi, Gaussian Naive Bayes jistgħu jintużaw. Huwa preżunt li l-valuri tal-karatteristiċi kontinwi ttieħdu kampjuni minn distribuzzjoni gaussjana.