贝叶斯公式（Bayesian）的学习

贝叶斯公式（个人理解版）

P(X∣Y)=事件X在事件Y中发生的概率=事件X和Y同时发生的概率事件X发生的概率=P(XY)P(X)=P(X∣Y)×P(Y)P(X)P(X|Y)=事件X在事件Y中发生的概率=\frac{事件X和Y同时发生的概率}{事件X发生的概率}=\frac{P(XY)}{P(X)}=\frac{P(X|Y)\times P(Y)}{P(X)}P(X∣Y)=事件X在事件Y中发生的概率=事件X发生的概率事件X和Y同时发生的概率=P(X)P(XY)=P(X)P(X∣Y)×P(Y)

理解思路

宋浩老师的《概率论与数理统计》中对贝叶斯公式是这么举例说明的：

原因→结果
感冒→发烧
肺炎→发烧
白血病→发烧
失恋 →发烧

全概率公式中是根据原因计算出结果，即计算感冒的人有多少发烧，加上肺炎的人有多少发烧，加上白血病发烧，加上失恋发烧最终得出，不考虑原因的情况下发烧的概率：

每种病症的概率已知：P(感冒)、P(肺炎)、P(白血病)、P(失恋)P(感冒)、P(肺炎)、P(白血病)、P(失恋)P(感冒)、P(肺炎)、P(白血病)、P(失恋) 。
每种病症发烧的概率也已知：P(发烧∣感冒)、P(发烧∣肺炎)、P(发烧∣白血病)、P(发烧∣失恋)P(发烧|感冒)、P(发烧|肺炎)、P(发烧|白血病)、P(发烧|失恋)P(发烧∣感冒)、P(发烧∣肺炎)、P(发烧∣白血病)、P(发烧∣失恋)。

计算：
发烧的概率：P(发烧)=P(感冒)P(发烧∣感冒)+P(肺炎)P(发烧∣肺炎)+P(白血病)P(发烧∣白血病)+P(失恋)P(发烧∣失恋)P(发烧)=P(感冒)P(发烧|感冒)+P(肺炎)P(发烧|肺炎)+P(白血病)P(发烧|白血病)+P(失恋)P(发烧|失恋)P(发烧)=P(感冒)P(发烧∣感冒)+P(肺炎)P(发烧∣肺炎)+P(白血病)P(发烧∣白血病)+P(失恋)P(发烧∣失恋)

贝叶斯公式要做的是，通过结果计算原因，即我们知道一个人发烧了，分别计算他感冒引起发烧的概率P(感冒∣发烧)P(感冒|发烧)P(感冒∣发烧)、肺炎引起发烧的概率P(肺炎∣发烧)P(肺炎|发烧)P(肺炎∣发烧)、白血病引起发烧的概率P(白血病∣发烧)P(白血病|发烧)P(白血病∣发烧)和失恋引起发烧的概率P(失恋∣发烧)P(失恋|发烧)P(失恋∣发烧)。

计算：
发烧是因为感冒的概率:P(感冒∣发烧)=P(感冒⋅发烧)P(发烧)=P(感冒)P(发烧∣感冒)P(发烧)P(感冒|发烧)=\frac {P(感冒·发烧)}{P(发烧)}=\frac {P(感冒)P(发烧|感冒)}{P(发烧)}P(感冒∣发烧)=P(发烧)P(感冒⋅发烧)=P(发烧)P(感冒)P(发烧∣感冒)

发烧是因为肺炎的概率:P(肺炎∣发烧)=P(肺炎⋅发烧)P(发烧)=P(肺炎)P(发烧∣肺炎)P(发烧)P(肺炎|发烧)=\frac {P(肺炎·发烧)}{P(发烧)}=\frac {P(肺炎)P(发烧|肺炎)}{P(发烧)}P(肺炎∣发烧)=P(发烧)P(肺炎⋅发烧)=P(发烧)P(肺炎)P(发烧∣肺炎)

发烧是因为白血病的概率:P(白血病∣发烧)=P(白血病⋅发烧)P(发烧)=P(白血病)P(发烧∣白血病)P(发烧)P(白血病|发烧)=\frac {P(白血病·发烧)}{P(发烧)}=\frac {P(白血病)P(发烧|白血病)}{P(发烧)}P(白血病∣发烧)=P(发烧)P(白血病⋅发烧)=P(发烧)P(白血病)P(发烧∣白血病)

发烧是因为失恋的概率:P(失恋∣发烧)=P(失恋⋅发烧)P(发烧)=P(失恋)P(发烧∣失恋)P(发烧)P(失恋|发烧)=\frac {P(失恋·发烧)}{P(发烧)}=\frac {P(失恋)P(发烧|失恋)}{P(发烧)}P(失恋∣发烧)=P(发烧)P(失恋⋅发烧)=P(发烧)P(失恋)P(发烧∣失恋)

推算过程

P(X,Y)=P(Y)P(X∣Y)P(X,Y)=P(Y)P(X|Y)P(X,Y)=P(Y)P(X∣Y) 或 P(X)P(Y∣X)P(X)P(Y|X)P(X)P(Y∣X)

所以 P(Y)P(X∣Y)=P(X)P(Y∣X)P(Y)P(X|Y)=P(X)P(Y|X)P(Y)P(X∣Y)=P(X)P(Y∣X)

所以 P(X∣Y)=P(X∣Y)×P(X)P(Y)P(X|Y)=\frac{P(X|Y)\times P(X)}{P(Y)}P(X∣Y)=P(Y)P(X∣Y)×P(X)