概率论

1、频率与概率的区别

2、条件概率：
P ( A ∣ B ) = P ( A B ) P ( B ) P(A|B)=\frac{P(AB)}{P(B)} P(A∣B)=P(B)P(AB)

P(AB)表示A、B同时发生的概率

3、乘法公式（由条件概率推导）：
P ( A B ) = P ( A ∣ B ) P ( B ) P(AB)=P(A|B)P(B) P(AB)=P(A∣B)P(B)

更一般的有：
P ( A B C . . . Z ) = P ( A ∣ B C . . . Z ) P ( B ∣ C . . . Z ) P ( C ∣ D . . . Z ) . . . P ( Y ∣ Z ) P ( Z ) P(ABC...Z)=P(A|BC...Z)P(B|C...Z)P(C|D...Z)...P(Y|Z)P(Z) P(ABC...Z)=P(A∣BC...Z)P(B∣C...Z)P(C∣D...Z)...P(Y∣Z)P(Z)

条件概率的乘法公式：
P ( A B ∣ C ) = P ( A ∣ B C ) P ( B ∣ C ) P(AB|C)=P(A|BC)P(B|C) P(AB∣C)=P(A∣BC)P(B∣C)

4、P(AUB) = P(A) + P(B) - P(AB)

若A、B无交集，则P(AUB) = P(A) + P(B)

5、全概率

6、贝叶斯公式，已知P(A|B)，求P(B|A)：

P ( B ∣ A ) = P ( A ∣ B ) P ( B ) P ( A ) P(B|A)=\frac{P(A|B)P(B)}{P(A)} P(B∣A)=P(A)P(A∣B)P(B)

7、独立事件
P ( A B ) = P ( A ) P ( B ) P(AB)=P(A)P(B) P(AB)=P(A)P(B)

8、大数定理的实践意义：当重复实验次数足够大时，事件的频率可以代替事件的概率。这被称为频率的稳定性。

9、中心极限定理：在相当一般的条件下，当独立随机变量的个数不断增加时，其和的分布趋于正态分布。实际中，我们所考虑的随机变量可以表示成很多的独立随机变量之和，例如一个城市的耗电量是大量用户耗电量的总和。这就是为什么正态分布在概率论中占有重要地位的一个基本原因。

10、马尔可夫链:在已知“现在”的情况下，“未来”不依赖于“过去”。

几个重要概念：初始态，状态转移概率矩阵，终极状态概率预测

伯努利分布（Bernoulli Distribution）

0-1分布，成功为1，失败为0。

概率质量函数为：
f ( x ) = p x ( 1 − p ) 1 − x = { p i f x = 1 1 − p i f x = 0 0 e l s e f(x)=p^x(1-p)^{1-x}=\left\{ \begin{aligned} p & &if\quad x=1 \\ 1-p & & if\quad x=0 \\ 0 & & else \end{aligned} \right. f(x)=px(1−p)1−x=⎩ ⎨ ⎧p1−p0ifx=1ifx=0else

二项分布（Binomial Distribution）

二项分布是n重伯努利试验成功次数的离散概率分布，其典型例子是掷硬币。很显然，伯努利分布是二项分布在n=1时的特例。

概率质量函数为：
P ( X = k ) = C n k p k ( 1 − p ) n − k P(X=k)=C_n^kp^k(1-p)^{n-k} P(X=k)=Cnkpk(1−p)n−k

X表示成功次数，p为每次成功的概率，n表示n重伯努利试验。

多项分布（Multinomial Distribution）

多项分布是二项分布的推广，二项分布规定每次试验的结果只有两个（0和1），多项分布则允许有多个试验结果，其典型例子是掷骰子。

高斯分布（正态分布）

一些机器学习相关的数学知识相关推荐

机器学习必备的数学知识，一次学会
面对机器学习,初学者的阻塞点往往不在于机器学习本身,而是数学.机器学习是计算机技术,但它的底层是数学. 通常,在机器学习相关的教材中,通篇都是复杂的数学公式.初学者如果数学基础不牢固,面对满篇的数学公 ...
【学习资源】机器学习相关的数学参考资料
目录 1 机器学习资料 2 线性代数 3 概率论与统计学 4 微积分和数值计算图片来源:The Mathematics of Machine Learning https://towardsdat ...
机器学习中的数学知识(part4)--拟牛顿法
学习笔记,仅供参考,有错必究文章目录机器学习中的数学知识拟牛顿法面临的问题(局部极小/鞍点) 机器学习中的数学知识拟牛顿法
机器学习中的数学知识(part3)--凸优化
学习笔记,仅供参考,有错必究文章目录机器学习中的数学知识凸优化非凸优化机器学习中的数学知识凸优化下面是实际问题中常见的凸集,记住它们对理解后面的算法非常有帮助. n n
机器学习中的数学知识(part2)
学习笔记,仅供参考,有错必纠参考自:<机器学习与应用>–雷明文章目录机器学习中的数学知识泰勒展开梯度下降法牛顿法机器学习中的数学知识泰勒展开梯度下降法
机器学习中的数学知识(part1)
学习笔记,仅供参考,有错必纠参考自:<机器学习与应用>–雷明文章目录机器学习中的数学知识偏导数与梯度雅克比矩阵 Hessian矩阵奇异值分解向量与矩阵求导机器学习中的数学知 ...
机器学习的基本数学知识1
机器学习的基本数学知识(自用) 线性代数标量.向量.矩阵和张量标量:一个单独的数向量:一列数矩阵:二维数组张量:维数超过二维的数组转置:矩阵的行列互换矩阵与向量相乘单位矩阵和逆矩阵单 ...
【机器学习】【数学】机器学习涉及的数学知识
简单总结:机器学习涉及的数学知识有线性代数,概率论和统计学,多变量微积分,算法和复杂优化,以及其他等. 原文:https://www.ibm.com/developerworks/community/ ...
从入门到高阶，读懂机器学习需要哪些数学知识
本篇文章是由留德华叫兽在知乎的优秀回答改编扩展而成的, 作者留德华叫兽有着应用数学和硕士运筹学.优化理论的背景转到德国海德堡大学读博,主要从事机器学习.计算机视觉的研究,希望自己的一些经验可以对想入 ...

一些机器学习相关的数学知识

概率论

伯努利分布（Bernoulli Distribution）

二项分布（Binomial Distribution）

多项分布（Multinomial Distribution）

高斯分布（正态分布）

一些机器学习相关的数学知识相关推荐

最新文章

热门文章