数学基础之概率论（1）—

数学基础之概率论（1）——基础知识

声明写在开头，这里介绍的仅仅只是有关概率论的简单知识，如果想要进行深入了解，我个人使用的教材是浙江大学的概率论与数理统计，B站上也有相应的网课。

1、随机现象
在个别试验中结果呈现出不确定性，在大量重复试验中结果又具有统计规律性。

2、随机试验
对随机现象的观察具有一下3个特点的实验：
a. 可在相同条件下重复进行；
b. 试验结果可能不止一个，但是可以明确指出所有的可能结果；
c. 试验前无法确定最后的结果。
随机试验通常可以简称为试验。

3、样本空间
一个随机试验的所有可能结果组成的集合，记为Ω={ω},\Omega=\{\omega\},Ω={ω},有时也记为S={e}S=\{e\}S={e}。

4、样本点
试验的每一个结果或者样本空间的每个元素，记为ω\omegaω或者eee。

5、事件
试验中可能出现也可能不出现的情况叫做随机事件，可以简称为事件，事件本质上是样本空间的一个子集，记为A、B、CA、B、CA、B、C等，有A⊆SA\subseteq SA⊆S。

6、事件之间的关系
a. A⊂BA\subset BA⊂B（包含关系）：AAA发生必然导致BBB发生。有等价关系：A=B⇔A⊂BA=B \Leftrightarrow A\subset BA=B⇔A⊂B且B⊂AB\subset AB⊂A。

b. A∪BA\cup BA∪B（和事件）：AAA与BBB的并，即事件AAA与BBB至少有一个发生。
∪i=1nAi\cup^{n}_{i=1}A_{i}∪i=1nAi：nnn个事件A1,A2,⋅⋅⋅,AnA_{1},A_{2},···,A_{n}A1,A2,⋅⋅⋅,An至少有一个发生。

c. A∩BA\cap BA∩B（积事件）：AAA与BBB的交，即AAA与BBB都发生。
∩i=1nAi\cap^{n}_{i=1}A_{i}∩i=1nAi：nnn个事件A1,A2,⋅⋅⋅,AnA_{1},A_{2},···,A_{n}A1,A2,⋅⋅⋅,An同时发生。

d. A∖B(A−B)A\setminus B(A-B)A∖B(A−B)（差事件）：事件AAA发生，而BBB不发生。

e. ∅\varnothing∅（空集）：不可能事件。

f. A∩B=∅A\cap B=\varnothingA∩B=∅（互斥）：事件AAA和BBB不可能同时发生。

g. A∪B=SA\cup B=SA∪B=S且A∩B=∅A\cap B=\varnothingA∩B=∅（互逆）：事件AAA与BBB不可能同时发生，但必有一个发生。

h. AcA^{c}Ac（补集）：AAA的补集，即AAA不发生。

7、事件的运算
a. 交换律：
A∪B=B∪A,A∩B=B∩AA\cup B=B\cup A, A\cap B=B\cap AA∪B=B∪A,A∩B=B∩A
b. 结合律：
(A∪B)∪C=A∪(B∪C)(A\cup B)\cup C=A\cup(B\cup C)(A∪B)∪C=A∪(B∪C)
(A∩B)∩C=A∩(B∩C)(A\cap B)\cap C=A\cap(B\cap C)(A∩B)∩C=A∩(B∩C)
c. 分配律：
(A∪B)∩C=(A∩C)∪(B∩C)(A\cup B)\cap C=(A\cap C)\cup(B\cap C)(A∪B)∩C=(A∩C)∪(B∩C)
(A∩B)∪C=(A∪C)∩(B∪C)(A\cap B)\cup C=(A\cup C)\cap(B\cup C)(A∩B)∪C=(A∪C)∩(B∪C)
d. 德摩根率：
(A∪B)c=(Ac)∩(Bc)(A\cup B)^{c}=(A^{c})\cap(B^{c})(A∪B)c=(Ac)∩(Bc)
(A∩B)c=(Ac)∪(Bc)(A\cap B)^{c}=(A^{c})\cup(B^{c})(A∩B)c=(Ac)∪(Bc)

8、频数与频率
在相同条件下，进行nnn次试验，在这nnn次试验中事件AAA发生的次数nAn_{A}nA，称为事件AAA发生的频数，比值nAn\frac{n_{A}}{n}nnA称为事件AAA发生的频率，记为fn(A)f_{n}(A)fn(A)，即fn(A)=nAnf_{n}(A)=\frac{n_{A}}{n}fn(A)=nnA。
频率有如下5条性质：
a. 0⩽fn(A)⩽10\leqslant f_{n}(A)\leqslant 10⩽fn(A)⩽1；
b. fn(S)=1,fn(∅)=0f_{n}(S)=1,f_{n}(\varnothing)=0fn(S)=1,fn(∅)=0；
c. 可加性：若A1,A2,⋅⋅⋅,AkA_{1},A_{2},···,A_{k}A1,A2,⋅⋅⋅,Ak两两不相容，则fn(A1∪A2∪⋅⋅⋅∪Ak)=fn(A1)+⋅⋅⋅+fn(Ak)f_{n}(A_{1}\cup A_{2}\cup···\cup A_{k})=f_{n}(A_{1})+···+f_{n}(A_{k})fn(A1∪A2∪⋅⋅⋅∪Ak)=fn(A1)+⋅⋅⋅+fn(Ak)；
d. 随机波动性：对于同样的nnn，所得的fnf_{n}fn不一定相同；
e. 当nnn充分大时，具有稳定性。

9、概率的定义
概率的统计定义：
实践证明，当试验次数nnn增大时，fn(A)f_{n}(A)fn(A)逐渐趋向一个稳定值，可将此稳定值记为P(A)P(A)P(A)，作为事件AAA的概率。

概率的公理化定义：
若对随机试验EEE所对应的样本空间SSS中的每一个事件AAA，均赋予一实数P(A)P(A)P(A)，集合函数P(A)P(A)P(A)满足条件：
(1)(1)(1)非负性：P(A)⩾0P(A)\geqslant 0P(A)⩾0；
(2)(2)(2)规范性：P(S)=1P(S)=1P(S)=1；
(3)(3)(3)可列可加性：设A1,A2,A3⋅⋅⋅A_{1},A_{2},A_{3}···A1,A2,A3⋅⋅⋅是一系列两两无关的事件，即Ai∩Aj=∅,(i≠jA_{i}\cap A_{j}=\varnothing,(i\neq jAi∩Aj=∅,(i=j且i,j=1,2,3,⋅⋅⋅)i,j=1,2,3,···)i,j=1,2,3,⋅⋅⋅)，有
P(∪k=1∞Ak)=∑k=1∞P(Ak)P(\cup_{k=1}^{\infty}A_{k})=\sum_{k=1}^{\infty}P(A_{k})P(∪k=1∞Ak)=∑k=1∞P(Ak)，
则称P(A)P(A)P(A)为事件AAA的概率。

10、概率的性质
a. P(∅)=0P(\varnothing)=0P(∅)=0。

b. 若A1,A2,⋅⋅⋅,AnA_{1},A_{2},···,A_{n}A1,A2,⋅⋅⋅,An是两两无关的事件，则有P(A1∪A2∪⋅⋅⋅∪An)=P(A1)+P(A2)+⋅⋅⋅+P(An)P(A_{1}\cup A_{2}\cup···\cup A_{n})=P(A_{1})+P(A_{2})+···+P(A_{n})P(A1∪A2∪⋅⋅⋅∪An)=P(A1)+P(A2)+⋅⋅⋅+P(An)（概率的有限可加性）。

c. 单调不减性：设A,BA,BA,B为两个事件，且A⊂BA\subset BA⊂B，则P(A)⩽P(B),P(B−A)=P(B)−P(A)P(A)\leqslant P(B),P(B-A)=P(B)-P(A)P(A)⩽P(B),P(B−A)=P(B)−P(A)。

d. 事件差的公式：对于任意事件A,BA,BA,B，有
P(A−B)=P(A)−P(A∩B)P(A-B)=P(A)-P(A\cap B)P(A−B)=P(A)−P(A∩B)。

e. 互补公式：对于任意事件AAA，有P(Ac)=1−P(A)P(A^{c})=1-P(A)P(Ac)=1−P(A)。

f. 加法公式：对于任意事件A,BA,BA,B，有
P(A∪B)=P(A)+P(B)−P(A∩B)P(A\cup B)=P(A)+P(B)-P(A\cap B)P(A∪B)=P(A)+P(B)−P(A∩B)
推广可得nnn个事件和的情况：
P(∪i=1nAi)=∑i=1nP(Ai)−∑1⩽i<j⩽nP(Ai∩Aj)+∑1⩽i<j<k⩽nP(Ai∩Aj∩Ak)+⋅⋅⋅+(−1)n−1P(A1∩A2∩⋅⋅⋅∩An)P(\cup_{i=1}^{n}A_{i})=\sum_{i=1}^{n}P(A_{i})-\sum_{1\leqslant i<j\leqslant n}P(A_{i}\cap A_{j})+\sum_{1\leqslant i<j<k\leqslant n}P(A_{i}\cap A_{j}\cap A_{k})+···+(-1)^{n-1}P(A_{1}\cap A_{2}\cap···\cap A_{n})P(∪i=1nAi)=∑i=1nP(Ai)−∑1⩽i<j⩽nP(Ai∩Aj)+∑1⩽i<j<k⩽nP(Ai∩Aj∩Ak)+⋅⋅⋅+(−1)n−1P(A1∩A2∩⋅⋅⋅∩An)。

11、古典概型
若试验EEE满足
(1)(1)(1)有限性：样本空间S={e1,e2,⋅⋅⋅,en}S=\{e_{1},e_{2},···,e_{n}\}S={e1,e2,⋅⋅⋅,en}；
(2)(2)(2)等可能性：（公认）P(e1)=P(e2)=⋅⋅⋅=P(en)P(e_{1})=P(e_{2})=···=P(e_{n})P(e1)=P(e2)=⋅⋅⋅=P(en)。
则称EEE为古典概型，也称为等可能概型。

在古典概型中，设事件AAA中所含样本点个数为N(A)N(A)N(A)，以N(S)N(S)N(S)记样本空间SSS中样本点总数，则有P(A)=N(A)N(S)P(A)=\frac{N(A)}{N(S)}P(A)=N(S)N(A)。P(A)P(A)P(A)具有如下性质：
(1)(1)(1) 0⩽P(A)⩽10\leqslant P(A) \leqslant 10⩽P(A)⩽1；
(2)(2)(2) P(S)=1,P(∅)=0P(S)=1,P(\varnothing)=0P(S)=1,P(∅)=0；
(3)(3)(3) A∩B=∅,A\cap B=\varnothing,A∩B=∅,则P(A∪B)=P(A)+P(B)P(A\cup B)=P(A)+P(B)P(A∪B)=P(A)+P(B)。

古典概型的几类基本问题：
(1)(1)(1) 摸球问题
(2)(2)(2) 分球入盒问题
(3)(3)(3) 分组问题
(4)(4)(4) 随机取数问题
(5)(5)(5) 抽签问题

12、排列与组合的基本概念
a. 乘法定理：设完成一件事需要分两步，第一步有n1n_{1}n1种方法，第二步有n2n_{2}n2种方法，则完成这件事共有n1n2n_{1}n_{2}n1n2种方法。

b. 加法定理：设完成一件事可有两种途径，第一种途径有n1n_{1}n1种方法，第二种途径有n2n_{2}n2种方法，则完成这件事共有n1+n2n_{1}+n_{2}n1+n2种方法。

c. 有重复排列：从含有nnn个元素的集合中随机抽取kkk次，每次取一个，记录结果后放回，将记录结果排成一列。共有nkn^{k}nk种排列方式。

d. 无重复排列：从含有nnn个元素的集合中随机抽取kkk次，每次取一个，取后不放回，将所取元素排成一列。共有Ank=n(n−1)(n−2)⋅⋅⋅(n−k+1)A^{k}_{n}=n(n-1)(n-2)···(n-k+1)Ank=n(n−1)(n−2)⋅⋅⋅(n−k+1)种排列方式。

e. 组合：从含有nnn个元素的集合种随机抽取kkk个，共有
Cnk=(kn)=Ankk!=n!k!(n−k)!C_{n}^{k}=(^{n}_{k})=\frac{A^{k}_{n}}{k!}=\frac{n!}{k!(n-k)!}Cnk=(kn)=k!Ank=k!(n−k)!n!种取法。

13、条件概率
a. 符号解释：
在已知事件AAA发生的条件下，事件BBB发生的概率称为AAA发生条件下BBB发生的条件概率，记为P(B∣A)P(B|A)P(B∣A)。

b. 条件概率定义：
一般的，设A,BA,BA,B是SSS中的两个事件，P(A)≠0P(A)\neq 0P(A)=0，则
P(B∣A)=P(A∩B)P(A)P(B|A)=\frac{P(A\cap B)}{P(A)}P(B∣A)=P(A)P(A∩B)
称为事件AAA发生的条件下事件BBB发生的条件概率。

c. 条件概率性质：(P(A)≠0)(P(A)\neq0)(P(A)=0)
(1)(1)(1) P(B∣A)⩾0P(B|A)\geqslant0P(B∣A)⩾0；
(2)(2)(2) P(S∣A)=1P(S|A)=1P(S∣A)=1；
(3)(3)(3) 对一系列两两无关的事件A1,A2,A3⋅⋅⋅A_{1},A_{2},A_{3}···A1,A2,A3⋅⋅⋅，有
P(A1∪A2∪⋅⋅⋅∣A)=P(A1∣A)+P(A2∣A)+⋅⋅⋅P(A_{1}\cup A_{2}\cup···|A)=P(A_{1}|A)+P(A_{2}|A)+···P(A1∪A2∪⋅⋅⋅∣A)=P(A1∣A)+P(A2∣A)+⋅⋅⋅

d. 乘法公式：设A,BA,BA,B为两事件，P(A)>0P(A)>0P(A)>0，则P(A∩B)=P(A)P(B∣A)P(A\cap B)=P(A)P(B|A)P(A∩B)=P(A)P(B∣A)，并且该公式可以推广为：P(A1∩A2∩⋅⋅⋅∩An)=P(A1)P(A2∣A1)⋅⋅⋅P(An∣A1∩A2∩⋅⋅⋅∩An−1)P(A_{1}\cap A_{2}\cap···\cap A_{n})=P(A_{1})P(A_{2}|A_{1})···P(A_{n}|A_{1}\cap A_{2}\cap···\cap A_{n-1})P(A1∩A2∩⋅⋅⋅∩An)=P(A1)P(A2∣A1)⋅⋅⋅P(An∣A1∩A2∩⋅⋅⋅∩An−1)。

14、独立性
a. 两个事件的独立性：设A,BA,BA,B是两个事件，若P(A∩B)=P(A)P(B)P(A\cap B)=P(A)P(B)P(A∩B)=P(A)P(B)，则称事件AAA与BBB相互独立，简称独立。
定理：以下四种情形等价
(1)(1)(1) 事件A,BA,BA,B相互独立；
(2)(2)(2) 事件Ac,BA^{c},BAc,B相互独立；
(3)(3)(3) 事件A,BcA,B^{c}A,Bc相互独立；
(4)(4)(4) 事件Ac,BcA^{c},B^{c}Ac,Bc相互独立。

b. 多个事件的独立性：一般的，设A1,A2,⋅⋅⋅,AnA_{1},A_{2},···,A_{n}A1,A2,⋅⋅⋅,An是nnn个事件，如果对任意k(1<k⩽n)k(1<k\leqslant n)k(1<k⩽n)，任意的1⩽i1<i2<⋅⋅⋅<ik⩽n1\leqslant i_{1}<i_{2}<···<i_{k}\leqslant n1⩽i1<i2<⋅⋅⋅<ik⩽n，具有等式
P(Ai1∩Ai2∩⋅⋅⋅∩Aik)=P(Ai1)P(Ai2)⋅⋅⋅P(Aik)P(A_{i_{1}}\cap A_{i_{2}}\cap···\cap A_{i_{k}})=P(A_{i_{1}})P(A_{i_{2}})···P(A_{i_{k}})P(Ai1∩Ai2∩⋅⋅⋅∩Aik)=P(Ai1)P(Ai2)⋅⋅⋅P(Aik)，
则称nnn个事件A1,A2,⋅⋅⋅,AnA_{1},A_{2},···,A_{n}A1,A2,⋅⋅⋅,An相互独立。

15、全概率公式与贝叶斯公式
a. 划分的定义：事件组A1,A2,⋅⋅⋅,An(nA_{1},A_{2},···,A_{n}(nA1,A2,⋅⋅⋅,An(n可为∞)\infty)∞)，称为样本空间SSS的一个划分，如果满足：
(1)(1)(1) ∪i=1nAi=S\cup_{i=1}^{n}A_{i}=S∪i=1nAi=S；
(2)(2)(2) AiAj=∅,(i≠jA_{i}A_{j}=\varnothing,(i\neq jAiAj=∅,(i=j且i,j=1,2,⋅⋅⋅,n)i,j=1,2,···,n)i,j=1,2,⋅⋅⋅,n)。
即A1,A2,⋅⋅⋅,AnA_{1},A_{2},···,A_{n}A1,A2,⋅⋅⋅,An任意两个不可能同时发生，但必有一个发生。

b. 全概率公式：设A1,A2,⋅⋅⋅,AnA_{1},A_{2},···,A_{n}A1,A2,⋅⋅⋅,An是SSS的一个划分，且P(Ai)>0,(i=1,2,⋅⋅⋅,n)P(A_{i})>0,(i=1,2,···,n)P(Ai)>0,(i=1,2,⋅⋅⋅,n)，则对任何事件BBB有
P(B)=∑i=1nP(Ai)P(B∣Ai)P(B)=\sum_{i=1}^{n}P(A_{i})P(B|A_{i})P(B)=∑i=1nP(Ai)P(B∣Ai)，
上式即称为全概率公式。

c. 贝叶斯公式：设A1,A2,⋅⋅⋅,AnA_{1},A_{2},···,A_{n}A1,A2,⋅⋅⋅,An是SSS的一个划分，且P(Ai)>0,(i=1,2,⋅⋅⋅,n)P(A_{i})>0,(i=1,2,···,n)P(Ai)>0,(i=1,2,⋅⋅⋅,n)，则对任何事件B，P(B)>0B，P(B)>0B，P(B)>0，有
P(Aj∣B)=P(Aj)P(B∣Aj)∑i=1nP(Ai)P(B∣Ai),(j=1,2,⋅⋅⋅,n)P(A_{j}|B)=\frac{P(A_{j})P(B|A_{j})}{\sum_{i=1}^{n}P(A_{i})P(B|A_{i})},(j=1,2,···,n)P(Aj∣B)=∑i=1nP(Ai)P(B∣Ai)P(Aj)P(B∣Aj),(j=1,2,⋅⋅⋅,n)，
上式即称为贝叶斯公式。

数学基础之概率论（1）——基础知识相关推荐

微积分与概率论的基础知识
文章目录 1 高数中的基本概念 1.1 极限与函数 1.1.1 数列的极限 1.1.2 函数的极限 1.1.3 无穷大与无穷小 1.1.4 极限运算法则 1.2 导数 1.2.1 函数求导法则 1.2 ...
概率论—高中基础知识
概率论包括随机事件及其概率.随机变量及其概率分布.多维随机变量及其概率分布.随机变量的数字特征及大数定律和中心极限定理.共五章,重点第一.二章,数理统计包括样本与统计量,参数估计和假设检验.回归分析. ...
python数据分析基础试题_Python数据分析基础知识
数据库:绝大会要求会SQL,部分要求SQL/NoSQL会一种,高级的分析师或者大型企业要求能够处理大数据,需要Hive(较少的需要Hadoop/Spark): 统计学:若无相关专业背景,需要具备相应的 ...
机器学习中用到的概率知识_学习机器学习前，你首先要掌握这些概率论基础知识...
编者按:本文来自微信公众号"将门创投"(ID:thejiangmen),编译:Tom R,36氪经授权转发. 机器学习中有很多十分重要的核心基础概念,掌握这些概念对我们进行机器学习 ...
概率论基础知识（三）参数估计
概率论基础知识(三) 参数估计 1.矩矩是用来描述随机变量的某些特征的数字,即求平均值,用大写字母E表示. 矩是更具有一般意义的数字特征. 设有随机变量X,若 E ( ∣ X ∣ k ) < ...
概率论基础知识（二）随机变量及其分布
概率论基础知识(二) 随机变量及其分布 1.随机变量定义:设随机试验的样本空间为S={e}, X=X(e)是定义在样本空间S上的实值单值函数.称X=X(e)为随机变量. 这样一来,样本空间可以很好的 ...
概率论与数理统计-离散型随机变量基础知识
首先把基础知识梳理一遍(只列出了我认为比较重要的概念与公式),如有遗漏还希望各位指正. 一.随机变量在随机实验中,会产生各种结果,比如投硬币试验,我们有可能两种,分别是正面朝上和反面朝上,又比如在投 ...
机器学习基础知识之概率论的Matlab描述概率的图像（一）
机器学习基础知识之概率论的Matlab描述概率的图像(一) (由于有很多的分布,而且还有一维分布以及多维分布,因此,我们一篇博文写下来的话内容量太大,文章太长,因此,我们分三次写完所有的基本的一维以及 ...
完备的AI学习路线（一）基础知识之数学基础
首先看其完整的学习链接 1.数学数学基础:高等数学 https://zhuanlan.zhihu.com/p/36311622 看了后是一脸蒙的,原来这就是传说中机器学习的基础数学知识- 数学基础: ...

数学基础之概率论（1）——基础知识

数学基础之概率论（1）——基础知识

数学基础之概率论（1）——基础知识相关推荐

最新文章

热门文章