概率论与数理统计(1)

对概率的认识:P∈[0,1]P \in [0,1]P∈[0,1]
将位于[0,1][0,1][0,1]的函数y=f(x)y=f(x)y=f(x)看成xxx对应yyy事件的概率

古典概型

将nnn个不同的求放入N(N≥n)N(N\geq n)N(N≥n)个盒子中，假设盒子容量是无限，求事件A={每个盒子至多有1个球}的概率。
P(A)=PNnNnP(A)=\frac{P_N^n}{N^n}P(A)=NnPNn
其中PNn=N(N−1)(N−2)...(N−n+1)P_N^n=N(N-1)(N-2)...(N-n+1)PNn=N(N−1)(N−2)...(N−n+1)

概率

条件概率:
P(A∣B)=P(AB)P(B)P(A|B)=\frac{P(AB)}{P(B)}P(A∣B)=P(B)P(AB)
全概率公式:
P(A)=∑iP(A∣Bi)P(Bi)P(A)=\sum_i P(A|B_i)P(B_i)P(A)=i∑P(A∣Bi)P(Bi)
贝叶斯公式:
P(Bi∣A)=P(A∣Bi)P(Bi)∑jP(A∣Bj)P(Bj)P(B_i|A)=\frac{P(A|B_i)P(B_i)}{\sum_j P(A|B_j)P(B_j)}P(Bi∣A)=∑jP(A∣Bj)P(Bj)P(A∣Bi)P(Bi)

分布

两点分布

已知随机变量XXX的分布律为:

则有:
E(X)=1∗p+0∗q=pE(X)=1*p+0*q=pE(X)=1∗p+0∗q=p
D(X)=E(X2)−[E(X)]2=12⋅p+02⋅(1−p)−p2=p(1−p)=pqD(X)=E(X^2)-[E(X)]^2=1^2 \cdot p + 0^2 \cdot (1-p) - p^2=p(1-p)=pqD(X)=E(X2)−[E(X)]2=12⋅p+02⋅(1−p)−p2=p(1−p)=pq

二项分布 Bernoulli distribution

随机变量XXX服从参数为n,pn,pn,p二项分布

设XiX_iXi为第iii次试验中事件AAA发生的次数，i=1,2...ni=1,2...ni=1,2...n
则:
X=∑i=1nXiX=\sum_{i=1}^nX_iX=i=1∑nXi

显然，XiX_iXi相互独立均服从参数为ppp的0-1分布，
所以:
E(X)=∑i=1nE(Xi)=npE(X)=\sum_{i=1}^nE(X_i)=npE(X)=∑i=1nE(Xi)=np
D(X)=∑i=1nD(Xi)=np(1−p)D(X)=\sum_{i=1}^nD(X_i)=np(1-p)D(X)=∑i=1nD(Xi)=np(1−p)

泊松分布

设X∼π(λ)X \sim \pi(\lambda)X∼π(λ)，且分布律为
P{X=K}=λkk!e−λ,k=0,1,2,...,λ>0P \lbrace X=K \rbrace=\frac{\lambda ^k}{k!} e^{- \lambda} , k=0,1,2,...,\lambda>0 P{X=K}=k!λke−λ,k=0,1,2,...,λ>0
E(X)=∑k=0∞k⋅λkk!e−λ=e−λ∑k=1∞λk−1(k−1)!⋅λ=λe−λ⋅eλ=λE(X)=\sum_{k=0}^{\infty} k \cdot \frac{\lambda^k}{k!}e^{- \lambda}=e^{-\lambda}\sum_{k=1}^{\infty}\frac{\lambda^{k-1}}{(k-1)!}\cdot \lambda=\lambda e ^{-\lambda} \cdot e^{\lambda}=\lambdaE(X)=∑k=0∞k⋅k!λke−λ=e−λ∑k=1∞(k−1)!λk−1⋅λ=λe−λ⋅eλ=λ

E(X2)=E[X(X−1)+X]=E[X(X−1)]+E(X)=∑k=0∞k(k−1)⋅λkk!e−λ+λ=λ2e−λ∑k=2∞λk−2(k−2)!+λ=λ2e−λeλ+λ=λ2+λ\begin{aligned} E(X^2) &=E[X(X-1)+X]=E[X(X-1)]+E(X) =\sum_{k=0}^{\infty}k(k-1)\cdot \frac{\lambda^k}{k!}e^{-\lambda}+\lambda \\ &=\lambda^2e^{-\lambda}\sum_{k=2}^{\infty}\frac{\lambda^{k-2}}{(k-2)!}+\lambda=\lambda^2e^{-\lambda}e^{\lambda}+\lambda=\lambda^2+\lambda \end{aligned} E(X2)=E[X(X−1)+X]=E[X(X−1)]+E(X)=k=0∑∞k(k−1)⋅k!λke−λ+λ=λ2e−λk=2∑∞(k−2)!λk−2+λ=λ2e−λeλ+λ=λ2+λ

D(X)=E(X2)−[E(X)]2=λ2+λ−λ2=λD(X)=E(X^2)-[E(X)]^2=\lambda^2+\lambda-\lambda^2=\lambdaD(X)=E(X2)−[E(X)]2=λ2+λ−λ2=λ

均匀分布

设X∼U(a,b)X \sim U(a,b)X∼U(a,b),其概率密度为
f(x)={1b−a,a<x<b0,othersf(x)= \begin{cases} \frac{1}{b-a}, & \text {$a<x<b$} \\ 0, & \text{others} \end{cases} f(x)={b−a1,0,a<x<bothers
E(X)=∫−∞∞xf(x)dx=∫ab1b−axdx=12(a+b)E(X)=\int_{-\infty}^{\infty} xf(x) dx=\int_{a}^{b} \frac{1}{b-a} x dx = \frac{1}{2}(a+b) E(X)=∫−∞∞xf(x)dx=∫abb−a1xdx=21(a+b)
D(X)=E(X2)−[E(X)]2=∫ab1b−ax2dx−(a+b2)2=(b−a)212D(X)=E(X^2)-[E(X)]^2=\int_{a}^{b} \frac{1}{b-a} x^2 dx - \left( \frac{a+b}{2} \right)^2= \frac{(b-a)^2}{12} D(X)=E(X2)−[E(X)]2=∫abb−a1x2dx−(2a+b)2=12(b−a)2

指数分布

设随机变量XXX服从指数分布，其概率密度为

f(x)={1θe−x/θ,x>00,x≤0其中θ>0f(x)= \begin{cases} \frac{1}{\theta}e^{-x/\theta}, & \text {$x > 0$} \\ 0, & \text{$ x \leq 0$} \end{cases} 其中 \theta > 0f(x)={θ1e−x/θ,0,x>0x≤0其中θ>0
则有：
E(X)=∫−∞∞xf(x)dx=∫0∞x1θe−x/θdx=−xe−x/θ∣0∞+∫0∞e−x/θdx=θ\begin{aligned} E(X) &= \int _{-\infty}^{\infty} xf(x)dx=\int _{0}^{\infty} x \frac{1}{\theta}e^{-x/\theta}dx\\ &=-x e^{-x/\theta}|_0^{\infty}+\int_0^{\infty}e^{-x/\theta}dx=\theta \end{aligned} E(X)=∫−∞∞xf(x)dx=∫0∞xθ1e−x/θdx=−xe−x/θ∣0∞+∫0∞e−x/θdx=θ
D(X)=E(X2)−[E(X)]2=∫0∞x2⋅1θe−x/θdx−θ2=2θ2−θ2=θ2D(X)=E(X^2)-[E(X)]^2 = \int_0^{\infty} x^2 \cdot \frac{1}{\theta} e^{-x/\theta}dx - \theta^2 = 2\theta^2 - \theta^2 = \theta^2D(X)=E(X2)−[E(X)]2=∫0∞x2⋅θ1e−x/θdx−θ2=2θ2−θ2=θ2

正太分布

设X∼N(μ,σ2)X \sim N(\mu,\sigma^2)X∼N(μ,σ2),其概率密度为

f(x)=12πσe−(x−u)22σ2,σ>0,−∞<x<+∞f(x) = \frac{1}{\sqrt{2 \pi} \sigma} e ^{- \frac{(x-u)^2}{2 \sigma^2}},\sigma>0,-\infty<x<+\infty f(x)=2πσ1e−2σ2(x−u)2,σ>0,−∞<x<+∞
E(X)=∫−∞+∞xf(x)dx=∫−∞+∞x∗12πσe−(x−μ)22σ2dxE(X)=\int_{-\infty}^{+\infty}xf(x)dx=\int_{-\infty}^{+\infty}x*\frac1{\sqrt{2 \pi} \sigma}e^{- \frac{(x-\mu)^2}{2\sigma^2}}dxE(X)=∫−∞+∞xf(x)dx=∫−∞+∞x∗2πσ1e−2σ2(x−μ)2dx

令x−μσ=t⇒x=μ+σt\frac{x-\mu}{\sigma}=t \Rightarrow x=\mu+\sigma tσx−μ=t⇒x=μ+σt

所以：
E(X)=∫−∞+∞x∗12πσe−(x−μ)22σ2dx=12π∫−∞+∞(μ+σt)e−t22dt=u12π∫−∞+∞e−t22dt+σ2π∫−∞+∞te−t22dt=μ\begin{aligned} E(X) &= \int_{-\infty}^{+\infty}x*\frac1{\sqrt{2 \pi} \sigma}e^{- \frac{(x-\mu)^2}{2\sigma^2}}dx \\ &= \frac{1}{\sqrt{2 \pi}} \int_{-\infty}^{+\infty}(\mu + \sigma t)e^{-\frac{t^2}{2}}dt \\ &= u \frac{1}{\sqrt{2 \pi}} \int_{-\infty}^{+\infty}e^{-\frac{t^2}{2}}dt + \frac{\sigma}{\sqrt{2 \pi}} \int_{-\infty}^{+\infty} t e^{-\frac{t^2}{2}}dt \\ &= \mu \end{aligned} E(X)=∫−∞+∞x∗2πσ1e−2σ2(x−μ)2dx=2π1∫−∞+∞(μ+σt)e−2t2dt=u2π1∫−∞+∞e−2t2dt+2πσ∫−∞+∞te−2t2dt=μ

D(x)=∫−∞+∞(x−μ)2f(x)dx=∫−∞+∞(x−μ)212πσe−(x−μ)22σ2dx\begin{aligned} D(x) &=\int_{-\infty}^{+\infty}(x-\mu)^2 f(x) dx \\ &= \int_{-\infty}^{+\infty}(x-\mu)^2 \frac1{\sqrt{2 \pi} \sigma}e^{- \frac{(x-\mu)^2}{2\sigma^2}} dx \end{aligned} D(x)=∫−∞+∞(x−μ)2f(x)dx=∫−∞+∞(x−μ)22πσ1e−2σ2(x−μ)2dx

令x−μσ=t⇒x=μ+σt\frac{x-\mu}{\sigma}=t \Rightarrow x=\mu+\sigma tσx−μ=t⇒x=μ+σt

D(x)=σ22π∫−∞+∞t2e−t22dt=σ22π(−te−t22∣−∞+∞+12π∫−∞+∞e−t22dt)=0+σ22π2π=σ2\begin{aligned} D(x) &= \frac{{\sigma}^2}{\sqrt{2 \pi}} \int_{-\infty}^{+\infty} t^2e^{ - \frac{t^2}{2}} dt \\& =\frac{{\sigma}^2}{\sqrt{2 \pi}} \left( -te^{- \frac{t^2}{2}} |_{-\infty} ^{+\infty} + \frac{1}{\sqrt{2 \pi}} \int_{-\infty}^{+\infty}e^{-\frac{t^2}{2}}dt\right) \\ &= 0 + \frac{\sigma^2}{\sqrt{2 \pi}}\sqrt{2 \pi} \\ &= \sigma^2 \end{aligned} D(x)=2πσ2∫−∞+∞t2e−2t2dt=2πσ2(−te−2t2∣−∞+∞+2π1∫−∞+∞e−2t2dt)=0+2πσ22π=σ2

总结

七月算法-P2 概率论与数理统计(1)相关推荐

七月算法机器学习笔记1 微积分与概率论
七月算法(http://www.julyedu.com) 12月份机器学习在线班学习笔记
【2020/07/16修订】概率论与数理统计（电子科技大学）知识梳理 · 第一版（1到8章 · 度盘）
概率论与数理统计知识梳理 (第一版) 建议先修课程:高等数学(微积分) 配套课程: 1.慕课(MOOC):概率论与数理统计(电子科技大学) 2.教材:概率论与数理统计电子科技大学应用数学学院 ...
概率论与数理统计中的算子半群第一讲 Banach-Steinhaus定理1 Baire‘s Category与Banach-Steinhaus定理的证明
概率论与数理统计中的算子半群第一讲 Banach-Steinhaus定理1 Baire's Category与Banach-Steinhaus定理的证明 Baire's Category Theor ...
[概统]本科二年级概率论与数理统计第三讲离散型随机变量
[概统]本科二年级概率论与数理统计第三讲离散型随机变量离散型随机变量的基本概念 Bernoulli分布与二项分布超几何分布几何分布 Poisson分布离散型随机变量的基本概念定义3.1 ...
[概统]本科二年级概率论与数理统计第二讲几何概型
[概统]本科二年级概率论与数理统计第二讲几何概型蒲丰投针问题 Buffon's Needle Problem 伯川德悖论 Bertrand Paradox 几何概型的思想非常简单,用图形表示事 ...
概率与统计在计算机应用,计算机技术在概率论和数理统计中的应用
计算机技术在概率论和数理统计中的应用 (5页) 本资源提供全文预览,点击全文预览即可全文预览,如果喜欢文档就下载吧,查找使用更方便哦! 19.90 积分概率论与数理统计期中论文计算机技术在概率论和 ...
概率论与数理统计思维导图_数学思维到底有多重要？这个学科往往影响国家实力...
原标题:<关于加强数学科学研究工作方案>日前发布--数学思维今何在密码学家王晓云日前获得了2019年未来科学大奖数学与计算机科学奖.她提出密码哈希函数的碰撞攻击理论,推动帮助新一代密码哈 ...
概率论与数理统计(Probability Statistics I)
Table of Contents 概率论的基本概念(The Basic Concept of Probability Theory) 随机变量及其分布(Random Variable and Its ...
概率论与数理统计-下篇
概率论与数理统计-下篇 4 一维随机变量 4.1 分布函数 4.1.1 定义与充要条件定义: FX(x)=P{X⩽x},x∈RF_{_{X}}(x)=P\{X\leqslant x\}\ ,\ x\ ...
视频教程-机器学习数学基础--概率论与数理统计视频教学-机器学习
机器学习数学基础--概率论与数理统计视频教学北京大学计算机技术及应用专业,从事IT行业十几年,主要从事java.Linux.手机应用开发.人工智能神经网络方面的工作.曾在中国数码集团.厦门三五互联集 ...

七月算法-P2 概率论与数理统计(1)

七月算法-P2