数理统计（二）——切比雪夫不等式、大数定理、伯努利定理、中心极限定理

切比雪夫不等式

含义：设随机变量XXX的期望为μ" role="presentation">μμ\mu，方差为σ2σ2\sigma^2，对于任意正数εε\varepsilon，有：

P{|X−μ|≥ε}≤σ2ε2P{|X−μ|≥ε}≤σ2ε2

P\{|X-\mu|\ge \varepsilon\}\le \frac{\sigma^2}{\varepsilon^2}
切比雪夫不等式说明，X的方差越小，事件{|X−μ|≤ε}{|X−μ|≤ε}\{|X-\mu|\le \varepsilon\}的概率就越大。即：XXX的取值基本上集中在期望μ" role="presentation">μμ\mu附近。即方差越小，数据的震荡程度越小，数据分布越集中。
切比雪夫不等式的证明

大数定理

含义：设随机变量X1,X2,...,XnX1,X2,...,XnX_1,X_2,...,X_n互相独立，并且具有相同的期望μμ\mu和方差σ2σ2\sigma^2.作前n个随机变量的平均Yn=1n∑ni=1XiYn=1n∑i=1nXiY_n=\frac{1}{n}\sum_{i=1}^{n}X_i，则对于任意正数εε\varepsilon，有

limn→∞P|Yn−μ|<ε=1limn→∞P|Yn−μ|<ε=1

\lim_{n\rightarrow \infty}P{|Y_n-\mu|
意义：当n很大时，随机变量X1,X2,...,XnX1,X2,...,XnX_1,X_2,...,X_n的平均值YnYnY_n在概率意义下无限接近期望μμ\mu
1. 任然有可能出现偏离，但是这种可能性很小，当n无限大时，这种可能性的概率为0

伯努利大数定理

含义：一次试验中事件AAA发生的概率为p" role="presentation">ppp；重复nnn次独立实验中，事件A发生了nA" role="presentation">nAnAn_A次，则p、n、nAp、n、nAp、n、n_A的关系满足：对于任意正数εε\varepsilon

limn→∞P(|nAn−p|<ε)=1limn→∞P(|nAn−p|<ε)=1

\lim_{n\rightarrow \infty}P(|\frac{n_A}{n}-p|
意义：该定理表明事件A发生的频率nAnnAn\frac{n_A}{n}以概率收敛于事件A的概率p。
用途：
1. 正态分布的参数估计
2. 朴素贝叶斯做垃圾邮件分类
3. 隐马尔科夫模型有监督参数学习

中心极限定理

含义：设随机变量X1,X2,...,XnX1,X2,...,XnX_1,X_2,...,X_n互相独立，服从同一分布，并且具有相同的期望μμ\mu和方差σ2σ2\sigma^2，则随机变量

Yn=∑ni=1Xi−nμn‾√σYn=∑i=1nXi−nμnσ

Y_n=\frac{\sum_{i=1}^{n}X_i-n\mu}{\sqrt{n}\sigma}的分布收敛到标准正态分布
容易得到：∑ni=1Xi∑i=1nXi\sum_{i=1}^{n}X_i收敛到正态分布N(nμ,nσ2)N(nμ,nσ2)N(n\mu,n\sigma^2)
意义：实际问题中，很多随机现象可以看做许多因素的独立影响的综合反应，往往近似服从正态分布。如：
1. 城市耗电量：大量用户的耗电量总和
2. 测量误差：许多观察不到的、微小误差的总和
  1. 注意，是多个随机变量的和才可以，有些问题是乘性误差，则需要鉴别或者取对数后再使用
3. 线性回归中，将使用该定理论证最小二乘法的合理性

数理统计（二）——切比雪夫不等式、大数定理、伯努利定理、中心极限定理相关推荐

伯努利兄弟：微积分学科的建立者
如果说牛顿和莱布尼茨是微积分的建筑设计师,那么正是雅各布·伯努利和约翰·伯努利所做的大量工作,才把微积分建立成今天我们所知的这门学科. 通常,一场科学革命不单是需要一位奠基的天才.它往往也需要一位组织 ...
伯努利大数定理（揭示了频率和概率的关系）
在概率的公理化体系中, 定义了概率, 而且, 在这个定义中, 概率和可能行(频率)没有任何毛关系.那概率怎么就经常和生活中的可能性(频率)就扯上了关系呢? 概率的公理化定义可没揭示这个原理. 揭示概率 ...
sklearn模块之朴素贝叶斯：（二）伯努利模型的实现
多元Bernoulli模型的朴素贝叶斯分类器适用于离散数据.与MultinomialNB不同之处为: MultinomialNB使用出现次数(频数) BernoulliNB设计用于二进制/布尔特征 ...
matlab模拟伯努利实验,matlab仿真随机数的发生
概率论和数理统计实验(matlab中实现) 一.伯努利漫衍 R=binornd(N,P); //N,P为二次漫衍的俩个参数,返回遵守参数为N,P的二项漫衍的随机数,且N,P,R的形式相同. R=bin ...
概率论大作业C语言验证伯努利大数定律以及相对应的强大数定律、棣莫弗-拉普拉斯中心极限定理
验证伯努利大数定律以及相对应的强大数定律.棣莫弗-拉普拉斯中心极限定理代码如下: //编程环境:Xcode //编程语言:C语言 #include <stdio.h> #include ...
伯努利、辛钦大数定律、中心极限定理
大数定律一个随机变量序列X1.X2...Xn...X_{1}.X_{2}...X_{n}...X1.X2...Xn...,a为常数,若对任意正数ε\varepsilonε有lim⁡n→∞P{∣ ...
thinkcmf5调用指定分类的二级_python机器学习API介绍11: 伯努利贝叶斯分类器
BernoulliNB是伯努利贝叶斯分类器,它是假设模型的条件概率分布满足对应的二次项分布,其原型为: class sklearn.naive_bayes.BernoulliNB(alpha=1.0, ...
【概率论基础进阶】随机事件和概率-古典概型与伯努利概型
文章目录一.古典概型二.几何概型三.伯努利概型一.古典概型定义:当试验结果为有限nnn个样本点,且每个样本点的发生具有相等的可能性,如果事件AAA由nAn_{A}nA个样本点组成,则事件A ...
概率论：古典概型与伯努利概型
古典概型不要在意伯努利就是二项分布伯努利其实就是建模型出的题什么模型都没告诉你的叫你自己建立模型一般情况都是伯努利正态分布模型,指数分布模型题上都会直接告诉你的比如某随机变量服从正态分布什么话 ...

数理统计（二）——切比雪夫不等式、大数定理、伯努利定理、中心极限定理

切比雪夫不等式

大数定理

伯努利大数定理

中心极限定理

数理统计（二）——切比雪夫不等式、大数定理、伯努利定理、中心极限定理相关推荐

最新文章

热门文章