统计学相关-正态分布推导
部分内容引自百度百科
正态分布
由来:1805年勒让德计算彗星轨道时首次采用了最小二乘法，
高斯在1809年时在写<<天体运动理论>>，然后发现其计算过程中会出现误差，在求误差的过程中发现其误差呈正态分布(Normal distribution)，又称高斯分布(Gaussian distribution)，并用最小二乘法去验证
假设误差的密度函数为f(x)，有n个独立观测值，x1…xn，真实值为x
正常来讲，大部分的误差都是在标准范围内进行变动的，
于是，为了表示误差，就能构造一个函数L(x)
L(x) = f(x1-x)…f(xn - x)
两边取对数(这一步，是为了拉开距离)
ln L(x) = ln (f(x1-x)…f(xn - x))
进一步，为了让其达到最大值的状态，我们想到了一个找函数变化率的工具，导数，然后考虑到里面有多个未知数，我们对它求偏导，
下图中因为等号的另一端为0，故前面的负号是可以去掉的
为了方便表示，我们记g(x) = f’(x)/f(x)
高斯认为，真实值x的估计为x拔
对x1求偏导
对x2求偏导
以此类推，到Xn
将这些其次线性方程组，写成矩阵(其秩为n-1，只有一个自由变量)，并利用其次线性方程组的性质求解，得
即
则
g(x) = cx+b
故c后面括号内的数值为0
故b=0
f’(x)/f(x)= cx拔
解这个微分方程，得
由于
故
这个函数总体是收敛得，那么，常数c应该为负数
我们记c = -1/σ^2
进一步，利用二重积分求解
然后对比
将k求出
~(0,σ^2)
相关补充
依概率收敛
百度百科的定义
理解:
设X = 预测值与真实值得距离趋近于0
在第无穷个预测值x1时
P(x1) = 1(注意，这是吧这个预测值与真实值得距离看成了一个事件，故p指的是概率)
根据对立事件的原则，也可以写为
大数定律
切比雪夫大数定律
伯努利大数定律
辛钦大数定律
切比雪夫大数定律和辛钦大数定律其实是一样的，写法不同而已
大数定律告诉我们，在满足一定的条件下，所有的大数定律均为
随机变量收敛到一个数里，说的就是大数定律是在体现随机变量均值的稳定性
(均值在大样本的情况下是趋于稳定的)
中心极限定理
在满足一定的条件下，中心极限定理均为
如果xi独立同分布于一个分布
则
即x的和服从正态分布
且(转化为标准正态分布)
且
林德伯格-列维定理
林德伯格－列维 [1] （Lindburg-Levy）定理，即独立同分布随机变量序列的中心极限定理。它表明，独立同分布、且数学期望和方差有限的随机变量序列的标准化和以标准正态分布为极限。
设随机变量X1，X2，…Xn，…相互独立，服从同一指数分布，且具有数学期望和方差：E（Xk）=μ，D（Xk）=σ^2>0(k=1,2…),则随机变量之和的标准化变量的分布函数Fn（x）对于任意x满足limFn（x）=Φ（x） 其中Φ(x)是标准正态分布的分布函数
统计学相关-正态分布推导相关推荐
- #统计学相关,Z分布,推断性统计
#统计学相关,Z分布,推断性统计 #推断性统计一般分三步走,1抽样,2对样本进行预测,3对结果进行评估(假设性检验) #在预测方面(即上第二步),有以下几种情况,点估计(就好比在一条线中,抽出线上的点 ...
- 统计学之正态分布检验
统计学之正态分布检验 本次主要是对数据集数据进行正态分布检验,数据集地址为:http://jse.amstat.org/datasets/normtemp.dat.txt 主要包括三列数据,体温(F) ...
- 用python动手学统计学_3-6正态分布
正态分布 概率密度 实现以均值为4.方差为0.64,随机变量为3计算概率密度: # 用于数值计算的库 import numpy as np import pandas as pd import sci ...
- 统计学相关（网易公开课笔记）
机器学习算法 要学习数据挖掘十大算法 抽时间学习一下Hadoop集群性能测试,测试一下集群性能 决策树模型 逻辑斯蒂回归 采用了极大似然估计估计模型参数 最大熵模型 使用连续变量的最大熵模型的公式会简 ...
- 机器学习统计学相关书籍
1. <统计学完全教程> All of statistics 卡耐基梅隆 沃塞曼 2. 第四版<概率论与数理统计> 莫里斯.德格鲁特(Morris H.DeGroot)和马克. ...
- arctanx麦克劳林公式推导过程_多元正态分布的推导、n维球体积面积的计算
欢迎指正. 研究计划写到心累,大家读过的关于机器学习的图像识别的综述类论文私我看一下啊. 一维正态分布推广到多维正态分布 推导过程中会加入推导所必需的理论 从一维标准正态分布说起, ,其概率密度函数为 ...
- 基于R语言极值统计学及其在相关领域中的应用
受到气候变化.温室效应以及人类活动等因素的影响,自然界中极端高温.极端环境污染.大洪水和大暴雨等现象的发生日益频繁:在人类社会中,股市崩溃.金融危机等极端情况也时有发生:今年的新冠疫情就是非常典型的极 ...
- 从数理统计简史中看正态分布的历史由来
来源:云脑智库 本文约15000字,建议阅读10+分钟 本文将结合<数理统计学简史>一书,从早期概率论的发展.棣莫弗的二项概率逼近讲到贝叶斯方法.最小二乘法.误差与正态分布等问题,有详有略 ...
- 正态分布的前世今生：误差分布曲线的确立
转载自:http://www.itongji.cn/article/111013402012.html [编者注]几乎所有的经济模型都有假设前提,学过计量经济学的同学都知道古典假设,而正态分布又在假设 ...
最新文章
- Linux之加密及CA证书
- mysql 虚拟环境搭建_pycharm虚拟环境virtualnv安装MySQL扩展
- .NET(C#)：警惕PLINQ结果的无序性
- hdu 4725 The Shortest Path in Nya Graph（建图+优先队列dijstra）
- python queue模块_Python的queue模块详解
- caffe data层_Caffe实现多标签输入，添加数据层(data layer)
- 使用System Center Operations Manager监视Exchange 2007客户端连通性（二）
- C和指针之动态内存分配堆、栈、全局区（静态区）、常量区对比总结学习笔记
- server_u文件服务器已停止,Serv-U停止服务怎么解决
- RabbitMQ修改默认端口：4369、5672、15672、25672
- 用java设计一个公司局域网_java实现局域网内单对单和多对多通信的设计思路
- Ueditor word图片转存按钮灰色无法激活
- 51单片机（一）—— 51单片机简介
- 使用Python Chord包画出好看的弦图
- 衣米魔兽世界怀旧服：相关网友和测试玩家的提问，王乾亨以及衣米魔兽官方的解释与回答内容精选
- php怎么触发js函数,如何从PHP调用JavaScript函数？
- JavaWeb 注解
- 長野の方言「ほうげん」
- Oracle DBA日常工作手册
- camera相机 its_[Android] Camera ITS/CTS Verifier测试