理解标准差、标准化、协方差、正态分布

标准差的定义如上，衡量一组数平均偏离这组数平均值的程度。

标准化（z变换）：是把每个数减去均值、除以标准差，转化为均值为0、标准差为1 的一组数。

标准化可以理解为：标准化的值 = 每个数距离平均值有多少个标准差的大小，即可以理解为到达平均值的距离转化为有多少个标准差

均值为0理解：每个数都减去均值，所以新的数总体加起来为0，其均值就为0

标准差为1：每个数减去平均值之后，只是对整体的数做了平移，数与平均值之间的差距都没有变化，标准差还是原来的值，原始标准差 n = 原始数据距平均值的平均距离是n，但是，新的每个数除以标准差，相当于大家平均距离平均值是一个标准差（标准差本身就是：整体距离平均值的平均距离）的大小，现在就变为从之前衡量到平均值之间的数值大小，变为现在衡量到平均值之间的标准差个数的多少，相当于有一个新的概念，衡量每个数距离平均值有几个平均距离，把平均距离作为做个单位来衡量数与平均距离（平均水平）的差距多少，更能体现出每个样本之间的差距，也能把他们放在同一个维度上进行比较，相当于大家都用之前的标准差作为单位来衡量自己。

为什么一个距离平均值一个标准差范围内的概率是68%？想知道这个概率值是怎么得到的？

一文搞懂“正态分布”所有需要的知识点 - 知乎

卡尔曼滤波：从入门到精通 - 知乎

谢益辉: 从中心极限定理的模拟到正态分布 | 统计之都 (中国统计学门户网站，免费统计学服务平台)

中心极限定理

协方差：用来描述两组数据之间的相关性，即是否同时变大或者同时变小，如果同时变化或者同时变小，协方差是正的，如果两组数据变化方向相反，那么协方差是负的，变大变小都是以各自的平均值作为参考，大于平均值则是变大，小于平均值则是变小

协方差定义如下：

从公式中可以看出，当 $X_{i} < {\overline{X}}$ ， $Y_{i} < {\overline{Y}}$ ，或者两个都相反时，他们的积才为正数，表示他们是相关的，如果是X,Y 是向量，其中多个元素，那么就看上述计算出的 $\sum (X_{i} - {\overline{X}}) (Y_{i} - {\overline{Y}})$ 符号是正还是负，正代表他们正相关、负代表他们负相关，0代表没有关系

皮尔逊相关系数：X,Y 的协方差除X,Y的标准差，也是用来衡量两组数据的相关性（曲线的相相似程度）

可以看到皮尔逊相关系数和协方差的值符号上是相同的，即同正相关、负相关、或者不相关，区别在于两者的数值大小不同，协方差容易受到不同数据的单位的影响，即变化值大小的影响，而皮尔逊系数除两者数据的标准差（衡量一组数平均偏离这组数平均值的程度），消除了数据量级不同造成的影响，偏离较多，那么分母分子会同时大。两组量级不同的但变化趋势相同的数的皮尔逊系数基本相同，但协方差差距很大，具体可参考例子。

参考：如何通俗易懂地解释「协方差」与「相关系数」的概念？ - 知乎

深入理解协方差 - 日月的弯刀 - 博客园

理解标准差、标准化、协方差、正态分布相关推荐

期望、方差、标准差、协方差、正太分布、分布
文章目录 1 期望 1.1 定义 1.1.1 离散分布 1.1.2 连续分布 1.2 期望性质 2 方差 2.1 方差定义 2.2 方差性质 3. 标准差 4 协方差和协方差相关系数 4.1 协方差和 ...
方差、标准差和协方差三者之间的定义与计算
理解三者之间的区别与联系,要从定义入手,一步步来计算,同时也要互相比较理解,这样才够深刻. 方差方差是各个数据与平均数之差的平方的平均数.在概率论和数理统计中,方差(英文Variance)用来度量随 ...
浅谈均值、方差、标准差、协方差的概念及意义
浅谈均值.方差.标准差.协方差的概念及意义一.统计学的基本概念统计学里最基本的概念就是样本的均值.方差.标准差.首先,我们给定一个含有n个样本的集合,下面给出这些概念的公式描述: 均值: 标准差: ...
数学基础之方差、标准差和协方差三者之间的定义与计算
理解三者之间的区别与联系,要从定义入手,一步步来计算,同时也要互相比较理解,这样才够深刻. 方差方差是各个数据与平均数之差的平方的平均数.在概率论和数理统计中,方差(英文Variance)用来度量随 ...
方差标准差_方差、标准差、协方差、相关系数
一.定义.公式二.方差.标准差 vs 协方差.相关系数区别一.定义.公式 1.方差定义:用于衡量一组数据的离散程度.在统计描述中,方差用来计算每一个变量(观察值)与总体均数之间的差异. 公式: ...
协方差的计算公式例子_方差、标准差和协方差三者之间的定义与计算
理解三者之间的区别与联系,要从定义入手,一步步来计算,同时也要互相比较理解,这样才够深刻. 方差方差是各个数据与平均数之差的平方的平均数.在概率论和数理统计中,方差(英文Variance)用来度量随 ...
方差、标准差、协方差、协方差矩阵、散度矩阵
方差统计中的方差(样本方差)是每个样本值与全体样本值的平均数之差的平方值的平均数概率论中方差用来度量随机变量和其数学期望(即均值)之间的偏离程度. (1)统计方差用来计算每一个变量(观察值)与总 ...
标准差、协方差、相关性分别是什么？
标准差.协方差.相关性分别是什么? 标准差(Sigma):标准差用于衡量数据在统计数据中的离散程度. 协方差:协方差对应的两个变量一同变化,它用于度量两个随机变量在周期中的变化程度.这是一个统计术 ...
方差、标准差以及协方差
方差.标准差以及协方差今天在看最优化基础的时候,看到一个协方差的使用,但是映像却不是很清晰,特写一篇博文记录协方差. 说到协方差,那我们还是从方差开始看起.方差.标准差以及协方差都是用来衡量样本数据 ...
期望、方差、标准差、协方差、相关系数、协方差矩阵、残差、残差平方和(SSE)、标准化残差，残差分析
通过学习,结合网络上搜索, 把相关概念整理了一下. 1.期望(均值.数学期望) 期望是度量数据的集中趋势的一个重要指标,是研究随机变量的一个重要数字特征离散型随机变量Xi,其对因的概率P(Xi) ...

理解标准差、标准化、协方差、正态分布

理解标准差、标准化、协方差、正态分布相关推荐

最新文章

热门文章