1 协方差

1.1 定义

假设两个随机变量X和Y满足未知的概率分布，那么X和Y的协方差为：

其中E是求解数学期望的运算符，μx，μy分别是X和Y的均值

1.2 存在的问题

协方差告诉我们两个随机变量是如何一起移动的，但只用协方差衡量变量相关性存在一些问题：协方差是有量纲的，它的大小受随机变量本身取值范围的影响。

2 相关系数

人们希望使用某个和协方差有关，但是又是无量纲的测量来描述两个随机变量的相关性。

最简单的做法就是用变量自身的波动对协方差进行标准化，相关系数便由此得来。

2.1 相关系数的定义

令ρ表示X和Y的相关系数，它的定义为

其中σx和σy分别是X和Y的标准差

通过使用X和Y的标准差对它们的协方差归一化，ρ的取值范围为 [-1, +1]：

2.2 相关系数和XY分布之间的关系

ρ(X,Y)=1表示X和Y之间存在确切的线性正相关；
ρ(X,Y)=0表示X和Y之间不存在任何线性相关性；
ρ(X,Y)=-1表示X和Y之间存在确切的线性负相关。

值得一提的是，相关系数仅仅刻画 X和Y之间的线性相关性；它不描述它们之间的（任何）非线性关系。

3 时间序列的自相关系数

3.1 时间序列的弱平稳性

算法笔记：ARIMA_UQI-LIUWJ的博客-CSDN博客提及了弱平稳性

我们这里涉及的弱平稳性性质是：如果时间序列数据具有弱平稳性，那么对于所有的时刻t和任意的间隔k，值之间的协方差 $\sigma(v_t,v_{t+k})=\gamma_k$ ,其中γk与时间t无关。他仅仅依赖于时间间隔k。

（比如样本是 { $v_1,v_2,\dots,v_n$ },那么 $v_{t+k}=\{v_{1+k},\dots,v_n\}$ )

3.2 自相关系数ACF

$v_t$ 和 $v_{t-k}$ 的自相关系数称为 $v_t$ 的间隔为k的自相关系数。

$\rho_k=\frac{Cov(v_t,v_{t+k})}{\rho_{v_t}\rho_{v_{t+k}}} =\frac{Cov(v_t,v_{t+k})}{\sqrt{Cov(v_t,v_t)}\sqrt{Cov(v_{t+k},v_{t+k})}} =\frac{\gamma_k}{\gamma_0}$

当k=0的时候，有：

说明对任何时刻t， $v_t$ 的间隔为k的自相关系数恒为1

进一步，我们计算

$Cov(v_t,v_{t+k})=E(v_t-\bar{v_t})(v_{t+k}-\bar{v_{t+k}})=E(v_t-\bar{v})(v_{t+k}-\bar{v})$

【弱平稳性的性质，时间序列的期望不变】

这里的 $v_t$ 是 { $v_1,v_2,\dots,v_n$ }, $v_{t+k}=\{v_{1+k},\dots,v_n\}$

所以 $Cov(v_t,v_{t+k})=\frac{\sum_{t=1}^{n-k}(v_t-\bar{v})(v_{t+k}-\bar{v})}{n-k}$

【注：也有很多版本底下除的是n，就不太明白究竟应该是哪个。。。但如果n很大h很小的时候，差距并不是很大】

3.2.1 自相关图解读

下面为一些时间序列的自相关图。它们呈现出完全不同结构的自相关性。

这个自相关图的时间序列存在明显的趋势

这个相关图的时间序列存在明显的周期性。

这个则同时有一定的趋势和周期性

概率统计笔记：协方差与相关系数相关推荐

概率统计笔记：高斯威沙特分布
1 介绍在概率论和统计学中,高斯威沙特分布是一个多变量四参数连续概率分布. 它是一个具有未知均值和精度矩阵(协方差矩阵的逆)的多元正态分布的共轭先验 2 定义假设均值μ 满足如下的高斯分布其中满 ...
概率统计笔记：共轭分布
1 共轭的定义在概率统计笔记:贝叶斯推断 Bayesian Inference_UQI-LIUWJ的博客-CSDN博客中,我们有: 如果某个随机变量Θ的后验概率 p(θ|x)和先验概率p(θ)属于 ...
概率统计笔记：用python实现贝叶斯回归
0 理论部分: 概率统计笔记:贝叶斯线性回归_UQI-LIUWJ的博客-CSDN博客 1 数据集部分 1.1 创建数据集 import matplotlib.pyplot as plta_true = ...
统计计量 | 协方差和相关系数的暧昧关系：共性与个性
来源:硬数据本文约1900字,建议阅读5分钟本文为你介绍协方差和相关系数的关系. Part1 方差之前介绍了方差是用来刻画数据波动性的统计量,那么协方差就是描述两个变量之间的变动关系. 通俗地理解 ...
宋浩概率统计笔记_梅花生物的涨跌幅概率统计，及最佳网格策略
作者:鞅祸遗民,来源优财助手投稿远远妈写过一篇文章<长期投资年化收益率如何做到 10%+>,讲述了低风险股票买卖投资策略中短线买卖仓位套利模式: - 10% 的资金,用类似于网格或箱体交 ...
概率统计笔记：高斯分布的等高线
1 概念复习 1.1 多维高斯分布 1.2 马氏距离 1.3 协方差矩阵的特征分解任意的N × N实对称矩阵都有N个线性无关的特征向量.并且这些特征向量都可以正交单位化而得到一组正交且模为1的向量. ...
宋浩概率统计笔记_华中农业大学应用统计专硕上岸~超详细的432复习经验分享贴~...
先说下我的情况:2020年双非一本一战上岸华中农业大学应统专硕,总分365,政治65英语74数学108专业课118.在应统火爆的大环境下我这个分不算高,但是我尽力了就问心无愧啦~记录一下复习考研的这一 ...
概率统计笔记：高斯分布的联合概率密度
1 符号说明我们的目的是求的概率 2 求p(y) 不难发现,y与x的关系为线性高斯模型,则yy与x符合下述关系于是可以得到y的分布 3 求p(z) 我们现在的目标就是求这个▲是什么参考资料:机 ...
概率统计笔记：分布的核
概率分布函数p(x)可以看成是由两部分组成:包含参数的部分核归一化项(不包含参数的部分) 以高斯分布为例,高斯分布的概率密度函数为,有参数(x)的部分可以看成.所以就是正态分布的核下面给出几个其他概 ...

概率统计笔记：协方差与相关系数

1 协方差

1.1 定义

1.2 存在的问题

2 相关系数

2.1 相关系数的定义

2.2 相关系数和XY分布之间的关系

3 时间序列的自相关系数

3.1 时间序列的弱平稳性

3.2 自相关系数ACF

3.2.1 自相关图解读

概率统计笔记：协方差与相关系数相关推荐

最新文章

热门文章

概率统计笔记： 协方差与相关系数

1 协方差

1.1 定义

1.2 存在的问题

2 相关系数

2.1 相关系数的定义

2.2 相关系数和XY分布之间的关系

3 时间序列的自相关系数

3.1 时间序列的弱平稳性

3.2 自相关系数ACF

3.2.1 自相关图解读

概率统计笔记： 协方差与相关系数相关推荐

最新文章

热门文章

概率统计笔记：协方差与相关系数

概率统计笔记：协方差与相关系数相关推荐