机器学习参数｜数学建模｜自相关性
目录
1.定义和影响
1.1自相关性产生的原因
1.2自相关的后果
2.减小影响方法
2.1如何判断数据存在自相关性
a.用相关计量软件
b.Durbin-Watson Statistics(德宾-瓦特逊检验)
c.Q-Statistics 以(box-pierce)- Eviews(7th version第七版本)为例子
2.2如何减弱模型的自相关性
a.GLS or FGLS
b.HAC:Heteroscedasticity Autocorrelation consistent
自相关性是指随机误差项的各期望值之间存在着相关关系，称随机误差项之间存在自相关性（autocorrelation）或序列相关，于1972年提出。
1.定义和影响
对于模型：
如果随机误差项的各期望值之间存在着相关关系，即：
这时，称随机误差项之间存在自相关性(autocorrelation)或序列相关。
随机误差项的自相关性可以有多种形式，其中最常见的类型是随机误差项之间存在一阶自相关性或一阶自回归形式，即随机误差项只与它的前一期值相关： 或者
，则称这种关系为一阶自相关。
p阶自相关性可以表示为：
是满足回归模型基本要求的随机误差项。我们称之为p 阶自回归形式，或模型存在 p 阶自相关。
由于无法观察到误差项，只能通过残差项
来判断
的行为。如果
或
呈现出图1(a)-(d)形式，则表示
存在自相关，如果
或
呈现图1中(e)形式，则表示
不存在自相关。
线性回归模型中的随机误差项的序列相关问题较为普遍，特别是在应用时间序列资料时，随机误差项的序列相关经常发生。
1.1自相关性产生的原因
线性回归模型中随机误差项存在序列相关的原因很多，但主要是经济变量自身特点、数据特点、变量选择及模型函数形式选择引起的。
1.经济变量惯性的作用引起随机误差项自相关；
2.经济行为的滞后性引起随机误差项自相关；
3.一些随机因素的干扰或影响引起随机误差项自相关；
4.模型设定误差引起随机误差项自相关；
5.观测数据处理引起随机误差项序列相关。
1.2自相关的后果
线性相关模型的随机误差项存在自相关的情况下，用OLS(普通最小二乘法)进行参数估计，会造成以下几个方面的影响。
从高斯——马尔可夫定理的证明过程中可以看出，只有在同方差和非自相关性的条件下，OLS估计才具有最小方差性。当模型存在自相关性时，OLS估计仍然是无偏估计，但不再具有有效性。这与存在异方差性时的情况一样，说明存在其他的参数估计方法，其估计误差小于OLS估计的误差；也就是说，对于存在自相关性的模型，应该改用其他方法估计模型中的参数。
1.自相关不影响OLS估计量的线性和无偏性，但使之失去有效性；
2.自相关的系数估计量将有相当大的方差；
3.自相关系数的T检验不显著；
4.模型的预测功能失效。
2.减小影响方法
2.1如何判断数据存在自相关性
a.用相关计量软件
比如说E-VIEWS检查残差的分布。 如果残差分布具有明显和圆润的线性分布图像， 说明自相关性存在的可能性很高。反之， 无规则波动大的分布图像显示出相关性微弱。比如，以下图片，左边较为圆润的分布就显示出自相关性的存在，右边波动大的则反之。
b.Durbin-Watson Statistics(德宾-瓦特逊检验)
假设time series模型存在自相关性，我们假设误差项可以表述为 Ut=ρ*Ut-1+ε. 利用统计检测设立假设，如果ρ=o.则表明没有自相关性。Durbin-Watson统计量(后面简称DW统计量)可以成为判断正、负、零(无)相关性的工具。 DW统计量： d=∑(Ut-Ut-1)^2/∑ut^2≈2*(1-ρ).如果d=2则基本没有自相关关系，d靠近0存在正的相关关系，d靠近4则有负的相关关系。
c.Q-Statistics 以(box-pierce)- Eviews(7th version第七版本)为例子
很多统计计量软件软件提供Q test来检测，这里用Eviews为例子。 Q的统计量(test statistics)为 Q=n*∑ρ^2. 零假设null hypothesis H0=0和方法2的含义一样。如果零假设证明失败，则对立假设ρ≠0成立，意味着有自相关性。下图中的Q-test就显示出相关性。
2.2如何减弱模型的自相关性
a.GLS or FGLS
假设存在自相关性的模型，误差项之间的关系为：Ut=ρ*Ut-i+ε(ε为除了自相关性的误差项)，i.i.d~(0,σ). t时期的模型为 yt=βxt+Ut, t-1时期则为 ρ*yt-1=ρ*βxt-1+ρ*Ut-1。用t时期的减去t-1时期的可得出yt-yt-1=β(xt-xt-1)+(Ut-Ut-1).已知 Ut-Ut-1=ε。经过整理后新的模型满足Gauss-Makov的假设和，White noise condition(同方差性或者等分散），没有自相关性。
b.HAC:Heteroscedasticity Autocorrelation consistent
以Eviews为例子，在分析模型时选择HAC，在模型中逐渐添加time lag的数目，来校正DW统计量达到正常值减少自相关性。
自相关性_百度百科
机器学习参数｜数学建模｜自相关性相关推荐
- 数学建模：相关性分析学习——皮尔逊（pearson）相关系数与斯皮尔曼（spearman）相关系数
目录 前言 一.基本概念及二者适用范围比较 1.什么是相关性分析 2.什么是相关系数 3.适用范围比较 二.相关系数 1.皮尔逊相关系数(Pearson correlation) 1.线性检验 2.正 ...
- 数学建模之相关性分析2
斯皮尔曼spearman相关系数 一,计算斯皮尔曼相关系数 步骤一: 步骤二: 二,通过matlab计算各个变量之间的斯皮尔曼相关系数 如果是矩阵,计算则如下图所示 三,斯皮尔曼相关系数的假设检验 方 ...
- GANs和ODEs：数学建模的终结？
https://www.toutiao.com/a6677077710788887053/ 在本文中,我想将经典数学建模和机器学习之间建立联系,它们以完全不同的方式模拟身边的对象和过程.虽然数学家基于 ...
- “GANs”与“ODEs”：数学建模的终结？
在本文中,我想将经典数学建模和机器学习之间建立联系,它们以完全不同的方式模拟身边的对象和过程.虽然数学家基于他们的专业知识和对世界的理解来创建模型,而机器学习算法以某种隐蔽的不完全理解的方式描述世界, ...
- 数学建模专栏 | 开篇：如何备战数学建模竞赛之 MATLAB 编程
作 者 简 介 卓金武,MathWorks中国高级工程师,教育业务经理,在数据分析.数据挖掘.机器学习.数学建模.量化投资和优化等科学计算方面有多年工作经验,现主要负责MATLAB校园版业务.曾2次获 ...
- 数据挖掘机器学习[七]---2021研究生数学建模B题空气质量预报二次建模求解过程：基于Stacking机器学习混合模型的空气质量预测｛含码源+pdf文章｝
相关文章: 特征工程详解及实战项目[参考] 数据挖掘---汽车车交易价格预测[一](测评指标:EDA) 数据挖掘机器学习---汽车交易价格预测详细版本[二]{EDA-数据探索性分析} 数据挖掘机器学习 ...
- 关于数学建模、机器学习与深度学习的思考
2016年5月,开始接触水利行业的洪水预警工作,然后就进入了数学建模的过程,进行洪水与降雨分析,后续经过了机器学习与深度学习的跑坑,对数学工具在现实工程进行作用进行总结. 数学建模:通过数学公式为手段 ...
- MATLAB数学建模(四)：机器学习
一.学习目标. (1)了解机器学习算法在数学建模中的应用. (2)掌握机器学习算法中的二分类.多分类.回归.聚类算法. 二.实例演练. 1.谈谈你对机器学习算法与数学建模的了解. 机器学习 ( Mac ...
- 浅谈数学、数学建模与人工智能（机器学习，深度学习）之间的关系？
前言: 说来也巧合,我在大学里加入的第一个社团就是数学建模,各种各样的社团对我没有完全没有吸引力,什么舞蹈.爱心.创业.英语等,加入数学建模的原因有二:一是可以参加比赛,二是可以认识更 ...
- 数学建模-相关性分析（Matlab）
注意:代码文件仅供参考,一定不要直接用于自己的数模论文中 国赛对于论文的查重要求非常严格,代码雷同也算作抄袭 如何修改代码避免查重的方法:https://www.bilibili.com/video/ ...
最新文章
- 【linux】Valgrind工具集详解（八）：Memcheck命令行参数详解
- Zip Slip目录遍历漏洞已影响多个Java项目
- 自动安装Windows XP/自动应答，无人职守安装方法
- [Spring cloud 一步步实现广告系统] 22. 广告系统回顾总结
- Android中使用Handler和异步任务（AsyncTack）来为UI线程执行费时操作
- 为netbean配置C++编译环境
- Matlab在坐标点上按顺序标序号
- 监督分类空白处也被分类了_监督学习(2)|本质是分类的“逻辑回归”
- leecode5 最长回文子串
- java调用c视频接口_JAVA本地调用（JNI- java调用c）
- Ubuntu apt-get和pip源更换
- Java虚拟机--------JVM常见参数
- Oracle数据库编程：PL/SQL编程基础
- java实现高清图片剪切
- discuz模板修改html,Discuz 修改门户的模板——静态页面套用（动态页写死方法以更新）...
- java 代码块 构造函数_Java学习笔记之------构造函数，静态关键字，静态代码块，构造代...
- 1990年图灵奖--费尔南多·考巴脱简介
- Excel学习路径总结
- android 自定义图片裁剪,android 自定义比例裁剪图片(拍照 相册)方式 自定义比例...
- 取消RadioButton前面小圆圈的方法