多重共线性、异方差、自相关

  • 多重共线性
  • 异方差
  • 自相关

多重共线性

1 多重共线性是指各个解释变量之间有准确或近似准确的线性关系。

2 多重共线性的原因:
(1)经济变量之间具有共同变化趋势。
(2).利用截面数据建立模型也可能出现多重共线性。
(3) 模型中包含滞后变量。
(4)变量的选择不当。
(5)样本数据自身的原因。

3 多重共线性的后果:
如果各个解释变量之间有完全的共线性,则它们的回归系数是不确定的,并且它们的方差会无穷大。
如果共线性是高度的但不完全的,回归系数可估计,但有较大的标准误差。回归系数不能准确地估计。(对参数区间估计时,置信区间趋于变大;假设检验容易作出错误的判断;可能造成可决系数较高,但对各个参数单独的 t 检验却可能不显著,甚至可能使估计的回归系数符号相反,得出完全错误的结论)

4 诊断共线性的经验方法:
简单相关系数检验法:一般而言,如果每两个解释变量的简单相关系数(零阶相关系数)比较高,例如大于0.8,则可认为存在着较严重的多重共线性。

方差扩大(膨胀)因子法:方差膨胀因子越大,表明解释变量之间的多重共性越严重。反过来,方差膨胀因子越接近于1,多重共线性越弱。
经验表明,方差膨胀因子≥10时,说明解释变量与其余解释变量之间有严重的多重共线性,且这种多重共线性可能会过度地影响最小二乘估计。

直观判断法:(1)当增加或剔除一个解释变量,或者改变一个观测值时,回归参数的估计值发生较大变化,回归方程可能存在严重的多重共线性。(2)从定性分析认为,一些重要的解释变量的回归系数的标准误差较大,在回归方程中没有通过显著性检验时,可初步判断可能存在严重的多重共线性。(3)有些解释变量的回归系数所带正负号与定性分析结果违背时,很可能存在多重共线性。(4)可决系数较高,F检验显著,但t检验不显著,可能存在多重共线性

逐步回归法: 将变量逐个的引入模型,每引入一个解释变量后,都要进行F检验,并对已经选入的解释变量逐个进行t 检验,当原来引入的解释变量由于后面解释变量的引入而变得不再显著时,则将其剔除。以确保每次引入新的变量之前回归方程中只包含显著的变量。

5 降低多重共线性的经验方法:
(1)剔除变量法:把方差扩大因子最大者所对应的自变量首先剔除再重新建立回归方程,直至回归方程中不再存在严重的多重共线性。
(2)增大样本容量:如果样本容量增加,会减小回归参数的方差,标准误差也同样会减小。因此尽可能地收集足够多的样本数据可以改进模型参数的估计。
(3)变换模型形式:对数模型、差分模型等。差分后变量之间的相关性要比差分前弱得多,所以差分后的模型可能降低出现共线性的可能性,此时可直接估计差分方程。生产函数(柯布道格拉斯函数)采用对数模型。
(4)利用非样本先验信息:通过经济理论分析能够得到某些参数之间的关系,可以将这种关系作为约束条件,将此约束条件和样本信息结合起来进行约束最小二乘估计。
(5)横截面数据与时序数据并用:首先利用横截面数据估计出部分参数,再利用时序数据估计出另外的部分参数,最后得到整个方程参数的估计。
(6)逐步回归:用被解释变量对每一个所考虑的解释变量做简单回归。以对被解释变量贡献最大的解释变量所对应的回归方程为基础,按对被解释变量贡献大小的顺序逐个引入其余的解释变量。若新变量的引入改进了R^2和F检验,且回归参数的t 检验在统计上也是显著的,则在模型中保留该变量。

异方差

1 异方差性是指模型中随机误差项的方差不是常量,而且它的变化与解释变量的变动有关。


2 产生异方差性的主要原因有:模型中略去的变量随解释变量的变化而呈规律性的变化、变量的设定问题、截面数据的使用,利用平均数作为样本数据等。

3 存在异方差性时对模型的OLS估计仍然具有无偏性,但最小方差性不成立,从而导致参数的显著性检验失效和预测的精度降低。注意 多重共线性不影响预测,但异方差已经影响到预测问题了。

4 检验异方差性的方法有多种,常用的有图形法、Goldfeld-Qunandt检验、White检验、ARCH检验以及Glejser检验,运用这些检验方法时要注意它们的假设条件。

5 异方差性的主要方法是加权最小二乘法,也可以用变量变换法和对数变换法。变量变换法与加权最小二乘法实际是等价的。

自相关

1 当总体回归模型的随机误差项在不同观测点上彼此相关时就产生了自相关问题。

2 自相关的出现有多种原因。经济系统的惯性、经济活动的滞后效应 、数据处理造成的相关、蛛网现象、模型设定错误等等。

3 在出现自相关时,普通最小二乘估计量依然是无偏、一致的,但不再是有效的。通常的t 检验和F 检验都不能有效地使用

4.为了研究问题的方便和考虑实际问题的代表意义,我们通常将自相关设定为一阶自相关即AR(1)模式。用一阶自相关系数 表示自相关的程度与方向。当然,实际问题也存在AR(m)模式或其它模式。

5 由于随机扰动项ui 是不可观测的,通常我们使用 ui的估计量e判断u的特性。可通过e的图形判断自相关的存在,也可使用DW 统计量或者用BG检验判断自相关的存在。

DW统计量:
原假设为 p= 0,DW取值范围 0≤DW≤4




6 如果自相关系数p 是已知的,我们可以使用广义差分法消除序列相关。

7 如果自相关系数是p未知的,我们可采用科克伦-奥克特迭代法求得p的估计值,然后用广义差分法消除序列相关。

计量经济学学习笔记:多重共线性、异方差、自相关相关推荐

  1. 空间计量经济学学习笔记(一)

    空间计量经济学学习笔记(一) Edit by Linhao Cui 参考 James LeSage(2014) , Paul Elhost (2018), Luc Anselin (1988), Qi ...

  2. 【计量经济学导论】05. 异方差

    文章目录 异方差 异方差的含义 异方差的产生原因 异方差的后果 异方差的检验方法 异方差的修正措施 异方差 在上一节的讨论中,完全共线性问题违背了基本假定 MLR.3 ,而多重共线性没有违背任何一个基 ...

  3. r语言 读取dta_R语言与计量经济学(三)异方差

    这两部分都是对残差假设的检验,经典回归模型的残差服从(0, )的正态分布,且相互独立,这里就是检验残差的方差是否相同.方差是否会随解释变量的变化而变化. library(ggplot2) librar ...

  4. R语言作加权最小二乘_R语言与计量经济学(三)异方差

    这两部分都是对残差假设的检验,经典回归模型的残差服从(0, )的正态分布,且相互独立,这里就是检验残差的方差是否相同.方差是否会随解释变量的变化而变化. library(ggplot2) librar ...

  5. 【中级计量经济学】Lecture 6 异方差

    文章目录 Lecture 6 异方差 6.1 异方差的实质 6.2 异方差类型 6.3 异方差产生原因 6.4 异方差的后果 6.5 异方差的检验 图示检验法 White检验 B-P检验 Glejse ...

  6. 二、简单线性回归模型(计量经济学学习笔记)

    研究经济变量之间相互数量关系最基本的方法之一是回归分析. ①回归分析与回归函数 1.1相关分析与回归分析 1.1.1函数关系与相关关系 经济变量之间的相互依存关系有两种:1.确定性的函数关系 2.不确 ...

  7. 计量经济学学习笔记:简单线性模型

    知识点: 1.变量间的关系分为函数关系与相关关系. 相关系数是对变量间线性相关程度的度量. 2.现代意义的回归是一个被解释变量对若干个解释变量依存关系的研究,回归的实质是由解释变量去估计被解释变量的平 ...

  8. 三、多元线性回归模型(计量经济学学习笔记)

    ①多元线性回归模型及古典假定 1.1多元线性回归模式 多元线性回归模型是指对各个回归参数而言是线性的,而对于变量既可以是线性的,也可以不是线性的. 一般地,由n个单位构成的总体,包含被解释变量Y和k- ...

  9. 计量经济学学习笔记:导论

    之前看了一遍伍德里奇的计量经济学,感觉学得没有很深,没有理解透,哈哈~ 所以重新看了西财庞老师计量经济学的书籍,做了一些笔记,希望可以坚持呀,进入正文呀 本篇博文的主要内容为 ●什么是计量经济学 ●计 ...

最新文章

  1. Yann LeCun力挺观点:算法对AI提升不大,奇点仍然很遥远
  2. 构建伪Update服务器工具isr-evilgrade
  3. SAP Spartacus当前产品主数据数据格式的一个例子
  4. 一个数据包的旅程_如何学习数据科学并开始您的惊人旅程
  5. Apache2 部署flask项目
  6. 今天的中巴等各式车子的企业即时通讯
  7. git rebase 变基
  8. 18年5年制计算机辅助考试题,2018年自考《计算机辅助教育》试题二
  9. 集群、负载、并发介绍
  10. 关于 数据库 my_slq的 安装及其卸载
  11. struts2学习——拦截器
  12. java俄罗斯方块代码_[转载]java编写的一个俄罗斯方块(源代码)
  13. 保监会借大数据摸底保险中介市场
  14. 01 #pragma once用法总结
  15. 女神周迅离婚,Python分析国内离婚情况,结果触目惊心!
  16. MySQL初始密码获取
  17. 魔法少女小圆计算机音乐,求魔法少女小圆一些背景音乐的名字
  18. springboot+thymeleaf+bootstrap+mybatis-Plus+mysql 情侣空间网站源代码
  19. 作业帮猿辅导们的隐忧:下沉市场真的是在线教育的菜?
  20. 社区交友源码/支持聊天私聊-礼物系统-直播系统-缘分匹配+搭建教程

热门文章

  1. Chapter2、HDR流水线
  2. webpack学习之 style-loader / css-loader
  3. 你也能看懂的:主成分分析法
  4. 怎么安装linux操作系统
  5. Oracle 不能删除存储过程的处理
  6. smarty中文帮助文档
  7. Oracle将收购Sun公司
  8. 图形学学习笔记2——点阵图形光栅化
  9. 计算机网络(第8版)谢希仁第一章概述笔记
  10. 集成基于Websocket的Stomp连接