作者:flyerye
链接:https://www.zhihu.com/question/22450977/answer/250476871
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

回答这个问题,我们先从定义出发,然后再结合个实际例子去理解。从定义来看,多元线性回归方程定义如下:

这里的 a 为常数项, 为随机误差项,且服从标准正态分布( ),或者我们把它称作白噪声(white noise)。通过图像,我们可以很好理解常数项和随机误差的含义:

<img src="https://pic4.zhimg.com/50/v2-b3543732f4855d372e37c747e332362e_hd.jpg" data-rawwidth="419" data-rawheight="240" class="content_image" width="419"> 图一,一元线性回归示例

上图是多元线性回归回归的一个特例,即一元线性回归。多元就是在一元的基础上,用更多的自变量对因变量进行解释。我们以一元为例,来看常数项和随机误差的含义。从图中可以看出,常数项是拟合的一元回归直线在因变量(Y)轴上的截距;误差是实际的点和回归直线之间的差,而随机则表示的是这个误差不是固定的,有大有小,没有特定的规律,服从标准正态分布。具体来说,常数项表示的是未被自变量解释的且长期存在(非随机)的部分,即信息残留。而随机误差是在自变量解释空间内,预测值和去掉常数项的实际值的误差。下图是从一个多元线性回归模型的视角去看问题:因变量(Y)代表需要解释的全体信息,模型里的Xi构成的空间是自变量解释空间,随机误差存在于自变量解释空间中。在自变量解释空间外,如果还有恒定的信息残留,那么这部分信息构成常数项。

<img src="https://pic1.zhimg.com/50/v2-68beb4a4bd82ac547341ae0d5f123009_hd.jpg" data-rawwidth="283" data-rawheight="285" class="content_image" width="283"> 图二,多元线性回归模型解释因变量示意图

作者:徐惟能
链接:https://www.zhihu.com/question/22450977/answer/21409955
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

一言以蔽之,在计量经济学的线性回归模型中,常数项在很多情况下并无实际的解释意义。

要论含义,常数项的数学含义是,平均来讲,当所有解释变量的值为0的时候,被解释变量的值是几?但是在计量经济学的实证模型中,这通常是无意义的,原因很简单,因为在很多时候,解释变量的定义域并不一定包括0,比如人的身高、体重等等。可是,即便所有的解释变量都可以同时取0,常数项依然是基本无意义的。我们回到线性回归的本质上来讲的话,所有参数的确定都为了一个目的:让残差项的均值为0,而且残差项的平方和最小。所以,想象一下,当其他的参数都确定了以后,常数项的变化在图像上表现出来的就是拟合曲线的上下整体浮动,当曲线浮动到某一位置,使得在该位置上,残差项的均值为0,曲线与y轴所确定的截距即为常数项。因此,可以理解为常数项是对其他各个解释变量所留下的偏误(bias)的线性修正。但是要说常数项具体的值所代表的解释意义,在通常情况下是无意义的。

写到这里,有人可能会问,既然无意义,我们何不去掉常数项?答案是否定的,原因是,如果去除了常数项,就等于强制认定当所有解释变量为0时,被解释变量为0。如果这个断定不符合实际意义,而你执意去除常数项的话,你的线性估计将是有偏的。

随机误差项的理解相对简单,在线性回归模型中,每一个观测值都有一个残差项,也叫随机误差项,它刻画的是模型的估计值和真实观测值之间的偏差。

说实在的,区别不太大,而且有的时候去掉常数项各变量t值会有上升。
平狄克的「econometrics」书中提到过「可以将常数项看作是值恒为1的一个虚拟变量的系数」(上述原话为英文,但是是这个意思)也就是说,它可能包含了一些你忽视掉的虚拟变量。
而且带常数项的模型其实是对随机误差项的优化,我们在做OLS时总是假定随机误差项是标准正态分布的,但这很难满足。假设随机误差项的均值不是0,而是一个常数,那么加入常数项的模型就会使得随机误差项又变成了标准正态分布,它的期望就被含在常数项里了。总而言之,这样的模型更为靠谱。

作者:邹日佳
链接:https://www.zhihu.com/question/19664505/answer/12629408
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

多元线性回归模型中的常数项相关推荐

  1. 总离差平方和公式_在多元线性回归模型中,回归平方和与总离差平方和的比值称为( )_学小易找答案...

    [单选题]参数 的估计量 具备有效性是指( ) [多选题]关于多重判定系数 的公式正确的有( ) [多选题]不满足OLS基本假定的情况,主要包括( ) [单选题]在多元回归分析中,F检验是用来检验( ...

  2. 多元线性回归模型中多重共线性问题处理方法

    转载自:http://datakung.com/?p=46 多重共线性指自变量问存在线性相关关系,即一个自变量可以用其他一个或几个自变量的线性表达式进行表示.若存在多重共线性,计算自变量的偏回归系数β ...

  3. Python 实战多元线性回归模型,附带原理+代码

    作者 | 萝卜 来源 | 早起Python( ID:zaoqi-python ) 「多元线性回归模型」非常常见,是大多数人入门机器学习的第一个案例,尽管如此,里面还是有许多值得学习和注意的地方.其中多 ...

  4. python多元线性回归模型案例_Python 实战多元线性回归模型,附带原理+代码

    原标题:Python 实战多元线性回归模型,附带原理+代码 作者 | 萝卜 来源 | 早起Python( ID:zaoqi-python ) 「多元线性回归模型」非常常见,是大多数人入门机器学习的第一 ...

  5. 原理 + 代码 | Python 实现多元线性回归模型 (建模 + 优化,附源数据)

    前言 多元线性回归模型非常常见,是大多数人入门机器学习的第一个案例,尽管如此,里面还是有许多值得学习和注意的地方.其中多元共线性这个问题将贯穿所有的机器学习模型,所以本文会将原理知识穿插于代码段中,争 ...

  6. numpy多元线性回归_Python 实战多元线性回归模型,附带原理+代码

    作者 | 萝卜来源 | 早起Python( ID:zaoqi-python ) 「多元线性回归模型」非常常见,是大多数人入门机器学习的第一个案例,尽管如此,里面还是有许多值得学习和注意的地方.其中多元 ...

  7. 回归方程的拟合优度检验_计量经济学第四讲(多元线性回归模型:基本假定,参数估计,统计检验)...

    第三章.经典单方程计量经济学模型:多元线性回归模型 3.1多元线性回归模型及其基本假定 3.1.1多元回归模型及其表示 解释变量至少有两个的线性回归模型,一般形式为 如果不作说明, 是不包括常数项的解 ...

  8. 《计量经济学》学习笔记之多元线性回归模型

    导航 上一章:一元线性回归模型 下一章:放宽基本假定的模型 文章目录 导航 3.1多元线性回归模型 一.多元线性回归模型 二.多元线性回归的基本假设 3.2多元线性回归模型的参数估计 四.参数统计量的 ...

  9. 如何衡量多元线性回归模型优劣

    转载自:http://datakung.com/?p=50 最近再做一些多元回归分析方面的分析,但对于得出的回归模型的好坏不知道如何才判断,于是查找了一下相关的教材书籍,找到了张文彤老师写的<S ...

最新文章

  1. java ref 应用类型_Java中的四种引用类型比较
  2. 调整自己--提升自己
  3. 实现用户裂变的5大原则
  4. ll命令报错-bash: ll: command not found
  5. 【OpenCV入门指南】第四篇 图像的二值化
  6. tcpreplay,tcprewrite的使用
  7. testbench学习笔记(转载)
  8. win10离线安装.NetFrameWork3.5出现0x800F081F解决办法。
  9. vue--子传父、父传子
  10. WakeOnLAN下载
  11. linux 操作excel文件,Linux下输出excel文件
  12. VOLTE与VOWIFI对比
  13. spoolsv.exe占cpu 99%的解决方法
  14. 春秋云镜靶场Initial-WriteUP 专业徽章手把手教学
  15. Java面试笔试题大汇总(最全+详细答案)
  16. 陈旭数据科学与计算机学院,数据科学与计算机学院硕士研究生招生专业及各专业导师...
  17. Netty应用实战:客户端重连
  18. LED流水灯多种点灯方式代码0基础讲解
  19. MAT223Assignment1课业解析
  20. oracle结构体转为字符,CSS_细化解析:Oracle与SQL过程之间的转化,这两天写数据库升级脚本,发 - phpStudy...

热门文章

  1. 漫画 | 一个养活了4代程序员的男人
  2. 将Rmarkdown 转为html或pdf
  3. python 大智慧接口_大智慧数据格式
  4. 微信支付之PC网站(Native)支付详解
  5. suport公司的大数据平台遇到的问题及解决方案总结
  6. 如何删除 excel 单元格内的换行符
  7. 如何写出一份高质量的程序员简历
  8. js倒计时器可自定义时间和暂停
  9. APP测试UI、功能方法
  10. 谷歌浏览器插件的下载与安装