计量经济学复习笔记（六）updated

接下来就可以很快地把Chapitre4过掉了

先是多变量线性回归模型的栗子，看课件就好了，没什么重要的。
必须强调，类似于柯布道格拉斯生产函数的非线性函数我们也可以将其对数化弄成参数线性的。
然后是偏回归系数的定义：就是包含截距项在内的参数βi|i=0,1,…,k\beta_i|i=0,1,\dots,k；然后是斜率系数，就是从β1\beta_1开始不包括截距项的系数，两者的关系是

偏回归系数=截距项系数+斜率系数

偏回归系数 = 截距项系数 + 斜率系数
打集合太麻烦了，就这么看着吧

考试应该会考到的βi\beta_i的定义：就是其他变量保持不变时,XiX_i每改变一个单位时，对Y的期望（均值）的影响

随机干扰项的假定也和前面高斯-马尔科夫假设一样的
无非就是期望方差独立性（两条）随机取样（两条）什么的都要满足

然后是对参数的估算

和前面的一样，两种OLS估法，最小二乘法和矩估算法
1.最小二乘法就是令其残差平方和最小，就是最小化∑u^2i\sum\hat u_i^2
然后我们必须要令每一个参数的偏导为零
一种是教案上的表示方法，非常复杂，但是采用矩阵形式就非常简洁
我们先令
X=⎛⎝⎜⎜⎜⎜⎜⎜⎜111⋮1x11x21x31⋮xn1x12x22x32⋮xn2x13x23x33⋮xn3⋯⋯⋯⋱⋯x1kx2kx3k⋮xnk⎞⎠⎟⎟⎟⎟⎟⎟⎟X= \begin{pmatrix} 1&x_{11}&x_{12}&x_{13}&\cdots&x_{1k}\\ 1&x_{21}&x_{22}&x_{23}&\cdots&x_{2k}\\ 1&x_{31}&x_{32}&x_{33}&\cdots&x_{3k}\\ \vdots&\vdots&\vdots&\vdots&\ddots&\vdots\\ 1&x_{n1}&x_{n2}&x_{n3}&\cdots&x_{nk}\\ \end{pmatrix} ,y=⎛⎝⎜⎜⎜⎜⎜⎜⎜y1y2y3⋮yn⎞⎠⎟⎟⎟⎟⎟⎟⎟y= \begin{pmatrix} y_1\\ y_2\\ y_3\\ \vdots\\ y_n\\ \end{pmatrix},β^=⎛⎝⎜⎜⎜⎜⎜⎜⎜⎜β^1β^2β^3⋮β^n⎞⎠⎟⎟⎟⎟⎟⎟⎟⎟\hat \beta=\begin{pmatrix} \hat\beta_1\\ \hat\beta_2\\ \hat\beta_3\\ \vdots\\ \hat\beta_n\\ \end{pmatrix},,μ^=⎛⎝⎜⎜⎜⎜⎜⎜⎜μ^1μ^2μ^3⋮μ^n⎞⎠⎟⎟⎟⎟⎟⎟⎟\hat \mu=\begin{pmatrix} \hat\mu_1\\ \hat\mu_2\\ \hat\mu_3\\ \vdots\\ \hat\mu_n\\ \end{pmatrix}
然后就有

y=Xβ^+u^

y = X\hat \beta + \hat u
所以最小二乘表示为

uTu=(y−Xβ^)T(y−Xβ^)

u^Tu=(y-X\hat\beta)^T(y-X\hat\beta)
然后展开可以获得

uTu=yTy−yTXβ^−β^TXTy+β^TXTXβ^

u^Tu=y^Ty-y^TX\hat\beta-\hat \beta^TX^Ty+\hat\beta^TX^TX\hat\beta
由于 yTXβ^=β^TXTyy^TX\hat\beta=\hat \beta^TX^Ty
所以式子化简为

uTu=yTy−2β^TXTy+β^TXTXβ^

u^Tu=y^Ty-2\hat \beta^TX^Ty+\hat\beta^TX^TX\hat\beta
然后对 β^\hat \beta求偏导

∂uTu∂β^=−2XTy+2XTXβ^=0

\cfrac{\partial u^Tu}{\partial \hat\beta}=-2X^Ty+2X^TX\hat\beta=0
所以解得

β^=(XTX)−1XTy

\hat\beta = (X^TX)^{-1}X^Ty

http://www.docin.com/p-397789953.html

接下来是残差和拟合值的统计特性问题

这里开始就是要为模型稳健性检验做铺垫

首先我们有如下两个概念：
预计值：

y^i=β^0+β^1xi1+β^2xi2+⋯+β^kxik

\hat y_i = \hat\beta_0+\hat\beta_1x_{i1}+\hat\beta_2x_{i2}+\cdots+\hat\beta_kx_{ik}
残差：

u^i=yi−y^i

\hat u_i =y_i-\hat y_i

其次就是几个残差的特性：
残差和为0，所以回归是过均值点的，然后是残差是独立的，其与自变量的协方差就是0.

之后是稳健性检验的几个话题

第一个要素是TSS就是总离差平方和的分解
跟之前的方差的分解一样，我们有

TSS=∑(yi−y¯)2=∑(y^i−y¯)2+∑(yi−y^i)2=∑(y^−y¯)2+∑u^2i

TSS = \sum(y_i - \bar y)^2=\sum(\hat y_i - \bar y)^2+\sum(y_i - \hat y_i)^2=\sum(\hat y - \bar y)^2+\sum\hat u_i^2
即

总离差平方和TSS=ESS+RSS=解释平方和+残差平方和

解释平方和的构成什么的，看看课件就好了，应该不会考吧
也就是把y用x带掉做成离差形式而已

然后为了稳健性检验，其中很重要的一个概念就是在做方差检验时的，F分布的自由度选择问题

首先是判定系数R2R^2 和调整过的判定系数R¯2\bar R^2（在STATA中被叫为adj−R2adj-R^2）

然后是判定系数的定义

R2=ESSTSS=1−RSSTSS

R^2 = \frac{ESS}{TSS}=1-\frac{RSS}{TSS}

就是模型中有多少量可以被解释，量越高，拟合优度越高
有以下两点原因，一是我们在计算的时候就是把残差平方和最小化的，这样会影响模型原本显著性检验；再者是我们如果加入新的变量，无论该变量是否相关都会减少残差平方和的自由度而增加判定系数，但是这是不符合我们的研究目的的，所以我们要通过自由度ff对各个平方差进行调整。

之后引出了调整的判定系数R¯2=1−RSS/dfRTSS/dfT=1−RSS/n−K−1TSS/n−1=1−∑u^2i/n−K−1∑y¨2i/n−1\bar R^2= 1-\cfrac{RSS/df_R}{TSS/df_T}=1-\cfrac{RSS/n-K-1}{TSS/n-1}=1-\cfrac{\sum \hat u_i^2/n-K-1}{\sum \ddot y_i ^2/n-1}
貌似教案上又错了╮(╯_╰)╭

或者我们可以跟教案上一样把后面的RSS/TSS部分用R2R^2表示掉，然后用R2R^2表示出 R¯2\bar R^2

之后是估算的无偏性，还是马尔科夫定理
线性，抽样（随机抽样和满秩），期望（干扰项同自变量，干扰项同干扰项之间均独立，期望为0），方差（条件方差不变即同方差性），就四个方面，六点。

满秩的话就是说各组X取值不线性相关，为什么呢？这就可以直接用前面的矩阵来说，不满秩就没有逆矩阵了啊（手动斜眼XD）

然后重点来了

就是对估计的参数进行检验
我们通过以上假设可以求得

Var(β^k)=σ2TSSk(1−R2k)

Var(\hat\beta_k)=\cfrac{\sigma^2}{TSS_k(1-R_k^2)}
TSSKTSS_K不是 TSSTSS啊,是自变量 xkx_k的离差平方和 ∑x¨2k\sum \ddot x_k^2
而 R2kR_k^2是把 xkx_k作为因变量然后做其他变量的回归得出的判定系数， 必须注意区别
然后这个还是未完成体，因为我们在大多数时候是不知道方差的，我们必须要对 σ2\sigma^2进行估计

然后对σ2\sigma^2的估计我们可以用

σ^2=∑u^2in−K−1=RSSn−K−1

\hat\sigma^2=\cfrac{\sum \hat u_i^2}{n-K-1}=\frac{RSS}{n-K-1}
这是一个无偏估计量，很好记 k=1时，自由度是n-2；k=0时，则是前面样本方差的自由度n-1

然后各参数的方差和标准差都可以表示出来了，注意，回报回归结果的时候都要写上

⎧⎩⎨⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪⎪Var(β^k)=σ^2TSSk(1−R2k)Se(β^k)=σ^TSSk(1−R2k)−−−−−−−−−−−√

\begin{cases} Var(\hat\beta_k)=\cfrac{\hat\sigma^2}{TSS_k(1-R_k^2)}\\ \\ Se(\hat\beta_k)=\cfrac{\hat\sigma}{\sqrt{TSS_k(1-R_k^2)}}\\ \end{cases}
在高斯马儿克夫假设下，这估算了是最佳的，BestLinearUnbiasedEstimateur，BLUE，，即最佳无偏估算量，即是有效性

证明过程就略了
看看课件就行了

to be continue…