异方差下的OLS估计无效性

对于异方差模型

Y=Xβ+ε,Y=Xβ+ε,

Y=X\beta+\varepsilon,
其中 X=c(x1,x2,...,xn)T, E(ε|X)=0, E(εεT|X)=Σ=σ2ΩX=c(x1,x2,...,xn)T,E(ε|X)=0,E(εεT|X)=Σ=σ2ΩX=c(x_1,x_2,...,x_n)^T,\ \mathbb{E}(\varepsilon|X)=0,\ E(\varepsilon\varepsilon^T|X)=\Sigma=\sigma^2\Omega
根据回归分析的知识我们可以估计出

β^=(XTX)−1XTY,β^=(XTX)−1XTY,

\hat\beta=(X^TX)^{-1}X^TY,
并且

Var(β^|X)=σ2(XTX)−1(XTΩX)(XTX)−1=σ2n(XTXn)−1(XTΩXn)(XTXn)−1。(19)(20)(19)Var(β^|X)=σ2(XTX)−1(XTΩX)(XTX)−1(20)=σ2n(XTXn)−1(XTΩXn)(XTXn)−1。

\begin{align} Var(\hat\beta|X)&=\sigma^2(X^TX)^{-1}(X^T\Omega X)(X^TX)^{-1}\\ &=\frac{\sigma^2}{n}(\frac{X^TX}{n})^{-1}(\frac{X^T\Omega X}{n})(\frac{X^TX}{n})^{-1}。 \end{align}
假定

XTXn→pQ,XTΩXn→pQ′,XTXn→pQ,XTΩXn→pQ′,

\frac{X^TX}{n}\stackrel{p}{\rightarrow}Q,\\ \frac{X^T\Omega X}{n}\stackrel{p}{\rightarrow}Q^{'},
其中 Q和Q′Q和Q′Q和Q{'}都是正定矩阵。那么有

Var(β^|X)→p0,Var(β^|X)→p0,

Var(\hat\beta|X)\stackrel{p}{\rightarrow}0,我们已知 β^β^\hat\beta是 ββ\beta的一个无偏估计，故满足一致性条件。
我们接下来再看有效性，我们已知 E(xiεi)=0, Var(xiεi)=σ2ixiXTiE(xiεi)=0,Var(xiεi)=σi2xiXiT\mathbb{E}(x_i\varepsilon_i)=0,\ Var(x_i\varepsilon_i)=\sigma_i^2x_iX^T_i，那么

limn→+∞1n∑i=1nVar(xiεi)=limn→+∞1n∑i=1nσ2ixixTi=limn→+∞XTΩXnσ2=Q′σ2,(21)(22)(23)(21)limn→+∞1n∑i=1nVar(xiεi)=limn→+∞1n∑i=1nσi2xixiT(22)=limn→+∞XTΩXnσ2(23)=Q′σ2,

\begin{align} {\lim_{n \to +\infty}}\frac{1}{n}\sum_{i=1}^{n}{Var(x_i\varepsilon_i)}&=\lim_{n \to +\infty}\frac{1}{n}\sum_{i=1}^{n}\sigma_i^2x_ix_i^T\\ &=\lim_{n \to +\infty}\frac{X^T\Omega X}{n}\sigma^2\\ &=Q^{'}\sigma^2, \end{align}
并且

limn→∞(∑i=1nσ2ixixTi)−1σ2ixixTi=(nQ′xixTi)−1σ2ixixTi=0(24)(25)(24)limn→∞(∑i=1nσi2xixiT)−1σi2xixiT=(nQ′xixiT)−1σi2xixiT(25)=0

\begin{align} \lim_{n \to \infty}(\sum_{i=1}^n{\sigma_i^2x_ix_i^T})^{-1}\sigma_i^2x_ix_i^T&=(nQ^{'}x_ix_i^T)^{-1}\sigma^2_ix_ix_i^T\\ &=0 \end{align}
根据多元Lindeberg–Feller中心极限定理，我们得到

n−−√(1n∑i=1nxiεi)1n−−√(β^−β)→dN(0,Q′σ2)→dN(0,(XTX)−1Q′(XTX)−1σ2),(26)(27)(26)n(1n∑i=1nxiεi)→dN(0,Q′σ2)(27)1n(β^−β)→dN(0,(XTX)−1Q′(XTX)−1σ2),

\begin{align} \sqrt{n}(\frac{1}{n}\sum_{i=1}^n{x_i\varepsilon_i})&\stackrel{d}{\rightarrow}N(0,Q^{'}\sigma^2)\\ \frac{1}{\sqrt{n}}(\hat\beta-\beta)&\stackrel{d}{\rightarrow}N(0,(X^TX)^{-1}Q^{'}(X^TX)^{-1}\sigma^2), \end{align}
由于 β^β^\hat\beta的Cramer rao下界计算较冗长，这里省略。但可以明显看到 β^β^\hat\beta的渐进方差无法达到C-R下界，故OLS估计量不具有有效性。
之后会讨论WLS在异方差形式未知的情况下的有效性问题，以及如何解决异方差问题。有时间的话会附上这一方法在量化交易Barra多因子模型中的应用。

异方差下的OLS估计无效性相关推荐

【计量经济学导论】05. 异方差
文章目录异方差异方差的含义异方差的产生原因异方差的后果异方差的检验方法异方差的修正措施异方差在上一节的讨论中,完全共线性问题违背了基本假定 MLR.3 ,而多重共线性没有违背任何一个基 ...
r语言boxcox异方差_R语言异方差回归模型建模：用误差方差解释异方差
在社会科学中将OLS估计应用于回归模型时,其中的一个假设是同方差,我更喜欢常误差方差.这意味着误差方差没有系统的模式,这意味着该模型在所有预测级别上都同样差. 异方差性是同方差性的补充,不会使OLS产 ...
stata学习笔记|异方差问题
异方差无法用OLS进行估计的根源问题:方差较大的数据包含的信息量较小,但OLS是对所有数据进行相同的处理.异方差的问题并不会影响估计量的无偏性.一致性.渐近正态性,只是效率较低使得t检验和F检验失效. ...
matlab条件异方差模型,求ARFIMA模型中参数d估计的MATLAB程序
最新课程-Stata 2015暑期研讨班: Stata暑期研讨初级班[2015年7月3日-6日,四天,北京] 课程详情:http://www.peixun.net/view/307_detail.ht ...
线性模型——异方差、序列相关、多重共线性与内生性的处理
在实际的计量经济学问题中,完全满足回归的基本假设的情况并不多见.不满足基本假定的情况.称为违背基本假定违背基本假定的情况主要包括: 随机干扰项存在异方差随机干扰项的序列相关(或称自相关) 解释变量 ...
协方差公式性质证明过程_论文推荐 | 刘志平：等价条件平差模型的方差-协方差分量最小二乘估计方法...
<测绘学报> 构建与学术的桥梁拉近与权威的距离等价条件平差模型的方差-协方差分量最小二乘估计方法刘志平1, 朱丹彤1, 余航1, 张克非1,2 1. 中国矿业大学环境与测绘学院, 江 ...
检验多重共线性matlab_异方差太难？检验通不过？横截面分析难题的十大暴击！...
转载:计量与统计横截面数据是在同一时间,不同统计单位相同统计指标组成的数据列.横截面数据不要求统计对象及其范围相同,但要求统计的时间相同.也就是说必须是同一时间截面上的数据. 在分析横截面数据时,应 ...
计量经济学及Stata应用第七章异方差
第七章异方差 7.1 异方差的后果在存在异方差的情况下: OLS估计量依然是无偏的.一致且渐近正态: OLS估计量方差改变,因此使用普通标准误的t检验.F检验失效: 高斯-马尔可夫定理不再成立OL ...
计量经济学学习笔记：多重共线性、异方差、自相关
多重共线性.异方差.自相关多重共线性异方差自相关多重共线性 1 多重共线性是指各个解释变量之间有准确或近似准确的线性关系. 2 多重共线性的原因: (1)经济变量之间具有共同变化趋势. (2) ...

异方差下的OLS估计无效性

异方差下的OLS估计无效性相关推荐

最新文章

热门文章