UA MATH566 统计理论 证明UMVUE的方法
UA MATH566 统计理论 证明UMVUE的方法
- 方法一 零无偏估计法
- 方法二 完备充分统计量法
关于UMVUE，我们有下面两个非常常用的结论：
Lehmann-Sheffe定理：
- 如果g(θ^)g(\hat{\theta})g(θ^)是g(θ)g(\theta)g(θ)的无偏估计，也是充分完备统计量T(X)T(X)T(X)的函数，则g(θ^)g(\hat{\theta})g(θ^)是g(θ)g(\theta)g(θ)的UMVUE；
- 如果g(θ^)g(\hat{\theta})g(θ^)是g(θ)g(\theta)g(θ)的无偏估计，则E[g(θ^)∣T]E[g(\hat{\theta})|T]E[g(θ^)∣T]是g(θ)g(\theta)g(θ)的UMVUE；
- 如果存在g(θ)g(\theta)g(θ)的UMVUE，则一定是充分完备统计量T(X)T(X)T(X)的函数。
Cramer-Rao不等式：
f(x,θ)f(x,\theta)f(x,θ)是Cramer-Rao分布族，g^(X)\hat{g}(X)g^(X)与θ^(X)\hat{\theta}(X)θ^(X)分别是g(θ)g(\theta)g(θ)与θ\thetaθ的无偏估计，其中g(θ)g(\theta)g(θ)可导，则
Var(θ^)≥I−1(θ),Var(g^(X))≥[g′(θ)]2I−1(θ)Var(\hat{\theta})\ge I^{-1}(\theta),\ \ Var(\hat{g}(X)) \ge [g'(\theta)]^2I^{-1}(\theta)Var(θ^)≥I−1(θ), Var(g^(X))≥[g′(θ)]2I−1(θ)
Cramer-Rao分布族（正则分布族）{f(x,θ),θ∈Θ}\{f(x,\theta),\theta \in \Theta\}{f(x,θ),θ∈Θ}
为了让C-R不等式成立，需要一些条件，满足这些条件的分布族被称为C-R分布族：
- θ∈Θ\theta \in \Thetaθ∈Θ，Θ\ThetaΘ是开集，并且f(x,θ)=f(x,θ′)⇔θ=θ′f(x,\theta)=f(x,\theta^{'}) \Leftrightarrow \theta = \theta^{'}f(x,θ)=f(x,θ′)⇔θ=θ′
- 记分布族的对数似然为L(θ)=lnf(x,θ)L(\theta)=\ln f(x,\theta)L(θ)=lnf(x,θ)，假设对数似然二阶可导
- 记得分函数S(x,θ)=∇L(θ)S(x,\theta)=\nabla L(\theta)S(x,θ)=∇L(θ)，并假设S(x,θ)∈L2(X,B(X),PX)S(x,\theta) \in L^2(\mathcal{X},\mathcal{B}(\mathcal{X}),P_X)S(x,θ)∈L2(X,B(X),PX)
- 假设分布族FθF_{\theta}Fθ的支撑Suppθ={x:f(x,θ)}>0Supp_{\theta}=\{x:f(x,\theta)\}>0Suppθ={x:f(x,θ)}>0与θ\thetaθ无关
- 假设f(x,θ)f(x,\theta)f(x,θ)关于θ\thetaθ可导
常见的非正则分布族的分布有均匀分布、带位移的指数分布等。如果某个统计量的方差等于C-R下界，那么他一定具有最小方差。
基于这两个定理，我们有这些证明UMVUE的方法：（还有方法三C-R不等式法，我把这个方法并入矩估计量+delta方法）
方法一 零无偏估计法
如果g(θ^)g(\hat{\theta})g(θ^)是g(θ)g(\theta)g(θ)的有界无偏估计（方差有界），并且对任意零的无偏估计l(X)l(X)l(X)（即El(X)=0El(X)=0El(X)=0）都满足Cov(g(θ^),l(X))=0Cov(g(\hat{\theta}),l(X))=0Cov(g(θ^),l(X))=0，则g(θ^)g(\hat{\theta})g(θ^)是g(θ)g(\theta)g(θ)的UMVUE。
证明 假设g1(θ^)g_1(\hat{\theta})g1(θ^)是g(θ)g(\theta)g(θ)的另一个无偏估计，作l(X)=g1−gl(X) = g_1 - gl(X)=g1−g，则
Var(g1)=Var(g+l)=Var(g)+Var(l)+0≥Var(g)Var(g_1) = Var(g + l) = Var(g) + Var(l) + 0 \ge Var(g)Var(g1)=Var(g+l)=Var(g)+Var(l)+0≥Var(g)
上式对任意无偏估计均成立。
证毕
这个方法一般只用来证明某个统计量是UMVUE，并且使用的时候有一个难点，零的无偏估计是任意的。因此使用这个方法的本质是尝试用条件：
El(X)=∫Xl(x)fX(x)dx=0El(X) = \int_{\mathcal{X}} l(x)f_X(x)dx = 0El(X)=∫Xl(x)fX(x)dx=0
导出
Cov(g(θ^),l(X))=E[g(θ^)l(X)]=∫X(g(θ^)l)(x)fX(x)dxCov(g(\hat{\theta}),l(X)) = E[g(\hat{\theta})l(X)] = \int_{\mathcal{X}} (g(\hat{\theta})l)(x)f_X(x)dxCov(g(θ^),l(X))=E[g(θ^)l(X)]=∫X(g(θ^)l)(x)fX(x)dx
例1 {Xi}i=1n\{X_i\}_{i=1}^n{Xi}i=1n是总体Ber(p)Ber(p)Ber(p)的一组简单随机样本，求ppp的UMVUE
样本的联合似然为
L(p)=∏i=1npXi(1−p)1−Xi=p∑i=1nXi(1−p)n−∑i=1nXiL(p) = \prod_{i=1}^n p^{X_i}(1-p)^{1-X_i} = p^{\sum_{i=1}^n X_i}(1-p)^{n-\sum_{i=1}^n X_i}L(p)=i=1∏npXi(1−p)1−Xi=p∑i=1nXi(1−p)n−∑i=1nXi
根据Neyman-Fisher定理，T(X)=∑i=1nXiT(X) = \sum_{i=1}^n X_iT(X)=∑i=1nXi是充分统计量。计算T(X)T(X)T(X)的期望，
ET(X)=E∑i=1nX=∑i=1nEXi=npET(X) = E\sum_{i=1}^n X = \sum_{i=1}^n EX_i = npET(X)=Ei=1∑nX=i=1∑nEXi=np
因此T(X)/nT(X)/nT(X)/n是ppp的无偏估计。下面用零无偏估计法证明它也是UMVUE。对于任一零无偏估计l(T)l(T)l(T)，
El(T)=∑i=0nliCnipi(1−p)n−i=0⇒∑i=0nliCni(p1−p)i=0El(T) = \sum_{i=0}^n l_iC_n^i p^i(1-p)^{n-i} = 0 \Rightarrow \sum_{i=0}^n l_iC_n^i \left(\frac{p}{1-p} \right)^i = 0El(T)=i=0∑nliCnipi(1−p)n−i=0⇒i=0∑nliCni(1−pp)i=0
这是关于(p1−p),∀p\left(\frac{p}{1-p} \right),\forall p(1−pp),∀p的nnn阶多项式，要使这个多项式对任意ppp均为0，则它的系数全为0，因此
liCni=0,∀il_i C_n^i = 0,\forall iliCni=0,∀i
组合数恒不为零，因此li=0,∀il_i=0,\forall ili=0,∀i，此时T(X)/nT(X)/nT(X)/n与l(T)l(T)l(T)显然是正交的。因此ppp的UMVUE是Xˉ\bar{X}Xˉ。
例2 {Xi}i=1n\{X_i\}_{i=1}^n{Xi}i=1n是总体EXP(λ)EXP(\lambda)EXP(λ)的一组简单随机样本，求1/λ1/\lambda1/λ的UMVUE
样本的联合似然为
L(λ)=∏i=1nλe−λXi=λne−λ∑i=1nXiL(\lambda) = \prod_{i=1}^n \lambda e^{-\lambda X_i} = \lambda^n e^{-\lambda \sum_{i=1}^n X_i}L(λ)=i=1∏nλe−λXi=λne−λ∑i=1nXi
根据Neyman-Fisher定理，T(X)=∑i=1nXiT(X) = \sum_{i=1}^n X_iT(X)=∑i=1nXi是充分统计量。计算T(X)T(X)T(X)的期望，
ET(X)=E∑i=1nX=∑i=1nEXi=nλET(X) = E\sum_{i=1}^n X = \sum_{i=1}^n EX_i = \frac{n}{\lambda}ET(X)=Ei=1∑nX=i=1∑nEXi=λn
因此T(X)/nT(X)/nT(X)/n是1/λ1/\lambda1/λ的无偏估计。对于任一零无偏估计l(X)l(X)l(X)，
El(X)=∫0∞l(x)λe−λxdx=0⇒∫0∞l(x)e−λxdx=0El(X) = \int_{0}^{\infty} l(x)\lambda e^{-\lambda x} dx= 0 \Rightarrow \int_{0}^{\infty} l(x)e^{-\lambda x} dx= 0El(X)=∫0∞l(x)λe−λxdx=0⇒∫0∞l(x)e−λxdx=0
这是l(x)l(x)l(x)的Laplace变换，根据变换的唯一性，l(x)=0,a.s.l(x)=0,\ a.s.l(x)=0, a.s.，因此T(X)/nT(X)/nT(X)/n必定与l(X)l(X)l(X)正交，因此Xˉ\bar{X}Xˉ是1/λ1/\lambda1/λ的UMVUE。
相信大家看到这里也明白了，零无偏估计法和完备统计量法是有内在联系的。如果总体是完备分布族或者统计量是完备统计量，那么基于总体或这个完备统计量构造的零的无偏估计必定退化为0，也就会必然与完备统计量正交。
例3 {Xi}i=1n\{X_i\}_{i=1}^n{Xi}i=1n是总体U(0,θ)U(0,\theta)U(0,θ)的一组简单随机样本，求θ\thetaθ的UMVUE
UA MATH566 统计理论 完备性的证明方法中已经证明了U(0,θ)U(0,\theta)U(0,θ)是完备分布族，因此基于样本{Xi}i=1n\{X_i\}_{i=1}^n{Xi}i=1n构造的任一零无偏估计必定退化为0。θ\thetaθ的矩估计为
θ^2=1n∑i=1nXi⇒θ^=2Xˉ\frac{\hat{\theta}}{2} = \frac{1}{n}\sum_{i=1}^n X_i \Rightarrow \hat{\theta} = 2\bar{X}2θ^=n1i=1∑nXi⇒θ^=2Xˉ
计算矩估计的期望：Eθ^=2EXˉ=θE\hat{\theta} = 2E\bar{X} = \thetaEθ^=2EXˉ=θ，因此矩估计是无偏估计，并且由于任一零无偏估计必定退化为0，所以矩估计是UMVUE。
例4 {Xi}i=1n\{X_i\}_{i=1}^n{Xi}i=1n是总体N(μ,σ2)N(\mu,\sigma^2)N(μ,σ2)的一组简单随机样本，求μ,σ2\mu,\sigma^2μ,σ2的UMVUE
线性回归那个系列的文章给出了μ,σ2\mu,\sigma^2μ,σ2的最小二乘估计，
μ^=Xˉ,σ2^=1n−1∑i=1n(Xi−Xˉ)2\hat{\mu} = \bar{X},\ \ \hat{\sigma^2} = \frac{1}{n-1}\sum_{i=1}^n (X_i-\bar{X})^2μ^=Xˉ, σ2^=n−11i=1∑n(Xi−Xˉ)2
并且证明了最小二乘估计是无偏估计。UA MATH566 统计理论 完备性的证明方法中证明了N(μ,σ2)N(\mu,\sigma^2)N(μ,σ2)是完备分布族，因此它的任一零无偏估计必定退化为0，所以最小二乘估计是UMVUE。
方法二 完备充分统计量法
根据Lehmann-Scheffe定理，要找UMVUE，只需找能表示成完备充分统计量的函数的无偏估计即可。这个思路可以用来构造UMVUE，也可以用来证明某个统计量是UMVUE。需要注意的是完备性的意义在于说明UMVUE的唯一性，如果放宽条件改成“表示成充分统计量的函数的无偏估计”得到的也是UMVUE，只是这样的UMVUE不一定具有唯一性。
例5 {Xi}i=1n\{X_i\}_{i=1}^n{Xi}i=1n是总体∣N(0,σ2)∣|N(0,\sigma^2)|∣N(0,σ2)∣的一组简单随机样本，求σ2\sigma^2σ2的UMVUE
这个总体的含义是把正态分布的yyy轴左边的那一半对折到右边，所以总体概率密度为
f(x,σ2)=22πσe−x22σ2,x>0f(x,\sigma^2) = \frac{2}{\sqrt{2\pi}\sigma}e^{-\frac{x^2}{2\sigma^2}},x>0f(x,σ2)=2πσ2e−2σ2x2,x>0
样本的联合似然为
L(σ2)=∏i=1n22πσe−Xi22σ2=2n(2π)−n/2(σ2)−n/2exp(−12σ2∑i=1nXi2)L(\sigma^2) = \prod_{i=1}^n \frac{2}{\sqrt{2\pi}\sigma}e^{-\frac{X_i^2}{2\sigma^2}} = 2^n(2\pi)^{-n/2}(\sigma^2)^{-n/2}\exp \left( -\frac{1}{2\sigma^2} \sum_{i=1}^n X_i^2 \right)L(σ2)=i=1∏n2πσ2e−2σ2Xi2=2n(2π)−n/2(σ2)−n/2exp(−2σ21i=1∑nXi2)
根据Neyman-Fisher定理，T(X)=∑i=1nXi2T(X) = \sum_{i=1}^n X_i^2T(X)=∑i=1nXi2是充分统计量。计算T(X)T(X)T(X)的均值，
E[T(X)]=E∑i=1nXi2=∑i=1nEXi2=nEX12E[T(X)] =E \sum_{i=1}^n X_i^2 = \sum_{i=1}^nEX_i^2 = nEX_1^2E[T(X)]=Ei=1∑nXi2=i=1∑nEXi2=nEX12
其中
EX12=∫0∞x222πσe−x22σ2dx=−∫0∞x2σ2πe−x22σ2d−x22σ2=−∫0∞x2σ2πde−x22σ2=−2σx2πe−x22σ2∣0∞+σ∫0∞22πe−x22σ2dx=σ2EX_1^2 = \int_{0}^{\infty} x^2 \frac{2}{\sqrt{2\pi}\sigma}e^{-\frac{x^2}{2\sigma^2}}dx = -\int_{0}^{\infty} x \frac{2\sigma}{\sqrt{2\pi}}e^{-\frac{x^2}{2\sigma^2}}d-\frac{x^2}{2\sigma^2} \\ = -\int_{0}^{\infty} x \frac{2\sigma}{\sqrt{2\pi}}d e^{-\frac{x^2}{2\sigma^2}} = - \frac{2\sigma x}{\sqrt{2\pi}}e^{-\frac{x^2}{2\sigma^2}} |_0^{\infty} +\sigma \int_{0}^{\infty} \frac{2}{\sqrt{2\pi}}e^{-\frac{x^2}{2\sigma^2}}dx = \sigma^2EX12=∫0∞x22πσ2e−2σ2x2dx=−∫0∞x2π2σe−2σ2x2d−2σ2x2=−∫0∞x2π2σde−2σ2x2=−2π2σxe−2σ2x2∣0∞+σ∫0∞2π2e−2σ2x2dx=σ2
最后一步用到了这个概率密度的归一性，
∫0∞22πσe−x22σ2dx=1⇒∫0∞22πe−x22σ2dx=σ\int_{0}^{\infty} \frac{2}{\sqrt{2\pi}\sigma}e^{-\frac{x^2}{2\sigma^2}}dx = 1 \Rightarrow \int_{0}^{\infty} \frac{2}{\sqrt{2\pi}}e^{-\frac{x^2}{2\sigma^2}}dx = \sigma∫0∞2πσ2e−2σ2x2dx=1⇒∫0∞2π2e−2σ2x2dx=σ
因此E[T(X)]=nσ2E[T(X)] = n\sigma^2E[T(X)]=nσ2，T(X)/nT(X)/nT(X)/n是σ2\sigma^2σ2的无偏估计，显然它是T(X)T(X)T(X)的函数，进而可以推出T(X)/nT(X)/nT(X)/n是UMVUE。接下来讨论T(X)T(X)T(X)的完备性。先考虑总体的完备性，假设g(X)g(X)g(X)是任意可测函数，
E[g(X)]=∫0∞g(x)22πσe−x22σ2dx=0⇒∫0∞g(x)e−x22σ2dx=0⇒∫0∞g(x)xe−x22σ2dx2=0⇒∫0∞g(y)ye−y2σ2dy=0E[g(X)] = \int_{0}^{\infty} g(x)\frac{2}{\sqrt{2\pi}\sigma}e^{-\frac{x^2}{2\sigma^2}}dx=0 \Rightarrow \int_{0}^{\infty} g(x)e^{-\frac{x^2}{2\sigma^2}}dx=0 \\ \Rightarrow \int_{0}^{\infty} \frac{g(x)}{x}e^{-\frac{x^2}{2\sigma^2}}dx^2=0 \Rightarrow \int_{0}^{\infty} \frac{g(\sqrt{y})}{\sqrt{y}}e^{-\frac{y}{2\sigma^2}}dy=0E[g(X)]=∫0∞g(x)2πσ2e−2σ2x2dx=0⇒∫0∞g(x)e−2σ2x2dx=0⇒∫0∞xg(x)e−2σ2x2dx2=0⇒∫0∞yg(y)e−2σ2ydy=0
这是函数g(y)/yg(\sqrt{y})/\sqrt{y}g(y)/y的Laplace变换，根据变换的唯一性，
g(y)/y=0,a.s.g(\sqrt{y})/\sqrt{y} = 0, \ a.s.g(y)/y=0, a.s.
因为1/y>01/\sqrt{y}>01/y>0，所以g(y)=0a.s.g(\sqrt{y}) = 0\ a.s.g(y)=0 a.s.，而y\sqrt{y}y是一一对应，因此总体是完备参数族，所以T(X)T(X)T(X)是完备统计量，即T(X)/nT(X)/nT(X)/n是唯一的UMVUE。
例6 {Xi}i=1n\{X_i\}_{i=1}^n{Xi}i=1n是总体Poisson(λ)Poisson(\lambda)Poisson(λ)的一组简单随机样本，求λ\lambdaλ的UMVUE
总体的PMF为
f(x)=λxe−λx!,x=0,1,2,⋯f(x) = \frac{\lambda^xe^{-\lambda}}{x!},x=0,1,2,\cdotsf(x)=x!λxe−λ,x=0,1,2,⋯
样本的联合似然为
L(λ)=∏i=1nλXie−λXi!=(∏i=1n1Xi!)e−nλλ∑i=1nXiL(\lambda) = \prod_{i=1}^n \frac{\lambda^{X_i}e^{-\lambda}}{X_i!} = \left( \prod_{i=1}^n \frac{1}{X_i!}\right)e^{-n\lambda} \lambda^{\sum_{i=1}^n X_i}L(λ)=i=1∏nXi!λXie−λ=(i=1∏nXi!1)e−nλλ∑i=1nXi
根据Neyman-Fisher定理，T(X)=∑i=1nXiT(X) = \sum_{i=1}^n X_iT(X)=∑i=1nXi是充分统计量。计算T(X)T(X)T(X)的期望，
E[T(X)]=E∑i=1nXi=∑i=1nEXi=nλE[T(X)] = E \sum_{i=1}^n X_i = \sum_{i=1}^n EX_i = n\lambdaE[T(X)]=Ei=1∑nXi=i=1∑nEXi=nλ
因此T(X)/nT(X)/nT(X)/n是无偏估计量，从而它也是一个UMVUE，下面讨论UMVUE的唯一性。假设g(x)g(x)g(x)是任意可测函数，则
E[g(X)]=∑x=0∞g(x)λxe−λx!=0⇒∑x=0∞g(x)x!λx=0E[g(X)] = \sum_{x=0}^{\infty} g(x) \frac{\lambda^xe^{-\lambda}}{x!} = 0 \Rightarrow \sum_{x=0}^{\infty} \frac{g(x)}{x!} \lambda^x= 0E[g(X)]=x=0∑∞g(x)x!λxe−λ=0⇒x=0∑∞x!g(x)λx=0
这是对序列{g(x)x!}x=0∞\{\frac{g(x)}{x!} \}_{x=0}^{\infty}{x!g(x)}x=0∞的Z变换，根据Z变换的唯一性，
g(x)x!=0,∀x⇒g(x)=0,∀x\frac{g(x)}{x!} = 0,\forall x \Rightarrow g(x) = 0,\forall xx!g(x)=0,∀x⇒g(x)=0,∀x
因此Poisson总体是完备分布族，从而T(X)/nT(X)/nT(X)/n是唯一的UMVUE。
例7 {Xi}i=1n\{X_i\}_{i=1}^n{Xi}i=1n是总体logN(μ,σ2)\log N(\mu,\sigma^2)logN(μ,σ2)的一组简单随机样本，求μ,σ2\mu,\sigma^2μ,σ2的UMVUE
总体的概率密度为
f(x)=12πσe−(logx−μ)22σ2,x>0f(x) = \frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(\log x-\mu)^2}{2\sigma^2}},x>0f(x)=2πσ1e−2σ2(logx−μ)2,x>0
样本的联合似然函数为
L(μ,σ2)=∏i=1n12πσe−(logXi−μ)22σ2=(2π)−n/2(σ2)−n/2exp(∑i=1n−(logXi−μ)22σ2)=(2π)−n/2(σ2)−n/2exp[−12σ2(∑i=1n(logXi)2−2μ∑i=1nlogXi+nμ2)]L(\mu,\sigma^2) = \prod_{i=1}^n \frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(\log X_i-\mu)^2}{2\sigma^2}} = (2\pi)^{-n/2}(\sigma^2)^{-n/2}\exp \left( \sum_{i=1}^n-\frac{(\log X_i-\mu)^2}{2\sigma^2} \right) \\ = (2\pi)^{-n/2}(\sigma^2)^{-n/2}\exp \left[-\frac{1}{2\sigma^2} \left( \sum_{i=1}^n (\log X_i)^2-2\mu\sum_{i=1}^n\log X_i+n\mu^2 \right) \right]L(μ,σ2)=i=1∏n2πσ1e−2σ2(logXi−μ)2=(2π)−n/2(σ2)−n/2exp(i=1∑n−2σ2(logXi−μ)2)=(2π)−n/2(σ2)−n/2exp[−2σ21(i=1∑n(logXi)2−2μi=1∑nlogXi+nμ2)]
根据Neyman-Fisher定理，充分统计量为T1(X)=∑i=1nlogXiT_1(X) = \sum_{i=1}^n\log X_iT1(X)=∑i=1nlogXi，T2(X)=∑i=1n(logXi)2T_2(X) = \sum_{i=1}^n (\log X_i)^2T2(X)=∑i=1n(logXi)2，下面计算充分统计量的期望。
E[T1(X)]=E∑i=1nlogXi=nElogX1=nμE[T2(X)]=E∑i=1n(logXi)2=nE(logX1)2=n(μ2+σ2)E[T_1(X)] = E\sum_{i=1}^n\log X_i = nE\log X_1 = n\mu \\ E[T_2(X)] = E\sum_{i=1}^n (\log X_i)^2 = nE(\log X_1)^2 = n(\mu^2 + \sigma^2)E[T1(X)]=Ei=1∑nlogXi=nElogX1=nμE[T2(X)]=Ei=1∑n(logXi)2=nE(logX1)2=n(μ2+σ2)
由此发现μ^=T1(X)/n,σ2^=1n−1∑i=1n(logXi−μ^)2=T2(X)−μ^T1(X)+(μ^)2n−1\hat{\mu} = T_1(X)/n,\\ \hat{\sigma^2} = \frac{1}{n-1}\sum_{i=1}^n (\log X_i -\hat{\mu})^2 = \frac{T_2(X)-\hat{\mu}T_1(X) + (\hat{\mu})^2}{n-1} μ^=T1(X)/n,σ2^=n−11i=1∑n(logXi−μ^)2=n−1T2(X)−μ^T1(X)+(μ^)2
作为μ,σ2\mu,\sigma^2μ,σ2的无偏估计是充分统计量的函数，因此他们也是UMVUE。下面讨论对数正态分布的完备性。假设g(X)g(X)g(X)是任意可测函数，则E[g(X)]=∫0∞g(x)12πσe−(logx−μ)22σ2dx=0⇒∫0∞g(x)e−(logx−μ)2dx=0⇒∫0∞g(x)e−(logx)2e2μlogxdx=0⇒∫0∞xg(x)e−(logx)2e2μlogxdlogx=0E[g(X)] = \int_{0}^{\infty} g(x) \frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(\log x-\mu)^2}{2\sigma^2}}dx = 0 \Rightarrow \int_{0}^{\infty} g(x) e^{-(\log x-\mu)^2}dx = 0 \\ \Rightarrow \int_{0}^{\infty} g(x) e^{-(\log x)^2}e^{2 \mu \log x}dx = 0 \Rightarrow \int_{0}^{\infty} xg(x) e^{-(\log x)^2}e^{2 \mu \log x}d\log x = 0 E[g(X)]=∫0∞g(x)2πσ1e−2σ2(logx−μ)2dx=0⇒∫0∞g(x)e−(logx−μ)2dx=0⇒∫0∞g(x)e−(logx)2e2μlogxdx=0⇒∫0∞xg(x)e−(logx)2e2μlogxdlogx=0
这是xg(x)e−(logx)2xg(x)e^{-(\log x)^2}xg(x)e−(logx)2的Laplace变换，根据变换的唯一性，
xg(x)e−(logx)2=0a.s.⇒g(x)=0a.s.xg(x)e^{-(\log x)^2} = 0\ a.s. \Rightarrow g(x) = 0 \ a.s.xg(x)e−(logx)2=0 a.s.⇒g(x)=0 a.s.
因此对数正态分布是完备分布族，因此μ^,σ2^\hat{\mu},\hat{\sigma^2}μ^,σ2^是唯一的UMVUE。
UA MATH566 统计理论 证明UMVUE的方法相关推荐
- UA MATH566 统计理论 完备性的证明方法
UA MATH566 统计理论 完备性的证明方法 定义法 完备分布族法 完备性是统计量的非常重要的性质之一,但完备性的证明有时并不是是一件容易的事情,这一讲介绍一些常用的证明完备性的方法:定义法,完备 ...
- UA MATH566 统计理论 Cramer-Rao不等式与Delta方法的联系
UA MATH566 统计理论 Cramer-Rao不等式与Delta方法的联系 Delta方法与C-R不等式基本概念回顾 Delta方法近似 C-R不等式近似 推导Delta方法与C-R不等式近似相 ...
- UA MATH566 统计理论2 点估计基础
UA MATH566 统计理论2 点估计基础 Rao-Blackwell定理 UMVUE 矩估计 最大似然估计 不变性与截面似然 Rao-Blackwell定理 统计推断的问题一般用统计决策理论的术语 ...
- UA MATH566 统计理论 位置-尺度参数族
UA MATH566 统计理论 位置-尺度参数族 对位置-尺度参数族做位置-尺度变换 对正态分布做位置-尺度变换 对Gamma分布做位置-尺度变换 对指数分布做位置尺度变换 对均匀分布做位置-尺度变换 ...
- UA MATH566 统计理论 截断数据
UA MATH566 统计理论 截断数据 Truncated Left-Trancated Right-Truncated 一个例子:双截断正态分布 双截断正态分布的完备最小充分统计量 这一讲介绍随机 ...
- UA MATH566 统计理论2 C-R不等式简介
UA MATH566 统计理论2 C-R不等式 单个参数的情形 多个参数的情形 点估计基础那一篇讨论到UMVUE了,这一讲试图给出无偏估计方差的一个下界.在统计理论1中推导的Fisher信息其实就是一 ...
- UA MATH566 统计理论8 用Pivot构造置信区间
UA MATH566 统计理论8 用Pivot构造置信区间 用Pivot构造置信区间 一般性方法 最优置信区间 置信区间的频率派解释 上一讲介绍的构造置信区间的方法是根据假设检验导出置信区间,但我们感 ...
- UA MATH566 统计理论1 充分统计量
UA MATH566 统计理论1 充分统计量 指数族 自然形式 充分统计量 Neyman-Fisher因子分解定理 Bayes充分性 最小充分统计量 完备性 分布族的完备性 统计量的完备性 辅助统计量 ...
- UA MATH566 统计理论 概念与定理总结
UA MATH566 统计理论 概念与定理总结 Part 1 Exponential Family Tip 1: Form of Exponential Family f(x∣η)=h(x)exp( ...
最新文章
- hashcode、equals和==简单总结
- ExtJS Model数据实体模型
- Spark源码阅读01-SparkConf
- 简述python程序结构_python架构的概念讲解
- python数据分析方法五种_加速Python数据分析的10个简单技巧（上）
- Repeating Decimals （计算循环小数）
- python做请求转发_RequestDispatcher实现请求转发
- 安卓手机主题软件_安卓手机安装不了软件原因和方法
- 自定义JPA之AttributeConverter
- Day4_代码重用与函数
- JavaScript 真值和假值
- JavaScript 数组常见操作 (二)
- C语言基础知识【作用域规则】
- autobuddy in mfc导致的错误
- EtherCAT总线伺服速度控制功能块（H5U PLC）
- xcode6修改新建类时生成的模板(作者,组织,CopyRight等)
- 看院线电影就用移动电影院V2.0App
- Dota 游戏中的攻击与伤害分析
- 美国排名前10芯片公司的特点
- 关于Catalan(卡特兰)数的理解