UA MATH566 统计理论1 充分统计量例题答案2

例1.12 找N(θ,1)N(\theta,1)N(θ,1)的最小充分统计量
计算样本的联合密度
f(x∣θ)=∏i=1n12πexp⁡(−(xi−θ)22)=(2π)−n/2exp⁡(−12∑i=1n(xi−θ)2)=(2π)−n/2exp⁡(−12∑i=1nxi2+θ∑i=1nxi−nθ22)f(x|\theta) = \prod_{i=1}^n \frac{1}{\sqrt{2\pi}} \exp(-\frac{(x_i-\theta)^2}{2}) \\ = (2\pi)^{-n/2} \exp(-\frac{1}{2} \sum_{i=1}^n (x_i - \theta)^2) \\ = (2\pi)^{-n/2} \exp(-\frac{1}{2} \sum_{i=1}^n x_i^2+\theta \sum_{i=1}^n x_i-\frac{n \theta^2}{2}) f(x∣θ)=i=1∏n2π1exp(−2(xi−θ)2)=(2π)−n/2exp(−21i=1∑n(xi−θ)2)=(2π)−n/2exp(−21i=1∑nxi2+θi=1∑nxi−2nθ2)
计算(X,Y)(X,Y)(X,Y)两组样本联合密度的比值
f(x∣θ)f(y∣θ)=(2π)−n/2exp⁡(−12∑i=1nxi2+θ∑i=1nxi−nθ22)(2π)−n/2exp⁡(−12∑i=1nxi2+θ∑i=1nxi−nθ22)=exp⁡(−12∑i=1nxi2+θ∑i=1nxi)exp⁡(−12∑i=1nyi2+θ∑i=1nyi)=exp⁡(−12∑i=1nxi2)exp⁡(−12∑i=1nyi2)eθ(∑i=1nxi−∑i=1nyi)\frac{f(x|\theta)}{f(y|\theta)} = \frac{(2\pi)^{-n/2} \exp(-\frac{1}{2} \sum_{i=1}^n x_i^2+\theta \sum_{i=1}^n x_i-\frac{n \theta^2}{2}) }{(2\pi)^{-n/2} \exp(-\frac{1}{2} \sum_{i=1}^n x_i^2+\theta \sum_{i=1}^n x_i-\frac{n \theta^2}{2}) } \\ = \frac{\exp(-\frac{1}{2} \sum_{i=1}^n x_i^2+\theta \sum_{i=1}^n x_i) } { \exp(-\frac{1}{2} \sum_{i=1}^n y_i^2+\theta \sum_{i=1}^n y_i )} = \frac{\exp(-\frac{1}{2} \sum_{i=1}^n x_i^2) } { \exp(-\frac{1}{2} \sum_{i=1}^n y_i^2)}e^{\theta(\sum_{i=1}^n x_i-\sum_{i=1}^n y_i)} f(y∣θ)f(x∣θ)=(2π)−n/2exp(−21∑i=1nxi2+θ∑i=1nxi−2nθ2)(2π)−n/2exp(−21∑i=1nxi2+θ∑i=1nxi−2nθ2)=exp(−21∑i=1nyi2+θ∑i=1nyi)exp(−21∑i=1nxi2+θ∑i=1nxi)=exp(−21∑i=1nyi2)exp(−21∑i=1nxi2)eθ(∑i=1nxi−∑i=1nyi)
显然要让这个比值与θ\thetaθ无关，除非让∑i=1nxi−∑i=1nyi=0\sum_{i=1}^n x_i-\sum_{i=1}^n y_i=0∑i=1nxi−∑i=1nyi=0，因此最小充分统计量是T(X)=∑i=1nXiT(X)=\sum_{i=1}^n X_iT(X)=∑i=1nXi。

例1.13 找Γ(α,β)\Gamma(\alpha,\beta)Γ(α,β)的最小充分统计量
计算样本的联合概率密度
f(x∣α,β)=∏i=1nβαΓ(α)xiα−1e−βxi=(βαΓ(α))n(∏i=1nxi)α−1e−β∑i=1nxif(x|\alpha,\beta) = \prod_{i=1}^n \frac{\beta^{\alpha}}{\Gamma{(\alpha)}}x_i^{\alpha-1}e^{-\beta x_i} = (\frac{\beta^{\alpha}}{\Gamma{(\alpha)}})^n (\prod_{i=1}^n x_i)^{\alpha-1}e^{-\beta \sum_{i=1}^n x_i} f(x∣α,β)=i=1∏nΓ(α)βαxiα−1e−βxi=(Γ(α)βα)n(i=1∏nxi)α−1e−β∑i=1nxi
计算(X,Y)(X,Y)(X,Y)两组样本联合密度的比值
f(x∣α,β)f(y∣α,β)=(βαΓ(α))n(∏i=1nxi)α−1e−β∑i=1nxi(βαΓ(α))n(∏i=1nyi)α−1e−β∑i=1nyi=(∏i=1nxi)α−1e−β∑i=1nxi(∏i=1nyi)α−1e−β∑i=1nyi=(∏i=1nxi∏i=1nyi)α−1e−β(∑i=1nxi−∑i=1nyi)\frac{f(x|\alpha,\beta)}{f(y|\alpha,\beta)} = \frac{(\frac{\beta^{\alpha}}{\Gamma{(\alpha)}})^n (\prod_{i=1}^n x_i)^{\alpha-1}e^{-\beta \sum_{i=1}^n x_i}}{(\frac{\beta^{\alpha}}{\Gamma{(\alpha)}})^n (\prod_{i=1}^n y_i)^{\alpha-1}e^{-\beta \sum_{i=1}^n y_i}} \\ = \frac{ (\prod_{i=1}^n x_i)^{\alpha-1}e^{-\beta \sum_{i=1}^n x_i}}{ (\prod_{i=1}^n y_i)^{\alpha-1}e^{-\beta \sum_{i=1}^n y_i}} = (\frac{\prod_{i=1}^n x_i} {\prod_{i=1}^n y_i})^{\alpha-1}e^{-\beta (\sum_{i=1}^n x_i-\sum_{i=1}^n y_i}) f(y∣α,β)f(x∣α,β)=(Γ(α)βα)n(∏i=1nyi)α−1e−β∑i=1nyi(Γ(α)βα)n(∏i=1nxi)α−1e−β∑i=1nxi=(∏i=1nyi)α−1e−β∑i=1nyi(∏i=1nxi)α−1e−β∑i=1nxi=(∏i=1nyi∏i=1nxi)α−1e−β(∑i=1nxi−∑i=1nyi)
要让这个比率与参数α,β\alpha,\betaα,β无关，除非∏i=1nxi=∏i=1nyi\prod_{i=1}^n x_i=\prod_{i=1}^n y_i∏i=1nxi=∏i=1nyi，∑i=1nxi=∑i=1nyi\sum_{i=1}^n x_i=\sum_{i=1}^n y_i∑i=1nxi=∑i=1nyi，所以最小充分统计量是(∏i=1nXi,∑i=1nXi)(\prod_{i=1}^n X_i,\sum_{i=1}^n X_i)(∏i=1nXi,∑i=1nXi)

例1.14 X1,⋯,Xn∼iidU(θ1,θ2)X_1,\cdots,X_n \sim_{iid} U(\theta_1,\theta_2)X1,⋯,Xn∼iidU(θ1,θ2)，找最小充分统计量
计算样本的联合概率密度
f(x∣θ1,θ2)=∏i=1nI(θ1≤xi≤θ2)θ1−θ2=(θ1−θ2)−n∏i=1nI(xi≥θ1)I(xi≤θ2)=(θ1−θ2)−nI(x(1)≥θ1)I(x(n)≤θ2)f(x|\theta_1,\theta_2) = \prod_{i=1}^n \frac{I(\theta_1 \le x_i \le \theta_2)}{\theta_1-\theta_2} \\= (\theta_1-\theta_2)^{-n} \prod_{i=1}^n I(x_i \ge \theta_1)I(x_i \le \theta_2) \\ = (\theta_1-\theta_2)^{-n} I(x_{(1)} \ge \theta_1)I(x_{(n)} \le \theta_2) f(x∣θ1,θ2)=i=1∏nθ1−θ2I(θ1≤xi≤θ2)=(θ1−θ2)−ni=1∏nI(xi≥θ1)I(xi≤θ2)=(θ1−θ2)−nI(x(1)≥θ1)I(x(n)≤θ2)
计算(X,Y)(X,Y)(X,Y)两组样本联合密度的比值
f(x∣θ1,θ2)f(y∣θ1,θ2)=(θ1−θ2)−nI(x(1)≥θ1)I(x(n)≤θ2)(θ1−θ2)−nI(y(1)≥θ1)I(y(n)≤θ2)=I(x(1)≥θ1)I(x(n)≤θ2)I(y(1)≥θ1)I(y(n)≤θ2)\frac{f(x|\theta_1,\theta_2)}{f(y|\theta_1,\theta_2)} = \frac{(\theta_1-\theta_2)^{-n} I(x_{(1)} \ge \theta_1)I(x_{(n)} \le \theta_2)}{(\theta_1-\theta_2)^{-n} I(y_{(1)} \ge \theta_1)I(y_{(n)} \le \theta_2)} = \frac{I(x_{(1)} \ge \theta_1)I(x_{(n)} \le \theta_2)}{I(y_{(1)} \ge \theta_1)I(y_{(n)} \le \theta_2)} f(y∣θ1,θ2)f(x∣θ1,θ2)=(θ1−θ2)−nI(y(1)≥θ1)I(y(n)≤θ2)(θ1−θ2)−nI(x(1)≥θ1)I(x(n)≤θ2)=I(y(1)≥θ1)I(y(n)≤θ2)I(x(1)≥θ1)I(x(n)≤θ2)
如果x(1)=y(1),x(n)=y(n)x_{(1)}=y_{(1)},x_{(n)}=y_{(n)}x(1)=y(1),x(n)=y(n)，分子分母的值就会完全相同，这个比率就与参数无关，因此最小充分统计量是(X(1),X(n))(X_{(1)},X_{(n)})(X(1),X(n))。

例1.15 X1,⋯,Xn∼iidf(x∣θ)=e−(x−θ)(1+e−(x−θ))2X_1,\cdots,X_n \sim_{iid} f(x|\theta)=\frac{e^{-(x-\theta)}}{(1+e^{-(x-\theta)})^2}X1,⋯,Xn∼iidf(x∣θ)=(1+e−(x−θ))2e−(x−θ)，找最小充分统计量
计算样本的联合概率密度
f(x∣θ)=∏i=1ne−(xi−θ)(1+e−(xi−θ))2=e−∑i=1nxi+nθ[∏i=1n(1+e−(xi−θ))]2f(x|\theta) = \prod_{i=1}^n \frac{e^{-(x_i-\theta)}}{(1+e^{-(x_i-\theta)})^2} = \frac{e^{-\sum_{i=1}^n x_i +n\theta}}{ [\prod_{i=1}^n (1+e^{-(x_i-\theta)})]^2 } f(x∣θ)=i=1∏n(1+e−(xi−θ))2e−(xi−θ)=[∏i=1n(1+e−(xi−θ))]2e−∑i=1nxi+nθ
计算(X,Y)(X,Y)(X,Y)两组样本联合密度的比值
f(x∣θ)f(y∣θ)=e−∑i=1nxi+nθe−∑i=1nyi+nθ[∏i=1n(1+e−(yi−θ))∏i=1n(1+e−(xi−θ))]2\frac{f(x|\theta)}{f(y|\theta)} = \frac{e^{-\sum_{i=1}^n x_i +n\theta}}{e^{-\sum_{i=1}^n y_i +n\theta}} [\frac{\prod_{i=1}^n (1+e^{-(y_i-\theta)})}{\prod_{i=1}^n (1+e^{-(x_i-\theta)})}]^2 f(y∣θ)f(x∣θ)=e−∑i=1nyi+nθe−∑i=1nxi+nθ[∏i=1n(1+e−(xi−θ))∏i=1n(1+e−(yi−θ))]2
第一个因子显然与参数θ\thetaθ无关，第二个因子只要平方内的式子与参数无关，这个比值就会与参数无关。然而要做的这点，除非∃k\exists k∃k是常数，满足
1+e−(yi−θ)=(1+e−(xi−θ))k1+e^{-(y_i-\theta)} = (1+e^{-(x_i-\theta)})k 1+e−(yi−θ)=(1+e−(xi−θ))k
这个关系貌似看不出统计量来，但事实上这个函数是单调的，因此满足这个关系的一定是次序统计量，所以这个分布的最小充分统计量是(X(1),X(2),⋯,X(n))(X_{(1)},X_{(2)},\cdots,X_{(n)})(X(1),X(2),⋯,X(n))。

例1.16 X1,⋯,Xn∼iidU(0,θ)X_1,\cdots,X_n \sim_{iid} U(0,\theta)X1,⋯,Xn∼iidU(0,θ)，验证T(X)=X(n)T(X)=X_{(n)}T(X)=X(n)是完备统计量。
例1.2已经计算过T(X)T(X)T(X)的密度了
f(t)=ntn−1θ−nI(0≤t≤θ)f(t) = nt^{n-1} \theta^{-n}I(0 \le t \le \theta) f(t)=ntn−1θ−nI(0≤t≤θ)
对任一可测函数h(T(X))h(T(X))h(T(X))
E[h(T(X))]=∫h(t)ntn−1θ−nI(0≤t≤θ)dt=0⇔∫0θh(t)tn−1dt=0⇒∂∂θ∫0θh(t)tn−1dt⇒h(θ)θn−1=0⇒h(θ)=0E[h(T(X))] = \int h(t) nt^{n-1} \theta^{-n}I(0 \le t \le \theta) dt = 0 \\ \Leftrightarrow \int_0^{\theta} h(t) t^{n-1} dt = 0 \Rightarrow \frac{\partial}{\partial \theta} \int_0^{\theta} h(t) t^{n-1} dt \\ \Rightarrow h(\theta) \theta^{n-1}=0 \Rightarrow h(\theta) = 0 E[h(T(X))]=∫h(t)ntn−1θ−nI(0≤t≤θ)dt=0⇔∫0θh(t)tn−1dt=0⇒∂θ∂∫0θh(t)tn−1dt⇒h(θ)θn−1=0⇒h(θ)=0
因此T(X)=X(n)T(X)=X_{(n)}T(X)=X(n)是完备统计量。

例1.17 X1,⋯,Xn∼iidN(0,σ2)X_1,\cdots,X_n \sim_{iid} N(0,\sigma^2)X1,⋯,Xn∼iidN(0,σ2)，验证T(X)=X2T(X)=X^2T(X)=X2是完备统计量。
因为T(X)/σ2∼χ2(1)T(X)/\sigma^2 \sim \chi^2(1)T(X)/σ2∼χ2(1)，所以它的概率密度为
f(t)=σ22πt−1/2e−t/2f(t) = \frac{\sigma^2}{2\sqrt{\pi}} t^{-1/2}e^{-t/2} f(t)=2πσ2t−1/2e−t/2
对任一可测函数h(T(X))h(T(X))h(T(X))
E[h(T(X))]=∫h(t)σ22πt−1/2e−t/2dt=0⇔∫h(t)t−1/2e−t/2dt=0E[h(T(X))] = \int h(t) \frac{\sigma^2}{2\sqrt{\pi}} t^{-1/2}e^{-t/2} dt = 0 \\ \Leftrightarrow \int h(t) t^{-1/2}e^{-t/2} dt = 0 E[h(T(X))]=∫h(t)2πσ2t−1/2e−t/2dt=0⇔∫h(t)t−1/2e−t/2dt=0
上式是函数h(t)/th(t)/\sqrt{t}h(t)/t的Laplace变换在1/2处的取值，因为Laplace是具有唯一性的积分变换（或者根据Laplace变换的反演公式），所以h(t)/t=0h(t)/\sqrt{t}=0h(t)/t=0。因此T(X)=X2T(X)=X^2T(X)=X2是完备统计量。

UA MATH566 统计理论1 充分统计量例题答案2相关推荐

UA MATH566 统计理论1 充分统计量例题答案3
UA MATH566 统计理论1 充分统计量例题答案3 例1.18 X1,⋯,Xn∼iidN(μ,σ2)X_1,\cdots,X_n \sim_{iid} N(\mu,\sigma^2)X1,⋯,X ...
UA MATH566 统计理论1 充分统计量例题答案1
UA MATH566 统计理论1 充分统计量例题答案1 例1-3是直接法判断是否是充分统计量. 例1.1 X1,⋯,Xn∼iidBer(θ)X_1,\cdots,X_n \sim_{iid} Ber( ...
UA MATH566 统计理论1 充分统计量
UA MATH566 统计理论1 充分统计量指数族自然形式充分统计量 Neyman-Fisher因子分解定理 Bayes充分性最小充分统计量完备性分布族的完备性统计量的完备性辅助统计量 ...
UA MATH566 统计理论一个例题 Hierarchical Model的统计性质
UA MATH566 统计理论一个例题 Hierarchical Model的统计性质 Y∣X∼Pois(X)Y|X \sim Pois(X)Y∣X∼Pois(X) and X∼Γ(α,β)X \s ...
UA MATH566 统计理论 Fisher信息论的性质下
UA MATH566 统计理论 Fisher信息量的性质下辅助统计量的Fisher信息为0 分布族参数变换后的Fisher信息统计量的Fisher信息的有界性下面介绍一些Fisher信息量的常用 ...
UA MATH566 统计理论 Fisher信息量的性质上
UA MATH566 统计理论 Fisher信息量的性质上 Fisher信息量的定义 Fisher信息量的数学意义 C-R下界是由Fisher统计量定义的,在推导C-R下界的时候,我们只是把下界的逆定 ...
UA MATH566 统计理论用点估计构造置信区间
UA MATH566 统计理论用点估计构造置信区间用点估计构造置信区间置信区间(confidential interval,CI)也叫区间估计,是另一种做统计推断的方法,和假设检验密切相关.统计 ...
UA MATH566 统计理论 QE练习题2.2
UA MATH566 统计理论 QE练习题2.2 第五题这是2014年5月的5题. 第五题 Part (a) Joint density of the bivariate normal disrtr ...
UA MATH566 统计理论证明UMVUE的方法
UA MATH566 统计理论证明UMVUE的方法方法一零无偏估计法方法二完备充分统计量法关于UMVUE,我们有下面两个非常常用的结论: Lehmann-Sheffe定理: 如果g(θ^) ...

UA MATH566 统计理论1 充分统计量例题答案2

UA MATH566 统计理论1 充分统计量例题答案2

UA MATH566 统计理论1 充分统计量例题答案2相关推荐

最新文章

热门文章