UA MATH566 统计理论7 还有一个例子：推导卡方检验

均值已知
均值未知

前面的文章中我们已经推导了Z检验和T检验，Z检验是方差已知时比较单个或两个正态总体均值的方法；T检验是方差未知时比较单个或两个正态总体均值的方法。这一讲推导卡方检验，它是比较单个正态总体方差的方法。考虑双边检验：
考虑双边的单总体检验：
H0:σ2=σ02Ha:σ2≠σ02H_0:\sigma^2 = \sigma_0^2 \\ H_a:\sigma^2 \ne \sigma^2_0H0:σ2=σ02Ha:σ2=σ02

均值已知

假设样本为X1,⋯,Xn∼iidN(μ,σ2)X_1,\cdots,X_n \sim_{iid} N(\mu,\sigma^2)X1,⋯,Xn∼iidN(μ,σ2)，参数μ\muμ是已知的，参数σ\sigmaσ都是未知的。参数空间可以写成
Θ={(μ,σ2):μ∈R,σ2>0}Θ0={(μ,σ2):μ∈R,σ2=σ02}Θ1={(μ,σ2):μ∈R,σ2=σ02}\Theta = \{(\mu,\sigma^2):\mu \in \mathbb{R},\sigma^2>0\} \\ \Theta_0 = \{(\mu,\sigma^2):\mu \in \mathbb{R},\sigma^2 = \sigma^2_0\} \\ \Theta_1 = \{(\mu,\sigma^2):\mu \in \mathbb{R},\sigma^2=\sigma^2_0\} Θ={(μ,σ2):μ∈R,σ2>0}Θ0={(μ,σ2):μ∈R,σ2=σ02}Θ1={(μ,σ2):μ∈R,σ2=σ02}

样本的似然函数为
L(μ,σ2)=∏i=1n12πσ2exp⁡(−12σ2(Xi−μ)2)=(2π)n/2(σ2)n/2exp⁡(∑i=1n12σ2(Xi−μ)2)L(\mu,\sigma^2) = \prod_{i=1}^n \frac{1}{\sqrt{2\pi\sigma^2}}\exp \left( -\frac{1}{2\sigma^2}(X_i - \mu)^2 \right) = (2\pi)^{n/2}(\sigma^2)^{n/2}\exp \left( \sum_{i=1}^n \frac{1}{2\sigma^2}(X_i-\mu)^2 \right)L(μ,σ2)=i=1∏n2πσ21exp(−2σ21(Xi−μ)2)=(2π)n/2(σ2)n/2exp(i=1∑n2σ21(Xi−μ)2)

下面取σ12≠σ02\sigma_1^2 \ne \sigma_0^2σ12=σ02，计算似然比
L(μ,σ02)L(μ,σ12)=(2π)n/2(σ02)n/2exp⁡(∑i=1n12σ02(Xi−μ)2)(2π)n/2(σ12)n/2exp⁡(∑i=1n12σ12(Xi−μ)2)=(σ02)n/2(σ12)n/2exp⁡((12σ02−12σ12)∑i=1n(Xi−μ)2)\frac{L(\mu,\sigma_0^2)}{L(\mu,\sigma_1^2)} = \frac{(2\pi)^{n/2}(\sigma_0^2)^{n/2}\exp \left( \sum_{i=1}^n \frac{1}{2\sigma_0^2}(X_i-\mu)^2 \right)}{(2\pi)^{n/2}(\sigma_1^2)^{n/2}\exp \left( \sum_{i=1}^n \frac{1}{2\sigma_1^2}(X_i-\mu)^2 \right)} \\ = \frac{(\sigma_0^2)^{n/2}}{(\sigma_1^2)^{n/2}} \exp \left( (\frac{1}{2\sigma^2_0 } - \frac{1}{2\sigma_1^2})\sum_{i=1}^n (X_i - \mu)^2 \right)L(μ,σ12)L(μ,σ02)=(2π)n/2(σ12)n/2exp(∑i=1n2σ121(Xi−μ)2)(2π)n/2(σ02)n/2exp(∑i=1n2σ021(Xi−μ)2)=(σ12)n/2(σ02)n/2exp((2σ021−2σ121)i=1∑n(Xi−μ)2)

记统计量
T(X)=∑i=1n(Xi−μ)2∼σ2χn2T(X) = \sum_{i=1}^n (X_i-\mu)^2 \sim \sigma^2\chi^2_nT(X)=i=1∑n(Xi−μ)2∼σ2χn2

则T(X)T(X)T(X)要让这个似然比足够小，我们需要分两种情况来讨论：
情况1 假设σ12>σ02\sigma_1^2>\sigma_0^2σ12>σ02，则似然比关于T(X)T(X)T(X)是单调递增的，要让似然比比较小，需要T(X)T(X)T(X)也比较小，在原假设下，T(X)T(X)T(X)的α/2\alpha/2α/2分位点为σ02χα/2,n2\sigma_0^2\chi^2_{\alpha/2,n}σ02χα/2,n2，因此拒绝域为
{X:T(X)≤σ02χα/2,n2}\{X:T(X) \le \sigma^2_0\chi^2_{\alpha/2,n}\}{X:T(X)≤σ02χα/2,n2}

情况1 假设σ12<σ02\sigma_1^2<\sigma_0^2σ12<σ02，则似然比关于T(X)T(X)T(X)是单调递减的，要让似然比比较小，需要T(X)T(X)T(X)比较大，在原假设下，T(X)T(X)T(X)的1−α/21-\alpha/21−α/2分位点为σ02χ1−α/2,n2\sigma^2_0\chi^2_{1-\alpha/2,n}σ02χ1−α/2,n2，因此拒绝域为
{X:T(X)≥σ02χ1−α/2,n2}\{X:T(X) \ge \sigma^2_0\chi^2_{1-\alpha/2,n}\}{X:T(X)≥σ02χ1−α/2,n2}

综上，当μ\muμ已知时，卡方检验的拒绝域为
{X:T(X)≤σ02χα/2,n2}∪{X:T(X)≥σ02χ1−α/2,n2}\{X:T(X) \le \sigma^2_0\chi^2_{\alpha/2,n}\}\cup \{X:T(X) \ge \sigma^2_0\chi^2_{1-\alpha/2,n}\}{X:T(X)≤σ02χα/2,n2}∪{X:T(X)≥σ02χ1−α/2,n2}

其中检验统计量为
T(X)=∑i=1n(Xi−μ)2∼σ2χn2T(X) = \sum_{i=1}^n (X_i-\mu)^2 \sim \sigma^2\chi^2_nT(X)=i=1∑n(Xi−μ)2∼σ2χn2

均值未知

均值未知时，我们先计算出均值的最大似然估计，
μ^=Xˉ\hat{\mu} = \bar{X}μ^=Xˉ

然后计算似然比
L(Xˉ,σ02)L(Xˉ,σ12)=(2π)n/2(σ02)n/2exp⁡(∑i=1n12σ02(Xi−Xˉ)2)(2π)n/2(σ12)n/2exp⁡(∑i=1n12σ12(Xi−Xˉ)2)=(σ02)n/2(σ12)n/2exp⁡((12σ02−12σ12)∑i=1n(Xi−Xˉ)2)\frac{L(\bar{X},\sigma_0^2)}{L(\bar{X},\sigma_1^2)} = \frac{(2\pi)^{n/2}(\sigma_0^2)^{n/2}\exp \left( \sum_{i=1}^n \frac{1}{2\sigma_0^2}(X_i-\bar{X})^2 \right)}{(2\pi)^{n/2}(\sigma_1^2)^{n/2}\exp \left( \sum_{i=1}^n \frac{1}{2\sigma_1^2}(X_i-\bar{X})^2 \right)} \\ = \frac{(\sigma_0^2)^{n/2}}{(\sigma_1^2)^{n/2}} \exp \left( (\frac{1}{2\sigma^2_0 } - \frac{1}{2\sigma_1^2})\sum_{i=1}^n (X_i - \bar{X})^2 \right)L(Xˉ,σ12)L(Xˉ,σ02)=(2π)n/2(σ12)n/2exp(∑i=1n2σ121(Xi−Xˉ)2)(2π)n/2(σ02)n/2exp(∑i=1n2σ021(Xi−Xˉ)2)=(σ12)n/2(σ02)n/2exp((2σ021−2σ121)i=1∑n(Xi−Xˉ)2)

记统计量
T(X)=∑i=1n(Xi−Xˉ)2∼σ2χn2−1T(X) = \sum_{i=1}^n (X_i-\bar{X})^2 \sim \sigma^2\chi^2_n-1T(X)=i=1∑n(Xi−Xˉ)2∼σ2χn2−1

T(X)T(X)T(X)的分布可以参考UA MATH564 概率论VI 数理统计基础1正态样本方差的分布。T(X)T(X)T(X)要让这个似然比足够小，我们需要分两种情况来讨论：
情况1 假设σ12>σ02\sigma_1^2>\sigma_0^2σ12>σ02，则似然比关于T(X)T(X)T(X)是单调递增的，要让似然比比较小，需要T(X)T(X)T(X)也比较小，在原假设下，T(X)T(X)T(X)的α/2\alpha/2α/2分位点为σ02χα/2,n−12\sigma^2_0\chi^2_{\alpha/2,n-1}σ02χα/2,n−12，因此拒绝域为
{X:T(X)≤σ02χα/2,n−12}\{X:T(X) \le \sigma^2_0\chi^2_{\alpha/2,n-1}\}{X:T(X)≤σ02χα/2,n−12}

情况1 假设σ12<σ02\sigma_1^2<\sigma_0^2σ12<σ02，则似然比关于T(X)T(X)T(X)是单调递减的，要让似然比比较小，需要T(X)T(X)T(X)比较大，在原假设下，T(X)T(X)T(X)的1−α/21-\alpha/21−α/2分位点为σ02χ1−α/2,n−12\sigma^2_0\chi^2_{1-\alpha/2,n-1}σ02χ1−α/2,n−12，因此拒绝域为
{X:T(X)≥σ02χ1−α/2,n−12}\{X:T(X) \ge \sigma^2_0\chi^2_{1-\alpha/2,n-1}\}{X:T(X)≥σ02χ1−α/2,n−12}

综上，当μ\muμ已知时，卡方检验的拒绝域为
{X:T(X)≤σ02χα/2,n−12}∪{X:T(X)≥σ02χ1−α/2,n−12}\{X:T(X) \le \sigma^2_0 \chi^2_{\alpha/2,n-1}\}\cup \{X:T(X) \ge \sigma^2_0\chi^2_{1-\alpha/2,n-1}\}{X:T(X)≤σ02χα/2,n−12}∪{X:T(X)≥σ02χ1−α/2,n−12}

UA MATH566 统计理论7 还有一个例子：推导卡方检验相关推荐

UA MATH566 统计理论7 另一个例子：二项检验
UA MATH566 统计理论7 另一个例子:二项检验假设X1,X2,⋯,Xn∼Ber(p)X_1,X_2,\cdots,X_n \sim Ber(p)X1,X2,⋯,Xn∼Ber(p),想根 ...
UA MATH566 统计理论7 一个例子：推导T检验
UA MATH566 统计理论7 一个例子:推导T检验 T检验在math 571A和math 571B中已经用的很多了,这里按前两讲介绍的假设检验的理论回顾一下T检验,看一下T检验是怎么用似然比检验的 ...
UA MATH566 统计理论一个例题 Hierarchical Model的统计性质
UA MATH566 统计理论一个例题 Hierarchical Model的统计性质 Y∣X∼Pois(X)Y|X \sim Pois(X)Y∣X∼Pois(X) and X∼Γ(α,β)X \s ...
UA MATH566 统计理论 Bayes统计基础
UA MATH566 统计理论 Bayes统计基础共轭分布基于后验概率预测新的观测值 Bayes统计思想的基础是Bayes公式 P(Ci∣A)=P(A,Ci)P(A)=P(A∣Ci)P(Ci)∑i ...
UA MATH566 统计理论位置-尺度参数族
UA MATH566 统计理论位置-尺度参数族对位置-尺度参数族做位置-尺度变换对正态分布做位置-尺度变换对Gamma分布做位置-尺度变换对指数分布做位置尺度变换对均匀分布做位置-尺度变换 ...
UA MATH566 统计理论截断数据
UA MATH566 统计理论截断数据 Truncated Left-Trancated Right-Truncated 一个例子:双截断正态分布双截断正态分布的完备最小充分统计量这一讲介绍随机 ...
UA MATH566 统计理论10 Bootstrap简介
UA MATH566 统计理论10 Bootstrap简介 Bootstrap是用来替代基于CDF的一些统计计算的手段:当真实的CDF(记为F∈FF \in \mathbb{F}F∈F,F\mathb ...
UA MATH566 统计理论8 置信区间简介
UA MATH566 统计理论8 置信区间简介例1:单个正态总体均值的置信区间(方差已知) 例2:单个正态总体均值的置信区间(方差未知) 假设检验与置信区间的关系例3:根据单边检验导出单边置信区间 ...
UA MATH566 统计理论5 假设检验简介
UA MATH566 统计理论5 假设检验简介 Neyman-Pearson Lemma 一个例子构造拒绝域分析检验的势 ROC曲线这一讲根据最简单的一类假设检验介绍假设检验的思想.假设θ0,θ ...

UA MATH566 统计理论7 还有一个例子：推导卡方检验

UA MATH566 统计理论7 还有一个例子：推导卡方检验

均值已知

均值未知

UA MATH566 统计理论7 还有一个例子：推导卡方检验相关推荐

最新文章

热门文章