【数学】从零开始学统计

从零开始学统计

研一在读，因为本科没有什么扎实的数学基础，现在学习专业课时举步维艰。虽然从前学过一些概率论与数理统计，但是掌握得并不到位，约等于没学过。开一个博客记录一下学习统计学时需要补充的一些前置知识，以及学习统计学时的问题与思考。写这段话时其实学期已经过半，期末考试也近在眼前，所以会直接从目前的进度开始记录，之后再一点一点补齐。另外，由于课程是英文授课，文中对课程学习内容的记录主要也用英文。
主要参考教材：《Statistical Inference》第2版。

Chapter 8 Hypothesis Testing

8.3 Methods of Evaluating Tests

8.3.2 Most Powerful Tests

概念1：UMP - Uniformly Most Powerful

引用何志坚老师的《数理统计讲义》(https://bookdown.org/hezhijian/book/test.html#ump-1)

UMP意味着在犯第一类错误的概率不超过(\alpha)的前提下，犯第二类错误的概率最小。无偏性是指如果备选假设成立，拒绝原假设的概率不小于显著性水平(\alpha). 注意到此时检验的结果正确，该概率不应小于犯第一类错误的概率。下节将给出如何构造UMP的检验方法。

概念2：Neyman-Pearson 引理

概念3：MLR - Monotone Likelihood Ratio

再次引用何志坚老师的《数理统计讲义》：指数族满足MLR，可以直接应用

概念4：Karlin-Rubin定理

继续引用何志坚老师的《数理统计讲义》：

8.3.4 p-Values

概念1：p-Value

引用何志坚老师的《数理统计讲义》：

第8章相关习题

计算Y的概率密度函数
参考罗老师的博客：https://www.q-math.com/?p=1861
先根据X的概率密度函数求出其分布函数，然后根据Y与X的函数关系得到Y的分布函数，之后求导得到Y的概率密度函数。
构造似然比统计量
参考知乎博主slfff：https://zhuanlan.zhihu.com/p/101163925
判断拒绝域形态，对构建的似然比检验函数求导
带入原假设的α检验
计算Type II Error: 当备择假设为真时，点落在拒绝域补集的概率。

6. 先计算似然比统计量
7. 根据α，确定界限c：原假设为真，但拒绝原假设。在这里当x=4时，α的概率累计到0.4，因此取c = 4。
8. Type II Error 计算方式同上一题

(a) 根据beta分布的概率密度函数计算power function，power function就是拒绝域的概率，它的size是原假设基础上power function能取得的最大值。
(b) （1）构建似然比检验函数（大于k）；（2）通过power function的size = α 得到k和α之间的关系，然后带进（1），得到the most powerful α level test。
(c） Composite Hypothesis：（1）先证明有MLR（通过证明似然比单调）；

（1）方法一：构建似然比检验函数，证明单调性，则有MLR。
（2）方法二：写成指数族标准形式，证明 w ( θ ) w(\theta) w(θ)单调，则有MLR。

(a) 同8.23（c）;
(b)将概率不等式左边（包含x的项）化为标准值z，相应的对右边进行标准化，得到一个新的标准值，然后查表进行计算。

用定义做。（计算的概率为当前观测到的值与其它更大W(x)的值的和。）

Chap 9 Interval Estimation

9.1 Introduction

第9章相关习题

注意区分值落在区间中的probability和confidence interval的probability。

（1）先求MLE;(2)将MLE代入似然检验比函数；（3）计算求解（1-α的区间就是原来区间的补集）。

20220410更新：统计之路漫漫~上学期的课程早已结课，需要用到统计的地方却还有很多。之后再开一个概率论和统计一起复习的帖子吧！