sufficient statistic 充分统计量

对于一个未知分布而言，充分统计量sufficient statistic，顾名思义，就是当知道这些量的时候，这个分布就可以确定了，所以这些量才有sufficient的意思，足够的意思。有了这些量，即便丢失掉样本的其他信息也对于估计未知的分布而言也是无关紧要了，所以那些量才能成为是sufficient的。维基上的解释最经典，没有任何其他来自同样样本的统计量能够比充分统计量提供更多关于未知参数的信息(我是这么理解的)。原句如下：In statistics, a sufficient statistic is a statistic which has the property of sufficiency with respect to a statistical model and its associated unknown parameter, meaning that "no other statistic which can be calculated from the same sample provides any additional information as to the value of the parameter".

比如，对于一些来自未知分布的样本，对于参数估计而言，就是可以把这个未知的分布表示成p(theta)的形式，样本的分布就可以表示为p(x|theta); 而充分统计量，假设为q，它的存在意义是当我们比较难以推导出theta时，如果由这些样本能比较容易的决定q，那此时p(x|theta)就等同于p(x|q)，我们就由比较容易得出的充分统计量来代替了原来难以直接推导出的参数q。

对于大家熟知的正态分布而言，如果有很多样本抽样自正态分布，那我们知道当确定了分布的均值和方差后，对于这些样本的很多信息就都可以忽略了，比如他们出现的先后顺序，比如有些样本可能比其他样本的值大很多。这个时候可以理解为均值和方差就是正态分布的充分统计量，就是sufficient 统计量。

(更多更详细的介绍，可以参考维基百科：http://en.wikipedia.org/wiki/Sufficient_statistic)

理解了上面的概念，就不难理解说dirichlet distribution有有限维的sufficient statistic有什么好处了。

转自：http://blog.sina.com.cn/s/blog_5033f3b40101g2ur.html

sufficient statistic 充分统计量相关推荐

Sufficient Statistic (充分统计量)
文章目录定义充分统计量的判定最小统计量例子 U[0,θ]U[0, \theta]U[0,θ] U[α,β]U[\alpha, \beta]U[α,β] Poisson Normal 指数分布 ...
Mathematics English Vocabulary (Cited)
一般词汇数学 mathematics, maths(BrE), math(AmE) 公理 axiom 定理 theorem 计算 calculation 运算 operation 证明 prove ...
数学专业英语词汇英汉对照
数学专业英语词汇英汉对照 A absolute value 绝对值 accept 接受 acceptable region 接受域 additivity 可加性 adjusted 调整的 altern ...
常见的统计术语翻译（转帖）
Absolute deviation, 绝对离差 Absolute number, 绝对数 Absolute residuals, 绝对残差 Acceleration array, 加速度立体阵 Ac ...
一文了解什么是指数族分布
前言指数分布族是一系列分布的统称,包含连续和离散的相关分布.例如,正态分布(Gaussian).泊松分布(Poisson).二项分布(Bernoulli).指数分布(exponential).Gam ...
SLAM：现在，未来和鲁棒感知时代
文章目录 SLAM 研究的时代划分 the classical age (1986 - 2004) the algorithmic-analysis age (2004 - 2015) the rob ...
主成分分析PCA(principal component analysis)原理
PCA在很多方面均有应用,但是之前没有仔细探究过,最近看了一些博客和论文,做一下总结. 主成分分析(Principal Component Analysis,PCA), 是一种统计方法.通过正交变换将 ...
机器学习（二）——广义线性模型、生成学习算法
http://antkillerfarm.github.io/ 逻辑回归(续) 注:Ronald Aylmer Fisher,1890-1962,英国人,毕业于剑桥大学.英国皇家学会会员.尽管他被称作 ...
最大似然估计_状态估计的基本概念（2）最大似然估计和最大后验估计
(1)最大似然估计ML和最大后验估计MAP 最大似然估计量非贝叶斯方法通常是最大化似然函数: 其中被称为的最大似然估计量,它是的函数. 最大后验估计量估计随机参数的通常方法是最大化后验分布函 ...

sufficient statistic 充分统计量

sufficient statistic 充分统计量相关推荐

最新文章

热门文章