统计学中的自由度 Degrees of freedom (statistics)

拾人牙慧：

wiki：In statistics, the number of degrees of freedom is the number of values in the final calculation of a statistic that are free to vary.
简单说,n个样本，如果在某种条件下，样本均值是先定的 (fixed)，那么只剩 n-1 个样本的值是可以变化的。
统计学上的自由度是什么呢？其实就是我们在观察的随机变量取值的向量空间的维度。
本质上，自由度是做一个估计（推测）时，所拥有的独立信息（证据）的数量。

统计学中的average和mean是两种不同的概念。前者是基于一定数量的样本通过求平均值得出的summary statistics,是样本统计量(Sample statistics)的样本均值；后者是作为总体参数（Population parameter）的总体均值。后者求解往往需要先知道这个population服从于什么分布（离散型分布or连续型分布）。但现实生活当中我们无法从小样本中得知这个总体是服从什么分布的，只能用算数平均值来代替。这样一来,补充维慕的回答，当你知道样本总和（n*样本均值）时，只知道其中n-1个值就可以推出剩下的一个是多少了，也就是说只有一个是不自由的。

degree of freedom是一个借用物理学的术语，不是一个很适合统计学的名词，毕竟把测度空间里的随机变量类比成物理空间里的constrained particles实在不是什么绝妙的思路。那么问题来了，统计推断中这个constraint又是从哪里来的呢？从预测值出发可以类似地定义出一套"degree of freedom"，我们也可以看出，其实这个“自由度”是模型的“自由度”。
物理上自由度和约束是对应存在的，有了约束就会少了相应的自由度。统计学里样本Xi每个都是独立的，于是在无任何约束的情况下，N个样本所具有的相应的自由度为N。统计学上我更倾向于把自由度理解为：对参数无偏估计时，所需要系统的自由度的个数，即该系统有多少自由度，就除以多少从而作为该参数的无偏估计量。以E(X)的估计量u为例，可以写作Xi求和再除以自由度N，因为在这个系统里Xi无约束条件，因此EX的无偏估计u可以这么写。

统计学中的自由度 Degrees of freedom (statistics)相关推荐

统计学中关于自由度的详细解释以及求平均值为什么消耗自由度1
首先我们要了解自由度是什么自由度在本科教学中一般都不会过度涉及,因为它给老师和学生都带来了很大的困扰,它本身也有一些历史遗留问题,有很多人给出了很多不同的出发点和解释,比如1946年"自由 ...
独家 | 浅析机器学习中的自由度
作者:Jason Browniee 翻译:张若楠校对:林鹤冲本文长度为2800字,建议阅读8分钟本文介绍了自由度的概念,以及如何判断统计学模型和机器学习模型中的自由度. 标签:数据处理自由度是 ...
浅析机器学习中的自由度
作者:Jason Browniee 翻译:张若楠校对:林鹤冲本文长度为2800字,建议阅读8分钟本文介绍了自由度的概念,以及如何判断统计学模型和机器学习模型中的自由度. 标签:数据处理自由度是 ...
t检验自由度的意义_统计学中自由度的理解和应用
数理统计研究问题的方式,不是对所研究对象的全体(称为总体)进行观察,而是抽取其中的部分(称为样本)进行观察获得数据(抽样),并通过这些数据对总体进行推断.数理统计方法具有"部分推断整体&qu ...
统计学中常用专用名词中英对照
最近接触了统计学的一些基础,由于看的资料是英文的,特意整理了部分专用名词的中英对照,以便理解. 英文中文备注 population 总体 N/A sample 样本 N/A population ...
统计计量 | 统计学中常用的数据分析方法汇总
来源:数据Seminar本文约10500字,建议阅读15+分钟统计学中常用的数据分析方法汇总. Part1描述统计描述统计是通过图表或数学方法,对数据资料进行整理.分析,并对数据的分布状态.数字特 ...
耿直：统计学中的因果推断问题（Causal Inference）
来源:量化研究方法本文约3000字,建议阅读5分钟. 数学科学学院耿直老师为你介绍统计学中的因果推断问题. 今天,小编带来了数学科学学院耿直老师关于统计学中因果推断问题的介绍.文中介绍了几种分析因果 ...
python 计量经济 35岁工作_Python在计量经济与统计学中的应用
Python for Econometrics and Statistics (Python在计量经济与统计学中的应用) [点击链接进入主页].这套笔记将重点介绍Python在计量经济学与统计分析中的 ...
利用EXCEL函数LINEST进行统计学中的回归分析
文章来源:实战统计学作者:梁斌炜本文介绍统计学中的一元和多元线性回归,并通过EXCEL自带的统计函数LINEST.INDEX进行手工计算,再通过EXCEL数据分析工具包进行自动计算. 由于很多复杂 ...

统计学中的自由度 Degrees of freedom (statistics)

统计学中的自由度 Degrees of freedom (statistics)相关推荐

最新文章

热门文章