Cramér-Rao bound 克拉美罗界(转)
转自 https://www.cnblogs.com/rubbninja/p/4512765.html
各种研究领域(包括无线定位方向)都会碰到参数估计的问题,这时常常会看到克拉美罗界 (Cramér–Rao bound) 这个东西。很多随机信号的书都会介绍什么是克拉美罗界,但初学者学起来往往很吃力,本文从直观上简单讨论一下克拉美罗界的各个方面。
什么是参数估计问题
假设一种最简单的情况:
一个物理量为,我们使用某种方式去观测它,观测值为,由于存在噪声,此时,为高斯噪声,。
这种情况下,我们自然会直接使用观测值去估计,这时就会存在估计的误差,直观地理解,噪声的方差越大,估计就可能越不准确。
为什么要讨论克拉美罗界
讨论克拉美罗界就是为了使用这个标准来衡量无偏估计量的性能。
采用上面的方式,使用去估计,这个估计值会在真实值附近波动(看作随机变量)。我们需要使用一些标准来衡量这种估计的好坏,一个标准是估计值的平均,这里的这个估计量是无偏估计量。另一标准是这个估计值波动的剧烈程度,也就是方差。上面这个问题中,克拉美罗界就等于这个方差。
可是为什么不直接讨论方差而要去计算克拉美罗界呢,因为方差是针对某一种特定的估计量(或者理解为估计方式)而言的,在上面的例子中,方差是估计量的方差()。对于稍微复杂一点点的问题,对的可以有各种不同的估计量,它们分别的方差是不同的。显然,对于无偏估计量而言,方差越小的估计方式性能越好,但是这个方差有一个下界,就是我们的克拉美罗界。
直观地理解克拉美罗界
克拉美罗界本身不关心具体的估计方式,只是去反映:利用已有信息所能估计参数的最好效果。
还是上面那个参数估计问题,当我们观察到的时候,我们可以知道真实值的概率密度分布是以为均值,为方差的正态分布,即:
上图给出了两个似然函数的例子,直观地看,似然函数的“尖锐”性决定了我们估计位置参数的精度。这个“尖锐”性可以用对数似然函数峰值处的负的二阶导数来度量,即对数似然函数的曲率(对数似然函数就是在似然函数的基础山加一个自然对数,这样有利于计算)。计算过程我就不写了,有兴趣的可以自己算算,算完之后结果为:,这里正好是噪声的方差的倒数,也就是噪声越小,对数似然函数越尖锐。
所以,可以这样理解,似然函数的“尖锐”程度的倒数(即对数似然函数的二阶导的倒数),就是克拉美罗界。
不同的估计量(估计方式)是什么意思
让我们来分析一个稍微复杂一点点的参数估计问题:
一个物理量为,我们使用某种方式去观测它,观测值为和,这是两个不同时刻的观测结果,一样的高斯噪声。
这种情况下,我们要估计,正常人可能会采用估计量,即前后两个观测的平均,也有人可能觉得这样计算量有点大,于是总是直接使用去估计,也有人觉得第二个观测值可能会受到系统影响而不准确,他更相信前面的观察值,于是总采取这样的估计量。这三个估计量都是无偏的:
估计量的方差为:
估计量的方差为:
估计量的方差为:
比较上面的三种估计量,第一种的方差最小,它的估计效果较好。实际上,如果第二个观测值真的不太准确,也就是后一个高斯噪声较大,这样的话也许第二个估计量就比较合适了。
因此,不同的考虑方式可以产生各种不同的估计算法,这些不同的估计量都是在真实值附近波动的随机变量(有的有偏,有的无偏),它们分别的方差也是不一样的,但是数学家们证明了:任何无偏估计量的方差必定大于等于克拉美罗界。
克拉美罗界的基本计算
我们假设这两次观察互相独立,仅受相同的高斯白噪声影响,那么根据已有的信息,真实值的似然函数为两个正态的概率密度分布相乘:(注意:pdf实际上应该再进行归一化处理,但是我们之后使用对数似然函数,乘不乘归一化系数都无所谓,对数之后变成了常数,求导的时候就没了)
与之前一样,可以计算出对数似然函数的二阶导数,得到结果为:。实际上,当观测数目为的时候,这个值将会是。也就是说,使用多个观测值的信息时,对数似然函数越“尖锐”。这个二阶导数(曲率)更一般的度量是(下面用来表示要估计的参数):
它度量了对数似然函数的平均曲率(很多情况下曲率与的值有关,取数学期望使得它仅为的函数),被称为数据的Fisher信息,直观地理解,信息越多,下限越低,它具有信息测度的基本性质(非负的、独立观测的可加性)。一般来说,Fisher信息的倒数就是克拉美罗界了,任何无偏估计量的方差满足:
大多情况下,这个不等式的右边(克拉美罗界)是的函数。
克拉美罗界的标准定义
(定理:Cramer-Rao下限----标量参数)
假定PDF 满足“正则”条件(对于所有的):
其中数学期望是对 求取的。那么,任何无偏估计量的方差必定满足:
其中导数是在的真值处计算的,数学期望是对求取的。而且,对于某个函数和,当且仅当
时,对所有达到下限的无偏估计量就可以求得。这个估计量是,它是MVU估计量(最小方差无偏估计),最小方差是。
总结
估计一个参数,根据已有信息得到了似然函数(或者pdf),这个pdf的“尖锐”程度的倒数(即对数似然函数的二阶导的倒数)就是克拉美罗界。克拉美罗界的计算不依赖具体的估计方式,它可以用来作为一个衡量估计方式好坏的标准,即估计量的方差越靠近克拉美罗界,效果越好。
(似然函数是什么?)
(注:本文主要参考《统计信号处理基础-估计与检测理论》-国外电子与通信教材系列)
Cramér-Rao bound 克拉美罗界(转)相关推荐
- 【学习笔记】Cramer-Rao Lower Bound 克拉美-罗界
Cramér–Rao bound 参考来源: CSDN:克拉美-罗下界(Cramer-Rao Lower Bound,CRLB) CSDN:详解统计信号处理之克拉美罗界 Cramer-Rao下界 TU ...
- 详解统计信号处理之克拉美罗界
各种研究领域(包括无线定位方向)都会碰到参数估计的问题,这时常常会看到克拉美罗界 (Cramér–Rao bound) 这个东西.很多随机信号的书都会介绍什么是克拉美罗界,但初学者学起来往往很吃力,本 ...
- 详解统计信号处理之 克拉美罗界
各种研究领域(包括无线定位方向)都会碰到参数估计的问题,这时常常会看到克拉美罗界 (Cramér–Rao bound) 这个东西.很多随机信号的书都会介绍什么是克拉美罗界,但初学者学起来往往很吃力,本 ...
- 非随机参数估计的克拉美罗界(Cramer-Rao Bounds)
更新日志: 2020.10.24:发布 目录 1 简介 2 克拉美罗界的定义 3 示例 3.1 理论案例 3.2 实验验证 4 证明 4.1 不等式的证明 4.2 等号成立条件 4.3 补充性质 5 ...
- 克拉美罗界(CRLB)推导
克拉美罗界(CRLB)推导 在推导CRLB之前,我们先了解一下Probability Density Function (PDF-概率密度函数),我们在估计一个参数的准确度时,所有可能的信息都通过观测 ...
- 有偏估计、无偏估计、正则条件、克拉美罗下界
一.正则条件 正则条件是指在陈述某一个定理时,常常需要限定这些定理的使用范围.如果超出这个范围,则会导致定理所描述的内容不成立.用于限定这个使用范围的限定条件被称为"正则条件" ...
- 克拉美-劳界(Cramér-Rao Bound,CRB)及其修正型
1.克拉美-劳下界(Cramér-Rao Bound,CRB) CRB描述了一个无偏估计器的最小方差(或均方误差),即在给定某些数据的情况下,无偏估计器的方差不能低于CRB.CRB是一种理论上的下 ...
- 克拉美-罗下界(Cramer-Rao Lower Bound,CRLB)
1. 估计量的衡量标准 对于参数估计问题,目前存在着很多估计算法.那么如何去衡量一个估计器(estimator, 也称估计量或估计算法)的性能,我们主要考量以下三个方面 无偏性(unbiased).对 ...
- 克拉美罗下界 CRLB的计算
克拉美罗下界 Cramer-Rao Lower Bound (CRLB)可以用于计算无偏估计中能够获得的最佳估计精度,因此经常用于计算理论能达到的最佳估计精度,和评估参数估计方法的性能(是否接近CRL ...
最新文章
- 夺冠!中国队国际奥数大赛再称雄,满分选手已保送清华姚班,“中国二队”并列第一...
- python英语单词-干货|3天教你掌握Python必备常用英语词汇
- TensorFlow Keras 官方教程
- numpy.random.rand、numpy.random.randn
- 安装cloudermanager时出现Acquiring installation lock问题(图文详解)
- Linux入门之常用命令(15) lsof
- spring mvc 返回html 乱码,解决springmvc使用ResponseBody注解返回json中文乱码问题
- 第一阶段SCRUM冲刺 08
- 实用的java代码生成器,开箱即用(基于mybatisplus的AutoGenerator)
- 杨振宁讲(经典)数学笑话兼论数学和物理的关系
- Mac安装sqlmap【亲测有用】
- At present, Huawei has two more important
- matlab中solver函数_Matlab中solve函数用法详解
- Java项目集成工作流引擎解决方案及实例展示(前后分离版)
- elasticsearch7.12 agg分组聚合分页同段同句查询
- uniapp中自定义showToast样式
- MySQL8.0安装与基于二进制日志文件位置的主从复制
- php计算问卷分数,php 问卷调查结果统计
- 条件概率、全概率公式和贝叶斯公式
- 产品经理的战场:需求评审会