克拉美罗下界 Cramer-Rao Lower Bound (CRLB)可以用于计算无偏估计中能够获得的最佳估计精度,因此经常用于计算理论能达到的最佳估计精度,和评估参数估计方法的性能(是否接近CRLB下界)。这里选择上传了几个讲解非常清楚的PPT:http://download.csdn.net/download/u013701860/10006266

总的来说,CRLB的计算为以下几个步骤:

1,构建N的观测量x[n]与估计参数θ的联合概率密度函数 p(X ; θ)=Π p(x[n] ; θ),然后求对数,得到对数似然函数

2,用对数似然函数对参数θ求二阶导数

3,如果结果依赖于x[n],则求期望,否则跳过。这个期望就是费雪信息

连续函数则为

注意这里的期望是仅仅是对每个x[n]求取的,同时该期望不是求这N个观测量的平均,而是理论期望。例如,如果x[n]为依赖于n的正太分布N(kn , σ2),那么x[n]的期望就是kn。如果不知道期望,应该也可以就用x[n]近似,因为其期望也是其若干采样的平均。

4,求费雪信息的倒数即可得到CRLB下界

实际的CRLB可能跟参数θ本身有关,那么则需要先知道(预估)θ(仿真的时候一般知道实际参数值,实际实验应该只能先估计θ),再计算其预估精度CRLB。

另外,有的函数导数比较复杂,很难求导,这样可以用数值方法求取一阶二阶导数:

举个例子(自创)

求定位成像参数估计得最佳精度

该图案为相机拍摄到的单分子成像图案,可以用一个高斯函数近似其强度分布(点扩散函数PSF)。只考虑泊松分布的散粒噪声(shot noise)。

总共有5个参数:A(峰值强度),x0, y0 (高斯函数横向和纵向的位置),σ(PSF宽度),B(背景强度)。

推导过程如下(字写得太丑,请见谅):

这里二阶导基本上只能用数值微分来求解。

后续的优化是用精确的PSF,而不是高斯的PSF,后续则完全一样。当然还可以考虑读出噪声。

克拉美罗下界 CRLB的计算相关推荐

  1. 克拉美-罗下界(Cramer-Rao Lower Bound,CRLB)

    1. 估计量的衡量标准 对于参数估计问题,目前存在着很多估计算法.那么如何去衡量一个估计器(estimator, 也称估计量或估计算法)的性能,我们主要考量以下三个方面 无偏性(unbiased).对 ...

  2. 有偏估计、无偏估计、正则条件、克拉美罗下界

    一.正则条件   正则条件是指在陈述某一个定理时,常常需要限定这些定理的使用范围.如果超出这个范围,则会导致定理所描述的内容不成立.用于限定这个使用范围的限定条件被称为"正则条件" ...

  3. 非随机参数估计的克拉美罗界(Cramer-Rao Bounds)

    更新日志: 2020.10.24:发布 目录 1 简介 2 克拉美罗界的定义 3 示例 3.1 理论案例 3.2 实验验证 4 证明 4.1 不等式的证明 4.2 等号成立条件 4.3 补充性质 5 ...

  4. 【学习笔记】Cramer-Rao Lower Bound 克拉美-罗界

    Cramér–Rao bound 参考来源: CSDN:克拉美-罗下界(Cramer-Rao Lower Bound,CRLB) CSDN:详解统计信号处理之克拉美罗界 Cramer-Rao下界 TU ...

  5. 详解统计信号处理之克拉美罗界

    各种研究领域(包括无线定位方向)都会碰到参数估计的问题,这时常常会看到克拉美罗界 (Cramér–Rao bound) 这个东西.很多随机信号的书都会介绍什么是克拉美罗界,但初学者学起来往往很吃力,本 ...

  6. 详解统计信号处理之 克拉美罗界

    各种研究领域(包括无线定位方向)都会碰到参数估计的问题,这时常常会看到克拉美罗界 (Cramér–Rao bound) 这个东西.很多随机信号的书都会介绍什么是克拉美罗界,但初学者学起来往往很吃力,本 ...

  7. Cramér-Rao bound 克拉美罗界(转)

    转自 https://www.cnblogs.com/rubbninja/p/4512765.html 各种研究领域(包括无线定位方向)都会碰到参数估计的问题,这时常常会看到克拉美罗界 (Cramér ...

  8. 克拉美罗界(CRLB)推导

    克拉美罗界(CRLB)推导 在推导CRLB之前,我们先了解一下Probability Density Function (PDF-概率密度函数),我们在估计一个参数的准确度时,所有可能的信息都通过观测 ...

  9. 现代信号处理——参数估计理论(Fisher信息与克拉美罗(Cramer-Rao)下界)

    假定随机信号x(t)隐藏有真实参数θ,根据信号的一次实现x,可以得到θ的一个估计子.一个自然会问的问题是,这一估计子是否是最优的呢?这个问题实际上可等价叙述为:在真实参数θ给定的情况下,根据信号实现值 ...

最新文章

  1. 关于VB中没有VSS菜单问题
  2. [GWCTF 2019]babyvm
  3. ADO 数据类型转换表[转]
  4. 在Ubuntu8.04上编译安装QT4(Application Development)开发环境
  5. php iis ajax 无效,IIS7中Ajax.AjaxMethod无效的原因及解决方法
  6. mysql 可以承受多少人_多少人曾羡慕“双 11”时的爆单 可知谁在承受库存积压的风险...
  7. 为什么一放假家里的wifi就变卡?都9102年了,还有人蹭网?
  8. 《利用Python》进行数据分析:Numpy基础8 花式索引
  9. vmlinux_32.lds.S
  10. 【echart】常用术语
  11. Elasticsearch.service failed after enable elasticsearch security features
  12. NetBeans的下载与安装
  13. matlab中Ctphi什么意思,Matlab在物理上的应用举例
  14. cisco设备模块命名规则
  15. IsFinite (m_CachedRange.first) IsFinite (m_CachedRange.second) 的解决参考
  16. python opencv入门 光流法(41)
  17. 向量运算 与 JavaScript
  18. python—二次规划求解
  19. 程序员员为什么总是要加班呢?不加班会被开除吗?
  20. Java 9 - JShell介绍

热门文章

  1. BackTrack5 PIN码破解无线路由器
  2. ubuntu16.04 系统下用Devstack部署OpenStack
  3. java数据库DDL语法,Java教程:DDL之操作数据库
  4. PHP计算德摩根定律,德·摩根定律详解
  5. NOMA的FTPC(FTPA)功率分配
  6. centos6.9 卸载mysql_CentOS 6.9卸载MySQL并安装MariaDB的方法
  7. (ICASSP 18)DEEP RESIDUAL LEARNING FOR SMALL-FOOTPRINT KEYWORD SPOTTING(重点)
  8. 编写一个矩形rectangle 类,有数据成员长len 和宽wid,构造函数rectangle (int,int),和友元函数.
  9. Flink集成数据湖之实时数据写入iceberg
  10. 猴子吃桃子问题(C语言)