估计理论(5)：BLUE的定义(6.3)

摘自Steven M. Kay，《Fundamentals of Statistical Signal Processing: Estimation Theory》。
在实际应用中，经常会出现MVU估计量不存在的情况。例如，我们可能不知道数据的PDF，甚至无法为它假设一个模型。在这种情况下，我们以前依赖CRLB和充分统计理论的方法就不再适用。即使PDF已知，后一种方法也不能保证能够得到MVU估计量。
由于我们无法确定最优MVU估计量，我们有理由求助于次优估计量。但当我们这样做时，我们永远不知道我们可能损失了多少性能（因为MVU估计量的最小方差是未知的）。然而，如果次优估计的方差可以确定，并且它符合我们的系统规范，我们就可以认为用它来解决当前问题是足够的。如果它的方差太大，那么我们将需要研究其他次优估计，希望找到符合我们规范的估计。
一种常见的方法限定估计在数据中是线性的，然后找到无偏且方差最小的线性估计，称为最佳线性无偏估计（BLUE）。如下所述，只需知道PDF的一阶、二阶矩就可以确定BLUE。因为不需要完全了解PDF，所以BLUE通常更容易实现。

这章介绍，如何根据PDF的一阶、二阶矩，来确定BLUE，作为次优解。这里的BLUE是对于数据样本来说是线性的。

6.3 BLUE的定义

对于数据集x[0],x[1],…,x[N−1]x[0],x[1],\ldots,x[N-1]x[0],x[1],…,x[N−1]，其PDF为p(x;θ)p({\bf x};\theta)p(x;θ)与未知参数θ\thetaθ有关。BLUE估计表达如下
θ^=∑n=0N−1anx[n](6.1)\tag{6.1} \hat \theta=\sum_{n=0}^{N-1}a_nx[n] θ^=n=0∑N−1anx[n](6.1)显然这里θ^\hat \thetaθ^为线性的，是x\bf xx的线性组合。通过选择不同系数ana_nan，就可以得到不同的估计。而其中BLUE估计，应为无偏且具有最小方差。
下面我们来讨论BLUE最优性。

只有当MVU估计是线性的时候，BLUE才是最优的（即为MVU估计）。
如图6.1(a)所示，对于WGN中的直流量估计(Example 3.3)，由于MVU估计是线性的,因此BLUE就是MVU估计。在图6.1(b)中，对于均匀分布噪声的估计(Example 6.8)，由于MVU估计不是线性的，因此BLUE估计（样本均值）就不是MVU估计。

BLUE有可能完全不可用。
例如，我们考虑对WGN功率的估计。我们知道MVU估计(Example 3.6)
σ^2=1N∑n=0N−1x2[n]\hat \sigma^2=\frac{1}{N}\sum_{n=0}^{N-1}x^2[n] σ^2=N1n=0∑N−1x2[n]对于数据来说是非线性的。如果我们强制估计为线性的(prob 6.1)，则有
σ^2=1N∑n=0N−1anx[n]\hat \sigma^2=\frac{1}{N}\sum_{n=0}^{N-1}a_nx[n] σ^2=N1n=0∑N−1anx[n]其期望值为
E(σ^2)=1N∑n=0N−1anE(x[n])=0{\rm E}(\hat \sigma^2)=\frac{1}{N}\sum_{n=0}^{N-1}a_n{\rm E}(x[n])=0 E(σ^2)=N1n=0∑N−1anE(x[n])=0显然我们找不到无偏估计。尽管BLUE在这个问题中不合适，但如果我们把数据变换为y[n]=x2[n]y[n]=x^2[n]y[n]=x2[n]，则可以得到估计为
σ^2=1N∑n=0N−1any[n]=1N∑n=0N−1anx2[n]\hat \sigma^2=\frac{1}{N}\sum_{n=0}^{N-1}a_ny[n]=\frac{1}{N}\sum_{n=0}^{N-1}a_nx^2[n] σ^2=N1n=0∑N−1any[n]=N1n=0∑N−1anx2[n]根据无偏估计的要求，有
E(σ^2)=1N∑n=0N−1anσ2=σ2.{\rm E}(\hat \sigma^2)=\frac{1}{N}\sum_{n=0}^{N-1}a_n\sigma^2=\sigma^2. E(σ^2)=N1n=0∑N−1anσ2=σ2.

估计理论(5)：BLUE的定义(6.3)相关推荐

测试信号分析-估计理论的基本原理
估计理论的基本原理随机信号序的统计量估计随机信号序列 x(n),有限长度均值.相关函数.功率谱密度函数的估计式为 m ^ = 1 N ∑ x ( n ) \hat m = \frac{1}{N} ...
滤波估计理论（一）——贝叶斯滤波
滤波估计理论(一)--贝叶斯滤波(Bayesian Filtering) 估计问题的建模状态空间模型概率模型贝叶斯估计方法批处理贝叶斯估计预测,滤波还是平滑? 贝叶斯滤波状态预测量测更新 ...
【检测与估计理论（Detection and Estimation Theory）】一、估计简介（Introduction of Estimation）
[检测与估计理论(Detection and Estimation Theory)]一.估计简介(Introduction of Estimation) 估计理论的应用估计问题估计量的性能评估参 ...
NormalEstimation法向量估计理论和代码---PCL源码笔记
NormalEstimation 确定表面一点法线的问题近似于估计临近点所拟合表面的一个相切面法线的问题,因此转换过来以后就变成了一个最小二乘法平面拟合的问题.因此估计表面法线的解决方案就变成了分析一 ...
信号检测与估计理论_论文解读 | 利用脑功能连接实现疲劳驾驶检测
©PaperWeekly 原创 · 作者|张玮玮学校|东北大学硕士生研究方向|脑电情绪识别论文标题:Driving Fatigue Recognition with Functional Con ...
PCL：点云数据基于法线的边界提取(从最初的法线估计理论推导到最终的边界提取)
该边界提取采用PCL库里边的方法,基于法线估计来实现的边界检测与提取: 首先从原始点云上计算出法线,再由法线结合数据估计出边界.(这样解释还是特别抽像吧) ------------法线求解:(平面的法 ...
信号检测与估计理论 pdf_目标检测的性能上界讨论
加入极市专业CV交流群,与6000+来自腾讯,华为,百度,北大,清华,中科院等名企名校视觉开发者互动交流!更有机会与李开复老师等大牛群内互动! 同时提供每月大咖直播分享.真实项目需求对接.干货资讯汇总 ...
信号检测与估计理论 pdf_CVPR2020|行人检测与重识算法推荐论文源码大盘点
本文收集了CVPR 2020 一些行人检测与人员重识别优秀论文,我们知道在视频监控相关领域这些技术方向可以得到很好得广泛应用. 行人检测及人群计数从内容来看主要解决行人与行人.行人与物体间的遮挡透视, ...
估计理论(3)：充分统计量的完备性
文章目录 1.CRLB [定理3.1:标量参数的CRLB] 2.线性模型 [定理4.1:线性模型的最小方差无偏估计] 3.一般最小方差无偏估计 [定理5.2:Rao-Blackwell-Lehmann ...
【 Notes 】Best linear unbiased estimator(BLUE) approach for time-of-arrival based localisation
目录 Abstract Introduction BLUE-based positioning BLUE-LSC algorithm BLUE-LLS algorithm Abstract A com ...

估计理论(5)：BLUE的定义(6.3)

6.3 BLUE的定义

估计理论(5)：BLUE的定义(6.3)相关推荐

最新文章

热门文章