一.递推最小二乘法（RLS）算法

1.1 以N阶线性系统起点，

1.2 动机：

1.3 目标函数的定义：

1.3.1 基于指数加权定义目标函数：

1.3.2 后验与先验误差对比：

1.3.2 最小化目标函数J（w）：

1.4 求解滤波器系数

1.4.1 推导自相关矩阵和相关向量的时间递推公式：

1.4.2 自相关矩阵时间递推公式的优化：

1.4.3 滤波器系数w（n）的时间递推公式：

1.5 RLS算法的执行流程：

1.6 RLS vs LMS

Table of Contents

- 一.递推最小二乘法（RLS）算法

- 1.1 以N阶线性系统起点，

- 1.2 动机：

- 1.3 目标函数的定义：

- 1.3.1 基于指数加权定义目标函数：

- 1.3.2 后验与先验误差对比：

- 1.3.2 最小化目标函数J（w）：

- 1.4 求解滤波器系数

- 1.4.1 推导自相关矩阵和相关向量的时间递推公式：

- 1.4.2 自相关矩阵时间递推公式的优化：

- 矩阵求逆引理：

- R逆的时间递推公式：

- 1.4.3 滤波器系数w（n）的时间递推公式：

- 1.5 RLS算法的执行流程：

- 1.6 RLS vs LMS

一.递推最小二乘法（RLS）算法

1.1 以N阶线性系统起点，

1.2 动机：

MMSE是一个均匀加权的最优化问题，即每一个时刻的误差信号对目标函数的贡献一样

对于非平稳信号，需要调整目标函数的定义方式，使得越近的时刻误差贡献越大，越远时刻误差贡献越小。

1.3 目标函数的定义：

1.3.1 基于指数加权定义目标函数：

4.1，其实就是均方误差再乘一个步长的指数因子，调节不同时刻的误差大小。

指数函数对应形式y = a^x , 且a（这里那么大）属于（0，1]，函数单调递减，又因为 n-i >=0, 当i越接近n时，n-i越趋近于0，所以值越大，即误差权重越大。

1.3.2 后验与先验误差对比：

这里使用后验误差结果比使用先验误差小，先验和后验实际应用结果有时差别不大，但理论上存在较大差异。

1.3.2 最小化目标函数J（w）：

R物理含义是一个加权的相关矩阵的求和。包含了从0时刻到n时刻所有输入向量取相关矩阵。

1.4 求解滤波器系数

1.4.1 推导自相关矩阵和相关向量的时间递推公式：

4.3，可以经过简单的拆项推导可以得出4.5，发现n时刻可以由n-1时刻推出。4.6的得来同理。所以理论上可以直接经过递推得到R的逆和r，然后计算出n时刻的 w（n）。

但逆矩阵的存在会导致数值不稳定的风险，所以这里R需要另外再找方法进行推导。

1.4.2 自相关矩阵时间递推公式的优化：

（避开求R逆的逆矩阵）

矩阵求逆引理：

R逆的时间递推公式：

矩阵求逆引理，标量和向量都可以应用。

先验估计误差：

1.4.3 滤波器系数w（n）的时间递推公式：

最终的结果表示，w（n）是由w（n-1）加上一个调整量。调整量中k（n）是增益向量。瑟塔是先验误差，通过对前一时刻w（n-1）计算得来，所有称之为先验估计误差。

这里先验误差和上一节LMS采用的后验误差有差别，并且维纳滤波也是采用的后验误差。

1.5 RLS算法的执行流程：

如上图1）中， P（0）表示相关矩阵R逆（0），由于相关矩阵可以表示成如上红色笔求和公式。又因为希望当更新第n时刻的滤波器系数时，时间越远影响越小，所以由输入向量 x 计算的相关矩阵初始值设定为接近0的单位矩阵。

为了计算方便每次计算都对逆矩阵进行更新。

1.6 RLS vs LMS

LMS对输入信号也隐含一个条件，即希望输入信号是具有独立性假设，即各个时刻的输入信号尽量不相关，太相关则会导致相关矩阵接近奇异矩阵。与LMS对输入信号的要求一样。

5）自适应滤波（二）[RLS算法]相关推荐

自适应滤波器之 LMS 算法
本文对 LMS 算法作以介绍,如有表述不当之处欢迎批评指正.欢迎任何形式的转载,但请务必注明出处. 目录 1. 引言 2. 基本概念 2.1. 横向滤波器 2.2. 误差性能曲面 2.3. 最陡下降法 ...
自适应稳定快速RLS算法---（SFTRLS算法）
在上一篇的博客文章中(浅谈自适应滤波器-(快速RLS算法)),我给出了关于RLS的快速算法(简称FTRLS),但是它有一个缺点就是不够稳定,虽然我给出的例子里是稳定的,这主要是Matlab默认的计算精 ...
【语音信号处理】自适应滤波方法——LMS算法
LMS 算法(最小均方算法) 滤波器--改变信号频谱模拟滤波器: 由R.L.C构成的模拟电路. 数字滤波器: 由数字加法器.乘法器.延时器构成,基于数字信号运算实现. 自适应滤波器: 一种能够根据输 ...
matlab lms自适应滤波,基于LMS算法的自适应滤波收敛性的Matlab仿真
Author :Jeffrey 白噪声经过AR模型的输出作为LMS滤波器的输入,已知:a1=1.558:a2=-0.81:白噪声方差为1.0,均值为0:u＝0.002:利用Matlab实现: (1)给 ...
matlab adaptfilt.rls,基于RLS算法的多麦克风降噪
<信息处理课群综合训练与设计> 课程设计任务书学生姓名: 专业班级: 指导教师: 工作单位: 题目: 基于RLS算法的多麦克风降噪设计任务: 给定主麦克风录制的受噪声污染的语音信号和 ...
比较LMS和RLS算法的性能
1.仿真模型水声通信模型图源:网络 2.调制方式及信道设置要求:调制方式QPSK.序列长度2048.训练序列长度1024.信噪比范围5-20dB,比较LMS和RLS算法的 ...
LMS自适应滤波matlab仿真
目录 1.算法概述 2.仿真效果 3.MATLAB仿真源码 1.算法概述 LMS(Least Mean Square), 由 Widrow 和 Hoff 于1960年提出,也称Δ规则.该算法与感知器网 ...
基于matlab的LMS自适应滤波仿真
目录 1.算法概述 2.仿真效果 3.MATLAB仿真源码 1.算法概述 LMS(Least Mean Square), 由 Widrow 和 Hoff 于1960年提出,也称Δ规则.该算法与感知器网 ...
【FPGA教程案例78】通信案例4——基于FPGA的RLS自适应滤波算法实现
FPGA教程目录 MATLAB教程目录 -------------------------------------------------------------------------------- ...

5）自适应滤波（二）[RLS算法]

一.递推最小二乘法（RLS）算法

1.1 以N阶线性系统起点，

1.2 动机：

1.3 目标函数的定义：

1.3.1 基于指数加权定义目标函数：

1.3.2 后验与先验误差对比：

1.3.2 最小化目标函数J（w）：

1.4 求解滤波器系数

1.4.1 推导自相关矩阵和相关向量的时间递推公式：

1.4.2 自相关矩阵时间递推公式的优化：

1.4.3 滤波器系数w（n）的时间递推公式：

1.5 RLS算法的执行流程：

1.6 RLS vs LMS

5）自适应滤波（二）[RLS算法]相关推荐

最新文章

热门文章