RLS实现求解最小二乘确定性正则方程

RLS算法：递归最小二乘算法，使用迭代的方法求解最小二乘的确定性正则方程（奇异值分解也可以）。在用RLS时，数据矩阵会进一步得到扩充，将每次观测数据都放进来，而不是像奇异值分解只将每个滤波器都有数据时作为开始。

这里就不多写RLS的推导过程；大致写一些思路：

根据扩展后的观测数据矩阵A，定义出随时间和样本两个变化的时间相关矩阵和时间互相关矩阵，代入确定性正则方程；考虑到离当前时刻近的观测值对相关矩阵和互相关向量的影响较大，因此对时间相关矩阵和时间互相关矩阵乘上遗忘因子，为了让时间互相关矩阵可逆，又对其进行对角加载（加上一个对角矩阵），然后将其抽离出n-1时刻对应的形式。同理，时间互相关矩阵也抽离出n-1时刻。
利用抽离出的时间互相关矩阵递推形式，和矩阵求逆引理进行对比，写出A逆的形式。
引入增益向量k(n)，它是互相关矩阵的逆对输入向量u(n)的线性变换。
最后写出权向量的递推公式：

这里的大括号内的一项又定义为先验估计误差。LMS是考虑的后验估计误差。

以一阶AR模型u(n)=-0.99u(n-1)+v(n)为例；使用M=2的FIR滤波器，用RLS算法实现u(n)的线性预测，即求解权系数。

p2=1;
clc,clear all,close all
for exNum=1:500
%% 产生样本序列
%由题目得差分方程为 u(n)=-0.99u(n-1)+v(n)
% 写出差分方程初值条件以及 num 和 den
den=[1 0.99]; %差分左边
num=[1]; %差分右边
u0=zeros(length(den)-1,1); %初始值
vsigma=0.995;N=1000;
v=normrnd(0,vsigma,N,1);
% v=sqrt(vsigma)*rand(N,1);
% 生成初始条件
Zi=filtic(num,den,u0); %v(n)每一次已经固定了，所以初始条件没有
un=filter(num,den,v,Zi);%这里的 v 的信息需包括样本序列个数
% plot_n=1:N;
% figure(1),plot(plot_n,v,'R-',plot_n,un,'b--');
% xlabel('n');ylabel('y(n)')
% legend('加性白噪声 v ','样本序列 u(n)');
%% 产生期望相应信号和观测数据矩阵
n0=1;M=2;
b=un(n0+1:N);
L=length(b);
un1=[zeros(M-1,1).',un.'].';%扩展数据
A=zeros(M,L);
for k=1:L
A(:,k)=un1(M-1+k:-1:k);
end
%% RLS 求解
delta=0.004;
lambda=0.98;w=zeros(M,L+1);
epsilon=zeros(L,1);
P1=eye(M)/delta;
for k=1:L
PIn=P1*A(:,k);
denok=lambda+A(:,k)'*PIn;
kn=PIn/denok;
epsilon(k)=b(k)-w(:,k)'*A(:,k);
w(:,k+1)=w(:,k)+kn*conj(epsilon(k));P1=P1/lambda-kn*A(:,k)'*P1/lambda;
end
% figure,plot(1:N,w(1,:),'b-',1:N,w(2,:),'r--')
% xlabel('n');ylabel('w')'
% legend('w1','w2');
MSE=abs(epsilon).^2;
MSEsum(:,:,exNum)=MSE;
wSum(:,:,exNum)=w;
end
wmean=mean(wSum,3);
MSEmean=mean(MSEsum,3);
figure,plot(1:N-1,MSEmean),axis([0,600,0,inf]),xlabel('n');ylabel('MSE')
figure,plot(1:N,wmean(1,:),'b--',1:N,wmean(2,:),'r-'),axis([0,600,-2.5,0.5])
xlabel('n');ylabel('w')
legend('w1','w2');

RLS实现求解最小二乘确定性正则方程相关推荐

奇异值分解（SVD）方法求解最小二乘问题
奇异值分解(SVD)方法求解最小二乘问题 1 奇异值分解(SVD)原理 1.1 回顾特征值和特征向量 1.2 SVD的定义 1.3 求出SVD分解后的U,Σ,V矩阵 1.4 SVD的一些性质 2 线性 ...
Eigen密集矩阵求解 2 - 求解最小二乘系统
简介本篇介绍如何使用Eigen求解线性最小二乘系统. 一个系统可能无精确的解,比如Ax=b的线性方程式,不存在解.这时,找到一个最接近的解x,使得偏差Ax-b尽可能地小,能够满足误差要求error- ...
【Ceres基本使用方法】使用Ceres拟合曲线求解最小二乘问题
一.Ceres简介 Ceres是一个最小二乘问题求解库,我们只需要定义待优化的问题,然后交给它计算即可. ① 基本概念常用的最小二乘问题形式如下: 参数块:x1x_1x1, - xnx_nxn等 ...
【预测模型】基于RLS算法求解数据预测matlab代码
1 简介为了提高经济领域统计数据的预测精度,代数多项式预测模型的建模方法应运而生.该方法使用代数多项式模型拟合给定的经济统计数据,并使用递推最小二乘法(RLS)对多项式拟合模型的加权系数进行递推计 ...
递归最小二乘(RLS)算法详解
本文首发在我的个人博客:宅到没朋友,欢迎大家来玩! 代码下载链接在最下方! 1.最小二乘算法简介最小二乘算法基于确定性思想,该算法讨论怎样根据有限个观测数据来寻找滤波器的最优解,即求如下图这样具有M ...
递推最小二乘RLS推导
批次的最小二乘是给定一批数据比如 {yi∈R,xi∈Rn,i=1,...,N}\{y_i\in\mathbb{R},x_i\in \mathbb{R}^n,i=1,...,N\}{yi∈R,xi∈ ...
【算法系列】非线性最小二乘求解-梯度下降法
系列文章目录 ·[算法系列]卡尔曼滤波算法 ·[算法系列]非线性最小二乘求解-直接求解法 ·[算法系列]非线性最小二乘求解-梯度下降法 ·[算法系列]非线性最小二乘-高斯牛顿法 ·[算法系列]非线性最 ...
波束赋形技术lms算法在matlab仿真,自适应波束成形算法LMS、RLS、VSSLMS分解
1.传统的通信系统中,基站天线通常是全向天线,此时,基站在向某一个用户发射或接收信号时,不仅会造成发射功率的浪费,还会对处于其他方位的用户产生干扰.然而,虽然阵列天线的方向图是全向的,但是通过一定技术 ...
SLAM算法＆技术之Gauss-Newton非线性最小二乘算法
点击上方"3D视觉工坊",选择"星标" 干货第一时间送达编辑丨点云PCL 前言很多问题最终归结为一个最小二乘问题,如SLAM算法中的Bundle Adjus ...
求解线性方程组（SVD，QR，Gauss，LU）
曲线拟合过程中,需要求解线性方程组,下面谈谈线性方程组的求解方法: 1)svd求解对于齐次线性方程 A*X =0; 当A的行数大于列数时,就需要求解最小二乘解,在||X||=1的约束下,其最小二乘解 ...

RLS实现求解最小二乘确定性正则方程

RLS实现求解最小二乘确定性正则方程相关推荐

最新文章

热门文章