第四章维纳滤波原理及自适应算法

4.1 自适应横向滤波器及其学习过程

4.2 维纳滤波器的原理

维纳滤波器的思想：假定滤波器的输入和输出都是宽平稳过程，并且知道二阶统计特性（R,P已知），那么，根据MMSE准则可以求出最优权系数。

根据MMSE准则求出的误差e(n)的功率J(w)所构成的多维空间的曲面称为误差性能面。

对误差的功率J(w)求导可以得到维纳霍夫方程。通过方程可知，欲求解最优权系数，需要知道自相关矩阵R，互相关矩阵P，还得对R求逆。

正交原理：维纳滤波器的误差和输入是正交的，误差和输出也是正交的。因为输出可以用输入线性表示。

均方误差J(w)的最小值是期望相应的平均功率和估计信号的平均功率的差。

4.3 维纳滤波器的最陡下降求解方法

维纳滤波器存在的问题：求逆，计算量大，不稳定。抽头系数是固定的不具有自适应性。

最陡下降法可以避免对R求逆。当步长满足一定条件时，最陡下降法可以收敛。

最陡下降法的学习曲线是单调递减的。

4.4 LMS算法

最陡下降法用到了维纳霍夫方程，因此需要知道自相关矩阵R，互相关矩阵P，当R、P确定后，迭代过程的结果就完全确定了，并不具有随输入信号统计特性而变化的自适应性。LMS算法，可以解决这个问题。

LMS算法的输入可以是非平稳的，因为不是用的R,P，而是用的瞬时估计值代替的。

如果输入具有联合各态历经性，可以用样本均值代替统计平均，得到R、P的估计，然后用R、P的瞬时估计值代替R、P，应用到最陡下降法的迭代式中，得到新的权值更新迭代式。

实际上，LMS算法是把最陡下降法中的负梯度方向换成了两个随机过程u(n)和e*(n)的乘积，因此新的权重是一个随机向量，随输入的变化而变化，具有自适应性。

LMS算法对于步长的要求和最陡下降法是一样的，推导过程也一样。

LMS算法的收敛速度不仅和步长有关，还和最大最小特征值比有关，特征值比大，称R是病态的，R的逆会出现很大的值，收敛速度下降。

白噪声的特征值都相等，此时，收敛速率最快。λk = kλmin时最糟糕。

那么如何改进LMS算法呢?

变步长LMS算法：步长开始时比较大，可以提高收敛速度，后面步长小，避免迭代公式不收敛。并且可以实时的调整步长。
归一化LMS算法：优化的目标函数为误差的平方项+权向量调整的大小系数α，因为求梯度时涉及到求逆，α 可使分母 ≠ 0.*

从LMS算法的迭代公式可以看出，当输入较大时，就放大了误差项。因此，可将输入向量进行归一化。
泄露LMS算法：泄露项等价于在输入过程u(n)上叠加了一个零均值，方差为α的白噪声序列。

4.5 多级维纳滤波理论