互相关函数和自相关函数

信号x(n)x( n)x(n) 和y(n)y(n)y(n) 的互相关函数： x(n)x( n)x(n) 保持不动，将 y(n)y(n)y(n) 右移mmm个采样周期得到y(n−m)y(n-m)y(n−m) ，再将x(n)x( n)x(n) 与 y(n−m)y(n-m)y(n−m) 相乘并求和，则得到rxy(m)r_{xy}(m)rxy(m)在mmm时刻的值，反映了 x(n)x( n)x(n) 与 y(n−m)y(n-m)y(n−m)相两个波形的相似程度（附录：理解自相关）
rxy(m)=∑n=−∞∞x(n)y(n−m)(1)r_{xy}(m)=\sum^{\infty}_{n=-\infty}x(n)y(n-m)\tag{1}rxy(m)=n=−∞∑∞x(n)y(n−m)(1)

与序列卷积运算相比，少了将y(n)y(n)y(n)翻转变成y(−n)y(-n)y(−n)，因此互相关函数也可以写成：
rxy(m)=x(n)∗y(−n)∣n=m*：卷积运算(2)r_{xy}(m)=\left. x(n)*y(-n)\right|_{n=m} \color{blue}\quad\quad\text{*：卷积运算}\tag{2}rxy(m)=x(n)∗y(−n)∣n=m*：卷积运算(2)
如果(1)中x(n)=y(n)x(n)=y(n)x(n)=y(n)，则变成了x(n)x(n)x(n)的自相关函数：
rxx(m)=∑n=−∞∞x(n)x(n−m)(3)r_{xx}(m)=\sum^{\infty}_{n=-\infty}x(n)x(n-m)\tag{3}rxx(m)=n=−∞∑∞x(n)x(n−m)(3)

自相关函数表示了信号x(n)x( n)x(n)与其自身移位后的 x(n−m)x(n-m)x(n−m)的相似程度，为表示简单，将自相关函数记为rx(m)\color{blue}r_{x}(m)rx(m)
rx(0)=∑n=−∞∞x2(n).=ΔExrx(0)表x(n)能量(4)r_{x}(0)=\sum^{\infty}_{n=-\infty}x^2(n).^\Delta_=E_x\quad\text{$r_x(0)$表$x(n)$能量}\tag{4}rx(0)=n=−∞∑∞x2(n).=ΔExrx(0)表x(n)能量(4)

当Ex<∞E_x < ∞Ex<∞时，信号x(n)x( n)x(n)称为能量信号
当 Ex=∞E_x = ∞Ex=∞时，信号x(n)x( n)x(n)称为能量无限信号：主要研究其平均功率

信号x(n)x( n)x(n)的功率定义为：
Px=lim⁡n→∞12N+1∑n=−NN∣x(n)∣2(5)P_x=\lim_{n\rightarrow\infty}\frac1{2N+1}\sum^N_{n=-N}|x(n)|^2\tag{5}Px=n→∞lim2N+11n=−N∑N∣x(n)∣2(5)Px<∞P_x < ∞Px<∞时，称x(n)x( n)x(n)为功率信号

当输入序列是有限长序列，或无限长序列的有限个序列值时，通常将互相关和自相关函数表示成有限和的形式。特别是当x(n)x( n)x(n)和y(n)y( n)y(n)是长度为 NNN 的因果序列时，互相关和自相关函数可以表示为：
rxy(m)={∑n=mN−1x(n)y(n−m),0⩽m<N∑n=0N−∣m∣−1x(n)y(n−m),−N<m<00,m为其他值(6)r_{x y}(m)=\left\{\begin{aligned}&{\sum_{n=m}^{N-1} x(n) y(n-m),} &{0 \leqslant m<N} \tag{6}\\ &{\sum_{n=0}^{N-|m|-1} x(n) y(n-m),} &{-N<m<0} \\ &{0,}&\text{$m$为其他值}\end{aligned} \right. rxy(m)=⎩⎪⎪⎪⎪⎪⎪⎪⎪⎨⎪⎪⎪⎪⎪⎪⎪⎪⎧n=m∑N−1x(n)y(n−m),n=0∑N−∣m∣−1x(n)y(n−m),0,0⩽m<N−N<m<0m为其他值(6)rx(m)={∑n=mN−1x(n)x(n−m),0⩽m<N∑n=0N−∣m∣−1x(n)x(n−m),−N<m<00,m为其他值(7)r_{x }(m)=\left\{\begin{aligned}&{\sum_{n=m}^{N-1} x(n) x(n-m),} &{0 \leqslant m<N} \tag{7}\\ &{\sum_{n=0}^{N-|m|-1} x(n) x(n-m),} &{-N<m<0} \\ &{0,}&\text{$m$为其他值}\end{aligned} \right. rx(m)=⎩⎪⎪⎪⎪⎪⎪⎪⎪⎨⎪⎪⎪⎪⎪⎪⎪⎪⎧n=m∑N−1x(n)x(n−m),n=0∑N−∣m∣−1x(n)x(n−m),0,0⩽m<N−N<m<0m为其他值(7)

如果 x(n)x( n)x(n)和y(n)y( n)y(n)是复信号，其相关函数也是复信号，则(1)、(3)应为：
rxy(m)=∑n=−∞∞x(n)y∗(n−m)(8)r_{xy}(m)=\sum^{\infty}_{n=-\infty}x(n)y^*(n-m)\tag{8} rxy(m)=n=−∞∑∞x(n)y∗(n−m)(8)

rxx(m)=∑n=−∞∞x(n)x∗(n−m)(9)r_{xx}(m)=\sum^{\infty}_{n=-\infty}x(n)x^*(n-m)\tag{9} rxx(m)=n=−∞∑∞x(n)x∗(n−m)(9)∗表共轭复数\color{blue}\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad\quad*表共轭复数∗表共轭复数

周期信号的相关性

设 x(n)x( n)x(n)和y(n)y( n)y(n)是两个功率信号，其互相关函数定义为：
rxy(m)=lim⁡N→∞12N+1∑n=−NNx(n)y(n−m)(10)r_{xy}(m)=\lim_{N\rightarrow\infty}\frac1{2N+1}\sum^N_{n=-N}x(n)y(n-m)\tag{10}rxy(m)=N→∞lim2N+11n=−N∑Nx(n)y(n−m)(10)

当 x(n)=y(n)x( n)=y( n)x(n)=y(n)，功率信号的自相关函数定义为：
rx(m)=lim⁡N→∞12N+1∑n=−NNx(n)x(n−m)(11)r_{x}(m)=\lim_{N\rightarrow\infty}\frac1{2N+1}\sum^N_{n=-N}x(n)x(n-m)\tag{11}rx(m)=N→∞lim2N+11n=−N∑Nx(n)x(n−m)(11)

如果 x(n)x( n)x(n)和y(n)y( n)y(n)都是周期为 NNN 的信号，则(10)、(11)中有限区间上的平均值就等于一个周期上的平均值：
rxy(m)=1N∑n=0N−1x(n)y(n−m)(12)r_{xy}(m)=\frac1{N}\sum^{N-1}_{n=0}x(n)y(n-m)\tag{12}rxy(m)=N1n=0∑N−1x(n)y(n−m)(12)

当x(n)=y(n)x( n)=y( n)x(n)=y(n)时，功率信号的自相关函数定义为
rx(m)=1N∑n=0N−1x(n)x(n−m)(13)r_{x}(m)=\frac1{N}\sum^{N-1}_{n=0}x(n)x(n-m)\tag{13}rx(m)=N1n=0∑N−1x(n)x(n−m)(13)

由周期信号的定义可得：
rx(m+N)=1N∑n=0N−1x(n)y(n−m−N)=1N∑n=0N−1x(n)x(n−m)=rx(m)(14)r_{x}(m+N)=\frac1{N}\sum^{N-1}_{n=0}x(n)y(n-m-N)=\frac1{N}\sum^{N-1}_{n=0}x(n)x(n-m)=r_{x}(m)\tag{14}rx(m+N)=N1n=0∑N−1x(n)y(n−m−N)=N1n=0∑N−1x(n)x(n−m)=rx(m)(14)

周期为 NNN 的周期信号的自相关函数也是以 NNN 为周期的，因此，对一个未知周期信号，可以根据其自相关函数周期性质估计其周期

输入输出信号的相关函数

这里讨论时域离散线性时不变系统输出信号与输入信号的互相关函数，设系统输入信号 x(n)x( n)x(n) 的自相关函数 rx(m)r_{x}(m)rx(m) 已知，系统单位脉冲响应为h(n)h(n)h(n)，系统输出信号为：
y(n)=h(n)∗x(n)=∑k=−∞∞h(n)x(n−k)(20)y(n)=h(n)*x( n)=\sum^{\infty}_{k=-\infty}h(n)x(n-k)\tag{20}y(n)=h(n)∗x(n)=k=−∞∑∞h(n)x(n−k)(20)

由(2)可知输出信号与输入信号的互相关函数：
ryx(m)=y(m)∗x(−m)=h(m)∗x(m)∗x(−m)=h(m)∗[x(m)∗x(−m)]=h(m)∗rx(m)(21)\begin{aligned} r_{y x}(m) &=y(m) * x(-m)=h(m) * x(m) * x(-m) \tag{21}\\ &=h(m) *[x(m) * x(-m)] \\ &=h(m) * r_{x}(m) \end{aligned} ryx(m)=y(m)∗x(−m)=h(m)∗x(m)∗x(−m)=h(m)∗[x(m)∗x(−m)]=h(m)∗rx(m)(21)输出信号与输入信号的互相关函数等于系统单位脉冲响应h(n)h(n)h(n)与输入信号自相关函数 rx(m)r_x(m)rx(m) 的卷积，ryx(m)r_{yx}(m)ryx(m)可看成线性时不变系统对输入序列 rx(m)r_{x}(m)rx(m) 的响应输出

令 x(n)=y(n)x(n) = y(n)x(n)=y(n)，利用卷积的性质，可以得到系统输出信号的自相关函数 ry(m)r_y(m)ry(m)
ry(m)=y(m)∗y(−m)=[h(m)∗x(m)]∗[h(−m)∗x(−m)]=[h(m)∗h(−m)]∗[x(m)∗x(−m)]=rh(m)∗rx(m)(22)\begin{aligned} r_{y}(m) &=y(m) * y(-m)=[h(m) * x(m)] *[h(-m) * x(-m)]\tag{22} \\ &=[h(m) * h(-m)] *[x(m) * x(-m)] \\ &=r_{h}(m) * r_{x}(m) \end{aligned} ry(m)=y(m)∗y(−m)=[h(m)∗x(m)]∗[h(−m)∗x(−m)]=[h(m)∗h(−m)]∗[x(m)∗x(−m)]=rh(m)∗rx(m)(22)

令(22)中m=0m=0m=0，可得到信号能量：
ry(0)=∑n=−∞∞rh(n)rx(n)(23)r_y(0)=\sum^\infty_{n=-\infty}r_h(n)r_x(n)\tag{23} ry(0)=n=−∞∑∞rh(n)rx(n)(23)

信号的能量谱密度和功率谱密度

表征物理现象的各种信号，可以分为确知信号和随机信号两大类。对于确知信号，可以用信号的傅里叶频谱描述，但对于类似噪声的随机信号，如语音信号中的浊音，其傅里叶变换不存在，只能通过统计平均的方法，用其功率谱描述。即从有限的信号采样中估计出信号的功率谱

功率谱估计（简称谱估计）分为经典谱估计和现代谱估计，经典谱估计又分为周期图法和自相关法

自相关法是先估计观测信号的自相关函数，再对自相关函数进行傅里叶变换得到功率谱

信号的能量谱

设 x(n)x( n)x(n) 是实能量信号，对 x(n)x( n)x(n) 的自相关函数进行傅里叶变换，得：
FT[rx(m)]=∑m=−∞∞rx(m)e−jωm=∑m=−∞∞[∑n=−∞∞x(n)x(n−m)]e−jωm=∑n=−∞∞x(n)∑m=−∞∞x(n−m)e−jωm(24)\mathrm{FT}\left[r_{x}(m)\right]=\sum_{m=-\infty}^{\infty} r_{x}(m) \mathrm{e}^{-\mathrm{j} \omega m}=\sum_{m=-\infty}^{\infty}\left[\sum_{n=-\infty}^{\infty} x(n) x(n-m)\right] \mathrm{e}^{-\mathrm{j} \omega m}=\sum_{n=-\infty}^{\infty} x(n) \sum_{m=-\infty}^{\infty} x(n-m) \mathrm{e}^{-\mathrm{j} \omega m}\\\tag{24} FT[rx(m)]=m=−∞∑∞rx(m)e−jωm=m=−∞∑∞[n=−∞∑∞x(n)x(n−m)]e−jωm=n=−∞∑∞x(n)m=−∞∑∞x(n−m)e−jωm(24)

令k=n−mk=n-mk=n−m，上式变为：
FT[rx(m)]=∑n=−∞∞x(n)e−jωn∑k=−∞∞x(k)ejωk=X(ejω)X∗(ejω)=∣X(ejω)∣2(25){\mathrm{FT}\left[r_{x}(m)\right]=\sum_{n=-\infty}^{\infty} x(n) \mathrm{e}^{-\mathrm{j} \omega n} \sum_{k=-\infty}^{\infty} x(k) \mathrm{e}^{\mathrm{j} \omega k}=X\left(\mathrm{e}^{\mathrm{j} \omega}\right)X^{*}\left(\mathrm{e}^{\mathrm{j} \omega}\right)=\left|X\left(\mathrm{e}^{\mathrm{j} \omega}\right)\right|^{2}}\tag{25} FT[rx(m)]=n=−∞∑∞x(n)e−jωnk=−∞∑∞x(k)ejωk=X(ejω)X∗(ejω)=∣∣X(ejω)∣∣2(25)

根据傅里叶变换的唯一性，有：
rx(m)=IFT⁡[∣X(ejω)∣2]=12π∫−ππ∣X(ejω)∣2ejωmdωrx(0)=12π∫−ππ∣X(ejω)∣2dω(26)r_{x}(m)=\operatorname{IFT}[\left|X\left(\mathrm{e}^{\mathrm{j} \omega}\right)\right|^2]=\frac{1}{2 \pi} \int_{-\pi}^{\pi}\left|X\left(\mathrm{e}^{\mathrm{j} \omega}\right)\right|^{2} \mathrm{e}^{\mathrm{j} \omega m} \mathrm{d} \omega \tag{26}\\[8pt] {r_{x}(0)=\frac{1}{2 \pi} \int_{-\pi}^{\pi}\left|X\left(\mathrm{e}^{\mathrm{j} \omega}\right)\right|^{2} \mathrm{d} \omega} rx(m)=IFT[∣∣X(ejω)∣∣2]=2π1∫−ππ∣∣X(ejω)∣∣2ejωmdωrx(0)=2π1∫−ππ∣∣X(ejω)∣∣2dω(26)说明 x(n)x(n)x(n) 的能量谱密度（简称为能量谱）为∣X(ejω)∣2\left|X\left(\mathrm{e}^{\mathrm{j} \omega}\right)\right|^{2}∣∣X(ejω)∣∣2

将能量谱记作Gx(ω)\color{blue}G_x(\omega)Gx(ω)， x(n)x(n)x(n) 的自相关函数与 x(n)x(n)x(n) 的能量谱构成傅里叶变换对
Gx(ω)=FT[rx(m)]=∣X(ejω)∣2rx(m)=IFT⁡[Gx(ω)]=12π∫−ππGx(ω)ejωmdω(27)G_x(\omega)=\mathrm{FT}\left[r_{x}(m)\right]=\left|X\left(\mathrm{e}^{\mathrm{j} \omega}\right)\right|^{2}\tag{27}\\[8pt] r_{x}(m)=\operatorname{IFT}[G_x(\omega)]=\frac{1}{2 \pi} \int_{-\pi}^{\pi}G_x(\omega) \mathrm{e}^{\mathrm{j} \omega m} \mathrm{d} \omegaGx(ω)=FT[rx(m)]=∣∣X(ejω)∣∣2rx(m)=IFT[Gx(ω)]=2π1∫−ππGx(ω)ejωmdω(27)由上可知，自相关函数仅保留了信号的幅频信息，而丢失了相位信息。因此，不能从Gx(ω)G_x(\omega)Gx(ω)或 rx(m)r_x(m)rx(m)回复原信号 x(n)x(n)x(n)，且Gx(ω)G_x(\omega)Gx(ω)非负

设LTI\mathrm{LTI}LTI 系统的输入为 x(n)x(n)x(n) ，输出为 y(n)y(n)y(n)，,由(27)及傅里叶变换的时域卷积定理可得到输出能量谱与输入能量谱的关系：
Gy(ω)=FT[ry(m)]=∣H(eiω)∣2Gx(ω)(28)G_y(\omega)=\mathrm{FT}\left[r_{y}(m)\right]=|H(e^{i\omega})|^2G_x(\omega)\tag{28}Gy(ω)=FT[ry(m)]=∣H(eiω)∣2Gx(ω)(28)

对稳定系统， ∣H(eiω)∣2|H(e^{i\omega})|^2∣H(eiω)∣2存在，由此，从频域也证明了能量信号通过稳定系统后，其输出响应仍是能量信号

信号的功率谱

设 x(n)x(n)x(n) 是平稳随机序列，其自相关函数为：
rx(m)=E[x(n)x(n−m)]E表统计平均(29)r_x(m)=E[x(n)x(n-m)]\color{blue}\qquad\text{$E$表统计平均}\tag{29}rx(m)=E[x(n)x(n−m)]E表统计平均(29)

根据维纳-辛钦定理，当 x(n)x(n)x(n) 的均值为零时，自相关函数rx(m)\color{blue}r_x(m)rx(m)与功率谱密度Px(ω)\color{blue}P_x(\omega)Px(ω)是一对傅里叶变换，即
Px(ω)=FT[rx(m)]=∑m=−∞∞rx(m)e−jωmrx(m)=IFT⁡[Px(ω)]=12π∫−ππPx(ω)ejωmdω(27)P_x(\omega)=\mathrm{FT}\left[r_{x}(m)\right]=\sum^{\infty}_{m=-\infty}r_x(m)e^{-j\omega m}\tag{27}\\[8pt] r_{x}(m)=\operatorname{IFT}[P_x(\omega)]=\frac{1}{2 \pi} \int_{-\pi}^{\pi}P_x(\omega) \mathrm{e}^{\mathrm{j} \omega m} \mathrm{d} \omegaPx(ω)=FT[rx(m)]=m=−∞∑∞rx(m)e−jωmrx(m)=IFT[Px(ω)]=2π1∫−ππPx(ω)ejωmdω(27)维纳-辛钦定理揭示了从时间角度描述随机信号的统计规律和从频率角度描述随机信号的统计规律之间的关系

为什么将 Px(ω)P_x(\omega)Px(ω) 称为 x(nx(nx(n) 的功率谱密度?

令m=0m=0m=0，则：
rx(0)=12π∫−ππPx(ω)dω(29)r_{x}(0)=\frac{1}{2 \pi} \int_{-\pi}^{\pi}P_x(\omega) \mathrm{d} \omega\tag{29}rx(0)=2π1∫−ππPx(ω)dω(29)

由(5)、(11)可知，rx(0r_x(0rx(0)表示 x(n)x(n)x(n) 的平均功率，(29)表明Px(ω)P_x(\omega)Px(ω) 就是 x(nx(nx(n) 的功率谱密度，简称功率谱。工程上可以根据 Px(ω)P_x(\omega)Px(ω) 判断信号的有无及其频域信息。
x(n)x(n)x(n) 是实信号时， rx(m)r_x(m)rx(m)是实偶函数，故Px(ω)P_x(\omega)Px(ω)也是实偶函数，即
Px(−ω)=Px(ω)P_x(-\omega)=P_x(\omega)Px(−ω)=Px(ω)与能量谱一样，功率谱Px(ω)P_x(\omega)Px(ω)也是非负的，且不包含相位信息

附录：理解自相关

案例 1【2】^{【2】}【2】

一个20岁的人，把他从出生到20岁的各个阶段的照片组成一个照片信号x1(t)x_1(t)x1(t)，再将这些照片都复制一份构成另一复制信号x2(t)x_2(t)x2(t)．可以看到，两个信号是相同的，即x(t)=x1(t)=x2(t)x(t)=x_1(t)=x_2(t)x(t)=x1(t)=x2(t)，两个照片信号的自相关函数：
R(τ)=∫−∞∞x1(t)x2(t−τ)dt=∫−∞∞x(t)x(t−τ)dt\color{green}R(\tau)=\int^\infty_{-\infty}x_1(t)x_2(t-\tau)dt=\int^\infty_{-\infty}x(t)x(t-\tau)dt R(τ)=∫−∞∞x1(t)x2(t−τ)dt=∫−∞∞x(t)x(t−τ)dt
当时间延时τ=0\tau=0τ=0时，两组照片中的所有照片实际上是与自己比较，此时的相关R(0)R(0)R(0)最大；如果时间延时τ≠0\tau\neq0τ=0，相当于不同年龄时的照片进行比较，当然，不同年龄照片之间的相关性会减少，也就是说，随着一个人的长大，其各个年龄的照片与儿时的照片之间的相关性逐渐减少，甚至没有相关性了，这时，人们通常会说：“过了几年怎么认不出他了”。从这个案例可以理解“独立”一定不相关，而不相关不一定“独立”。

参考文献

【1】第 5 章信号的相关函数和功率谱
【2】自相关的物理意义
【3】自相关和互相关函数计算方法总结及心得体会

自相关、互相关函数学习笔记相关推荐

MATLAB学习笔记——自相关/互相关函数xcorr使用
MATLAB学习笔记--自相关/互相关函数xcorr使用介绍原文链接:https://blog.csdn.net/lvsehaiyang1993/article/details/82913443 转 ...
机器学习处理信号分离_[学习笔记]使用机器学习和深度学习处理信号基础知识...
参考学习:Signal Generation and Preprocessing 本人只是为了了解信号处理的基础知识而做的学习笔记,涉及深度可能不够,有理解错误的地方请大胆指出,感激不尽一.信号生成 ...
深度学习笔记（49）风格代价函数
深度学习笔记(49) 风格代价函数 1. 风格相关系数 2. 风格矩阵 3. 风格代价函数 1. 风格相关系数比如有这样一张图片,可能已经对这个计算很熟悉了,它能算出这里是否含有不同隐藏层现在选择 ...
LMS与RLS算法学习笔记
LMS与RLS算法学习笔记一. 研究目的 1.1最陡下降法理论 1.2$LMS$算法 1.3$RLS$算法 1.4研究目标二.代码解析三.结果实现代码点击这里下载一. 研究目的 1.1最陡 ...
深度学习笔记其五：卷积神经网络和PYTORCH
深度学习笔记其五:卷积神经网络和PYTORCH 1. 从全连接层到卷积 1.1 不变性 1.2 多层感知机的限制 1.2.1 平移不变性 1.2.2 局部性 1.3 卷积 1.4 "沃尔多在 ...
数学建模算法学习笔记
数学建模算法学习笔记作为建模Man学习数学建模时做的笔记参考文献: <数学建模姜启源第四版> 网上搜罗来的各种资料,侵删 1.线性预测 levinson durbin算法,自相关什么的 ...
CS131学习笔记#1
CS131学习笔记#1 此篇是根据CS131(2020fall) assignment one 总结的学习笔记. 1 卷积(Convolutions) 1.1 卷积定义在数学上,卷积的定义为: (f ...
吴恩达深度学习笔记（四）
吴恩达深度学习笔记(四) 卷积神经网络CNN-第二版卷积神经网络深度卷积网络:实例探究目标检测特殊应用:人脸识别和神经风格转换卷积神经网络编程作业卷积神经网络CNN-第二版卷积神经网络 ...
Python预测数据分析与算法学习笔记（特征工程、时间序列）
微信公众号:数学建模与人工智能 GitHub - QInzhengk/Math-Model-and-Machine-Learning 第3章探索规律 3.1 相关分析相关关系是一种与函数关系相区别 ...

自相关、互相关函数学习笔记

文章目录