傅里叶变换性质证明卷积

本文梳理一下如何从傅里叶变换和拉普拉斯矩阵演变出图傅里叶变换以及图卷积操作。需要读者对傅里叶级数/变换有所了解，主要是对下面几件事有直观的认识

傅里叶级数/变换是将函数拆解成无数个不同频率正弦波之和的过程
傅里叶级数/变换可以看做函数在三角函数系上的投影
傅里叶级数/变换是将时域信息向频域信息转化的过程
性质：时域卷积等价于频域相乘
离散傅里叶变换

我之前总结过的这篇文章及其续篇会覆盖上述内容，这算是本文的前传，不了解的读者可以先去看一下。另外，本文会一些个人观点，如有不当之处，欢迎批评指正！

傅里叶变换

傅里叶变换公式如下

傅里叶变换是将函数

拆解成无数个不同频率正弦波之和的过程，

表示角频率为

的波的系数。傅里叶变换也可以看做，函数

向基函数

投影，

就表示

对应基上的坐标。

下面我解释一下函数的投影，先用向量投影做一个类比。比如一个二维空间中的向量

，想要得到在一组基（基的模长为1）下的坐标表示，只需要向量

与基做内积运算即可。

例如直角坐标系，基向量分别为

和

，做向量内积

和

，即可得到向量

在直角坐标系下的坐标表示为

。
如果换一组基，比如
，则做内积可得，向量

在这组基下的坐标表示为

。

函数

可以想象成一个长度为无穷的向量，函数空间中的内积定义为积分。上面傅里叶变换的公式中，将

看做基，则整个式子就是在算

在

这个基上的坐标，所有的

都算一次，就可以得到

在

这组基上的完整坐标，这就是

这个函数的含义。

而这个基

恰好是拉普拉斯算子的特征向量。

拉普拉斯算子

一个函数的拉普拉斯算子定义为函数梯度(

)的散度(

)，即

注：

一个n元函数的梯度为
一个矢量
的散度为

将拉普拉斯算子作用于

上，有

根据广义特征方程

，

就是是拉普拉斯算子的特征向量。

而对于图信号来说，拉普拉斯算子与拉普拉斯矩阵有相同的作用。

拉普拉斯算子与拉普拉斯矩阵

首先我们介绍一下拉普拉斯矩阵。对于一个图，邻接矩阵是

，度矩阵

是对角矩阵，对角元是每个节点的度（邻接矩阵每行非0元素的个数）。注意一点，邻接矩阵的对角元素都为0。则拉普拉斯矩阵定义如下

下面我们考虑离散拉普拉斯算子。离散函数的导数如下所示

则二维离散情况下的拉普拉斯算子应这样计算

因此在某个点处计算拉普拉斯算子，表示进行微小扰动后的总增益。（微小扰动各个方向都有可能）

对于一个图来说，假设图有

个节点，设

函数的定义域为离散的

，用

表示

在

处的取值。与普通离散函数的区别是，对

处的点进行微小扰动，可能到达网络中的任一其他点，但到达各点的可能性不一样，所以有一个权重，权重为0则表示不会到达。计算拉普拉斯算子如下

因此对于图信号来说，拉普拉斯算子与拉普拉斯矩阵有相同的作用。所以我们可以考虑用拉普拉斯矩阵的特征向量作为图傅里叶投影的基。

注意以下几点

从拉普拉斯算子的角度来看，

是一个函数，只能取

个值；而从拉普拉斯矩阵的角度来看，

是一个向量。从图的角度来看，

叫

图信号，这个网络有

个节点，假设每个节点都有一些属性，例如一个社交网络，每个节点是一个人，人就会有性别、年龄等属性；那么所有人的年龄就是一个图信号。
离散拉普拉斯算子可以定义在图或者离散网格上，这是分别定义的。上文通过连续拉普拉斯算子，引出离散，再引出图拉普拉斯算子，相当于建立三者之间的关联，只是为了帮助理解。其实有的地方是解释不通的，比如说拉普拉斯算子是扰动后的总增益，那应该用扰动后的减去扰动前的，而图拉普拉斯定义中，却是用扰动前（中心节点）减去扰动后（邻居节点）。

图傅里叶变换

对图信号进行傅里叶变换：用拉普拉斯矩阵的特征向量作为图傅里叶投影的基。设拉普拉斯矩阵可进行如下特征分解

其中

的每一列都是

的特征向量，

是个对角矩阵，对角元是

的特征值。这里考虑无向图，

是对称矩阵，一定可以进行这样的特征分解。则图傅里叶变换定义为

图傅里叶逆变换定义为

这里需要注意的一点是，图傅里叶变换使用的变换矩阵，并不同于离散傅里叶变换。离散傅里叶变换所用矩阵形式固定，如下所示

其中

，

称为傅里叶矩阵，

。

而图傅里叶中所用矩阵随图结构的不同而变化，因此二者不能混为一谈。那么，既然不是标准的离散傅里叶变换，自然也不能想当然地认为它满足傅里叶变换的许多优良性质，比如时域卷积等于频域相乘，这一点我们后文再说。

因此图傅里叶变换并不是通过严谨的数学推导，将傅里叶变换扩展到图上，而是经过许多类比，直接定义成了这个样子。就好像说，傅里叶变换是以拉普拉斯算子的特征向量为基进行投影，那么图傅里叶变换就以拉普拉斯矩阵的特征向量为基进行投影。虽然不是数学上的严格推导，但如果这个结果还能有实际意义，那我们就更容易接受这样一个定义。下一节我们来讨论这一点。

拉普拉斯矩阵特征向量的含义

上文说到，图傅里叶变换是将图信号往拉普拉斯特征向量上投影，这时我们会想，这些基向量有什么实际含义吗？为什么要往它们身上投影？了解了这些才会知道，我们是将图信号进行了什么模式的拆解。下面我们就来讨论这个问题。

首先看下面这个恒等式

从等式右端可以看出，

表示该图信号的不平滑性；如果这个值很大，说明相邻节点信号值差异很大。假设图信号已经过标准化，即

；设

的特征值由大到小分别为

，对应的特征向量分别为

。

则可以证明（用瑞利商那一套来证）

等于

所有特征值的加权平均；
当
时，这个值最大等于

；
当
时，这个值最小等于

。
当
时，

因此，

是最不平滑的图信号，

是最平滑的图信号，其他

夹在中间，也根据特征值大小有一个顺序。特征值的大小表示平滑程度，它对应传统傅里叶变换中的频率，频率高表示短时间内变动多，和这里的相邻节点变动大能对应起来。如果将图信号看做函数，则

的自变量是节点的id，

应该写成

；而频域

应该写成

。

因此图傅里叶变换就是在将一个图信号分解到不同平滑程度的图信号上，就像传统傅里叶变换将函数分解到不同频率的函数上一样。

图卷积

两个图信号的卷积定义如下

这里需要澄清一个误解。我们都知道，傅里叶变换有一个性质：时域卷积等价于频域相乘。所以有些人说，是因为

和

直接做卷积不好算，所以转到频域上做乘法。但这个说法有几个漏洞

第一，

和

两个向量做卷积好像没什么难的
第二，
和

都是长度为

的向量，上式卷积计算结果仍是一个长度为

的向量，但实际上卷积计算的结果应该是长度为

的向量
第三，图傅里叶变换不是由传统傅里叶变换严格推导而来的，不一定享有“时域卷积等价于频域相乘”的性质

实际上，上述卷积公式并不是推导而来，而是直接定义的。我们把频域乘积再变回来这个过程，叫做图卷积。所以说图卷积跟数学中的卷积定义、CNN中的卷积本质上都不是一个东西了，它并不是真正在做卷积，只是在进行等式右侧的计算，我们将这样的计算叫做图卷积。

参考资料

拉普拉斯矩阵与拉普拉斯算子的关系
维基百科Discrete Laplace operator
论文 The Emerging Field of Signal Processing on Graphs: Extending High-Dimensional Data Analysis to Networks and Other Irregular Domains