拉普拉斯矩阵 拉普拉斯算子 图论
图函数
我们知道，互相连接的节点可以构成一个图，其中包含所有节点构成的集合V，和所有边构成的集合E。
对于实数域上的函数y=f(x)y=f(x)y=f(x), 我们可以理解为一种对于x的映射，将每个可能的x∈Xx\in Xx∈X 映射到一个对应的y∈Yy\in Yy∈Y。
相应地，我们也可以定义一个函数FG:V→RF_G: V \rightarrow RFG:V→R，使得图上的每一个节点v∈Vv \in Vv∈V，都被映射到一个实数RRR上。
图函数的梯度
我们记得，梯度的意义在于，衡量函数在每一个点处，在每个正交方向上的变化，如f(x,y,z)f(x,y,z)f(x,y,z)的梯度在xxx方向的分量∂f∂x=f(x+dx)−f(x)(x+dx)−x\frac{\partial f}{\partial x}=\frac{f(x+dx)-f(x)}{(x+dx)-x}∂x∂f=(x+dx)−xf(x+dx)−f(x)
在图论中，我们认为一个节点沿着每一条边通向它的相邻节点，而每两条边之间互相并没有什么关系，也就是说我们认为这个节点的每一条边都是互相正交的。并且对于两个节点，我们定义其距离d为其边权值的倒数。那么对于一个节点v0v_0v0，我们认为其梯度在一条通向v1v_1v1的边e01e_{01}e01上的分量为FG(v0)−FG(v1)d01=(FG(v0)−FG(v1)⋅e01)\frac{F_G(v_0)-F_G(v_1)}{d_{01}}=(F_G(v_0)-F_G(v_1)\cdot e_{01})d01FG(v0)−FG(v1)=(FG(v0)−FG(v1)⋅e01)
（其中d01d_{01}d01为v0v_0v0到v1v_1v1的距离，e01e_{01}e01为该边的权重)。
拉普拉斯矩阵
直接套用导数的定义，无法直观理解拉普拉斯矩阵的物理意义，从散度入手，才是正确的打开方式。
梯度(矢量)
梯度“∇\nabla∇”的本意是一个向量(矢量)，表示某一函数在该点处的方向导数沿着该方向取得最大值，即函数在该方向处沿着该方向(此梯度方向)变化最快，变化率最大(为该梯度的摸)。假设一个三原函数u=f(x,y,z)u=f(x,y,z)u=f(x,y,z)在空间区域GGG内具有一阶连续偏导数，点P(x,y,z)∈GP(x,y,z) \in GP(x,y,z)∈G，称向量{∂f∂x,∂f∂y,∂f∂z}=∂f∂xi⃗+∂f∂yj⃗+∂f∂zk⃗\{\frac{\partial f}{\partial x}, \frac{\partial f}{\partial y}, \frac{\partial f}{\partial z} \} = \frac{\partial f}{\partial x} \vec{i} + \frac{\partial f}{\partial y} \vec{j}+\frac{\partial f}{\partial z} \vec{k}{∂x∂f,∂y∂f,∂z∂f}=∂x∂fi+∂y∂fj+∂z∂fk
为函数u=f(x,y,z)u=f(x,y,z)u=f(x,y,z)在点PPP处的梯度，记为gradf(x,y,z)gradf(x,y,z)gradf(x,y,z)或∇f(x,y,z)\nabla f(x,y,z)∇f(x,y,z), 其中，∇=∂f∂xi⃗+∂f∂yj⃗+∂f∂zk⃗\nabla=\frac{\partial f}{\partial x} \vec{i} + \frac{\partial f}{\partial y} \vec{j}+\frac{\partial f}{\partial z} \vec{k}∇=∂x∂fi+∂y∂fj+∂z∂fk
成为向量的微分算子或Nabla算子。
散度(标量)
散度“∇⋅\nabla \cdot∇⋅”（divergence）可用于表针空间各点矢量场发散的强弱程度，物理上，散度的意义是场的有源性。当div(F)>0div(F)>0div(F)>0, 表示该点有散发通量的正源(发散源)；当div(F)<0div(F)<0div(F)<0表示该点有吸收能量的负源(洞或汇)；当div(F)=0div(F)=0div(F)=0，表示该点无源。
拉普拉斯算子
拉普拉斯算子(Laplace Operator)是nnn维欧几里得空间中的一个二阶微分算子，定义为梯度(∇f\nabla f∇f)的散度(∇⋅\nabla \cdot∇⋅)。Δf=∇2f=∇⋅∇f=div(gradf)\Delta f=\nabla^2f=\nabla \cdot \nabla f=div(gradf)Δf=∇2f=∇⋅∇f=div(gradf)
笛卡尔坐标系下的表示法:Δf=∂2f∂x2+∂2f∂y2+∂2f∂z2\Delta f=\frac{\partial^2f}{\partial x^2} + \frac{\partial^2f}{\partial y^2}+\frac{\partial^2f}{\partial z^2}Δf=∂x2∂2f+∂y2∂2f+∂z2∂2f
nnn维形式Δ=∑i∂2∂xi2\Delta=\sum_i\frac{\partial^2}{\partial x^2_i}Δ=∑i∂xi2∂2
离散函数的导数
∂f∂x=f′(x)≈f(x+1)−f(x)\frac{\partial f}{\partial x}=f'(x) \approx f(x+1)-f(x)∂x∂f=f′(x)≈f(x+1)−f(x)
∂2f∂x2=f′′(x)≈f′(x+1)−f′(x)=f(x+1)+f(x−1)−2f(x)\frac{\partial^2 f}{\partial x^2}=f''(x) \approx f'(x+1)-f'(x)=f(x+1)+f(x-1)-2f(x)∂x2∂2f=f′′(x)≈f′(x+1)−f′(x)=f(x+1)+f(x−1)−2f(x)
则我们可以将拉普拉斯算子也转化为离散形式(以二维为例)
Δf=∂2f∂x2+∂2∂y2=f(x+1,y)+f(x−1,y)−2f(x,y)+f(x,y+1)+f(x,y−1)−2f(x,y)=f(x+1,y)+f(x−1,y)+f(x,y+1)+f(x,y−1)−4f(x,y)\Delta f= \frac{\partial^2f}{\partial x^2}+\frac{\partial^2}{\partial y^2}\\=f(x+1,y) +f(x-1,y)-2f(x,y)+f(x,y+1)+f(x,y-1)-2f(x,y)\\=f(x+1,y)+f(x-1,y)+f(x,y+1)+f(x,y-1)-4f(x,y)Δf=∂x2∂2f+∂y2∂2=f(x+1,y)+f(x−1,y)−2f(x,y)+f(x,y+1)+f(x,y−1)−2f(x,y)=f(x+1,y)+f(x−1,y)+f(x,y+1)+f(x,y−1)−4f(x,y)
现在用散度的概念解读一下
如果Δf=0\Delta f=0Δf=0，可以近似认为中心点f(x,y)f(x,y)f(x,y)的势和其周围点的势是相等的，f(x,y)f(x,y)f(x,y)局部范围内不存在势差，所以该点无源。
如果Δf>0\Delta f>0Δf>0，可以近似认为中心点f(x,y)f(x,y)f(x,y)的势低于周围点，可以想象成中心点如恒星一样发出能量，补给周围的点，所以该点是正源。
如果Δf<0\Delta f<0Δf<0，可以近似认为中心点f(x,y)f(x,y)f(x,y)的势高于周围点，可以想象成中心点如黑洞一样在吸收能量，所以该点是负源。
两一个角度，拉普拉斯算子计算量周围点与中心点的梯度差。当f(x,y)f(x,y)f(x,y)收到扰动之后，其可能变为相邻的 f(x−1,y),f(x+1,y),f(x,y−1),f(x,y+1)f(x-1,y),f(x+1,y),f(x,y-1),f(x,y+1)f(x−1,y),f(x+1,y),f(x,y−1),f(x,y+1)之一，拉普拉斯算子得到的是对该店进行微小扰动后可能收获的总增益（或者说是变化）。
我们现在将这个结论推广到图:假设具有NNN个节点的图GGG，此时以上定义的函数不再是二维，而是NNN维向量：f=(f1,f2,...,fN)f=(f_1,f_2,...,f_N)f=(f1,f2,...,fN),其中fif_ifi为函数fff在图中节点iii处的函数值。类比于f(x,y)f(x,y)f(x,y)在节点(x,y)处的值。对iii节点进行扰动，它可能变为任意一个与它相邻的节点j∈Nij \in N_ij∈Ni, NiN_iNi表示节点i的一阶领域节点。
我们上面已经知道拉普拉斯算子可以计算一个点到它所有自由度上微小扰动的增益，通过图来表示就是任意一个节点jjj变化到节点iii所带来的增益，考虑图中边的全职相等(简单说就是1)则有:
Δfi=∑j∈Ni(fi−fj)\Delta f_i=\sum_{j\in N_i}(f_i-f_j)Δfi=∑j∈Ni(fi−fj)
而如果边E_{ij}具有权重W_{ij}时，则有:Δfi=∑j∈NjWij(fi−fj)\Delta f_i=\sum_{j\in N_j}W_{ij}(f_i-f_j)Δfi=∑j∈NjWij(fi−fj)
由于当W_{ij}=0是表示节点iii,jjj不相邻，所以上式可以简化为: Δfi=∑j∈N(fi−fj)\Delta f_i=\sum_{j \in N}(f_i-f_j)Δfi=∑j∈N(fi−fj)
继续推导有:
Δfi=∑j∈NWij(fi−fj)=∑j∈NWijfi−∑j∈NWijfj=difi−wi:f\Delta f_i = \sum_{j \in N}W_{ij}(f_i-f_j)\\=\sum_{j\in N}W_{ij}f_i-\sum_{j \in N}W_{ij}f_j\\=d_if_i-w_{i:}fΔfi=∑j∈NWij(fi−fj)=∑j∈NWijfi−∑j∈NWijfj=difi−wi:f
其中di=∑j∈NWijd_i=\sum_{j\in N}W_{ij}di=∑j∈NWij是顶点iii的度；
Wi:=(Wi1,...WiN)W_i:=(W_{i1},...W_{iN})Wi:=(Wi1,...WiN)是NNN维的行向量，f=(fi...fN)f=\begin{pmatrix} f_i\\ .\\.\\.\\f_N \end{pmatrix}f=⎝⎜⎜⎜⎜⎛fi...fN⎠⎟⎟⎟⎟⎞是N维的列向量；Wi:fW_{i:}fWi:f表示两个向量的内积。
对于所有的N节点有Δf=(Δf1...ΔfN)=(d1f1−W1:f...dNfN−WN:f)=(d1⋅⋅⋅0.........0⋅⋅⋅dN)f−(W1:...WN:)=diag(di)f−Wf=(D−W)f=Lf\Delta f=\begin{pmatrix}\Delta f_1\\.\\.\\.\\ \Delta f_N\end{pmatrix}\\=\begin{pmatrix}d_1f_1-W_{1:}f\\.\\.\\.\\ d_Nf_N-W_{N:}f\end{pmatrix}\\=\begin{pmatrix}d_1&\cdot&\cdot&\cdot&0\\.&.&&&.\\.&&.&&.\\.&&&.&.\\0&\cdot&\cdot&\cdot&d_N\end{pmatrix}f-\begin{pmatrix}W_{1:}\\.\\.\\.\\ W_{N:}\end{pmatrix}\\=diag(d_i)f-Wf\\=(D-W)f\\=LfΔf=⎝⎜⎜⎜⎜⎛Δf1...ΔfN⎠⎟⎟⎟⎟⎞=⎝⎜⎜⎜⎜⎛d1f1−W1:f...dNfN−WN:f⎠⎟⎟⎟⎟⎞=⎝⎜⎜⎜⎜⎛d1...0⋅.⋅⋅.⋅⋅.⋅0...dN⎠⎟⎟⎟⎟⎞f−⎝⎜⎜⎜⎜⎛W1:...WN:⎠⎟⎟⎟⎟⎞=diag(di)f−Wf=(D−W)f=Lf
这里的(D-W)就是拉普拉斯矩阵LLL。根据前面所述，拉普拉斯矩阵中的第iii行实际上反应了第iii个节点在对其它所有节点产生扰动是所产生的增益累积。直观上来讲，拉普拉斯矩阵反映了当我们在节点iii上施加一个势，这个势以哪个方向能够多顺畅的流向其它节点。
References
- https://zhuanlan.zhihu.com/p/85287578
- https://zhuanlan.zhihu.com/p/67336297
拉普拉斯矩阵 拉普拉斯算子 图论相关推荐
- 图谱卷积预备知识1：拉普拉斯矩阵
拉普拉斯矩阵介绍(图谱卷积) 相关概念 无向图 邻接矩阵 度矩阵 拉普拉斯算子 连续函数 离散函数 拉普拉斯矩阵 拉普拉斯矩阵性质 拉普拉斯矩阵的谱分解 相关概念 在介绍拉普拉斯矩阵之前,我们要了解图 ...
- graph Laplacian 拉普拉斯矩阵
拉普拉斯矩阵是个非常巧妙的东西,它是描述图的一种矩阵,在降维,分类,聚类等机器学习的领域有很广泛的应用. 什么是拉普拉斯矩阵 拉普拉斯矩阵 先说一下什么是拉普拉斯矩阵,英文名为Laplacian ma ...
- 非线性控制1.4——图论及拉普拉斯矩阵
一.图论相关概念 图的概念:图用点代表各个事物,用边代表各个事物间的二元关系.所以,图是研究集合上的二元关系的工具,是建立数学模型的一个重要手段. 1.1 无向图概念 实例: 给定无向图G＝<V ...
- 拉普拉斯算子与拉普拉斯矩阵
1.拉普拉斯算子的意义 拉普拉斯算子定义为梯度的散度,在欧式空间中为求二阶微分 梯度反映了数量场(标量场)的变化率,梯度场是向量场,具有方向 散度反映了向量场的源头的强弱 在一个数量场中 ...
- GCN频域视角相关——傅里叶变换、拉普拉斯变换、拉普拉斯算子、拉普拉斯矩阵、卷积
试图通俗地捋清标题名词之间的关系 0. 前置知识 0.1 函数的正交 0.2 什么是卷积? 0.3 散度 0.4 欧拉公式 1. 卷积与傅里叶变换 1.1 傅里叶变换 1.2 时域的卷积等于频域的乘积 ...
- 拉普拉斯矩阵（Laplacian matrix）及其变体详解
拉普拉斯矩阵(Laplacian matrix) 也叫做导纳矩阵.基尔霍夫矩阵或离散拉普拉斯算子,是图论中用于表示图的一种重要矩阵. 定义 给定一个具有 n n n个顶点的简单图 G = ( V , ...
- 拉普拉斯矩阵（Laplacian matrix）及其变体
拉普拉斯矩阵(Laplacian matrix) 也叫做导纳矩阵.基尔霍夫矩阵或离散拉普拉斯算子,是图论中用于表示图的一种重要矩阵. 定义 给定一个具有 n 个顶点的简单图 G = ( V , E ) ...
- 理解GCN(二）从拉普拉斯矩阵到Ncut问题
0 文章小节分类 相关线代启示录 对Laplancian Matrix的基础理解 对经典文章<Normalized Cuts and Image Segmentation>中的normal ...
- 图神经网络（一）图信号处理与图卷积神经网络（2）图信号与图的拉普拉斯矩阵
图神经网络(一)图信号处理与图卷积神经网络(2)图信号与图的拉普拉斯矩阵 给定图G=(V,E)G=(V,E)G=(V,E),V表示图中的节点集合,假设其长度为NNN,图信号是一种描述V→RV→RV→ ...
最新文章
- Subversion Native Library Not Available
- Spring4.X系列之AOP基础篇
- 组播IP地址到底是谁的IP？
- 2021 使用IDEA创建并编写你的第一个Maven项目【图文详解】
- mysql联合索引like_MySQL全文索引、联合索引、like查询、json查询速度大比拼
- sort()函数与升序、降序
- 人物角色群体攻击判定四(三角区域判断)
- 【银行】银行业务系统设计特点概述
- 代码读智识 笔墨知人心
- Android心率测试
- GhostNet网络详解
- php将json转化成数组,php如何把json转换成数组
- 整理：C primer plus 学习笔记
- unity中控制游戏物体移动最基本的三种方法
- Nginx配置详解/代理服务的配置说明
- G.7xx：视频/音频压缩协议（Audio/Voice Compression Protocols）
- CAN总线（二）——CAN2.0标准与协议分析
- linux实现复制文件的两种方法
- 微信小程序订阅消息推送（附带后台java代码）
- W3C推荐的新布局模式 【CSS Flex布局】详解