特征图大小_新手向快速了解图神经网络

这两天稍微看了点图神经网络的东西，稍微做个记录，第一次接触这个名词的推荐可以看一下知乎上一个视频

简单粗暴带你快速理解图神经网络GNN

图神经网络处理的数据一般就是个图，图网络具有节点特征和结构特征，图神经网络的本质提示就是提取特征。

这个特征提取的思路也很make sense，把相邻节点的特征结合起来，这也叫做聚合，结合得到的信息和自身特征进行融合，这就叫更新。所以GNN其实就是不断将相邻节点的信息进行融合的过程。

假设一个图有

个节点，每个节点用一个特征向量来表示，初始特征维度为

，也就是说拿到这个图的时候，我们的原始特征数据是个

的矩阵

，每一行代表一个节点的特征向量。

除此之外，由于这是一个图，我们还知道节点之间的连接关系，因此可以得到这个图的邻接矩阵

，其中

代表

和

两个节点是相连的（对于无向图，“你连我”和“我连你”是一样的，所以这个矩阵是对称的）。

有了原始特征

和节点之间的关系矩阵

，我们就可以进行特征提取了。这个特征提取的过程可以理解为常规神经网络的隐藏层，或者说是一个映射

不同的网络的区别可以体现在映射

的设计上，举个简单的例子，这个映射可以是

可以理解为对该层特征进行加权后通过邻接矩阵进行过滤，再通过relu函数增加点非线性。事实也说明了这样一种形式是可行的，但是有两个需要解决的问题

节点聚合得到的特征是相邻节点的特征聚合，不包含节点本身
提取出来的特征大小跟图节点的度（可以理解为相邻节点的个数）有关，度大的节点特征较大，这可能会导致梯度消失或爆炸

对于这两个问题自然也有了相应的解决措施：

邻接矩阵加入自环：

，其实可以理解为聚合邻居特征是把自己加上去呗
度的大小影响特征的大小，那就用度矩阵来归一化一下，

经过改进，得到的映射就是

其中

就是加入自环的邻接矩阵，

就是根据

得到的度矩阵（对角阵，

）。

另外推荐几个不错的参考资料

THOMAS KIPF的博客

https://tkipf.github.io/graph-convolutional-networks/tkipf.github.io

2. @小小将写的文章

小小将：2020年，我终于决定入门GCNzhuanlan.zhihu.com

3. 知乎上的高赞评论

如何理解 Graph Convolutional Network（GCN）？www.zhihu.com

特征图大小_新手向快速了解图神经网络相关推荐

卷积计算，反卷积计算，特征图大小计算，空洞卷积计算
感受野大小计算.卷积参数量与计算量.空洞卷积计算量与参数量卷积计算,反卷积计算,特征图大小计算,空洞卷积计算转自:https://www.jianshu.com/p/09ea4df7a788?ut ...
卷积神经网络系列之卷积/池化后特征图大小怎么计算？？
1.卷积后的大小: W:矩阵宽,H:矩阵高,F:卷积核宽和高,P:padding(需要填充的0的个数),N:卷积核的个数,S:步长 width:卷积后输出矩阵的宽,height:卷积后输出矩阵的高 w ...
【卷积神经网络--卷积/池化后特征图大小计算公式】
[卷积神经网络–卷积/池化后特征图大小计算公式] 参考链接: 卷积神经网络系列之卷积/池化后特征图大小怎么计算?? torch中的Conv2d卷积的输入的Tensor张量是:[batch, chann ...
group convolution (分组卷积)的计算量详解、卷积计算量特征图大小，池化特征图大小、深度通道deep-wise 卷积
group convolution (分组卷积)的计算量详解.卷积计算量特征图大小,池化特征图大小.深度通道deep-wise 卷积提示:最近忙着各种提前批的笔试面试,所以没太多空刷题了都,先复盘一 ...
特征图注意力_注意力机制之Residual Attetion Network
本文是在阅读完<Residual Attention Network for Image Classification>所做的笔记, 由于本人对注意力机制了解甚浅,笔记当中若有不恰当的地方 ...
layuiadmin上手好难_新手如何快速上手自媒体赚钱？送你4个好建议！记得收藏
新手如何快速上手自媒体赚钱?送你4个好建议!记得收藏! 很多新手很想做自媒体,但是还不知道怎么开始,因为他们刚接触自媒体,所以不是很了解.这里给自媒体新手朋友们分享一些好的建议,希望可以帮助到大家!作 ...
特征图注意力_计算机视觉中的Non-local-Block以及其他注意力机制
Non-local Neural Networksarxiv.org 之前看的一篇论文继续总结一下,本质是一种注意力机制模块,文章相对来说比较老,CVPR2018. 我将从以下几个方面总结一下论文, ...
卷积神经网络中特征图大小计算公式总结
W:输入特征图的宽,H:输入特征图的高 K:kernel size卷积核宽和高,P:padding(特征图需要填充的0的个数),S:stride步长 width_out:卷积后输出特征图的宽,heig ...
谈谈怎么可以得到显著性图特征图 featuremap 深度学习的可解释性卷积神经网络表征可视化研究综述
特征图显著性图很重要图对应的原始图形的数据然后可以进行显著性图和特征图的显示研究上面是一个特诊图cost time: 99.35089445114136 Duration: 0.07 sec ...

特征图大小_新手向快速了解图神经网络

特征图大小_新手向快速了解图神经网络相关推荐

最新文章

热门文章