【论文知识点笔记】GNN流程到GCN流程
聚合、更新、循环
- 举例:输入一个简单的图结构
- GNN
- 聚合操作
- 更新操作
- 循环操作(多层更新操作)
- 目的
- GCN
- 修改的聚合部分
- 平均法
- 平均法存在的问题
- GCN提出的方法
简单粗暴快速理解GNN
Graph-Unets
GCN中的拉普拉斯矩阵如何归一化?
举例:输入一个简单的图结构
GNN
聚合操作
经过一次聚合后:聚合到的信息:
邻居信息N=a∗(2,2,2,2,2)+b∗(3,3,3,3,3)+c∗(4,4,4,4,4)邻居信息N = a*(2,2,2,2,2)+b*(3,3,3,3,3)+c*(4,4,4,4,4) 邻居信息N=a∗(2,2,2,2,2)+b∗(3,3,3,3,3)+c∗(4,4,4,4,4)
- a、b、ca、b、ca、b、c :自行设置或进行训练学习。
简单的说:就是将其他相邻节点的信息聚合,作为当前节点信息的一个补足。
更新操作
A的信息 =σ(W((1,1,1,1,1)+α∗N))\text { A的信息 }=\sigma\left(\mathrm{W}\left((1,1,1,1,1)+\alpha^{*} \mathrm{~N}\right)\right) A的信息 =σ(W((1,1,1,1,1)+α∗ N))
简单地说:将得到的邻居节点信息乘以系数加到当前节点,再乘以学习的权重和激活函数,从而获得聚合后的A的信息(一层GNN后的A的最终信息)。
- α\alphaα :自行设置或attention机制选出或进行训练学习。
- WWW :模型需要训练的权值参数。
- σ\sigmaσ :激活函数。
循环操作(多层更新操作)
【n层的GNN可以得到n层的邻居信息】
经过一次聚合后:
- A中有B,C,D的信息
- B中有A,C的信息
- C中有A,B,D,E的信息
- D中有A,C的信息
- E中有C的信息
那么第二次聚合之后以此类推
- 以A结点为例,此时A聚合C的时候,C中有上一层聚合到的E的信息,所以这时A获得了二阶邻居E的特征。
目的
通过聚合更新,到最后,我们能够得到每个结点的表达,也就是特征feature,此时:
- 结点分类就可以直接拿去分类,算loss, 优化前面提到的W
- 关联预测就最简单的方法两个节点的特征一拼,拿去做分类,一样的算loss, 优化。
- 归根到底,GNN就是个提取特征的方法! ! ! ! !
黑盒子表示:
输入的是节点特征与图的结构
输出的是包含结构与特征的节点的最终特征
用最终特征去进行分类、预测、回归等操作。
GCN
修改的聚合部分
修改了GNN的聚合部分,提出解决a、b、ca、b、ca、b、c值的设定问题。
平均法
首先:提出将邻居的特征加起来作为特征求和。
之后又需要添加闭环:添加一个自环加上自身的特征。
然后:又将求和的特征平均一下的得到当前节点最终的特征。
平均法存在的问题
马云-我的例子。
GCN提出的方法
- A~\tilde{A}A~:邻接矩阵A+单位矩阵I(表示邻居的信息加上自己的信息)。
- D~\tilde{D}D~:A~\tilde{A}A~的度矩阵。
使用了对称归一化的拉普拉斯矩阵方法解决了这个问题。
【论文知识点笔记】GNN流程到GCN流程相关推荐
- 【论文知识点笔记】GNN概述(图神经网络概述)
GNN(图神经网络) 图卷积的谱方法 图(Graph) 图拉普拉斯矩阵(Graph Laplacian) 正则化的图拉普拉斯矩阵(Normalized graph Laplacian) 图傅里叶基(F ...
- 【论文知识点笔记】Binarized P-Network(强化学习+保守值迭代+二值化神经网络)
Binarized P-Network(强化学习+保守值迭代+二值化神经网络) 一.强化学习 1. 特点 2. 介绍 3. 知识点 4. 原理 4.1. 马尔科夫决策过程(MDP) 二.保守值迭代(C ...
- 【论文知识点笔记】具有定量特征融合的粒子群优化模糊 CNN 用于超声图像质量识别
Particle Swarm Optimized Fuzzy CNN with Quantitative Feature Fusion for Ultrasound Image Quality Ide ...
- LIteOS学习笔记-7LiteOS启动流程与编译流程
LIteOS学习笔记-7LiteOS启动流程与编译流程 LiteOS启动流程 1. 启动方式 2. 启动流程 硬件初始化 内核初始化 调试串口初始化 尝试进行网络连接 启动任务调度 LiteOS编译流 ...
- 5、赛灵思-Zynq UltraScale+ MPSoC学习笔记:Petalinux 的设计流程及定制Linux系统
5.赛灵思-Zynq UltraScale+ MPSoC学习笔记:Petalinux 的设计流程及定制Linux系统 声明:本文是学习赛灵思 Zynq UltraScale+ MPSoC 5EV过程中 ...
- Git 学习笔记:5 分布式工作流程
Git 学习笔记:5 分布式工作流程 分布式工作流程 集中式工作流 集成管理员工作流 司令官与副官工作流 工作流程总结 向一个项目贡献 提交准则 私有小型团队 John's Machine 私有管理团 ...
- MLX90640开发笔记(三)工作流程和操作MLX90640的一般步骤
默认参数时,MLX90640的工作流程如下: (1)上电,内部初始化(约40ms) (2)读取工作参数到控制和状态寄存器 (3)开始以2Hz的速率测量实时数据并更新到RAM,自动更新状态寄存器. 测量 ...
- MAC知识点004:pause帧处理流程
MAC知识点004:pause帧处理流程 1.什么是pause帧? 在IEEE802.3协议中规定中,pause帧是一种控制帧,用于控制数据流停止发送,在MAC 发送侧产生,在MAC接收侧解析并执行. ...
- [论文阅读笔记53]2021深度神经方法的关系三元组抽取综述
1. 题目 Deep Neural Approaches to Relation Triplets Extraction: A Comprehensive Survey Tapas Nayak†, N ...
最新文章
- [附下载]英特尔中国研究院携手生态伙伴发布《机器人4.0白皮书》
- Class.getResourceAsStream
- redis配置文件redis.conf参数说明
- spss主成分综合得分_【2020.】这种主成分得分图SPSS能够实现吗?
- PHP Curl多线程原理实例详解
- mysql 空间 类型_MySQL空间类型测试
- [LOJ #521]「LibreOJ β Round #3」绯色 IOI(抵达)(结论)
- python2与_python2和python3的区别
- unity常见问题之20题
- Python学习入门基础教程(learning Python)--4.3 Python的for嵌套
- 高中会考计算机免考条件,高中会考学生听力残疾可免考外语听力
- 京东快捷支付的安全隐患
- 使用Python下载m3u8流视频
- vue-video-player文档_vue使用video和vue-video-player并且可实现视频铺满呦
- 原码一位乘法c语言程序,原码一位乘法与补码一位乘法
- 支持向量机(SVM)原理小结(3)支持向量回归SVR
- EfficientNet论文解读
- iOS开发常用设计模式
- python自动翻译excel某一列_python批量将excel内容进行翻译写入功能
- [存档]Martin Fowler在UMLChina交流实录
热门文章
- 吊打一切现有开源OCR项目!90% +准确率,训练部署一条龙
- Score Function Trick及其在机器学习中的应用
- 新型RNN:将层内神经元相互独立以提高长程记忆 | CVPR 2018论文解读
- 中国计算机学会YOCSEF TDS《专题探索班》,新一代人工智能的基础与前瞻
- 51NOD 1138 连续整数的和
- 关于大家对Swin Transformer的魔改论文模型记录(只关注Swin是如何使用的)
- python控制autocad_利用python控制Autocad:pyautocad方式
- html登录界面设计代码_.NET 5 开发WPF - 美食应用登录UI设计
- php超链接_一个纯PHP库,用于读写文字处理文档
- Dubbo启动时qos-server can not bind localhost:22222错误解决