聚合、更新、循环

  • 举例:输入一个简单的图结构
    • GNN
      • 聚合操作
      • 更新操作
      • 循环操作(多层更新操作)
      • 目的
    • GCN
      • 修改的聚合部分
        • 平均法
        • 平均法存在的问题
        • GCN提出的方法

简单粗暴快速理解GNN
Graph-Unets
GCN中的拉普拉斯矩阵如何归一化?

举例:输入一个简单的图结构

GNN

聚合操作

经过一次聚合后:聚合到的信息:
邻居信息N=a∗(2,2,2,2,2)+b∗(3,3,3,3,3)+c∗(4,4,4,4,4)邻居信息N = a*(2,2,2,2,2)+b*(3,3,3,3,3)+c*(4,4,4,4,4) 邻居信息N=a∗(2,2,2,2,2)+b∗(3,3,3,3,3)+c∗(4,4,4,4,4)

  • a、b、ca、b、ca、b、c :自行设置或进行训练学习。
    简单的说:就是将其他相邻节点的信息聚合,作为当前节点信息的一个补足。

更新操作

A的信息 =σ(W((1,1,1,1,1)+α∗N))\text { A的信息 }=\sigma\left(\mathrm{W}\left((1,1,1,1,1)+\alpha^{*} \mathrm{~N}\right)\right)  A的信息 =σ(W((1,1,1,1,1)+α∗ N))
简单地说:将得到的邻居节点信息乘以系数加到当前节点,再乘以学习的权重和激活函数,从而获得聚合后的A的信息(一层GNN后的A的最终信息)。

  • α\alphaα :自行设置或attention机制选出或进行训练学习。
  • WWW :模型需要训练的权值参数。
  • σ\sigmaσ :激活函数。

循环操作(多层更新操作)

【n层的GNN可以得到n层的邻居信息】
经过一次聚合后:

  • A中有B,C,D的信息
  • B中有A,C的信息
  • C中有A,B,D,E的信息
  • D中有A,C的信息
  • E中有C的信息

那么第二次聚合之后以此类推

  • 以A结点为例,此时A聚合C的时候,C中有上一层聚合到的E的信息,所以这时A获得了二阶邻居E的特征。

目的

通过聚合更新,到最后,我们能够得到每个结点的表达,也就是特征feature,此时:

  • 结点分类就可以直接拿去分类,算loss, 优化前面提到的W
  • 关联预测就最简单的方法两个节点的特征一拼,拿去做分类,一样的算loss, 优化。
  • 归根到底,GNN就是个提取特征的方法! ! ! ! !
    黑盒子表示:
    输入的是节点特征与图的结构
    输出的是包含结构与特征的节点的最终特征
    用最终特征去进行分类、预测、回归等操作。

GCN

修改的聚合部分

修改了GNN的聚合部分,提出解决a、b、ca、b、ca、b、c值的设定问题。

平均法


首先:提出将邻居的特征加起来作为特征求和。
之后又需要添加闭环:添加一个自环加上自身的特征。
然后:又将求和的特征平均一下的得到当前节点最终的特征。

平均法存在的问题


马云-我的例子。

GCN提出的方法

  • A~\tilde{A}A~:邻接矩阵A+单位矩阵I(表示邻居的信息加上自己的信息)。
  • D~\tilde{D}D~:A~\tilde{A}A~的度矩阵。

    使用了对称归一化的拉普拉斯矩阵方法解决了这个问题。

【论文知识点笔记】GNN流程到GCN流程相关推荐

  1. 【论文知识点笔记】GNN概述(图神经网络概述)

    GNN(图神经网络) 图卷积的谱方法 图(Graph) 图拉普拉斯矩阵(Graph Laplacian) 正则化的图拉普拉斯矩阵(Normalized graph Laplacian) 图傅里叶基(F ...

  2. 【论文知识点笔记】Binarized P-Network(强化学习+保守值迭代+二值化神经网络)

    Binarized P-Network(强化学习+保守值迭代+二值化神经网络) 一.强化学习 1. 特点 2. 介绍 3. 知识点 4. 原理 4.1. 马尔科夫决策过程(MDP) 二.保守值迭代(C ...

  3. 【论文知识点笔记】具有定量特征融合的粒子群优化模糊 CNN 用于超声图像质量识别

    Particle Swarm Optimized Fuzzy CNN with Quantitative Feature Fusion for Ultrasound Image Quality Ide ...

  4. LIteOS学习笔记-7LiteOS启动流程与编译流程

    LIteOS学习笔记-7LiteOS启动流程与编译流程 LiteOS启动流程 1. 启动方式 2. 启动流程 硬件初始化 内核初始化 调试串口初始化 尝试进行网络连接 启动任务调度 LiteOS编译流 ...

  5. 5、赛灵思-Zynq UltraScale+ MPSoC学习笔记:Petalinux 的设计流程及定制Linux系统

    5.赛灵思-Zynq UltraScale+ MPSoC学习笔记:Petalinux 的设计流程及定制Linux系统 声明:本文是学习赛灵思 Zynq UltraScale+ MPSoC 5EV过程中 ...

  6. Git 学习笔记:5 分布式工作流程

    Git 学习笔记:5 分布式工作流程 分布式工作流程 集中式工作流 集成管理员工作流 司令官与副官工作流 工作流程总结 向一个项目贡献 提交准则 私有小型团队 John's Machine 私有管理团 ...

  7. MLX90640开发笔记(三)工作流程和操作MLX90640的一般步骤

    默认参数时,MLX90640的工作流程如下: (1)上电,内部初始化(约40ms) (2)读取工作参数到控制和状态寄存器 (3)开始以2Hz的速率测量实时数据并更新到RAM,自动更新状态寄存器. 测量 ...

  8. MAC知识点004:pause帧处理流程

    MAC知识点004:pause帧处理流程 1.什么是pause帧? 在IEEE802.3协议中规定中,pause帧是一种控制帧,用于控制数据流停止发送,在MAC 发送侧产生,在MAC接收侧解析并执行. ...

  9. [论文阅读笔记53]2021深度神经方法的关系三元组抽取综述

    1. 题目 Deep Neural Approaches to Relation Triplets Extraction: A Comprehensive Survey Tapas Nayak†, N ...

最新文章

  1. [附下载]英特尔中国研究院携手生态伙伴发布《机器人4.0白皮书》
  2. Class.getResourceAsStream
  3. redis配置文件redis.conf参数说明
  4. spss主成分综合得分_【2020.】这种主成分得分图SPSS能够实现吗?
  5. PHP Curl多线程原理实例详解
  6. mysql 空间 类型_MySQL空间类型测试
  7. [LOJ #521]「LibreOJ β Round #3」绯色 IOI(抵达)(结论)
  8. python2与_python2和python3的区别
  9. unity常见问题之20题
  10. Python学习入门基础教程(learning Python)--4.3 Python的for嵌套
  11. 高中会考计算机免考条件,高中会考学生听力残疾可免考外语听力
  12. 京东快捷支付的安全隐患
  13. 使用Python下载m3u8流视频
  14. vue-video-player文档_vue使用video和vue-video-player并且可实现视频铺满呦
  15. 原码一位乘法c语言程序,原码一位乘法与补码一位乘法
  16. 支持向量机(SVM)原理小结(3)支持向量回归SVR
  17. EfficientNet论文解读
  18. iOS开发常用设计模式
  19. python自动翻译excel某一列_python批量将excel内容进行翻译写入功能
  20. [存档]Martin Fowler在UMLChina交流实录

热门文章

  1. 吊打一切现有开源OCR项目!90% +准确率,训练部署一条龙
  2. Score Function Trick及其在机器学习中的应用
  3. 新型RNN:将层内神经元相互独立以提高长程记忆 | CVPR 2018论文解读
  4. 中国计算机学会YOCSEF TDS《专题探索班》,新一代人工智能的基础与前瞻
  5. 51NOD 1138 连续整数的和
  6. 关于大家对Swin Transformer的魔改论文模型记录(只关注Swin是如何使用的)
  7. python控制autocad_利用python控制Autocad:pyautocad方式
  8. html登录界面设计代码_.NET 5 开发WPF - 美食应用登录UI设计
  9. php超链接_一个纯PHP库,用于读写文字处理文档
  10. Dubbo启动时qos-server can not bind localhost:22222错误解决