[2022]李宏毅深度学习与机器学习第四讲(选修)-GNN

  • 做笔记的目的
  • GNN
    • NN4G
    • DCNN
    • MoNET
    • GTA
    • GIN

做笔记的目的

1、监督自己把50多个小时的视频看下去,所以每看一部分内容做一下笔记,我认为这是比较有意义的一件事情。
2、路漫漫其修远兮,学习是不断重复和积累的过程。怕自己看完视频不及时做笔记,学习效果不好,因此想着做笔记,提高学习效果。
3、因为刚刚入门深度学习,听课的过程中,理解难免有偏差,也希望各位大佬指正。

GNN

其实有些地方没听懂
数据可能以图得形式出现,这样节点间会存在某种特定关系,同时dataset会非常大,所以我们需要GNN。

GNN需要做两步,第一个是卷积(聚合),以及readout,有很多种方法。

NN4G



把相邻的节点相加,然后乘W,在与自身相加乘W,这样不断地更新。

readout这一步,就是求每个图的平均各乘W,之后相加。

DCNN



他的方法是求距离等于1的节点然后求平均之后再乘权重;求距离等于2的节点然后求平均之后再乘权重,这样反复执行完求距离等于K的。之后对矩阵进行一个transform。

MoNET

因为边的权重不一样,比如说每个节点的距离,计算方法如下图:

GTA

边的权重学习出来。

对邻居做attention,两个向量算出attention 分数然后相乘相加

GIN

直接记住结论:图卷积要加上自己,同时邻居用相加,因为相加的话能表示的关系更多。

[2022]李宏毅深度学习与机器学习第四讲(选修)-GNN相关推荐

  1. [2022]李宏毅深度学习与机器学习第六讲(必修)-GAN

    [2022]李宏毅深度学习与机器学习第六讲(必修)-GAN 做笔记的目的 GAN generator Unconditional generator Theory Behind Tips for GA ...

  2. [2022]李宏毅深度学习与机器学习课程内容总结

    [2022]李宏毅深度学习与机器学习课程内容总结 课程感受 第一讲必修 ML的三个步骤 第一讲选修 深度学习发展趋势 反向传播 从线性模型到神经网络 为什么要用正则化技术 为什么分类是用交叉熵损失函数 ...

  3. [2022]李宏毅深度学习与机器学习第十二讲(必修)-Reinforcement Learning RL

    [2022]李宏毅深度学习与机器学习第十二讲(必修)-Reinforcement Learning RL 做笔记的目的 What is RL Policy Gradient Version 1 Ver ...

  4. 【深度学习】李宏毅2021/2022春深度学习课程笔记 - Deep Learning Task Tips

    文章目录 一.深度学习步骤回顾 二.常规指导 三.训练过程中Loss很大 3.1 原因1:模型过于简单 3.2 原因2:优化得不好 3.3 原因1 or 原因2 ? 四.训练过程Loss小.测试过程L ...

  5. 【深度学习】李宏毅2021/2022春深度学习课程笔记 - Convolutional Neural NetWork(CNN)

    文章目录 一.图片分类问题 二.观察图片分类问题的特性 2.1 观察1 2.2 简化1:卷积 2.3 观察2 2.4 简化2:共享参数 - 卷积核 2.5 观察3 2.6 简化3:池化 2.6.1 M ...

  6. 人工智能,机器学习,深度学习,神经网络,四者的含义和关系

    人工智能,机器学习,深度学习,神经网络,四者的含义和关系 人工智能 机器学习 深度学习 神经网络 四者的关系 在很多关于人工智能的书中都提到了这些词:人工智能,机器学习,深度学习,神经网络. 为了弄懂 ...

  7. 李宏毅深度学习笔记——呕心整理版

    李宏毅深度学习笔记--呕心整理版 闲谈叨叨叨: 之前看过吴恩达的一部分课程,所以有一定理论基础,再看李宏毅的课程会有新的理解.我先以有基础的情况写完学习过程,后续再以零基础的角度补充细节概念(估计不会 ...

  8. 深度学习vs机器学习 | 这些本质区别你知道多少?

    作者 | Walker [磐创AI导读]:深度学习和机器学习已经变得无处不在,那它们之间到底有什么区别呢?本文我们为大家总结了深度学习VS机器学习的六大本质区别.欢迎大家点击上方蓝字关注公众号:磐创A ...

  9. 深度学习与机器学习的思考

    需要一些传统图像处理知识为佳. "end-to-end"(端到端)说的是,输入的是原始数据(始端),然后输出的直接就是最终目标(末端),中间过程不可知,因此也难以知. 就此,有人批 ...

最新文章

  1. Java:全局变量(成员变量)与局部变量
  2. 高压测试平台:高压包产生高电压基本测试参数
  3. android组件化开发视频教程,教你打造一个Android组件化开发框架
  4. tengine 调用php,nginx 或tengine 访问日志分割处理
  5. “设为桌面图标”的ASP源代码
  6. Resource 资源 ---Day09 2014-06-13
  7. 动手开发第一个 Cypress 测试应用
  8. 微服务升级_SpringCloud Alibaba工作笔记0001---新一代网关spring gateway和zuul的关系说明
  9. Android开发笔记(一百六十四)仿京东首页的下拉刷新
  10. 虚函数virtual
  11. JAVA中的观察者模式observer
  12. plsql developer13的下载、instantclient的下载
  13. 吴恩达 Deeplearning深度学习笔记v5.7 最新PDF版 免积分下载
  14. 常用Firefox插件大全
  15. 装了Restorator,打开应用程序,提示不支持此接口的解决方法
  16. Matlab LZW编码
  17. [牛客练习] 深信服校园招聘c/c 软件开发H卷 Apare_xzc
  18. extern 用法详解
  19. 微信小程序图片实现宽度100%,高度自适应
  20. 【Python第一课】课程介绍

热门文章

  1. PMFS文件系统挂载
  2. Python工具箱系列(十八)
  3. #js--js获取${pageContext.request.contextPath}得到项目的根路径
  4. Chrome常用插件
  5. 打开IAR工程后,Workspace栏不显示工程的解决办法
  6. 简略地月星系三维展现
  7. 【Pyecharts | PictorialBar】StockX球鞋溢价排行TOP10~
  8. 小本本记下来!带你一起探秘 Scala3 与 Type classes
  9. 【智慧水利】大江大河水文监测系统解决方案
  10. DSP TMS320F2803x、TMS320F2806x CPU Timer定时器开发笔记(代码基于TMS320F28069 详解)