提高图嵌入的质量和效率是一直以来被关注的两个问题。一方面,图嵌入应该利用图的结构性特征以及节点的属性特征来提升嵌入的质量;另一方面,提高图嵌入方法的效率和可扩展性使其能够应用到超大规模的图上。这两个问题常常是正交的。因此,本文希望能够同时提升图嵌入的效率和质量。

图嵌入越来越多地被应用在非欧数据的表示学习上。图嵌入旨在将图中的节点映射到低位向量编码空间中并尽可能地保留节点的特征。

“如何同时有效地利用图的结构性和节点属性特征来提升表达力”以及“如何提高图嵌入的效率”一直是图嵌入关注的问题。

提高图嵌入的质量和效率常常是正交的两个问题,也是一直以来被关注的两个问题。一方面,图嵌入应该利用图的结构性特征以及节点的属性特征来提升嵌入的质量;另一方面,提高图嵌入方法的效率和可扩展性使其能够应用到超大规模的图上。因此,本文希望能够同时提升图嵌入的效率和质量。

文章提出了一个无监督的多级学习框架 GraphZoom,能够在现有无监督图嵌入方法的基础上提高其质量和效率。GraphZoom 包含以下四个过程:

1) 图融合(Graph fusion)。利用节点属性相似度构建特征相似矩阵,与邻接矩阵结合的到包含结构特征和属性特征的混合邻接矩阵:

2) 谱粗化(Spectral coarsening)。利用“局部谱嵌入”高效地利用混合邻接矩阵进行图嵌入,即用高斯-赛德尔迭代法解k个线性方程组得到 k 维特征表示。然后对谱亲和性更高的节点进行局部聚类,得到节点数更少的图(邻接矩阵)。如此反复。

3) 利用现有图嵌入方法(DeepWalk, DGI 等)对谱粗化后的图进行嵌入。

4) 嵌入细化(Embedding refinement)。利用拉普拉斯平滑将 3)中得到的节点表示映射到原图的每一个节点上,得到原图节点的嵌入表示。

GraphZoom 在多个方法以及数据集上均实现了嵌入质量和效率的提升。谱粗化和嵌入细化两个过程一方面融合了结构和属性特征,另一方面以较低的代价将图的表示学习转化为更小规模图的嵌入,提升学习效率。GraphZoom 在 DeepWalk 和 Node2vec 方法上实现了 20× 以上的效率提升,在 DGI 上实现了 ~10× 的效率提升。

大规模图嵌入 示例_ICLR 2020 | 基于谱方法的高效多级图嵌入框架相关推荐

  1. 论文浅尝 | 用于学习知识图谱嵌入的一种基于注意力机制的新型异构 GNN 框架HRAN...

    笔记整理 | 李爽,天津大学 链接:http://hfbix45521e79b0484907sowxo0fubpp9b6xwx.fiiz.eds.tju.edu.cn/stamp/stamp.jsp? ...

  2. 为什么要进行图学习?谈一谈逆势而上的图神经网络

    点击上方 蓝字关注我们 问一问近几年来逆势而上的技术有什么?相信你一定会说出来一个:图神经网络. 图神经网络将会在人工智能的各个领域起着非常重要的作用,虽然目前还没有完全成为各大顶会的焦点,但不可否认 ...

  3. 基于网络的思维导图工具的八个独特优点

    概述:新兴的基于网络的思维导图工具比起传统的桌面软件有着太多的优点,以下是笔者总结的八个独特优点. 如果你正在寻找一种低成本的用于商业的思维导图工具,那么那些基于网络的思维导图软件会是一个不错的选择. ...

  4. UI设计师高效切图6大步骤

    做为UI设计师,需要标注设计稿和切图,本文和大家分享的就是高效切图的一些步骤,一起来看看吧,希望对大家ui设计有所帮助. 不用在意那么多设备 不管iOS和Android手机型号有多少,只要我们了解它的 ...

  5. AAAI 2020 开源论文 | 一种针对图嵌入模型的受限黑盒对抗攻击框架

    AAAI(人工智能促进协会年会)是人工智能领域的顶级国际会议之一.今年的 AAAI 2020 是第 34 届,于 2 月 7 日至 12 日在美国纽约举行.今年,第 3 次参会的腾讯 AI Lab 共 ...

  6. 【GNN】图嵌入之 DeepWalk:基于社交表征的在线学习算法

    论文名称:DeepWalk: Online Learning of Social Representations 论文下载:https://arxiv.org/abs/1403.6652 论文年份:S ...

  7. java克鲁斯卡尔算法_Java语言基于无向有权图实现克鲁斯卡尔算法代码示例

    所谓有权图,就是图中的每一条边上都会有相应的一个或一组值.通常情况下,这个值只是一个数字 如:在交通运输网中,边上的权值可能表示的是路程,也可能表示的是运输费用(显然二者都是数字).不过,边上的权值也 ...

  8. 论文浅尝 | 基于正交普鲁克分析的高效知识图嵌入学习

    笔记整理:朱渝珊,浙江大学在读博士,研究方向为快速知识图谱的表示学习,多模态知识图谱. 1.Motivation 知识图谱是许多NLP任务和下游应用的核心,如问答.对话代理.搜索引擎和推荐系统.知识图 ...

  9. 论文浅尝 - SIAM ICDM 2020 | 基于图时空网络的知识引导的诊断预测

    论文笔记整理:吴锐,东南大学硕士. 来源:SIAM ICDM 2020 论文下载地址: https://epubs.siam.org/doi/abs/10.1137/1.9781611976236.3 ...

最新文章

  1. 【指标统计】标记存量遥控(成功/失败)遥信(正确/错误)
  2. mysql导入数据表大小限制,解除phpMyAdmin导入大型MySQL数据库文件大小限制
  3. LoadRunner脚本篇
  4. Python萌新笔记
  5. 强大的CSS3动画库animate.css
  6. 计算机软件技术基础fifo算法,软件技术基础真题
  7. 恐怖地狱火恶魔叉404模板下载
  8. Apache httpd 安装
  9. sysbench测试
  10. smartctl command's RETURN VALUES
  11. 【Nature论文浅析】基于模型的AlphaGo Zero
  12. 信标链 分片链 是什么?
  13. Jar包顺序引起编译错误一例
  14. OCJP认证有什么用
  15. 分享一款开源数据库建模工具--PDMan(可代替powerdesigner)
  16. 谈谈谈zookeeper
  17. 一次下载多个文件的解决思路-JS
  18. Chapter2 Creating and Destroying Objects
  19. 【李峋同款爱心加照片】
  20. pq分解法潮流计算的matlab,第四节PQ分解法潮流计算

热门文章

  1. Oracle 10g 高级安装图文教程(一)
  2. luogu P2018 消息传递
  3. nginx的gzip压缩
  4. HashMap与ConcurrentHashMap的测试报告
  5. The Clean Architecture--一篇很不错的关于架构的文章
  6. flash flip 效果集
  7. 【php数组函数序列】之sort() - 对数组的元素值进行升序排序
  8. Windows via C/C++ 学习(8)CreateProcess 函数
  9. 大数据之-Hadoop3.x_MapReduce_自定义序列化步骤---大数据之hadoop3.x工作笔记0095
  10. C++_逻辑运算符_非_与_或---C++语言工作笔记015