KDD 18论文解读 | 斯坦福大学提出全新网络嵌入方法 — GraphWave
在碎片化阅读充斥眼球的时代,越来越少的人会去关注每篇论文背后的探索和思考。
在这个栏目里,你会快速 get 每篇精选论文的亮点和痛点,时刻紧跟 AI 前沿成果。
点击本文底部的「阅读原文」即刻加入社区,查看更多最新论文推荐。
这是 PaperDaily 的第 100 篇文章
本期推荐的论文笔记来自 PaperWeekly 社区用户 @xuehansheng。本文是斯坦福大学发表于 KDD ’18 的工作,论文提出了一种通过利用热小波扩散模式、通过低维嵌入来表示每个节点的网络邻域的方法——GraphWave。
GraphWave 不是在手工选择的特征上进行训练,而是以无人监督的方式学习这些嵌入。文章在数学上证明具有相似网络邻域的节点将具有类似的 GraphWave 嵌入,即使这些节点可能驻留在网络的非常不同的部分中。
如果你对本文工作感兴趣,点击底部阅读原文即可查看原论文。
关于作者:薛寒生,澳大利亚国立大学博士生,研究方向为人工智能与计算生物学。
■ 论文 | Learning Structural Node Embeddings via Diffusion Wavelets
■ 链接 | https://www.paperweekly.site/papers/2204
■ 源码 | https://github.com/snap-stanford/graphwave
论文动机
驻留在图的不同部分中的节点可能在其本地网络拓扑中具有类似的结构角色。然而学习节点的结构表示是一项具有挑战性的无监督学习任务,其通常涉及为每个节点人工指定和定制拓扑特征。
GraphWave 是一种可扩展的无监督方法,用于基于网络中的结构相似性来学习节点嵌入。 GraphWave 通过将小波视为概率分布,并使用经验特征函数表征分布来开发光谱图小波的新用途。
GraphWave 提供理论保证,具有相似本地网络邻域的节点将具有类似的 GraphWave 嵌入,即使这些节点可能驻留在网络的非常不同的部分中。 GraphWave 与边数成线性比例,不需要任何人工定制节点的拓扑特征。
GraphWave 模型介绍
GraphWave 基于以该节点为中心的谱图小波的扩散,学习每个节点的结构嵌入。直观地,每个节点在图上传播能量单位,并基于网络对该探测的响应来表征其相邻拓扑。
GraphWave 使用一种新颖的方法将小波视为图上的概率分布。通过这种方式,结构信息包含在扩散如何通过网络传播而不是传播的位置。为了提供矢量值特征,然后可以将其用作任何机器学习算法的输入,GraphWave 使用经验特征函数嵌入这些小波分布。
在上图中,节点 a 和 b 具有相似的局部结构角色,即使它们在图中很远。虽然 a 和 b 的原始光谱图小波签名/系数 Ψ 可能非常不同,但 GraphWave 将它们视为概率分布,因此可以自动了解系数分布确实相似。Graphwave 利用这些新见解,基于以节点 a/b 为中心的谱图小波的扩散,学习节点 a/b 的结构嵌入。
GraphWave Algorithm
实验结果
Barbell Graph
在这个例子中,文章考虑一个杠铃图,它由两个由长链连接的密集团组成。 我们将 GraphWave 应用于杠铃图并绘制学习结构签名的 2D PCA。
从下图中可以看出,该图具有 8 个不同类别的结构等效节点,如颜色(左)所示。 结构签名的 2D PCA 投影(右)包含与杠铃图中的节点相同数量的点。 这是因为相同的签名具有相同的投影,导致重叠点。
GraphWave 正确地学习了结构等效节点的相同表示,为 GraphWave 的理论保证提供了经验证据。这可以通过图中的结构等效节点(相同颜色的节点)在 PCA 图中具有相同的投影来看出。
特别是,GraphWave 正确地将 clique 节点(紫色)组合在一起。GraphWave 还正确区分连接杠铃图中两个密集团的节点。它以类似梯度的模式表示那些捕获这些节点的结构角色谱的节点(右)。
A Cycle Graph with Attached House Shapes 在这个例子中,文中考虑一个图形,其中“房屋”形状沿循环图定期放置。和以前一样,我们使用 GraphWave 来学习图中节点的结构签名,然后使用有关结构角色的地面实况信息来评估 GraphWave 的性能。
图形在下图(左)中可视化,同时还有 GraphWave 结构签名的 2D PCA 投影(中间)。我们观察到结构等效节点的表示重叠,GraphWave 完美地恢复了 6 种不同的节点类型。
可以看到小波系数分布的最终特征函数(右)。在该图中,不同形状的特征函数捕获不同的结构角色。我们注意到这些曲线所携带的蓝色,浅绿色和红色节点的作用之间的视觉接近度,以及它们与核心深绿色和紫色节点的明显差异。
总结
文中提出了一种全新的 NE 方法 GraphWave,该方法使用谱图小波为每个节点生成结构嵌入,我们通过将小波视为分布并评估结果特征函数来实现。为网络嵌入提供了全新的思路。
本文由 AI 学术社区 PaperWeekly 精选推荐,社区目前已覆盖自然语言处理、计算机视觉、人工智能、机器学习、数据挖掘和信息检索等研究方向,点击阅读原文即刻加入社区!
点击以下标题查看更多论文解读:
网络表示学习综述:一文理解Network Embedding
神经网络架构搜索(NAS)综述
COLING 2018最佳论文:序列标注经典模型复现
ECCV 2018 | 腾讯AI Lab提出视频再定位任务
#投 稿 通 道#
让你的论文被更多人看到
如何才能让更多的优质内容以更短路径到达读者群体,缩短读者寻找优质内容的成本呢? 答案就是:你不认识的人。
总有一些你不认识的人,知道你想知道的东西。PaperWeekly 或许可以成为一座桥梁,促使不同背景、不同方向的学者和学术灵感相互碰撞,迸发出更多的可能性。
PaperWeekly 鼓励高校实验室或个人,在我们的平台上分享各类优质内容,可以是最新论文解读,也可以是学习心得或技术干货。我们的目的只有一个,让知识真正流动起来。
KDD 18论文解读 | 斯坦福大学提出全新网络嵌入方法 — GraphWave相关推荐
- KDD 18 论文解读 | GraphWave:一种全新的无监督网络嵌入方法
在碎片化阅读充斥眼球的时代,越来越少的人会去关注每篇论文背后的探索和思考. 在这个栏目里,你会快速 get 每篇精选论文的亮点和痛点,时刻紧跟 AI 前沿成果. 点击本文底部的「阅读原文」即刻加入社区 ...
- AutoDL论文解读(五):可微分方法的NAS
自动化机器学习(AutoML)最近变得越来越火,是机器学习下个发展方向之一.其中的神经网络结构搜索(NAS)是其中重要的技术之一.人工设计网络需要丰富的经验和专业知识,神经网络有众多的超参数,导致其搜 ...
- 【论文笔记】BINE:二分网络嵌入
BiNE: Bipartite Network Embedding 三.问题定义 我们首先给出本文中使用的符号,然后形式化要解决的二分网络嵌入问题. 符号:设G = (U, V, E)为二分网络,其中 ...
- 【论文解读】百度提出新冠高风险小区预警算法,AAAI21收录!
编:夕小瑶 几个月前,小屋推送了一期上帝视角看新型冠状病毒(COVID-19)对公众出行影响的顶会论文解读--<这篇顶会paper,讲述了疫情期间憋疯的你和我>,这篇有趣的paper来自百 ...
- 斯坦福大学开源用于网络神经百万量级OGB基准测试的数据集
" 最近,斯坦福大学的Jure Leskovec教授在NeurlPS 2019大会上发表演讲,宣布了开源开放图形基准,这是朝着图形神经网络建模统一基准迈出的重要一步." 图神经网络 ...
- 直播 | KDD 2021论文解读:基于协同对比学习的自监督异质图神经网络
「AI Drive」是由 PaperWeekly 和 biendata 共同发起的学术直播间,旨在帮助更多的青年学者宣传其最新科研成果.我们一直认为,单向地输出知识并不是一个最好的方式,而有效地反馈和 ...
- 人类评估已不是NLG的最佳标准,华盛顿大学提出全新观点,网友:那是评估人水平不行...
点击上方"视学算法",选择加"星标"或"置顶" 重磅干货,第一时间送达 明敏 发自 凹非寺 量子位 报道 | 公众号 QbitAI AI生成 ...
- DeepMind 最新论文解读:首次提出离散概率树中的因果推理算法
翻译 | 高卫华 出品 | AI科技大本营 头图 | CSDN付费下载自视觉中国 当前,一些前沿AI研究人员正在寻找用于表示上下文特定的因果依赖关系清晰的语义模型,这是因果归纳所必需的,在 DeepM ...
- KDD 2019论文解读:异构信息网络上的对抗生成学习
前言 网络表示学习是一种在低维空间中表示网络数据的方法,在异构信息网络分析中得到了广泛的应用.现有的异构信息网络表示学习方法虽然在一定程度上实现了性能的提高,但仍然存在一些主要的不足.最重要的是,它们 ...
最新文章
- 局部保留投影(LPP)推导
- c#中跨线程调用windows窗体控件 .我们在做winform应用的时候,大部分情况下都会碰到使用多线程控制界面上控件信息的问题。然而我们并不能用传统方法来做这个问题,下面我将详细的介绍。...
- unity让对象作为参数_unity-container – 一个unity容器可以将自身的引用作为构造函数参数传递吗?...
- @EqualsAndHashCode()注解详解
- node php环境变量配置,关于NodeJS、NPM安装配置步骤(windows版本) 以及环境变量的介绍...
- asp.net 2.0中允许一次上传多个文件的设计
- package.json和bower的参数解释
- python函数后面的点_对python函数后面有多个括号的理解?
- golang:map转json字符串
- 计算机仿真实训平台软件,虚拟仿真实验室软件有哪些
- 搜狗微信添加搜索工具爬虫
- Linux开发环境——SCL软件集
- 小体积智能直流无刷伺服电机驱动控制器TMCM
- JAVA EE框架课程考点复习(大题和判断题)
- 2022ICPC杭州 F. Da Mi Lao Shi Ai Kan De codeforces gym 104090F
- 深度学习中的各种tricks_1.0_label_smoothing
- ASP.NET MVC5 网站开发实践
- 微型计算机怎么没声音,我的电脑怎么没声音了
- qq和微信收不到新邮件提醒
- 《三体》动画热播,当代人类能用量子计算突破智子封锁吗?
热门文章
- php 生成小程序二维码
- Mybatis_映射文件配置
- 开启tomcat的apr模式,并利用redis做tomcat7的session的共享。
- Sublime Text 3 配置浏览器预览路径 localhost
- 2021年宝鸡中学高考成绩查询,宝鸡各高中2020年高考喜报成绩一览
- java max sum_杭电1024 Max Sum Plus Plus状压dp(java)
- java异步调用数据库存储过程详解,java中如何调用存储过程
- 西部服务器怎么备份文件,怎么将云服务器数据还原
- 关于六年级定格动画计算机教案,定格动画教案
- 最java大子矩阵和问题_最大子矩阵问题实例解析