文章信息

Eli Chien， GPR-GNN（ICLR21）作者

摘要

本文提出了 GIANT，不同于之前的GNN只是利用了给定的XA输入，本文是deepwalk node2vec后，再度将采用算法提取出的特征加入训练，借用NLP技术 XR-transformer来预训练，预训练的函数是 neighborhood prediction 不同于 link prediction，之前就是传统GNN的方法，i.e. 本文预训练后将得到的额外的节点embedding输入GraphSAGE，SGC，Graphsaint等。

模型：对比本文model和之前GNN区别

即 GIANT能够从raw-text中再度提取信息

XMC 问题 extreme multi-label classification

是从一个极度大的标签集中找寻多个标签。本文发现图中节点的邻居就相当于是多标签问题，通过目标函数节点的邻居预测，等价于解决XMC，采用NLP方法解决。抽象层次上：1.先对 target标签聚类来建立一个tree 2. 微调transformer ；结果是从给定的文本中获得数值属性，本文实验是 ogb，因为ogb提供了 raw text。作者说通过改变transformer（encoder）也可以从图片等多种形式中抽取数值信息。

贡献 — ogb榜首

方法

本文假设节点都还有 raw text的属性Ti，采用NLP的encoder，能将这些text 属性 Ti 转化为数值属性的向量 Xi。本文SSL 的目标是 neighborhood prediction，从Ti中预测出邻居Ai，Ai社区向视作节点i的一个多标签目标。这个过程看作是一个XMC问题的实例，采用XR-transformer 来解决这个XMC问题

实验效果：

ICLR 22 GIANT ，UIUC UCLA OGB榜单相关推荐

SCR-MCR：正则项， OGB榜单--清华唐杰-- 可扩展图学习
文章信息摘要研究了一致性正则化,一种广泛采用的半监督学习方法,如何帮助提高图神经网络的性能.我们重新讨论了图神经网络的两种一致性正则化方法.一种是简单的一致性正则化(SCR),另一种是平均-教师一 ...
Apple App Store 音乐App 美国畅销榜单前30名使用记录
以下是对Apple App Store 中美国榜单中优秀应用的细分和使用记录,不断更新当中. 首先是2012年4月中旬<畅销音乐类iPhone 软件排名>(Top Grossing iPh ...
公众号榜单 | 2020·7月公众号原创排行榜重磅发布
西瓜数据发布 2020 年 7 月公众号原创排行榜,分别从原创平均阅读.原创平均点赞.原创平均在看.头条平均阅读.周期内公众号总发文数.原创文章数.西瓜指数等方面进行展示公众号数据,这些维度的添加方便 ...
公众号榜单 | 2020·7月公众号地区排行榜重磅发布
西瓜数据发布 2020 年 7 月公众号地区排行榜,分别从广告价值指数.周期内公众号发文次数.发文篇数.总阅读数.平均阅读数.平均在看数.平均留言数等方面进行展示公众号数据,这些维度的添加方便大家直观 ...
腾讯Angel Graph团队刷新GNN最强榜单OGB世界纪录!
导读 / Introduction 近日,在国际顶级图学习标准OGB(Open Graph Benchmark)挑战赛中,腾讯大数据Angel Graph团队联合北京大学-腾讯协同创新实验室,以较大优 ...
淘宝主播榜单丨2月22日-2月28日淘宝直播榜单
知瓜数据发布2021年2月22日-2月28日淘宝直排行榜,分别从知瓜指数.粉丝数.直播场数.场均观看.增粉数等方面进行数据展示,方便大家直观对比上周的直播数据情况. 1.本期周榜提供: ①全网播主增粉 ...
uiuc的计算机工程硕士学费标准,伊利诺伊大学香槟分校学费及生活费一览（附美国学费最贵大学TOP20榜单）...
伊利诺伊大学香槟分校学费及生活费介绍指南者留学 2018-08-09 17:59:59 伊利诺伊大学香槟分校学费和伊利诺伊大学香槟分校生活费是去伊利诺伊大学香槟分校留学同学很关心的问题,每个地区学校 ...
ICLR2020全析解读：华人学者占据60%，谷歌再次领跑！（附最新高引华人榜单）...
关注上方"深度学习技术前沿",选择"星标公众号", 资源干货,第一时间送达! 来源:学术头条 ICLR 全称为 "International Conf ...
重磅！中国芯片新锐50强榜单发布，上海20家、北京仅4家！（附：详细解读）...
点击上方"大鱼机器人",选择"置顶/星标公众号" 福利干货,第一时间送达! 来源:毕马威整理:智东西现在,技术演进在中国芯片领域正带来更多的模式创新和技 ...
[Python] js逆向初探: 某麦榜单
系列文章目录 [Python] js逆向初探: 某麦榜单文章目录系列文章目录免责声明前言分析通用的抓包方法... 偷懒作弊的抓包方法万恶之源总结免责声明本篇文章仅用学习交流和日常记 ...

ICLR 22 GIANT ，UIUC UCLA OGB榜单

文章信息

摘要

模型：对比本文model和之前GNN区别

XMC 问题 extreme multi-label classification

贡献 — ogb榜首

方法

实验效果：

ICLR 22 GIANT ，UIUC UCLA OGB榜单相关推荐

最新文章

热门文章

ICLR 22 GIANT ，UIUC UCLA OGB榜单

文章信息

摘要

模型 ：对比本文model和 之前GNN区别

XMC 问题 extreme multi-label classification

贡献 — ogb榜首

方法

实验效果：

ICLR 22 GIANT ，UIUC UCLA OGB榜单相关推荐

最新文章

热门文章

模型：对比本文model和之前GNN区别