摘要

本文是基于DGI的一篇工作，最大化了节点和簇之间的互信息，簇的生成采用了soft-kmeans，水文算是。关注点可以是这个soft-kmeans的过程，是基于一篇NIPS文章（clusterNet： End to end learning and optimization on graphs-- NIPS2019）。

模型&损失函数

DGI的损失

本文基于1的损失和整体的loss

本文的核心，本文最大化了节点和簇之间的互信息，簇是通过类似k-means生成，由于k-means是硬分配不连续，本文采用高斯模型逼近，当/belta 趋于∞ 等价于k-means，使得可以求导，反向传播，这个在ICLR22 AutoSSL中也有这样的做法。

实验

1. 节点分类，由于无监督采用LR（线性回归）

2. 链接预测

3. 节点聚类

4. 利弊

本文实质上基于DGI提另一个损失，不同的是新的判别器只采用内积打分，而不是之前的bilinear，此外唯一有趣的一点是消融分析采用了 silhouette scores 打分（参考文献—Silhouettes: a graphical aid to the interpretation and validation of cluster analysis. Journal of computational and applied mathematics, 20:53–65, 1987.，）原因不说了，这个SIL距离是能够通过2维空间点计算节点和其他相同标签的节点的平均距离，很多方法没有考虑这个若考虑这个指标加到损失函数能够指导表征学习，是不是能提升model性能呢？

PAKDD 21: GRAPH INFOCLUST 明尼苏达相关推荐

python无向加权图_图：无向图(Graph)基本方法及Dijkstra算法的实现 [Python]
一般来讲,实现图的过程中需要有两个自定义的类进行支撑:顶点(Vertex)类,和图(Graph)类.按照这一架构,Vertex类至少需要包含名称(或者某个代号.数据)和邻接顶点两个参数,前者作为顶点的 ...
Saving James Bond - Easy Version 原创 2017年11月23日 13:07:33
06-图2 Saving James Bond - Easy Version(25 分) This time let us consider the situation in the movie &q ...
美检方或起诉刘强东；百度对呛微信规则；澳洲调查 Facebook | 极客头条
「CSDN 极客头条」,是从 CSDN 网站延伸至官方微信公众号的特别栏目,专注于一天业界事报道.风里雨里,我们将每天为朋友们,播报最新鲜有料的新闻资讯,让所有技术人,时刻紧跟业界潮流. 快讯速知滴 ...
NoSQL 与大数据
概览一下大数据项目中可以使用的数据存储技术,聚焦于Couchbase 和 ElasticSearch,展示如何使用以及它们的区别,先理解一下NoSQL领域中各种不同的技术. NoSQL 关系型数据库是 ...
第十章决策树与随机森林
# 导入第三方模块 import pandas as pd # 读入数据 Titanic = pd.read_csv(r'Titanic.csv') Titanic.head() PassengerI ...
To be or Not to be - Linux社区禁止一所美国大学提交代码事件
点击上方"开源社"关注我们 | 作者:王永雷 | 编辑:刘雪洁 | 设计:杨敏 | 责编:沈于蓝最近 Linux 社区发生的事件 Greg Kroah-Hartman 是一名 L ...
Neo4j简介及Py2Neo的用法
Neo4j是一个世界领先的开源图形数据库,由Java编写.图形数据库也就意味着它的数据并非保存在表或集合中,而是保存为节点以及节点之间的关系. Neo4j的数据由下面3部分构成: 节点边属性 Ne ...
Neo4j 操作与 py2neo 用法
Neo4j是一个世界领先的开源图形数据库,由 Java 编写.图形数据库也就意味着它的数据并非保存在表或集合中,而是保存为节点以及节点之间的关系. Neo4j 的数据由下面几部分构成: 节点边属性 ...
注意力机制：认知模型与计算机应用
注意力机制:认知模型与计算机应用 "注意力机制"在风靡计算机神经网络设计之前,首先是一种被广泛接受的人类认知方法.本调研文稿将首先从人类认知出发,讨论几种经典的人类注意力模型,和人 ...

PAKDD 21: GRAPH INFOCLUST 明尼苏达

摘要

模型&损失函数

DGI的损失

本文基于1的损失和整体的loss

本文的核心，本文最大化了节点和簇之间的互信息，簇是通过类似k-means生成，由于k-means是硬分配不连续，本文采用高斯模型逼近，当/belta 趋于∞ 等价于k-means，使得可以求导，反向传播，这个在ICLR22 AutoSSL中也有这样的做法。

实验

1. 节点分类，由于无监督采用LR（线性回归）

2. 链接预测

3. 节点聚类

4. 利弊

PAKDD 21: GRAPH INFOCLUST 明尼苏达相关推荐

最新文章

热门文章

PAKDD 21: GRAPH INFOCLUST 明尼苏达

摘要

模型&损失函数

DGI的损失

本文基于1的损失和 整体的loss

本文的核心，本文最大化了节点和簇之间的互信息，簇是通过类似k-means生成，由于k-means是硬分配 不连续，本文采用高斯模型逼近，当/belta 趋于∞ 等价于k-means，使得可以求导，反向传播，这个在ICLR22 AutoSSL中也有这样的做法。

实验

1. 节点分类，由于无监督 采用LR（线性回归）

2. 链接预测

3. 节点聚类

4. 利弊

PAKDD 21: GRAPH INFOCLUST 明尼苏达相关推荐

最新文章

热门文章

本文基于1的损失和整体的loss

本文的核心，本文最大化了节点和簇之间的互信息，簇是通过类似k-means生成，由于k-means是硬分配不连续，本文采用高斯模型逼近，当/belta 趋于∞ 等价于k-means，使得可以求导，反向传播，这个在ICLR22 AutoSSL中也有这样的做法。

1. 节点分类，由于无监督采用LR（线性回归）