论文阅读笔记【3】:网络表示学习
内容导航
- 基本信息
- 数学形式
- 应用场景
- 研究方法
- 已有模型
基本信息
- 作者:涂存超
- 题目:面向社会计算的网络表示学习
- 关键词:社区发现
数学形式
f:G=(V,E)→Rkf:G=(V,E) \to R^k f:G=(V,E)→Rk
应用场景
针对社交媒体用户,我们可以利用用户行为信息等对其进行用户画像,判断用户的性别、年龄、职业等属性信息,以及他们的兴趣爱好;基于用户画像结果,可以对用户进行个性化推荐,来推荐他们可能认识的好友或者感兴趣的新闻、产品等。
研究方法
基于符号的显式网络
用邻接矩阵来表示网络,有N个节点就构造N×NN \times NN×N的矩阵
- 优点:可解释性强
- 缺点:异构信息和稀疏性导致存储计算效率低
基于表示学习的隐式网络
- 优点:通过用低维实值的向量来表示网络节点,计算效率更高
- 缺点:可解释性不强
已有模型
谱聚类
局部线性表示:假设一个网络中任何一个节点的表示,都可以通过它的邻居节点的表示进行线性组合得到,把中心节点表示与邻居节点表示的线性组合之间的距离作为优化目标,最终将该问题的求解转化为对某个网络相关矩阵的特征值计算问题。
Laplacian Eigenmaps:通过求解网络对应的拉普拉斯矩阵的特征值,获得节点的低维向量表示。
有向图嵌入:在拉普拉斯特征映射方法的基础上,利用PageRank决定不同节点的权重,从而赋予不同节点对应的损失函数不同的权重。
神经网络
Deepwalk:首先在网络上进行随机游走,来生成由节点构成的随机游走序列。随后,DeepWalk 通过将节点看作词,将节点序列看成句子,利用Skip-Gram来训练网络节点的表示。
Perozzi B, Al-Rfou R, Skiena S. Deepwalk: Online learning of social representations
LINE:定义社交网络中节点之间的一阶邻近度和二阶邻近度。对于直接相连的节点, LINE 利用两个节点表示之间的联合概率来刻画它们之间的一阶邻近度;不直接相连的节点,引入节点的表示与邻居节点的上下文向量表示之间的条件概率来刻画节点之间的二阶邻近度。
Tang J, Qu M, Wang M, et al. Line: Large-scale information network embedding
node2vec:DeepWalk 的扩展方法,引入两个超参数 p 和 q,来控制随机游走算法的广度和深度,使模型能够更好的对网络结构进行探索,使得网络节点表示既能够包含局部的网络结构信息,也能够包含更深层的全局的网络结构信息,从而提高节点质量。
Grover A, Leskovec J. Node2vec: Scalable feature learning for networks
SDNE:首次将典型深层神经网络引 入网络表示学习中,通过引入深层自动编码器来对节点的邻接向量进行编码压缩, 来得到节点低维实值的表示向量。
Wang D, Cui P, Zhu W. Structural deep network embedding
矩阵分解
GraRep:首先根据网络的邻接矩阵 AAA,来构建节点之间 ttt步的关联矩阵 M=AtM = A^tM=At,该矩阵中的每个元素 Mi,jM_{i,j}Mi,j 表示由节点viv_ivi 经过 ttt 步的随机游走到达节点vjv_jvj 的概率。通过对该关联矩阵 MMM 进行 SVD
分解,来得到包含节点 ttt 阶邻近度的向量表示。
Cao S, Lu W, Xu Q. Grarep: Learning graph representations with global structural information
TADW:在基于矩阵分解形式的 DeepWalk 模型基础上,TADW 通过引入文本矩阵,来对 M 矩阵进行 SVD 分解,得到包含节点文本信息的网络节点表示。
Yang C, Liu Z, Zhao D, et al. Network representation learning with rich text information
论文阅读笔记【3】:网络表示学习相关推荐
- 论文阅读笔记(5):Oracle Based Active Set Algorithm for Scalable Elastic Net Subspace Clustering
论文阅读笔记(5):Oracle Based Active Set Algorithm for Scalable Elastic Net Subspace Clustering,基于Oracle的可伸 ...
- 论文阅读笔记:《一种改进的图卷积网络半监督节点分类》
论文阅读笔记:<一种改进的图卷积网络半监督节点分类> 文章目录 论文阅读笔记:<一种改进的图卷积网络半监督节点分类> 摘要: 引言 非欧几里得数据 1 深度池化对偶图神经网络 ...
- 论文阅读笔记(2):Learning a Self-Expressive Network for Subspace Clustering,SENet,用于大规模子空间聚类的自表达网络
论文阅读笔记(2):Learning a Self-Expressive Network for Subspace Clustering. SENet--用于大规模子空间聚类的自表达网络 前言 摘要 ...
- VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNITION(VGG网络)-论文阅读笔记
VERY DEEP CONVOLUTIONAL NETWORKS FOR LARGE-SCALE IMAGE RECOGNITION VGG网络 论文阅读笔记 //2022.4.11上午9:53开始阅 ...
- [论文阅读笔记52]深度学习实体关系抽取研究综述
来源:软件学报 2019 1.摘要: 围绕有监督和远程监督两个领域,系统总结了近几年来中外学者基于深度学习的实体关系 抽取研究进展,并对未来可能的研究方向进行了探讨和展望. 2.经典的实体关系抽取方法 ...
- 【CV论文阅读笔记】使用DRN网络(双重回归网络)解决SR问题
[CV论文阅读笔记]使用DRN网络(双重回归网络)解决SR问题 本篇笔记来自CVPR2020年论文:Closed-loop Matters: Dual Regression Networks for ...
- 论文阅读笔记(9):加权稀疏子空间表示——子空间聚类、约束聚类和主动学习的统一框架
论文阅读笔记(9):WEIGHTED SPARSE SUBSPACE REPRESENTATION--A UNIFIED FRAMEWORK FOR SUBSPACE CLUSTERING, CONS ...
- [置顶]人工智能(深度学习)加速芯片论文阅读笔记 (已添加ISSCC17,FPGA17...ISCA17...)...
这是一个导读,可以快速找到我记录的关于人工智能(深度学习)加速芯片论文阅读笔记. ISSCC 2017 Session14 Deep Learning Processors: ISSCC 2017关于 ...
- DnCNN论文阅读笔记【MATLAB】
DnCNN论文阅读笔记 论文信息: 论文代码:https://github.com/cszn/DnCNN Abstract 提出网络:DnCNNs 关键技术: Residual learning an ...
- Learning Multiview 3D point Cloud Registration论文阅读笔记
Learning multiview 3D point cloud registration Abstract 提出了一种全新的,端到端的,可学习的多视角三维点云配准算法. 多视角配准往往需要两个阶段 ...
最新文章
- Shell 函数、数组与正则表达式
- android 上传到了maven,但是报错找不到jar
- python常用函数表-python-列表常用函数
- Webservice soap wsdl区别之个人见解
- [HNOI2012]集合选数(思维构造 + 状压dp)
- Netty:透明地使用SPDY和HTTP
- 在.net 2.0/3.0程序中使用扩展方法
- resize属性,使textarea在ff(火狐)中禁止拉伸
- 基于JAVA+Servlet+JSP+MYSQL的会议管理系统
- 解决idea中找不到程序包和找不到符号的问题
- 血汗泪计算机音乐,血汗泪 - pikaCinDy_ - 5SING中国原创音乐基地
- 在JavaScript面向对象编程中使用继承(4)
- Java显示smart3d数据_Smart3D系列教程 | smart3d空三错乱的解决办法
- JavaWeb之HttpSession
- 体重测试仪软件,一键校准身高体重测量仪
- 【Datawhale】[task2]2.3代码示例
- 信息检索1.2--几个实用的限定词,site title URL
- 【荐】JS实现类似星球仿flash效果的动态菜单
- 丁腈橡胶自然老化时间_影响丁腈橡胶老化的因素研究
- nxn次方求和函数_算法|小学生都能看懂的生成函数入门教程