基于时空Transformer的社交网络信息传播预测模型

  • 资源下载
  • chap3 基于时空Transformer的社交网络信息传播预测模型
    • 3.1 异构图的构建
    • 3.3 时空 Transformer 神经网络
    • 4.1 对比方法和参数设置
    • 4.4 实验结果
    • 4.5 消融实验
    • 4.6 参数分析

资源下载

点击下载原文PDF

chap3 基于时空Transformer的社交网络信息传播预测模型

图1,首先,构造了一个由社交图和动态传播图构成的异构图;然后使用 GCN 从异 构图上学习用户的结构特征;再将用户的时序特征和结构特征分别添加位置嵌入,把添加位置嵌入后 的时序特征作为Transformer 的 Query 集,把添加 位置嵌入后的结构特征分别作为 Transformer的 key 和 Value 集;最后用Transformer预测下一个 转发信息的用户.实验中提出了一个新的残差融合 方式,能够有效融合用户的时序特征和结构特征.

3.1 异构图的构建

图2,在异构图中,需 要为每条边分配相应的权重,用传播图中某条 边出现的次数作为异构图中该边的权重

3.3 时空 Transformer 神经网络

图3,Transformer中的 decoder 层由N层叠加,来进行最后的序列任务预测

  1. 式(2), 带掩码的多头注意力层:
  2. 式(7),在经过多头注意力层之后,会使用残差网络来 强化用户特征,Fusion:优化后的残差融合方式
    #chap4 实验结果及分析

4.1 对比方法和参数设置

  1. 与最新的信息 传播预测深度学习方法进行比较
  2. 利用2个广泛使用的排名指标 Map@k和 Hits@k进行评估

4.4 实验结果

  1. Table 2、3、4,STT 模型不仅利用社交网络信息, 而且还利用传播图来建模信息传播行为,显著提高了预测性能;
  2. Tbble 5,STT模型与DyHGCN 模型相比,在Map@k和 Hits@k 方面都优于DyHGCN;

4.5 消融实验

Table 6,STT模型及其变体模型在Twitter、Douban数据集上的消融实验:每一处改进对基线模型都有提升

4.6 参数分析

Table 8、9、10、11,研究了超参数的不同选择对模型性能的影响.

深度学习——day42 基于时空Transformer的社交网络信息传播预测模型相关推荐

  1. 《改进SIR 模型在社交网络信息传播中的应用》仿真实现

    摘要 基于<改进SIR 模型在社交网络信息传播中的应用>一文中提出的改进SIR模型,使用Matlab进行了仿真实现.另外,基于原文的模型,依据实际话题热度进行了其它仿真和分析. 背景 信息 ...

  2. 深度学习决策支持 时空预测_重工业的预测性维护和决策支持系统

    深度学习决策支持 时空预测 Digital transformation is one of the top priorities for industrial companies. The larg ...

  3. 深度学习实战—基于TensorFlow 2.0的人工智能开发应用

    作者:辛大奇 著 出版社:中国水利水电出版社 品牌:智博尚书 出版时间:2020-10-01 深度学习实战-基于TensorFlow 2.0的人工智能开发应用

  4. Python深度学习:基于TensorFlow

    作者:吴茂贵,王冬,李涛,杨本法 出版社:机械工业出版社 品牌:机工出版 出版时间:2018-10-01 Python深度学习:基于TensorFlow

  5. Python深度学习:基于PyTorch [Deep Learning with Python and PyTorch]

    作者:吴茂贵,郁明敏,杨本法,李涛,张粤磊 著 出版社:机械工业出版社 品牌:机工出版 出版时间:2019-11-01 Python深度学习:基于PyTorch [Deep Learning with ...

  6. 深度学习入门 基于Python的理论与实现

    作者:斋藤康毅 出版社:人民邮电出版社 品牌:iTuring 出版时间:2018-07-01 深度学习入门 基于Python的理论与实现

  7. 【深度学习】基于Pytorch进行深度神经网络计算(一)

    [深度学习]基于Pytorch进行深度神经网络计算(一) 文章目录 1 层和块 2 自定义块 3 顺序块 4 在正向传播函数中执行代码 5 嵌套块 6 参数管理(不重要) 7 参数初始化(重要) 8 ...

  8. 【深度学习】基于Pytorch进行深度神经网络计算(二)

    [深度学习]基于Pytorch进行深度神经网络计算(二) 文章目录 1 延后初始化 2 Pytorch自定义层2.1 不带参数的层2.2 带参数的层 3 基于Pytorch存取文件 4 torch.n ...

  9. 【深度学习】基于Pytorch的卷积神经网络概念解析和API妙用(一)

    [深度学习]基于Pytorch的卷积神经网络API妙用(一) 文章目录 1 不变性 2 卷积的数学分析 3 通道 4 互相关运算 5 图像中目标的边缘检测 6 基于Pytorch的卷积核 7 特征映射 ...

最新文章

  1. python用于什么-python主要应用在哪些领域?
  2. mysql using btree_mysql导入数据时提示 USING BTREE 错误解决办法
  3. 写在前面,白话 Yaf 探秘与深入
  4. smp架构与numa架构_NUMA架构和Java
  5. matlab实现cnn代码,CNN 经典的卷积神经网络MATLAB实现源码,可直接运行。 276万源代码下载- www.pudn.com...
  6. Java中Math对象的属性与方法
  7. linux命令we,Linux 命令执行过程
  8. 姜启源《数学模型》第12章:马氏链模型
  9. ARM体系结构与编程模型总结
  10. 互联网大佬生存法则:如何防守周鸿祎?
  11. 京东联盟高级API-批量创建多个推广位
  12. 视差角计算公式及其推导
  13. torch.Tensor
  14. 硬件设计--DC/DC电源芯片详解
  15. 使用Python统计股票高开后的走势
  16. NODE安装和使用说明,报错处理方法
  17. 结对开发——返回一个整数数组中最大子数组的和
  18. 市场调研-全球与中国云业务流程管理(BPM)软件市场现状及未来发展趋势
  19. C#利用DirectX显示.x三维动画
  20. 怎么快速的访问化学绘图软件文件

热门文章

  1. Notability的功能介绍
  2. [Flutter]启动:调试运行
  3. 搏击下半场,东原地产博鳌再获殊荣
  4. 笔记:复杂网络的关键技术及应用
  5. 转:利用python调用谷歌翻译API
  6. WPS解决编辑受限却忘记密码文件办法
  7. 【结果公示】关于2022年度第一批广州市知识产权项目(促进类)审核结果
  8. python——读取docx文档wordcloud生成词云并进行词频统计
  9. linux屏幕滑动效果实现代码,Linux_通用滑动门类,效果预览: 运行代码框 !D - phpStudy...
  10. 建筑施工企业青年员工成长的浅析 及对策思考