论文阅读：Time2Graph+: Bridging Time Series and Graph Representation Learning via Multiple Attentions

Time2Graph+: Bridging Time Series and Graph Representation Learning via Multiple Attentions

Time2Graph+：通过多注意力连接时间序列和图表示学习

现状：基于shapelet的模型旨在提取具有代表性的子序列，并可以为下游任务提供解释性理解。

问题：对shapelet的提取忽略了时间因素，以及进化特征。

提出：一种连接时间序列表示学习与图建模的框架

时间感知：时间注意力机制

演进：引入将时间序列数据转换为 shapelet 进化图的关键思想，对 shapelet 进化模式进行建模

time2graph+:将每个时间序列数据转换为唯一的未加权 shapelet 图，并使用 GA T 自动捕获 shapelet 之间的相关性。

1 intro

当前研究的问题：

特征工程：需要足够的专家知识，并且不能跨不同的数据域泛化，

深度序列模型：于缺乏可解释性

shapelet：可解释的代表性子序列。

shapelet的动态性：

相同的 shapelet 出现在不同的时间片上可能会产生不同的影响。

shapelets 随时间演变的方式对于充分理解时间序列数据也至关重要。

shapelet的限制：

1.shapelet与segment的对应可能与事实不符(这不就推翻了shapelet作为segment的基本逻辑吗？)

2.shapelets 之间的一些弱转换可能会被放大，在边权归一化后可能会放大噪声连接

3.shapelet仅仅关注边权大的转换，但边权小的不一定是不正常，可能指向独特的转换模式。

我们不是为所有时间序列数据构建统一的 shapelet 演化图，而是首先将每个时间序列转换为唯一的未加权图（L3），因为不同的序列可能具有不同的演化模式，即图结构；然后应用图注意力机制来捕获 shapelet 之间的转换模式，通过分配可自然地解释为 shapelet 转换概率（L1 和 L2）的可学习动态边权重。

Time2Graph+ 模型首先学习时间感知 shapelets，并在每个月分配几个在某个阈值下接近相应段的模式。例如，我们为用红色框标记的子序列呈现分配的 shapelet #40，以及图 1a 底部的时间级注意力，其中深色区域表示与浅色区域相比，相应的时间步更重要.（夏冬比春秋的用电更有特点）然后 Time2Graph+ 旨在通过图对 shapelet 进化进行建模（图 1b，c）：它为每个时间序列构建 shapelet 进化图，并通过应用图注意力机制捕获单个 shapelet 进化模式。图结构和边上的注意力分数揭示了 shapelet 进化模式，如图 1b 所示：图中有几个度数较大的居中顶点，top-2 是 shapelet-#34 和 #40（标记为带红色圆圈）；这意味着对于老年人 #44，最典型的 shapelet 过渡模式是从或演变为这两个居中的 shapelet。此外，在专家领域知识的帮助下，可以从构建的图和时间级注意力中推断出额外的解释性见解，如图 1c 所示： shapelet #34 是一个陡峭的波动形状，后面是一个非常平坦的序列；它的时间级注意力矩阵强调陡峭的波动具有较大的注意力权重，这种形状在春季和秋季（尤其是在 3 月和 11 月）更具代表性。这可能是典型的空巢老人用电模式，在换季期间用电量不稳定，然后进入相对平稳的状态。

本文工作：

时间序列数据转换为 shapelet 图以对子序列动态进行建模的关键思想。
提出time2graph和time2graph+
实验及使用

2 relative work

传统的时间序列分类模型：从序列中提取有效的特征→训练分类器→没有明确的序列中的特征

基于DTW和传统嵌入技术的模型：将原始时间序列数据投影到特征向量空间中

……

图嵌入的三种逻辑：

邻接矩阵→每一行的隐藏特征向量

随机游走→结构信息→embedding(deep walk)

深度学习模型→ DNN 学习节点特征。

4.3 Time2Graph+

原本的方式：p=pvij*pvi+1k有缺陷

有偏：边缘权重只是对转移概率的估计

论文阅读：Time2Graph+: Bridging Time Series and Graph Representation Learning via Multiple Attentions相关推荐

《论文阅读》Global-Local Bidirectional Reasoning for Unsupervised Representation Learning of 3D Point Clou
留个笔记自用 Global-Local Bidirectional Reasoning for Unsupervised Representation Learning of 3D Point Clo ...
[NLP论文阅读] Discourse-Based Objectives for Fast Unsupervised Sentence Representation Learning
论文原文:Discourse-Based Objectives for Fast Unsupervised Sentence Representation Learning 引言这篇文章的想法很有意 ...
【论文阅读｜深读】 GraphSAGE：Inductive Representation Learning on Large Graphs
目录前言简介 Abstract 1 Introduction 2 Related work 3 Proposed method: GraphSAGE 3.1 Embedding generatio ...
【论文阅读｜深读】ANRL: Attributed Network Representation Learning via Deep Neural Networks
目录前言简介 Abstract 1 Introduction 2 Related Work 3 Proposed Model 3.1 Notations and Problem Formulati ...
【论文阅读】A Gentle Introduction to Graph Neural Networks [图神经网络入门]（7）
[论文阅读]A Gentle Introduction to Graph Neural Networks [图神经网络入门](7) Into the Weeds Other types of grap ...
【论文阅读】A Gentle Introduction to Graph Neural Networks [图神经网络入门]（6）
[论文阅读]A Gentle Introduction to Graph Neural Networks [图神经网络入门](6) GNN playground Some empirical GNN ...
【论文阅读】A Gentle Introduction to Graph Neural Networks [图神经网络入门]（5）
[论文阅读]A Gentle Introduction to Graph Neural Networks [图神经网络入门](5) Graph Neural Networks 图神经网络 Now th ...
【论文阅读】A Gentle Introduction to Graph Neural Networks [图神经网络入门]（4）
[论文阅读]A Gentle Introduction to Graph Neural Networks [图神经网络入门](4) The challenges of using graphs in ...
【论文阅读】A Gentle Introduction to Graph Neural Networks [图神经网络入门]（3）
[论文阅读]A Gentle Introduction to Graph Neural Networks [图神经网络入门](3) What types of problems have graph ...
【论文阅读】A Gentle Introduction to Graph Neural Networks [图神经网络入门]（2）
[论文阅读]A Gentle Introduction to Graph Neural Networks [图神经网络入门](2) Graphs and where to find them 图以及在 ...

论文阅读：Time2Graph+: Bridging Time Series and Graph Representation Learning via Multiple Attentions

论文阅读：Time2Graph+: Bridging Time Series and Graph Representation Learning via Multiple Attentions相关推荐

最新文章

热门文章