点击上方“python与机器智能”,选择“星标”公众号
重磅干货,第一时间送达

论文:TranAD: Deep Transformer Networks for Anomaly Detection in Multivariate Time Series Data

代码链接:来源:VLDB 2022

文章链接:https://arxiv.org/abs/2201.07284

代码链接:https://github.com/imperial-qore/tranad

在本文中,作者提出了 TranAD,这是一种基于深度transformer的异常检测和诊断模型,它使用基于注意力的序列编码器来快速执行推理,并了解数据中更广泛的时间趋势。TranAD 使用基于焦点分数的自我调节来实现强大的多模态特征提取和对抗训练以获得稳定性。此外,与模型无关的元学习 (MAML) 使得可以使用有限的数据训练模型。对六个公开可用数据集的广泛实证研究表明,TranAD 可以通过数据和高效的训练在检测和诊断性能方面优于最先进的基线方法。具体来说,与基线相比,TranAD 将 F1 分数提高了 17%,将训练时间减少了 99%。

01

研究背景

多变量时间序列数据中的有效异常检测和诊断对于现代工业应用具有重要意义。然而,构建一个能够快速准确地查明异常观察的系统是一个具有挑战性的问题。这是由于缺乏异常标签、高数据波动性以及现代应用程序中对超低推理时间的需求。尽管很多出现了用于异常检测的深度学习方法,但其中只有少数能够解决所有这些挑战。

02

方法原理

Transformer 是流行的深度学习模型,已用于各种自然语言和视觉处理任务。在这篇论文中,作者使用对Transformer架构的深度重构来完成时间序列数据中的异常检测任务。就像其他编码器-解码器模型一样,在转换器中,输入序列会经历多次基于注意力的转换。图 1 显示了 TranAD 中使用的神经网络的架构。编码器对完整序列进行编码。窗口编码器使用它来创建输入窗口

2022最新!基于深度transformer的时间序列异常检测模型相关推荐

  1. 论文学习——基于集成LSTM-AE的时间序列异常检测方法

    文章目录 0 封面 1 标题 2 摘要 3 结语 4 引言 4.1 一个问题 4.1 新方向 5 实验设计 写在前面:<华中科技大学学报(自然科学版)>:主办单位:华中科技大学:中文核心: ...

  2. 基于GAN框架的时间序列异常检测研究综述

    一项综述类的课程作业 Anomaly detection with generative adversarial networks for multivariate time series. MAD- ...

  3. 基于深度学习的显著性目标检测方法综述

    源自:电子学报       作者:罗会兰  袁璞  童康 摘 要 显著性目标检测旨在对图像中最显著的对象进行检测和分割,是计算机视觉任务中重要的预处理步骤之一,且在信息检索.公共安全等领域均有广泛的应 ...

  4. 基于用户行为建模和异常检测算法的内部威胁检测

    Insider Threat Detection Based on User Behavior Modeling and Anomaly Detection Algorithms 内部威胁是授权用户的 ...

  5. 基于深度学习的小目标检测方法综述

    随着深度学习的发展,基于深度学习的目标检测技术取得了巨大的进展,但小目标由于像素少,难以提取有效信息,造成小目标的检测面临着巨大的困难和挑战. 为了提高小目标的检测性能,研究人员从网络结构.训练策略. ...

  6. 单指标时间序列异常检测——基于重构概率的变分自编码(VAE)代码实现(详细解释)

    1. 编写目的 不少论文都是基于VAE完成的异常检测,比如 Donut .Bagel.尽管 Donut 实现的模型很容易通过继承于重写父类方法的方式实现一个 VAE-baseline,并且 Bagel ...

  7. 基于深度学习的时间序列预测方法

    之前对时间序列预测的方法大致梳理了一下,最近系统的学习了深度学习,同时也阅读了一些处理序列数据的文献,发现对于基于深度学习的时间序列预测的方法,还可以做进一步细分:RNN.Attention和TCN. ...

  8. 【阅读论文】基于统计特征的无监督时间序列异常检测方法

    文章目录 摘要 1.介绍 2.相关工作 3.问题描述 4.方法 4.1 统计特征 4.2提取特征总结 4.3 学习阶段算法 4.4测试阶段算法 5.结果 5.1 YOB评价:单变量 5.3对合成数据集 ...

  9. 基于深度学习的时间序列分类[含代码]

    基于深度学习的时间序列分类 引言 数据集 实验环境搭建 实验设计 实验代码 实验结果 引言 目前,深度学习在计算机视觉和语音识别上有了非常广泛的应用,但是在工业应用方面还没有完善的体系,一方面缺乏数据 ...

最新文章

  1. Pytorch中的5个非常有用的张量操作
  2. Windows2003 IIS安装
  3. 自动管理Windows2003好用的“远程桌面”
  4. PIE SDK热力图
  5. 查看端口被哪个进程占用
  6. C++中四种类型转换方式(ynamic_cast,const_cast,static_cast,reinterpret_cast)
  7. 如何从BugFree升级到禅道
  8. git bash命令_更优雅地使用命令行
  9. 用vector实现二维向量
  10. 永福股份遭宁德时代减持3% 后者产业链投资浮盈已达80亿
  11. 2018-3-10 unset 变量 ab测试
  12. spring框架mvc框架_5篇Spring框架书籍,通过MVC学习Spring
  13. 二级c语言准考证,考试准考证打印
  14. 电脑登录斗鱼显示无法连接服务器,斗鱼电脑版登录不了怎么办
  15. 小程序input聚焦事件_微信小程序input失焦异常
  16. 学UG编程一定要把握的曲面驱动的办法、切削区域、切削类型
  17. Javase杂谈(十)
  18. 【C语言、C++基础编程题】【基础类题集】【平顶山学院ACM算法攻关部】
  19. 解决找不到gpedit.msc文件方法
  20. 使用OpenGL模拟水面

热门文章

  1. Linux中内存buffer和cache的区别
  2. Android Animation学习(五) ApiDemos解析:容器布局动画 LayoutTransition
  3. msysGit 中文环境配置及跨平台开发注意事项
  4. Piwik学习 -- 插件开发
  5. python主辅线程_python主线程捕获子线程的方法
  6. 卡尔曼滤波的优点总结
  7. TSNE——目前最好的降维方法
  8. @PropertySource读取外部配置文件中的k-v保存到运行的环境变量中,加载完微博的配置文件以后使用${}取配置文件中的键值
  9. 2021-02-23 如何用简单易懂的例子解释条件随机场(CRF)模型?它和HMM有什么区别?从HMM、MEMM、CRF某牛自己总结的
  10. linux xxd查看二进制文件命令