A Transformer-based Framework for Multivariate Time Series Representation Learning(KDD2022)

提出了一种基于transformer编码器结构的多元时间序列表示学习新框架。该框架包括一个无监督的训练前计划,它可以在下游任务上提供比完全监督学习更大的性能优势,即使不利用额外的无标记数据,也就是说,通过重用现有的数据样本。在多个不同领域和具有不同特征的公共多元时间序列数据集上评估我们的框架,我们证明它的性能明显优于目前可用的最佳回归和分类方法,即使是对仅包含几百个训练样本的数据集。考虑到无监督学习在科学和工业的几乎所有领域的显著兴趣,这些发现代表了一个重要的里程碑,提出了第一个无监督方法,被证明是推动多元时间序列回归和分类的最先进性能的极限

背景:在这项工作中,我们首次研究了将transformer编码器用于多元时间序列的无监督表示学习,以及用于时间序列回归和分类的任务。据我们所知,这也是无监督学习第一次被证明在多元时间序列的分类和回归方面优于有监督学习,即使不使用额外的未标记数据样本

总结:对文中提出的模型 不是很清楚,transformer encoder内部结构 ;其次存在大量学习时间序列无监督表征模型,这个模型在结构上到底和这类模型设计有什么区别。

框架:

A Transformer-based Framework for Multivariate Time Series Representation Learning(KDD2022)相关推荐

  1. GRAIL Efficient Time Series Representation Learning论文阅读笔记(一)

    GRAIL Efficient Time Series Representation Learning 有效的时间序列表示学习 作者 芝加哥大学的John Paparrizos和Michael J. ...

  2. echarts legend位置_一起读 ECharts 配置项手册之 series[i]-line(上)

    之前的文章写得都比较杂,还总是想不到要写点什么-- 所以最近打算把 ECharts 所有系列挨个聊一遍,写一个 series 系列的简单介绍,解决一大段时间的难选题问题- -b,顺便方便比我还新的新手 ...

  3. GRAIL Efficient Time Series Representation Learning论文阅读笔记(二)

    GRAIL Efficient Time Series Representation Learning 有效的时间序列表示学习 作者 芝加哥大学的John Paparrizos和Michael J. ...

  4. GRAIL Efficient Time Series Representation Learning论文阅读笔记(三)

    GRAIL Efficient Time Series Representation Learning 有效的时间序列表示学习 作者 芝加哥大学的John Paparrizos和Michael J. ...

  5. TimeCLR: A self-supervised contrastive learning framework for univariate time series representation

    时间序列分类 自监督对比学习 motivation:cv能取得这么好的效果是因为有数据增强, 而时间序列的表现差的原因是因为数据增强和特征提取器(backbone)不适用于提取时序依赖关系. inno ...

  6. iOS架构-静态库.framework手动打包及脚本化打包(5)

    引用一张博客的图片来理解下基本知识(http://www.cnblogs.com/oc-bowen/p/7478461.html) 我们可以看出.a的封装和.framework的封装差不多,也有模拟器 ...

  7. Entity Framework在WCF中序列化的问题(转)

    问题描述 如果你在WCF中用Entity Framework来获取数据并返回实体对象,那么对下面的错误一定不陌生. 接收对 http://localhost:5115/ReService.svc 的 ...

  8. 什么是Mocking framework?它有什么用?(转)

    今天我想讲下关于mocking frameworks,并且解释下他为什么有用处.我将给你们展示用和不用mocking framework两种测试方法. 假设我们已经有了一个Driver类: [csha ...

  9. 张高兴的 Entity Framework Core 即学即用:(一)创建第一个 EF Core 应用

    写在前面 Entity Framework Core (EF Core) 是 .NET 平台流行的对象关系映射(ORM)框架.虽然 .NET 平台中 ORM 框架有很多,比如 Dapper.NHibe ...

最新文章

  1. 离线部署 CDH 5.12.1 及使用 CDH 部署 Hadoop 大数据平台集群服务
  2. 奇异值的物理意义是什么?
  3. 【深度学习】深入浅出CRF as RNN(以RNN形式做CRF后处理)
  4. C#之windows桌面软件第十课:电脑ADC值显示(上位机)(单通道显示)
  5. 【原创】数据库中时间字段的值读取到DataSet中后,毫秒部分丢失。
  6. core-site.xml
  7. ES5-10 原型、原型链、闭包立即执行函数、插件开发
  8. 部署Webpart的方法
  9. bufferedwriter怎么写入tab_电脑越用越卡是怎么回事?教你三招恢复火箭般的速度...
  10. Adobe Reader安装错误150120的解决
  11. 单片机C51之1:流水灯
  12. Scratch中设置物体的中心点
  13. 字体的故事之:衬线体的前世今生
  14. 绿蓝色悖论(新归纳之谜)?
  15. 3D点云变换(平移、旋转、缩放)C++实现
  16. Linux libusb USB开发(一)—— USB设备基础概念
  17. 基于深度学习的人脸识别系统:卷积神经网络实现(VIPLFaceNet、VGGNet、Xception、ResNet50、ResNet18)、AM-Softmax损失
  18. 浅谈数据的查找(二分查找)
  19. Java实现哈夫曼编码
  20. php能不能实现网页截图,关于php:PHP实现网页截图

热门文章

  1. 杂谈_怎样写好英语字
  2. Symfony 2 历史漏洞(选择版本的依据)
  3. 头条飞聊呼之欲出,击败微信难,却可能成为下一个Instagram
  4. 【尾篇】《信息资源管理》第7章 | 企业与政府信息资源管理
  5. 30+ 强大的Buddypress主题–开始您的社区站点吧
  6. 【深度观察】深度学习技术其实没那么美好
  7. Windows Update Downloader:系统补丁离线打
  8. Hadoop即将过时了吗?
  9. 10个不大为人知的网站
  10. 利用turf.js分析数据---占地分析