Utilizing Expert Features for Contrastive Learning of Time-Series Representations

本文提出一种将专家知识用于时间序列表示学习的方法。该方法使用专家特征来取代之前对比学习方法中常用的数据转换。这样做是因为时间序列数据通常来自工业或医疗领域,这些领域的专家通常可以从领域专家那里获得专家特征,而时间序列数据的转换通常很难实现。本文提出了有用的时间序列表示应该满足的两个属性,并表明当前的表示学习方法不能确保这些属性。本文设计了ExpCLR,一种新的对比学习方法,建立在利用专家特征来鼓励学习到的表示的这两种属性的目标上。在三个真实世界的时间序列数据集上证明,ExpCLR在无监督和半监督表示学习方面都超过了一些最先进的方法

文中贡献点:

因此,这项工作的目标是利用这些专家特征,以找到利用专家特征而不是数据转换的时间序列数据集的良好嵌入或表示。

TACTiS: Transformer-Attentional Copulas for Time Series

时变量估计是医疗保健和金融等领域决策的基本组成部分。然而,这种估计的实际效用受到其量化预测不确定性的准确性的限制。在这项工作中,我们解决了估计高维多元时间序列的联合预测分布的问题。本文提出一种基于transformer架构的通用方法,用一个基于注意力的解码器估计联合分布,可证明能学会模仿非参数copula的属性。由此产生的模型有几个理想的属性:它可以扩展到数百个时间序列,支持预测和插值,可以处理非对齐和非均匀采样的数据,并可以在训练期间无缝适应缺失数据。凭经验证明了这些属性,并表明该模型在多个真实世界数据集上产生了最先进的预测。

Learning of Cluster-based Feature Importance for Electronic Health Record Time-series

最近电子健康记录(EHR)的可用性允许开发预测住院病人恶化和轨迹演变风险的算法。然而,由于这些数据是稀疏、异构、多维和多模态的时间序列,利用EHR预测疾病进展具有挑战性。因此,聚类经常用于识别患者队列中的相似群体,以提高预测效果。目前的模型在获取患者轨迹的聚类表示方面取得了一些成功。然而,他们1)无法获得每个聚类的临床可解释性,2)在疾病结果分布不平衡的背景下难以学习有意义的聚类数字。

本文提出一种有监督的深度学习模型,以识别与结果预测和患者轨迹有关的临床可理解表型为基础,聚类EHR数据。引入新的损失函数来解决类不平衡和簇坍缩问题,并提出一种特征-时间注意力机制来识别跨时间和特征维度的基于簇的表型重要性。我们在对应于不同医疗环境的两个数据集上测试了我们的模型。所提出模型为集群形成提供了额外的可解释性,并在相关指标上比基准至少高出4%。

框架:

本文提出一种新的模型,用基于聚类的时间序列重要性学习(CAMELOT)表示。我们提出的方法显示在图1中。该模型在3个关键项目上改进了之前的文献:a)针对多类不平衡的修正损失函数,b)一个新的损失函数,以确保聚类探索和代表性聚类,c)一个新的特征-时间注意力级别框架,以增强表征并为聚类分配引入特征-时间可解释性。

时间序列数据机器学习(ICML 2022)相关推荐

  1. 今天9:30 | ICML 2022 11位论文一作带你走进机器学习领域顶级会议

    点击蓝字 关注我们 AI TIME欢迎每一位AI爱好者的加入! 8月24日9:30,本期我们邀请到ICML 2022的十一位讲者给大家带来精彩的分享! 哔哩哔哩直播通道 扫码关注AI TIME哔哩哔哩 ...

  2. ​一文梳理ICML 2022中图机器学习热点和趋势

    ©作者 | Mikhail Galkin,Zhaocheng Zhu 译者 | Zhaocheng Zhu 单位 | Mila研究所/麦吉尔大学/蒙特利尔大学 研究方向 | 图机器学习,知识图谱 每年 ...

  3. 直播预告 | ICML 2022 11位论文一作带你走进机器学习领域顶级会议

    点击蓝字 关注我们 AI TIME欢迎每一位AI爱好者的加入! 8月18日10:00,本期我们邀请到ICML 2022的十一位讲者给大家带来精彩的分享! 哔哩哔哩直播通道 扫码关注AI TIME哔哩哔 ...

  4. Apache IoTDB 相关论文《乱序时间序列数据的写入管理》入选国际数据库顶级会议 ICDE 2022

    2022年5月9日,国际数据库顶级会议 ICDE 2022(线上会议)盛大召开.康愈圆同学的< Separation or Not: On Handing Out-of-Order Time-S ...

  5. TKDE期刊2022.12 paper-提升现有时间序列数据分类器的多尺度集成增强器(实现最先进的时间序列数据分类性能)CCF A类 数据挖掘顶刊论文python代码收藏

    以下代码链接是Multi-Scale Ensemble Booster for Improving Existing TSD Classifiers论文代码,包含了算法和表格等,比较完备. 论文:Mu ...

  6. G-Research:ICML 2022论文推荐

    量化投资与机器学习微信公众号,是业内垂直于量化投资.对冲基金.Fintech.人工智能.大数据等领域的主流自媒体.公众号拥有来自公募.私募.券商.期货.银行.保险.高校等行业30W+关注者,荣获202 ...

  7. 第16期高级转录组分析和R数据可视化培训(2022年1月)

    福利公告:为了响应学员的学习需求,经过易生信培训团队的讨论筹备,现安排<高级转录组分析和R数据可视化>于2022年1月14-16 线上/线下课程 (线上课是通过腾讯会议实时直播线下课,实时 ...

  8. #今日论文推荐# 阿里达摩院最新FEDformer,长程时序预测全面超越SOTA | ICML 2022

    #今日论文推荐# 阿里达摩院最新FEDformer,长程时序预测全面超越SOTA | ICML 2022 时间序列预测在众多领域中(例如电力.能源.天气.交通等)都有广泛的应用.时间序列预测问题极具挑 ...

  9. ICML 2022|达摩院多模态模型OFA,实现模态、任务和架构三个统一

    作者:霜清.钟煌.鸿侠 通用统一的预训练大模型逐渐成为AI研究的一大趋势,本文将介绍达摩院提出的多模态模型OFA,是如何实现架构.模态.任务的三个统一. 近年来,基于大规模无监督数据的预训练逐渐成为深 ...

最新文章

  1. 用C#对ADO.NET数据库完成简单操作
  2. LISP 圆孔标记_晓东CAD家园-论坛-A/VLISP-获取当前标注样式-;;希望大家来完善它 - Powered by Discuz!...
  3. java se 与j2se_关于java:J2EE和J2SE项目之间的区别
  4. 独家 | 构建符合道德规范的用于人才管理的AI(附链接)
  5. sql 发送邮件网络附件_利用VBA发送附件电子邮件
  6. iOS开发CoreAnimation解读之一——初识CoreAnimation核心动画编程
  7. Pixhawk之姿态解算篇(5)_ECF/EKF/GD介绍
  8. debian10树莓派4安装mysql_树莓派4上如何安装 Raspbian Buster
  9. 电商设计提升水平,需要优秀的模板素材进行临摹练习!
  10. String中的==与Empty
  11. window 7 计算机配置,Windows7操作系统要求电脑配置
  12. NFS, web,负载均衡,Nginx yum 源码安装
  13. (转)c# Invoke和BeginInvoke区别
  14. unityar自动识别人脸_Unity2019.2 Beta版:支持AR面部追踪和3D物体识别
  15. kuberntes集群不能解析service ip故障排查记录
  16. Navicat数据库管理工具的基本操作
  17. BZOJ 1123: [POI2008]BLO
  18. win7桌面图标全变成windows media center 解决办法
  19. 奥克兰oracle,IEM奥克兰前瞻: 顶级战队决战甲骨文中心
  20. 跳槽找工作避坑指南收集汇总

热门文章

  1. 企业邮箱申请流程,申请企业邮箱账号,怎样申请企业邮箱?
  2. ChatGPT到底是赛博做题家还是科研颠覆者?
  3. VirtualBox 安装 Ubuntu虚拟机 显卡驱动
  4. “蔚来杯“2022牛客暑期多校训练营1
  5. M y s q l 篇
  6. 2018-07-11CROSS JOIN+INNER JOIN+LEFT JOIN+RIGHT JOIN
  7. ACP_1_敏捷价值观原则
  8. Android多线程实现方式及并发与同步,技术详细介绍
  9. (一)基于区块链的自动抽奖系统从0到1实现
  10. 数字时代,如何跟上互联网医院的建设潮?