Generalizing to Unseen Domains: A Survey on Domain Generalization

https://arxiv.org/pdf/2103.03097.pdf

1. 领域泛化（Domain Generalization）的目标是什么？或者已经实现了什么？

目标：从若干个具有不同数据分布的数据集（领域）中学习一个泛化能力强的模型，以便在未知 (Unseen) 的测试集上取得较好的效果。

2. 文献中总结了哪些方法，每个方法的关键是什么？

2.1 领域泛化的三类方法

文献中总结了三类方法：数据操作、表征学习、学习策略^[2]

[1] 数据操作：包括数据增强和数据生成两大部分。
[2] 表征学习:指的是学习领域不变特征(Domain-invariant representation learning)以使得模型对不同领域都能进行很好地适配。领域不变特征学习方面主要包括四大部分：核方法、显式特征对齐、领域对抗训练、以及不变风险最小化(Invariant Risk Minimiation, IRM)。此外还有特征解耦。
[3] 学习策略:指的是将机器学习中成熟的学习模式引入多领域训练中使得模型泛化性更强。这一部分主要包括基于集成学习和元学习的方法。此外还有自监督方法在领域泛化中的应用等。

对于其中很感兴趣的数据操作进行更细致的了解：

2.2 数据增强：

（1）翻转、旋转、缩放、裁剪和增加噪声等。
（2）Domain randomization。利用仿真技术生成仿真数据用于模型训练。

2.3 数据生成

（1） VAE或GAN
（2） Wasserstein Auto-Encoder (WAE)
（3） Mixup

3. 论文中哪些内容对我来说是有用的？

DG在故障检测、语音检测、脑机接口、帕金森病识别、震颤检测等方面的应用。

4. 我还想要关注哪些参考文献和资料？

[61] H. Zheng, Y. Yang, J. Yin, Y. Li, R. Wang, and M. Xu, “Deep domain generalization combining a priori diagnosis knowledge
toward cross-domain fault diagnosis of rolling bearing,” IEEE Trans. on Instrumentation and Measurement, vol. 70, pp. 1–11, 2020.
[62] Y. Liao, R. Huang, J. Li, Z. Chen, and W. Li, “Deep semisupervised domain generalization network for rotary machinery fault diagnosis under variable speed,” IEEE Transactions on Instrumentation and Measurement, vol. 69, no. 10, pp. 8064–8075, 2020.
[66] X. Li, W. Zhang, H. Ma, Z. Luo, and X. Li, “Domain generalization in rotating machinery fault diagnostics using deep neural networks,” Neurocomputing, vol. 403, pp. 409–420, 2020.

5. 参考文献

[1] https://arxiv.org/pdf/2103.03097.pdf

[2] https://zhuanlan.zhihu.com/p/354740610

领域泛化文献综述阅读笔记相关推荐

《A Survey on Deep Learning Technique for Video Segmentation》视频分割综述阅读笔记(翻译)
<A Survey on Deep Learning Technique for Video Segmentation>视频分割综述阅读笔记(背景部分翻译) 作者:Wenguan Wang ...
深度学习超分辨率综述阅读笔记（翻译）
深度学习超分辨率综述阅读笔记(翻译) https://arxiv.org/abs/1902.06068 摘要:图像超分辨率(SR)是计算机视觉中增强图像和视频分辨率的一类重要图像处理技术.近几年来,图 ...
SaliencyReview：显著性检测综述阅读笔记
typora-root-url: images SaliencyReviews 显著性检测论文综述阅读笔记 Author: wbzhang 2020/3/19 E-mail: wbzhang233@1 ...
【time series】时间序列领域的Transformer综述论文笔记
论文名称:Transformers in Time Series: A Survey 论文年份:2022/5/7 论文作者:阿里巴巴达摩院论文下载:https://arxiv.org/abs/220 ...
SLAM综述阅读笔记二：Simultaneous Localization and Mapping: A Survey of Current Trends in Autonomous（2017）
转自[第八篇 SLAM:自动驾驶当前趋势综述 - 知乎] 说明该总结主要是针对自动驾驶 <Simultaneous Localization And Mapping: A Survey of C ...
基于深度学习的性格探测综述阅读笔记
Recent trends in deep learning based personality detection 目录 Recent trends in deep learning based p ...
《领域驱动设计》阅读笔记第1章消化知识
ddd小白,一篇章节便能激起了心中涟漪,感慨之初,记于笔下. 第1章消化知识用醍醐灌顶.茅塞顿开来形容此章短短的文字,实不为过. 简单介绍背景:旅游互联网,B2B,初创公司.产品设计-代码开发的 ...
SLAM综述阅读笔记六：基于图像语义的SLAM调研：移动机器人自主导航面向应用的解决方案 2020
转自[[论文阅读]A survey of image semantics-based visual simultaneous localization and mapping 语义视觉SLAM综述 - ...
SLAM综述阅读笔记七：Visual and Visual-Inertial SLAM: State of the Art, Classification,and Experimental 2021
Visual and Visual-Inertial SLAM: State of the Art, Classification,and Experimental Benchmarking 作者:M ...

领域泛化文献综述阅读笔记