Do We Really Need to Access the Source Data? Source Hypothesis Transfer for Unsupervised Domain Adaptation

Introduction

这是无源领域自适应的第一篇论文，之前的领域自适应往往是利用源域模型、源域数据进行迁移。考虑到源域数据的隐私性以及数据的庞大，作者创造性地提出了一种不借助源域数据，只利用从源域上训练出的模型向目标域进行迁移的方法——Source HypOthesis Transfer (SHOT)。

Method

上图是这篇论文提出的整体框架（SHOT），作者的思路很简单，首先利用源域数据有监督地训练出一个模型，然后利用源域模型初始化目标域模型，最后利用目标域数据训练该模型，完成迁移。在整个过程中，模型的分类器（图中的classifier）是固定不动的，也就是不参与训练，直接使用源域训练出来的分类器，我们只需重新训练特征提取器（feature extractor），使其与目标域数据适配。

Source Model Generation

这部分是源域模型的训练，利用卷积神经网络训练一个分类器。损失函数是交叉熵损失函数，不过作者为了提高模型分类的准确性，在损失函数中使用了标签平滑（label smoothing），训练源域模型的损失函数如下所示：

SHOT-IM

这部分作者提出了一个信息最大化（Information
Maximization）的方法进行从目标域到源域的对齐，即让目标域数据的特征和源域有着尽可能相似的分布。作者有着两方面的思考：
1、如果目标域数据和源域数据的差异被消除了，那么目标域数据的输出也应该和源域数据一样，是一个one-hot的形式。由此可联想到熵，只需最小化熵即可达到目的，这部分的损失函数如下：

2、尽可能让目标域数据的分类具有多样性，即每个类别都比较平均，只需计算出整个目标域的输出的平均值，使其熵最大即可。

其中p_k是目标域平均输出的第k个分量，也可理解为在第k个类别上输出的平均值。

Self-supervised Pseudo-labeling

上面提出的SHOT-IM方法目的是让目标域的特征与源域对齐，但作者注意到了一个问题，SHOT-IM虽说将两个域的特征分布靠拢，但有可能会将目标域样本分到错误的类别中，如图所示：
可以看出，SHOT-IM确实将特征对齐了，但有的样本还是被分到了错误的类别，针对此问题，作者提出了用伪标签进行自监督的方法，过程类似机器学习中的k-means聚类：

整个过程计算了两次聚类中心，第一次用输出的概率进行加权平均，然后用余弦距离加伪标签，然后用k-means聚类的方法再求一次聚类中心，再用余弦距离加伪标签，这样得到的伪标签较为准确。接着进行自监督，损失函数也是交叉熵损失函数。因此，整个框架的损失函数如下所示：

Experiments

实验代码

无源领域自适应：Source Hypothesis Transfer for Unsupervised Domain Adaptation相关推荐

【ICML 2015迁移学习论文阅读】Unsupervised Domain Adaptation by Backpropagation (DANN) 反向传播的无监督领域自适应
会议:ICML 2015 论文题目:Unsupervised Domain Adaptation by Backpropagation 论文地址: http://proceedings.mlr.pre ...
语义分割-Unsupervised Domain Adaptation in Semantic Segmentation：a Review语义分割中的无监督领域自适应：综述
Unsupervised Domain Adaptation in Semantic Segmentation:a Review语义分割中的无监督领域自适应:综述 0.摘要 1.介绍 1.1.语义分割 ...
【ICML 2015迁移学习论文阅读】Unsupervised Domain Adaptation by Backpropagation (DANN) 无监督领域自适应
会议:ICML 2015 论文题目:Unsupervised Domain Adaptation by Backpropagation 论文地址:http://proceedings.mlr.pres ...
Unsupervised Domain Adaptation for Semantic Segmentation by Content Transfer
论文链接:https://arxiv.org/abs/2012.12545 此篇论文被AAAI2021接收. 文章目录 1 Motivation 1.1 Domain Gap 1.2 Class Im ...
【论文阅读】Deep Cocktail Network: Multi-source Unsupervised Domain Adaptation with Category Shift
Deep Cocktail Network: Multi-source Unsupervised Domain Adaptation with Category Shift SUMMARY@ 2020 ...
CVF2020邻域自适应/语义分割：FDA: Fourier Domain Adaptation for Semantic SegmentationFDA：用于语义分割的傅立叶域自适应算法
邻域自适应/语义分割:FDA: Fourier Domain Adaptation for Semantic Segmentation FDA:用于语义分割的傅立叶域自适应算法 0.摘要 1.概述 1 ...
CVPR2019:Domain-Specific Batch Normalization for Unsupervised Domain Adaptation无监督域适配的特定域批处理规范化
CVPR2019:Domain-Specific Batch Normalization for Unsupervised Domain Adaptation无监督域适配的特定域批处理规范化 0.摘要 ...
论文笔记：An Adaptive Feature Norm Approach for Unsupervised Domain Adaptation
论文链接最近把毕业论文的题目确定了,这个专栏专门放相关论文的阅读笔记,个人理解可能有限,欢迎大家指正! 标题理解阅读论文之前,首先对标题进行一定的理解,才能更好的理解论文的内容. 论文完整标题为: ...
《Weighted Maximum Mean Discrepancy for Unsupervised Domain Adaptation》论文阅读
Weighted Maximum Mean Discrepancy for Unsupervised Domain Adaptation 摘要类先验分布(Class prior distributi ...

无源领域自适应：Source Hypothesis Transfer for Unsupervised Domain Adaptation