论文地址

https://arxiv.org/pdf/2008.12839.pdf

摘要

在本文发表前，大多数成熟的领域泛化方法专注于学习跨所有源域不变表示的存在(DIRs方法为主)，然而，通常单个域包含独特的特征(类似域内特有信息的说法)，利用这些信息，能显著提升任务的性能。

本文提出一种用于泛化的领域特定编码(DMG:Domain-specic Masks for Generalization) 的方法，鼓励掩码学习领域不变特征和领域特定特征之间的平衡。

核心思想

动机

随着训练数据的增加，在目标域会出现至少一些数据与某些或多个源域非常相似，如果只保留DIRs之外的领域信息会帮助决策。

当然，只有在其他可用源域的上下文中，才能判断数据与该该源域的相似性，如何保留“不变性”(领域不变特征)来维持泛化性能，同时吸收“特定性”(领域特定特征)，本文提出一种自动学习平衡领域不变特征和领域特定特征的算法，以期获得最大的性能提升。

将平衡特征选择问题转化为在特征上学习特定的二元编码，具体来说，就是每层神经元关联领域特定的掩码参数，这些参数决定是否激活或关闭神经元，通过反向传播来学习这些参数，同时为了鼓励所选特征的领域专一性，队来自不同源域的掩码的重叠进行惩罚，实际工作时，对各个源域的掩码的预测结果取平均。

DMG方法

左图是标准的监督学习方法，中间图是从掩码分布中从对应的掩码参数分布中采样一个掩码，加入到任务学习中，右图是掩码作用的方式，二进制掩码与神经元参数进行点乘，再传递到下一层网络。

通过领域特征编码的特征选择

对于ppp个源域，初始化mdm^{d}md作为所需的编码，可以看做控制门，决定开启或关闭哪些神经元。

具体来说，对于LLL层的kkk个神经元，对于每个源域的掩码参数m~d\tilde{m}^{d}m~d，通过sigmoid激活得到掩码概率mdm^{d}md，然后，从掩码概率mdm^{d}md给出的伯努利分布中采样二进制掩码mdim^{d_{i}}mdi，该二进制掩码与神经元点乘，类似于dropout。

训练的时候只针对该域所对应的掩码进行训练，在测试阶段取不同领域的平均值，类似继承学习的思想。

激励领域特异性

为确保源域捕获特定于源域的特征，本文引入了软重叠损失，计算Jaccard相似度(也称作IOU评分)，提出sIoU损失：
LsIoU(mdi,mdj)=mdi∗mdj∑a,b≤kmdi+mdj−mdi∗mdjL_{sIoU}(m^{d_{i}} , m^{d_{j}}) = \frac{m^{d_{i}} * m^{d_{j}}}{\sum_{a, b \leq k}{m^{d_{i}} + m^{d_{j}} - m^{d_{i}} * m^{d_{j}}}} LsIoU(mdi,mdj)=∑a,b≤kmdi+mdj−mdi∗mdjmdi∗mdj

代码实现

未完成

论文引用

Chattopadhyay P, Balaji Y, Hoffman J. Learning to balance specificity and invariance for in and out of domain generalization[C]//European Conference on Computer Vision. Springer, Cham, 2020: 301-318.

【领域泛化】论文介绍《Learning to balance specificity and invariance for in and out of domain generalization》相关推荐

【领域泛化】论文介绍《Respecting domain relations Hypothesis invariance for domain generalization》
[领域泛化]论文介绍<Respecting domain relations Hypothesis invariance for domain generalization> 论文地址摘 ...
【领域泛化论文阅读】Semantic-Aware Domain Generalized Segmentation
关于图像白化和色彩变换的基本内容可以参考: 图像标准化.图像白化.色彩变换_S L N的博客-CSDN博客论文是针对语义分割的领域泛化模型.论文提出了SAN和SAW两个模块来增强类别之间的分离,类内 ...
【领域泛化论文阅读】Generalizing to Unseen Domains: A Survey on Domain Generalization
传统的机器学习是假设训练数据和测试数据独立同分布进行训练的,当训练数据和测试数据的分布不同,也就是域分布不同时,模型的性能将大大下降.而迁移学习是在训练数据和测试数据服从不同的数据的概率分布时,提高模 ...
【领域泛化论文阅读】Embracing the Dark Knowledge: Domain Generalization Using RegularizedKnowledgeDistillation
这篇论文从任务的难度来解决领域泛化问题,论文认为如果模型的学习任务太难的话,容易发生过拟合,学习到的特征是域特有的特征而不是域不变特征,这样很难学习到泛化的特征.因此论文假设简单的任务可以提高目标域的 ...
【领域泛化论文阅读】Birds of A Feather Flock Together:Category-Divergence Guidance for DomainAdaptiveSegmentat
论文提出了一个分层的无监督的领域自适应框架用于跨领域的语义分割.类间分离,类内聚合的机制(ISIA). 针对语义分割的无监督领域自适应(UDA)的方法可以分为image-level,feature-l ...
一篇综述带你全面了解迁移学习的领域泛化(Domain Generalization)
领域泛化 (Domain Generalization, DG) 是近几年非常热门的一个研究方向.它研究的问题是从若干个具有不同数据分布的数据集(领域)中学习一个泛化能力强的模型,以便在未知 (Un ...
领域泛化（Domain Generalization）
文章目录前言问题定义理论方法应用与数据集未来挑战参考前言领域泛化 (Domain Generalization, DG) 是近几年非常热门的一个研究方向.它研究的问题是从若干个具有不 ...
百度AI 17篇 CVPR 2019 论文介绍（附下载）
本文转载自AI科技大本营. 整理 | 阿司匹林出品 | AI科技大本营(公众号id:rgznai100) 计算机视觉和模式识别大会CVPR 2019即将于6月在美国长滩召开,作为人工智能领域计算机视 ...
DL之BN-Inception：BN-Inception算法的简介(论文介绍)、架构详解、案例应用等配图集合之详细攻略
DL之BN-Inception:BN-Inception算法的简介(论文介绍).架构详解.案例应用等配图集合之详细攻略目录 BN-Inception算法的简介(论文介绍) BN-Inception算 ...

【领域泛化】论文介绍《Learning to balance specificity and invariance for in and out of domain generalization》