Domain Adaption3

3.Discriminative Feature Alignment: Improving Transferability of Unsupervised Domain Adaptation by Gaussian-guided Latent Alignment

github: Discriminative-Feature-Alignment

先前的工作已尝试通过 classifier-induced discrepancies直接对齐潜在特征。但是，通常无法通过这种直接特征对齐的方式来学习公共特征空间，特别是当存在较大的域gap时。为了解决这个问题，我们引入了一种Gaussian-guided latent alignment方法（即DFA，Discriminative Feature Alignment），以在高斯先验分布的指导下对齐两个域的潜在特征分布。以这种间接的方式，来自两个域的样本上的分布将被构建在公共的特征空间（即高斯先验的latent空间）上，这促进了更好的特征对齐。为了有效地使目标域的latent分布与prior distribution对齐，我们还利用编码器-解码器的架构，并提出了一种unpaired L1-distance。

DFA方法概览
现有的UDA算法仅考虑 classifier-induced discrepancies来缓解domain shifts。对抗性和非对抗性的UDA方法的主要思想是——同时最小化源域分类误差和classifier-induced源域与目标域之间的差异，隐式地将完成两个域潜在特征空间的对齐。然而仅以这种方式进行的领域自适应无法有效地学习公共特征空间。
因此，我们提出了discriminative feature alignment (DFA)，在高斯先验的指导下对齐源域数据和目标数据的discriminative的latent特征分布。具体地，特征提取器G将input samples编码到latent特征空间中；解码器D将一个latent feature vector或一个Gaussian random vector解码回图像。来自源域和目标域的样本共享编码器（G）和解码器（D）的参数。可以将D视为正则化的一种形式。我们利用KL散度来鼓励源域样本的latent分布接近于高斯先验。（Lkld）
如果与源域类似，鼓励目标样本的latent分布接近高斯分布，从而实现两个域的分布对齐，这样做实际的效果不佳。所以本文通过减小解码器重构的（source、target）样本之间的unpaired L1-distance，以实现两个域的分布对齐，即使D（G（xs））和D（G（xt）之间的距离最小。本文将这种分布对齐方式称为distribution alignment loss。我们进一步发现将D（G（xt））与D（zn）的距离最小化的效果更好。（Ldal）
损失函数
①

②
③（Lcls）可以确保在先验latent特征空间上学习到源域的discriminative的特征。
④
⑤
将DFA应用到MCD方法中
小王爱迁移系列之二十一：最大分类器差异的领域自适应(MCD_DA)

Domain Adaption3相关推荐

Apache启动时报Could not reliably determine the server's fully qualified domain name
在系统启动时apache,没有启动起来,查看"事件查看器"发现报一些错误: The Apache service named reported the following err ...
通过document.domain实现跨域访问
通过document.domain实现跨域访问:https://blog.csdn.net/nlznlz/article/details/79506655 前端跨域方法之document.domain ...
JBoss 系列十六：JBoss7/WildFly配置domain模式
2019独角兽企业重金招聘Python工程师标准>>> 内容概要 JBoss7/WildFly有两种模式可供选择,即standalone和dimain模式,详细请参照社区文档(链接) ...
java domain层_java框架中的controller层、dao层、domain层、service层、view层
1.Controller层:接口层,用户访问请求时对接. Controller层负责具体的业务模块流程的控制,在此层里面要调用Serice层的接口来控制业务流程,控制的配置也同样是在Spring的配置 ...
关于ajax跨域请求（cross Domain）
Cross Domain AJAX主要就是A.com网站的页面发出一个XMLHttpRequest,这个Request的url是B.com,这样的请求是被禁止的,浏览器处于安全考虑不允许进行跨域访问, ...
mysql＞ select file,domain,alias,valid from tbl_check where file=‘ecloud_0824-0830.csv‘ into outfile
mysql> select file,domain,alias,valid from tbl_check where file='ecloud_0824-0830.csv' into outfi ...
一篇综述带你全面了解迁移学习的领域泛化(Domain Generalization)
领域泛化 (Domain Generalization, DG) 是近几年非常热门的一个研究方向.它研究的问题是从若干个具有不同数据分布的数据集(领域)中学习一个泛化能力强的模型,以便在未知 (Un ...
迁移学习——Domain Adaptation
Domain Adaptation 在经典的机器学习问题中,我们往往假设训练集和测试集分布一致,在训练集上训练模型,在测试集上测试.然而在实际问题中,测试场景往往非可控,测试集和训练集分布有很大差异, ...
近期必读的9篇CVPR 2019【域自适应（Domain Adaptation）】相关论文和代码
[导读]最近小编推出CVPR2019图卷积网络.CVPR2019生成对抗网络.[可解释性],CVPR视觉目标跟踪,CVPR视觉问答,医学图像分割,图神经网络的推荐相关论文,反响热烈.最近,Domain ...

Domain Adaption3

3.Discriminative Feature Alignment: Improving Transferability of Unsupervised Domain Adaptation by Gaussian-guided Latent Alignment

Domain Adaption3相关推荐

最新文章

热门文章