Deep Domain Confusion: Maximizing for Domain Invariance
1. 作者 来源
UC Berkeley 与 UMass Lowell, 的Eric Tzeng, Judy Hoffman, Ning Zhang
,Kate Saenko,Trevor Darrell
2014 年的一篇paper 好像没有说什么期刊会议上的 链接地址
2.Motivation
在大规模数据集上训练的通用监督深度CNN模型可以减少但不能消除在标准基准测试上的数据集偏差。也就是我们所说的domain adaptation。
3.Model
其提出的架构如图所示他的思想也是非常自然的
- 一部分是希望source domain 和 target domain 通过特征提取的网络可以得到其不变的特征 所以设计的domain loss 应该是让其提取的特征非常接近那么很明显可以使用MSEor L1 loss
- 就是为了保证其分类性能提出的classification loss
目的就是由图像化的解释如下:
Summary:
- 为了让source domain 和 target domain尽量靠近(domain loss)
- 为了保证分类器可以正确分类 (classification loss )
其实 想一想可以发现很多的问题都是在提升第二个目标,大家都是在这个基础上进行修改,因为不管是降维还是风格转换相对来说比较容易进行但是如果保证风格转化或者是降维之后依然可以有比较好的分类效果才是真正的比较困难和值得探究的问题。
4.contribution
- 提出了共同优化也就是上述的结构,取得了当时sota的结果
- 使用的混淆距离是maximum mean discrepancy(MMD)
原文的思考过程
仅使用源数据直接训练分类器往往会导致对源分布的过拟合,导致在目标域中识别时在测试时的性能降低。我们的直觉是,如果我们能学习一种使源分布和目标分布之间的距离最小化的表示,那么我们就可以在源标记数据上训练一个分类器,并直接将其应用于目标域,且精度损失最小。
其实重点就是MMD是什么?
视频介绍
我也只是一只半懂,感谢GAN的提出,为我们做迁移学习的减少了痛苦。
5.Results
结果当然是比较好的了 因为时间比较久远 我就不详细分析了
Deep Domain Confusion: Maximizing for Domain Invariance相关推荐
- 翻译论文:Deep Domain Confusion: Maximizing for Domain Invariance
题外话: 第一次做全文翻译,翻译不好请谅解,多多给予意见.最近在看DDC,顺便就把这篇文章翻译一下. 摘要 最近的报告表明,在大规模数据集上训练的通用监督深度cnn模型可以减少但不消除对标准基准数据集 ...
- Deep Domain Confusion:Maximinzing for Domain Invariance阅读笔记
摘要 近期研究表明,通常而言,一个在大量数据上训练的监督学习深度CNN模型可以减少但是不能移除一个标准基准上的数据集偏差.在新的域内使用基于微调的深度模型对数据量有很高的需求,这种限制使得这种方法在很 ...
- 【论文阅读】Deep Cocktail Network: Multi-source Unsupervised Domain Adaptation with Category Shift
Deep Cocktail Network: Multi-source Unsupervised Domain Adaptation with Category Shift SUMMARY@ 2020 ...
- 【论文精读】Deep Defocus Map Estimation using Domain Adaptation-2019CVPR
题目:Deep Defocus Map Estimation using Domain Adaptation 题目:使用区域适应的深度散焦map估计 作者:Junyong Lee 来自POSTECH ...
- How to Build a Graph-Based Deep Learning Architecture in Traffic Domain A Survey
How to Build a Graph-Based Deep Learning Architecture in Traffic Domain: A Survey 1. 文章概述 1.1 本文主要内容 ...
- 『 DSSM』A Multi-View Deep Learning Approach for Cross Domain User Modeling in Recommendation Systems
Abstract MULTI-VIEW-DNN联合了多个域做的丰富特征,使用multi-view DNN模型构建推荐,包括app.新闻.电影和TV,相比于最好的算法,老用户提升49%,新用户提升110 ...
- TGRS2020/遥感:Multisource Domain Adaptation for Remote Sensing Using Deep Neural Netw基于深度神经网络的遥感多源域自适应
TGRS2020/遥感:Multisource Domain Adaptation for Remote Sensing Using Deep Neural Networks基于深度神经网络的遥感多源 ...
- 遥感-Deep Covariance Alignment for Domain Adaptive Remote Sensing Image Segmentation域自适应遥感图像分割中深度协方差对齐
Deep Covariance Alignment for Domain Adaptive Remote Sensing Image Segmentation域自适应遥感图像分割中的深度协方差对齐 0 ...
- 转载:domain adaption
有一篇论文([cvpr2017]Joint Geometrical and Statistical Alignment for Visual Domain Adaptation )对Domain Ad ...
最新文章
- 『TensorFlow』数据读取类_data.Dataset
- 深度学习和普通机器学习之间有何区别?
- .NET 实现并行的几种方式(二)
- 简单了解linux,linux简单了解
- animation 先执行一次 在持续执行_FANUC机器人:先执行指令功能/后执行指令功能介绍与使用方法...
- 如何杀掉可恶的Notkelvir病毒
- 「备战春招/秋招」美团Java面经总结终结篇(附详解答)
- HTML5权威指南 6.多媒体相关API
- 在AD09中怎样同时高亮两个网络(即net)?按住Ctrl,鼠标点一个网络,按住Ctrl+Shift,鼠标再点另一个网络,想亮多少亮多少。
- C#office的0x8002801D或者0x80029C4A问题
- python 断言详细讲解用法及其案例_Python断言的最佳实践
- 【前端】报错TypeError: Cannot create property ‘xxx‘ on string ‘xxx‘
- 如何做二维码?教你一招轻松制作个性二维码
- Python中变量的基本使用
- 在PowerPoint 2010中向幻灯片添加过渡效果
- C语言实现【EasyX库——Flappy Bird】图片界面+添加声音+鼠标交互
- java基础—多线程
- 张保生:关于AI法律系统的思考(附PPT、视频)
- vue 页面添加水印并在浏览器不能去除
- truncate命令简介