域对抗网络Domain adversarial neural network及其应用相关论文

论文介绍
- 1.Domain-Adversarial Training of Neural Networks， JMLR,2016
- 2. Developing Personalized Models of Blood Pressure Estimation from Wearable Sensors Data Using Minimally-trained Domain Adversarial Neural Networks， MLHC,2020
- 3. A Principled Approach for Learning Task Similarity in Multitask Learning, IJCAI, 2019.
- 4. Multi-domain adversarial learning， ICLR, 2019
- 5.Task Similarity Estimation Through Adversarial Multitask Neural Network, IEEE TNNLS, 2021.
- 6. A Novel Neural Network Model based on Cerebral Hemispheric Asymmetry for EEG Emotion Recognition | IJCAI18
- 7. A Bi-hemisphere Domain Adversarial Neural Network Model for EEG Emotion Recognition, IEEE Transactions on Affective Computing, 2018.
- 8. Multi-Domain Adversarial Learning for Slot Filling in Spoken Language Understanding
总结

论文介绍

1.Domain-Adversarial Training of Neural Networks， JMLR,2016

这篇论文是域对抗网络的开山之作，作者从domain adaption理论的角度出发，最终提出了域对抗网络，论文的数学性比较强，写的非常详细。回过头来看，其思路也非常简单：在训练中为了学到与目标域更加general的特征，在中间特征层额外加了一个域分类器用来区分不同样本所属的域，一方面，域分类器通过最小化域分类损失来提高其判别能力，另一方面，通过最大化域分类损失来更新特征提取子网络的参数，这实际上就是一个min-max优化问题。

网络示意图如下：主要由三个module组成： feature extractor，label predictor, domain classifier, 如图所示，域分类器的损失在 feature extractor层会有gradient reverserial 操作（因为是最大化）。

参数更新规则：

可以看到：feature extractor module的参数更新有点意思：主任务的损失在该处反向传播以最小化主任务（可以是分类或者回归）损失，另一方面，域分类器的损失在此处正向传播以欺骗域分类器。从而使得学习到的特征：informative 并且 general/cross domain.

2. Developing Personalized Models of Blood Pressure Estimation from Wearable Sensors Data Using Minimally-trained Domain Adversarial Neural Networks， MLHC,2020

将域对抗的思想应用于血压预测(回归任务)

3. A Principled Approach for Learning Task Similarity in Multitask Learning, IJCAI, 2019.

多任务学习框架，将域对抗的思想用于多任务学习中，使得学习到的特征更加general (cross-task)，作者还推导了多任务框架下利用任务间相似性的泛化误差界。值得一看。

4. Multi-domain adversarial learning， ICLR, 2019

作者推导了半监督场景下的多域对抗学习的泛化误差界，将其应用于生物医学图像数据集，好像是显微镜数据。论文值得一看。

5.Task Similarity Estimation Through Adversarial Multitask Neural Network, IEEE TNNLS, 2021.

将域对抗的思想用于多任务学习中, 估计任务相似度。

6. A Novel Neural Network Model based on Cerebral Hemispheric Asymmetry for EEG Emotion Recognition | IJCAI18

7. A Bi-hemisphere Domain Adversarial Neural Network Model for EEG Emotion Recognition, IEEE Transactions on Affective Computing, 2018.

8. Multi-Domain Adversarial Learning for Slot Filling in Spoken Language Understanding

总结

未完待续…

域对抗网络Domain adversarial neural network及其应用相关论文相关推荐

生成对抗网络 – Generative Adversarial Networks | GAN
生成对抗网络 – Generative Adversarial Networks | GAN 生成对抗网络 – GAN 是最近2年很热门的一种无监督算法,他能生成出非常逼真的照片,图像甚至视频.我们手 ...
生成对抗网络(Generative Adversarial Networks)
参考生成对抗网络(Generative Adversarial Networks) - 云+社区 - 腾讯云目录一.生成对抗网络原理 1.模型的起源 2.模型的结构和损失函数二.对GAN的改 ...
PNN网络（Product-based Neural Network）
1. 概述 PNN(Product-based Neural Network)是在2016年提出的用于计算CTR问题的深度神经网络模型,PNN的网络结构对传统的FNN(Feedforward Neur ...
生成式对抗网络Generative Adversarial Networks(GANs)
1. 前言 2. 参考资料 3. 研究背景 4. GAN的框架 4.1 对抗框架(Adeversarial Nets) *关于"无监督学习"的说明 4.2 Minimax two- ...
生成对抗网络Generative Adversarial Nets（译）
仅供参考,如有翻译不到位的地方敬请指出. 论文地址:Generative Adversarial Nets 论文翻译:XlyPb(http://blog.csdn.net/wspba/article ...
二值网络--TBN: Convolutional Neural Network with Ternary Inputs and Binary Weights
TBN: Convolutional Neural Network with Ternary Inputs and Binary Weights ECCV2018 本文的思路就是: 对 weight ...
Complex Spectral Mapping With Attention Based Convolution Recurrent Neural Network（省略）---论文翻译
基于注意力的卷积递归神经网络的复杂频谱映射,用于语音增强 Liming Zhou1, Yongyu Gao1,Ziluo Wang1,Jiwei Li1,Wenbin Zhang11CloudWalk ...
生成对抗网络（GAN）的前沿进展（论文、报告、框架和Github资源）汇总
生成模型(GenerativeModel)是一种可以通过学习训练样本来产生更多类似样本的模型.在所有生成模型当中,最具潜力的是生成对抗网络(Generative Adversarial Network ...
《生成式对抗网络GAN的研究进展与展望》论文笔记
本文主要是对论文:王坤峰, 苟超, 段艳杰, 林懿伦, 郑心湖, 王飞跃. 生成式对抗网络GAN的研究进展与展望. 自动化学报, 2017, 43(3): 321-332. 进行总结. 相关博客地址: ...
6.DeepFM: A Factorization-Machine based Neural Network for CTR Prediction论文详解和代码实现
一.总述这篇论文来自哈工大&华为诺亚方舟实验室,主要关注如何学习user behavior背后的组合特征(feature interactions),从而最大化推荐系统的CTR.但目前的方法 ...

域对抗网络Domain adversarial neural network及其应用相关论文

域对抗网络Domain adversarial neural network及其应用相关论文

论文介绍

1.Domain-Adversarial Training of Neural Networks， JMLR,2016

2. Developing Personalized Models of Blood Pressure Estimation from Wearable Sensors Data Using Minimally-trained Domain Adversarial Neural Networks， MLHC,2020

3. A Principled Approach for Learning Task Similarity in Multitask Learning, IJCAI, 2019.

4. Multi-domain adversarial learning， ICLR, 2019

5.Task Similarity Estimation Through Adversarial Multitask Neural Network, IEEE TNNLS, 2021.

6. A Novel Neural Network Model based on Cerebral Hemispheric Asymmetry for EEG Emotion Recognition | IJCAI18

7. A Bi-hemisphere Domain Adversarial Neural Network Model for EEG Emotion Recognition, IEEE Transactions on Affective Computing, 2018.

8. Multi-Domain Adversarial Learning for Slot Filling in Spoken Language Understanding

总结

域对抗网络Domain adversarial neural network及其应用相关论文相关推荐

最新文章

热门文章