【论文翻译】DANN的改进ADDA Multimodal Vigilance Estimation with Adversarial Domain Adaptation Networks

【论文翻译】DANN的改进ADDA： Multimodal Vigilance Estimation with Adversarial Domain Adaptation Networks

1.研究背景和目的
2.域适应方法（DOMAIN ADAPTATION METHODS）
- 2.1basic idea
- 2.2传统方法
- 2.3对抗网络方法（Adversarial Network Methods）
3.数据以及预处理
4.域适应结果和讨论
- 4.1域适应设置（实验设置）
- 4.2实验结果

会议论文：2018 International Joint Conference on Neural Networks (IJCNN)
论文作者：上海交通大学bllu
论文链接：http://bcmi.sjtu.edu.cn/~zhengweilong/pdf/ijcnn2018_li.pdf
作者讲解：https://www.bilibili.com/video/BV1XK411p7Pd?p=4 （直接空降到63:30）

1.研究背景和目的

驾驶过程中的警惕性估计对于预防交通事故至关重要。已经提出了许多用于警戒性估计的方法。但是，大多数方法都需要收集特定于受试者的标记数据以进行校准，这对于实际应用而言是高成本的。

为了解决此问题，可以使用域自适应方法来对齐源主题特征（源域）和新主题特征（目标域）的分布。通过重用其他主题的现有数据，不需要新的主题标签数据即可训练模型。

在本文中，我们的目标是将对抗性领域适应网络应用于跨学科警戒估计。我们采用两种最近提出的对抗域自适应网络，并将它们的性能与几种传统域自适应方法和没有域自适应的基线进行比较。

使用公开可用的数据集SEED-VIG评估方法。该数据集包括脑电图（EEG）和眼电图（EOG）信号，以及在模拟驾驶过程中的相应警戒级别注释。与基线相比，两个对抗域适应网络的皮尔逊相关系数均提高了10％以上。此外，这两种方法都大大优于传统的域自适应方法。索引词-对抗网络，域适应，脑电图（EEG），眼电图（EOG），警惕性估计

2.域适应方法（DOMAIN ADAPTATION METHODS）

2.1basic idea

一般P(Xs) 不等于 P(Xt)
需要找到一个合适的函数φ(·）使得P(φ(Xs)) ≈ P(φ(Xt))

2.2传统方法

Geodesic Flow Kernel (GFK)
Subspace Alignment (SA)
Transfer Component Analysis (TCA)
Maximum Independence Domain Adaptation (MIDA)

2.3对抗网络方法（Adversarial Network Methods）

这里介绍两种对抗域适应网络。

Domain-Adversarial Neural Network (DANN)
该模型可以分为三个部分，一个特征提取器G_f，一个标签预测器G_y，以及一个域分类器G_d .在特征提取器和与分类器中存在一个对抗的关系。
特征提取器从输入的特征中提取提取新的特征。把这个新的特征输入到标签预测器和与分类器中分别预测每一个样本的标签和每一个样本的域。

更新的规则：
通过这个对抗的机制使得特征提取器能够提取域不变的特征，从而能够使域偏移能被消除。
Adversarial Discriminative Domain Adaptation (ADDA)
ADDA与DANN类似，也可以分为三个部分，但是其中的特征提取器有两个，一个用于源域G_f0另一个用于目标域G_f1。
该模型训练分为两个阶段。在第一阶段用源数据训练G_f0和标签预测器G_y，预测的损失函数最小化。在此阶段训练后G_f0和G_y的参数会固定。在第二阶段G_f1会用G_f0的值初始化。之后G_f1和G_d会进行对抗式的训练，G_d会判别输入特征是源数据还是目标数据。因此，在训练之后，特征提取器G_f1将目标域数据的分布与源域数据的分布对齐。

3.数据以及预处理

【略】SEED-VIG ，23个人
特征融合和平滑度：为了利用多峰特征，通过融合36个EOG特征和100个EEG特征来应用特征融合。因此，为每个时期生成了136维特征向量。此后，为了减少伪影的影响，使用移动平均算法以30的窗口大小对特征向量进行了顺次平滑处理。

4.域适应结果和讨论

4.1域适应设置（实验设置）

为 23 个主题中每个对象提取了 885 个feature vectors。每个特征向量都附有对应的警戒注释（标签）。我们现在的目标是在不同的主题之间进行域适应。应用"leave-one- subject-out "交叉验证算法，这意味着对于每个域自适应方法，有一些运行，并且对于每个运行对象中的数据，从其中一个主题的数据被视为目标域，而其他主题的数据被视为源域。

第二节中介绍的所有领域适应方法都采用。此外，基线结果是通过直接使用要素获得的，无需任何域调整。对于传统的域自适应方法和基线方法，线性内核支持向量回归（SVR）算法[33]用于回归器。对于 TCA 和 MIDA，采用非监督版本和半监督版本。

由于 TCA、SA、GFK 和 ADDA 不能直接应用于多个源域，因此所有源域数据（即 22 个主题的数据）都作为一个源域的数据串联到这些方法的数据。

（MLP）用于对抗域适应网络中的特征提取器、标签预测器和域分类器。两个对抗域适应网络的结构如图 3 所示。

Adam 优化器被采用用于网络训练，以获得更快的融合。我们对一些预定义的值集执行对超参数的随机搜索。对于每种方法，使用留一主题出交叉验证算法对超参数设置进行评估，并选择最佳设置生成最终结果。

4.2实验结果

评估指标皮尔森相关系数PCC和RMSE。

源域和目标域的分布。