我已经有两年 ML 经历，这系列课主要用来查缺补漏，会记录一些细节的、自己不知道的东西。

这是我的李宏毅老师 GAN 系列第7篇笔记，GAN 系列：

1：Basic Idea
2：Conditional GAN
3：Unsupervised Conditional Generation
4：Theory behind GAN
5：fGAN: General Framework of GAN
6：Tips for improving GAN

本节内容综述

InfoGAN：我们本来期待，我们输入的向量空间，与GAN的特征是空间上对应的。但实际上可能向量空间很杂乱。因此引出 InfoGAN 。
另外，介绍了 VAE-GAN 。
此外，介绍了 BiGAN 。简单讲了一下 Triple GAN 。
简单讲了 Domain-adversarial training ，可以用于 Feature Disentangle 。

文章目录

本节内容综述
小细节
- InfoGAN
- - What is InfoGAN?
- VAE-GAN
- - Algorithm
- BiGAN
- - Algorithm
  - 为何有效
  - Triple GAN
- Domain-adversarial training
- - Feature Disentangle

小细节

InfoGAN

如上，我们本来期待，我们输入的向量空间，与GAN的特征是空间上对应的。但实际上可能向量空间很杂乱。

What is InfoGAN?

如上，我们把输入向量分为ccc与z′z'z′两部分。我们对 G 的生成加一个分类器，让其分析出生成图片对应的输入 c 向量是什么。

此外，我们设置了 Discriminator ，防止生成器把 c 的特征原封不动地保留在了 x 中。Classifier 与 Discriminator 是共享参数的。

我们希望 c 对 x 有清晰、明确的影响。Classifier 起到的作用就是，让 c 成为在 x 中明显的特征。

如上，原文的效果不错。

VAE-GAN

如上，VAE生成的东西可能会比较模糊，GAN可以弥补这个缺陷，同时VAE可以让Generator学习起来容易一些。

Algorithm

其算法如上。上面倒数第 7 行应该改为 x^i=De(zi)\hat{x}^i = De(z^i)x^i=De(zi)。此外，如上，还有一种 Discriminator 进行三分类。

BiGAN

如上，En与De是分开的，如何学En与De呢?

再加一个 Discriminator ，分辨是来自于 En 的，还是来自于 De 的。

Algorithm

其算法如上。

为何有效

如上，我们可以把 En 与 De 生成的数据对应于分布 P 与 Q 。我们的 Discriminator 就是起到了衡量二者区别的作用。我们在训练时，P与Q会越来越接近。

但是，为什么要用GAN呢？

如上，左侧使用两个反向的 En-De ，每个都正确让端的输出等于段的输入，也可起到同样效果。但是，在训练中，我们很那收敛到最优解。而GAN在这种情况下，更加占优。

Triple GAN

如上，Triple GAN 可视为 cGAN 加上 Classifier 。Triple GAN 主要是为了训练一个 Classifier ，可以理解为一个半监督学习的分类方法，用于少量标签的数据。

Domain-adversarial training

如上，训练集与测试集在不同的domains，我们希望其生成的 feature 在相同的分布中。

其做法如上。这么一个大网络，可以同时训练各部分（可能调不稳），也可以分部分训练。

Feature Disentangle

如上，可以进行声纹比对等等应用。

那么，如何从 input 中提取 Phonetic 与 Speaker 的特征呢？

可以分别训练 Speaker En 与 Phonetic En 。如上是训练 Speaker En 的思路。

但是 Phonetic En 训练时，该如何设置训练目标呢？

如上，收到 domain adversarial training 的启发，我们设置一个 Speaker 分类器，这样 Phonetic Encoder 就会想办法骗过 Speaker Classifier ，从而去掉其本身的 Speaker 特性。

【李宏毅2020 ML/DL】P80 Generative Adversarial Network | Feature Extraction相关推荐

【李宏毅2020 ML/DL】P1 introduction
[李宏毅2020 ML/DL]P1 introduction 本节主要介绍了 DL 的15个作业英文大意 Regression: 回归分析 Classification: 分类 RNN: 循环神经网 ...
【李宏毅2020 ML/DL】P86-87 More about Domain Adaptation
我已经有两年 ML 经历,这系列课主要用来查缺补漏,会记录一些细节的.自己不知道的东西. 本节内容综述本节课由助教 Chao Brian 讲解. 首先讲解些领域适配的基础内容,包括名词.定义等. 接 ...
【李宏毅2020 ML/DL】P59 Unsupervised Learning - Auto-encoder
我已经有两年 ML 经历,这系列课主要用来查缺补漏,会记录一些细节的.自己不知道的东西. 已经有人记了笔记(很用心,强烈推荐):https://github.com/Sakura-gh/ML-note ...
【李宏毅2020 ML/DL】P14 Tips for training DNN | 激活函数、Maxout、正则、剪枝 Dropout
我已经有两年 ML 经历,这系列课主要用来查缺补漏,会记录一些细节的.自己不知道的东西. 已经有人记了笔记(很用心,强烈推荐): https://github.com/Sakura-gh/ML-not ...
【李宏毅2020 ML/DL】P58 Unsupervised Learning - Neighbor Embedding | LLE, t-SNE
我已经有两年 ML 经历,这系列课主要用来查缺补漏,会记录一些细节的.自己不知道的东西. 已经有人记了笔记(很用心,强烈推荐):https://github.com/Sakura-gh/ML-note ...
【李宏毅2020 ML/DL】P15 Why Deep-
我已经有两年 ML 经历,这系列课主要用来查缺补漏,会记录一些细节的.自己不知道的东西. 已经有人记了笔记(很用心,强烈推荐): https://github.com/Sakura-gh/ML-not ...
李宏毅svm_李宏毅2020 ML/DL补充Structured Learning Structured SVM
李宏毅2020 ML/DL补充Structured Learning Structured SVM [李宏毅2020 ML/DL]补充:Structured Learning: Structured ...
【李宏毅2020 ML/DL】P60-61 Unsupervised Learning - Deep Generative Model
我已经有两年 ML 经历,这系列课主要用来查缺补漏,会记录一些细节的.自己不知道的东西. 已经有人记了笔记(很用心,强烈推荐):https://github.com/Sakura-gh/ML-note ...
【李宏毅2020 ML/DL】P83 Generative Adversarial Network | Evaluation
我已经有两年 ML 经历,这系列课主要用来查缺补漏,会记录一些细节的.自己不知道的东西. 这是我的李宏毅老师 GAN 系列第10篇笔记,GAN 系列: 1:Basic Idea 2:Condition ...

【李宏毅2020 ML/DL】P80 Generative Adversarial Network | Feature Extraction

本节内容综述

文章目录

小细节

InfoGAN

What is InfoGAN?

VAE-GAN

Algorithm

BiGAN

Algorithm

为何有效

Triple GAN

Domain-adversarial training

Feature Disentangle

【李宏毅2020 ML/DL】P80 Generative Adversarial Network | Feature Extraction相关推荐

最新文章

热门文章