5 C-RNN-GAN

5.1 引言

GAN是一类神经网络体系结构，旨在生成现实数据。

RNN通常用于数据序列建模。这些模型通常使用最大似然法则进行训练。

文章提出C-RNN-GAN架构，它通过对抗训练来建模序列的整个联合概率，并能够生成数据序列。
通过对古典音乐序列进行训练，使用音阶一致性和音域等指标对系统进行评估。

结论是，生成对抗训练是一种可行的训练网络的方式，可以对连续数据序列上的分布进行建模，并且还可以对许多其他类型的连续数据进行建模。

5.2 C-RNN-GAN: 具有对抗性训练的连续循环网络

定义以下损失函数 L D L_D LD和 L G L_G LG:
L G = 1 m ∑ i = 1 m l o g ( 1 − D ( G ( z ( i ) ) ) ) L D = 1 m ∑ i = 1 m [ − l o g D ( x ( i ) ) − ( l o g ( 1 − D ( G ( z ( i ) ) ) ) ) ] \begin{align} L_G &=\frac{1}{m} \sum\limits_{i=1}^{m} log(1-D(G(z^{(i)})))\\ L_D &= \frac{1}{m} \sum\limits_{i=1}^{m}[ -logD(x^{(i)})-(log(1-D(G(z^{(i)}))))] \end{align} LGLD=m1i=1∑mlog(1−D(G(z(i))))=m1i=1∑m[−logD(x(i))−(log(1−D(G(z(i)))))]
其中， z ( i ) z^{(i)} z(i)是 [ 0 , 1 ] k {[0,1]}^{k} [0,1]k中的均匀随机向量的序列，而 x ( i ) x(i) x(i)是来自训练数据的序列， k k k表示随机序列中的数据的维数。

G G G中每个单元格的输入是一个随机向量，与先前单元格的输出串联。鉴别器由 B i − L S T M Bi-LSTM Bi−LSTM组成.

5.3 实验设置

模型布局细节: G G G和 D D D中的 L S T M LSTM LSTM网络深度为2，每个 L S T M LSTM LSTM单元具有350个内部 (隐藏) 单元。 D D D具有双向布局，而 G G G是单向的。 D D D中每个 L S T M LSTM LSTM单元的输出被馈送到具有跨时间步长共享的权重的完全连接的层中，然后将每个单元的一个sigmoid输出平均为该序列的最终决定。

5.4 代码实现

论文开源代码

【GANs】C-RNN-GAN相关推荐

【GANs】Wasserstein GAN
[GANs]Wasserstein GAN 4 W-GAN 4.1 W-GAN简介评价网络生成网络 4.2 散度 KL散度 JS散度 Wasserstein距离 4.3 代码实现 4 W-GAN ...
【GANs】Generative Adversarial Nets
[GANs]Generative Adversarial Nets 1 GAN 1.1 GANs的简介 1.2 思想与目标函数 1.3 GAN代码 1.4 全局最优推导 1.5 GANs方向展望 1 ...
【GANs】Conditional Generative Adversarial Nets
[GANs]Conditional Generative Adversarial Nets 2 CGAN 2.1 CGAN简介前言流程图目标函数 2.2 CGAN代码 2 CGAN 2.1 CG ...
【GANs】Deep Convolution Generative Adversarial Network
[GANs]Deep Convolution Generative Adversarial Network 3 DCGAN 3.1 简介 3.2 DGGAN实现 3 DCGAN Unsupervise ...
【完结】12篇GAN的优化文章大盘点，浓浓的数学味儿
专栏<GAN的优化>(第一季)正式完结啦! 在这一季里,我们从生成模型出发,讲述了GAN的基本理论,包括工作原理,更具有普适性的f散度度量和Wasserstein距离,以及IPM框架并顺带 ...
【GANS】对Stylgan2的动漫头像预训练模型进行【属性编辑】
核心参考 [代码]Pretrained Anime StyleGAN2 - convert to pytorch and editing images by encoder [理论]http://ww ...
【GANs】将普通图片转换为梵高大作
最近,多项研究采用了生成对抗网络(Generative Adversarial Networks, 简称GANs)这一技术来生成分辨率为1024x1024的高清图片.超级逼真的人脸.动物和其他算法生成 ...
【李宏毅】机器学习-RNN
RNN(Recurrent Neural Network) 为什么需要RNN呢? 举例来说,有一个任务需要识别每个单词代表的含义.在下面的句子中,taipei分别表示目的地和出发地,我们希望神经网络能 ...
【复现】deblurGAN: 用GAN使模糊图片变清晰(ECCV2018)
requirements: Linux Python3.6 Github地址:https://github.com/RaphaelMeudec/deblur-gan 直接用这个代码会有问题,因为作者升 ...

【GANs】C-RNN-GAN

【GANs】C-RNN-GAN: Continuous recurrent neural networks with adversarial training