Consistency Regularization for GANs

文章目录

概
主要内容

Zhang H., Zhang Z., Odena A. and Lee H. CONSISTENCY REGULARIZATION FOR GENERATIVE ADVERSARIAL NETWORKS. ICLR, 2020.

Zhao Z., Singh S., Lee H., Zhang Z., Odena A. and Zhang H. Improved Consistency Regularization for GANs. AAAI, 2020.

概

让GAN训练稳定的方法主要有normalization 和 regularization.
这两篇文章介绍了 consistency regularization.

主要内容

如上图所示, TTT是augmentation,
CR-GAN的思路是, 希望D(T(x)),D(x)D(T(x)), D(x)D(T(x)),D(x)彼此接近,
bCR-GAN在此基础上, 还希望D(G(z)),D(T(G(z)))D(G(z)), D(T(G(z)))D(G(z)),D(T(G(z)))也彼此接近.
zCR-GAN则是将TTT直接作用在zzz上:

G(z),G(T(z))G(z), G(T(z))G(z),G(T(z))彼此远离, 即增加多样性;
D(G(z)),D(G(T(z)))D(G(z)), D(G(T(z)))D(G(z)),D(G(T(z)))彼此靠近, 即生成的图片应该有共同的主体特征.

至于ICR-GAN, 是bCR和zCR的结合.

注: 如果zzz是隐向量, TTT采取高斯噪声T(z)∼N(z,σnoise)T(z) \sim \mathcal{N}(z, \sigma_{noise})T(z)∼N(z,σnoise).

注: 远离和靠近的度量, 文中采用的是
∥⋅∥2.\|\cdot \|^2. ∥⋅∥2.

Consistency Regularization for GANs相关推荐

Improved Consistency Regularization for GANs
Improved Consistency Regularization for GANs 最近的工作(Zhang et al. 2020)通过在鉴别器上强制一致性代价,提高了生成对抗网络(gan)的性 ...
论文阅读 Adaptive Consistency Regularization for Semi-Supervised Transfer Learning
Adaptive Consistency Regularization for Semi-Supervised Transfer Learning 论文题目:自适应一致性正则化方法用于半监督迁移学习 ...
Consistency Regularization
说到一致(Consistency),其实很多代价都有这个内涵,如 MSE 代价,最小化预测与标签的差值,也就是希望预测与标签能够一致.其他的代价,如 KL 散度.交叉熵代价也类似.所以一致性,是一种非 ...
NVIDIA针对数据不充分数据集进行生成改进，大幅提高CIFAR-10数据生成
©PaperWeekly 原创 · 作者|武广学校|合肥工业大学硕士生研究方向|图像生成生成对抗网络因其优异的生成质量而得到广泛的关注,然而想要得到高质量的生成结果往往需要大批量的训练数据进行加 ...
[半监督学习] FixMatch: Simplifying Semi-Supervised Learning with Consistency and Conﬁdence
FixMatch 是对现有 SSL 方法的简化. FixMatch 首先对弱增强的未标记图像生成伪标签, 接着, 对同一图像进行强增强后, 再计算其预测分布, 最后计算强增强的预测与伪标签之间的交叉熵 ...
半监督学习之DTC(Semi-supervised Medical Image Segmentation through Dual-task Consistency)
半监督学习之DTC 不同于MixMatch这类使用"数据增强后的结果一致性(consistency)",改方法使用"任务一致性"来约束模型(正则化).由于第一类 ...
解读FixMatch: Simplifying Semi-Supervised Learning with Consistency and Confidence
还是Google research出品论文:https://arxiv.org/abs/2001.07685 官方代码:https://github.com/google-research/fixm ...
CVPR2021最新接收论文合集！22个方向100+篇论文汇总
点击上方"3D视觉工坊",选择"星标" 干货第一时间送达导读 CVPR2021结果已出,本文为CVPR最新接收论文的资源汇总贴,附有相关文章与代码链接. 官网 ...
【学术相关】CVPR2021最新接收论文合集！22个方向100+篇论文汇总｜持续更新
报道丨极市平台导读 CVPR2021结果已出,本文为CVPR最新接收论文的资源汇总贴,附有相关文章与代码链接. 文章在Github上持续更新,欢迎大家 star/fork(点击阅读原文即可跳转): ...

Consistency Regularization for GANs

文章目录

概

主要内容

Consistency Regularization for GANs相关推荐

最新文章

热门文章