PROGRESSIVE GROWING OF GANS FOR IMPROVED QUALITY, STABILITY, AND VARIATION
一些名词
unprecedented前所未有的
inception初始的
autoregressive自回归
hybrid混合
synchrony同步的
prone易于
deviate偏离
摘要
描述了一个新的训练GAN的方法。
关键在于生成器和判别器都逐渐成长:由低分辨率开始,然后逐步增加层,随着训练,模型逐渐能优化细节。
这样加速了训练并逐渐稳定,生成了前所未有的高质量图像,例如CELEBA。
我们还提出了一个简单方式,增加生成图像的种类,并在无监督CIFAR数据集上取得了8.80的inception score。
除此之外,我们描述了很多重要实现细节,对于抑制不良对抗很重要。
最后,我们提出一个新的矩阵,评估GAN结果,包括从图像质量和变化两方面。
另一个贡献是我们建立了高质量的CELEBA数据集。
主要贡献:
1.逐渐增加生成器和分辨器层数,逐步生成高清图。
2.增加图像种类方法。
3.提出新矩阵metrix评估质量和变化两方面结果。
4.建立数据集CELEBA
1Introduction
生成方法广泛应用。最近主导方法有三种,自动回归模型、变分自动编码、GAN。他们有各自的优缺点。其中GANs能生成清晰图像,但只是在小分辨率上,变化有限,训练不稳定。
GAN有生成器和分辨器。
有一些潜在问题存在。当衡量训练分布和生成分布的距离时,梯度可能会有些随机方向,例如当太容易分辨真假时。有人用distance metric等等方法。(训练分布:应该指原图。生成分布:是生成的图)我们的贡献在很大程度上与正在进行的讨论是正交的,我们主要使用改进的Wasserstein损失,但也使用最小二乘损失进行实验。
生成高分辨图像就有上面的问题。我们的方法先从低分辨率开始,随着训练增加层。加速了训练,提高了稳定性。
图像质量和变异之间存在衡量。保留变异的程度,很多提出的衡量方法。我们的方法,新矩阵衡量质量和变异。
4.1节讨论初始化使得不同层学习速度均衡。不良对抗的发生原因,4.2节我们提出机制避免不良对抗。
在多个数据集评估我们方法,并生成了高质量数据集。相关一些材料获得方式
2Progressive growing of GANs
我们的GANs逐步成长的结构。生成器和判别器对称的。新增层,我们平滑的淡入。附录A描述了细节结构和训练参数。
渐进式训练有很多优点。1稳定,渐进。2训练时间短。
渐进训练GAN想法来自很多研究中。他们都是渐进、逐步更容易。
3Increasing variation using minibatch standard deviation使用小批量标准差增加变化
GANs倾向于只捕获训练数据中发现的变化的子集,Salimans等人(2016)提出“小批量识别”作为解决方案。利用小批量的统计信息。
我们简化了这种方法,改进了变化。
我们计算minibatch上每个空间局域每个特征的标准差,然后平均预测的所有空间局域特征的预测,获得一个值。复制这个值,并结合原预测,生成特征图。
4Normalization in generaor and discrimination生成器和判别器上的正则化
GANs由于不良对抗容易信号扩大。早期用BN,BN限制协变量转变。但是我们根源上是限制信号倍增和竞争。
我们用了两个成分,而且都没有学习参数。
4.1Equalized learning rate平衡学习速率
我们不像之前关注权重的初始化。而是使用了N(0,1)初始化。
4.2Pixlwise feature vector normalization in generator生成器中的像素特征向量归一化
5Multi-scale statistical similarity for GAN results评价GAN结果的多尺度统计相似性
我们的直觉是,一个成功的生成器将生成局部图像结构与所有尺度上的训练集相似的样本。我们建议通过考虑从生成图像和目标图像的拉普拉斯金字塔(Burt & Adelson, 1987)表示中提取的局部图像块分布的多尺度统计相似性来研究这一点,从16×16像素的低通分辨率开始。按照标准的实践,金字塔逐步翻倍,直到达到完整的分辨率,每个连续的水平编码的差异,一个向上采样的版本。
6Experiment实验
PROGRESSIVE GROWING OF GANS FOR IMPROVED QUALITY, STABILITY, AND VARIATION相关推荐
- PROGRESSIVE GROWING OF GANS FOR IMPROVED QUALITY, STABILITY, AND VARIATION(PGGAN)
PROGRESSIVE GROWING OF GANS FOR IMPROVED QUALITY, STABILITY, AND VARIATION(PGGAN) 论文简述 论文要点 论文背景 渐进式 ...
- 【PGGAN】1、Progressive Growing of GANs for Improved Quality, Stability, and Variation 论文阅读
使用渐进式增长GAN提升质量.稳定性.变化性 paper:https://arxiv.org/abs/1710.10196 code :https://github.com/facebookrese ...
- 《Progressive Growing of GANs for Improved Quality, Stability, and Variation》-论文阅读笔记
<Progressive Growing of GANs for Improved Quality, Stability, and Variation>-论文阅读笔记 文章目录 <P ...
- 生成网络论文阅读:PGGAN(二):PROGRESSIVE GROWING OF GANS FOR IMPROVED QUALITY, STABILITY, AND VARIATION
速览索引 0.ABSTRACT 0.1逐句翻译 0.2总结 1 INTRODUCTION 第一段(分析当前各种生成模型的优缺点,最终作者决定研究如何提升GAN网络的分辨率) 第二段(讲述GAN网络的结 ...
- 论文学习记录:PROGRESSIVE GROWING OF GANS
论文链接:https://arxiv.org/pdf/1710.10196.pdf 前言 这是一种针对GANs的训练优化方法,从低分辨率图像开始,通过向网络添加层来逐步提高分辨率,如图1.这种递增的特 ...
- 【阅读笔记】PSA-GAN PROGRESSIVE SELF ATTENTION GANS FOR SYNTHETIC TIME SERIES
CCF none , ICLR2022 Paul J , Michael B S , Pedro M , et al. PSA-GAN: Progressive Self Attention GANs ...
- 【技术综述】有三说GANs(上)
文章首发于微信公众号<与有三学AI> [技术综述]有三说GANs(上) 今天我们来说说GAN,这个被誉为新的深度学习的技术.由于内容非常多,我们会分上下两期.今天这一期是上,我们从以下几个 ...
- 《Gans in Action》第一章 对抗神经网络介绍
此为<Gans in Action>(对抗神经网络实战)第一章读书笔记 Chapter 1. Introduction to GANs 对抗神经网络介绍 This chapter cove ...
- 生成式对抗网络(GANs)及变体
生成式对抗网络GANs及变体 1.基础GAN 2.条件生成对抗网络(cGAN) 3.Wasserstein GAN (WGAN) WAN-GP (improved WGAN) 3.Unsupervis ...
最新文章
- ICLR 2019论文投稿近1600篇,强化学习最热门
- Thread.Sleep(0) vs Sleep(1) vs Yeild
- 关于 spring-aop理解
- windows下mongodb安装与使用整理
- 在wp中,使用NavigationService.Navigate导航页面出现错误
- apt-get常用命令及工作原理
- python怎么让py里面逐行运行_怎样在安卓上运行python
- Spring Security Oauth2 (二) 代码 授权码模式
- TensorFlow学习笔记(一)——入门资源整理
- L3-001 凑零钱 (30 分)—团体程序设计天梯赛
- php趣味编程 - php 余弦曲线
- 自定义View调用onDraw方法
- Cadence输出Gerber文件
- Unity Graph View打造图形化对话编辑系统(三)
- 服务器白屏维修,液晶屏故障汇总及检修方法之一(白屏)
- 基于Linux的及时通信软件
- python numpy array 数组维度转换(转维)
- 模拟信号隔离器|隔离放大器|隔离变送器 常见问题解答
- SybilFuse:Combining Local Attributes with Global Structure to Perform Robust Sybil Detect(论文笔记)
- Windows 系统安装