GANs是如何创造出高分辨率的图像的
本文主要介绍DCGAN的适应渐进式增长创建高分辨率图像的思路
深度卷积生成对抗网络是2020年最精致的神经网络体系结构。生成模型可以追溯到60年代,但是Ian Goodfellow在2014年创造的GAN,使得生成模型跟那个广泛的使用,这对于深度学习的未来有着前所未有的价值。
GAN知识要点
生成器根据噪声向量重建样本,该样本应与训练分布不可区分
生成器是主要的目标,一旦我们对它的结果满意,就可以丢弃鉴别器
由于这两个神经网络都是可微的,我们可以使用它们的梯度来引导它们朝着正确的方向
主要思路
生成器和鉴别器都以4×4像素开始。顺便说一下,这是由Ian Goodfellow提出的。
渐进增长要求在训练过程中同时扩展生成器和鉴别器的能力。层的增量添加允许模型有效地学习粗层次的细节,并在之后为双方学习更精细的细节。
这种增量性质允许训练首先发现图像分布的大规模结构,然后将注意力转移到越来越精细的尺度细节上,而不必同时学习所有尺度。
Progressive Growing of GANs for Improved Quality, Stability, and Variation, 2017.
这种增量模式利用了一种称为跳跃连接的东西来连接新的块到鉴别器的输入。此外,一个加权参数alpha控制新块的影响。Alpha从0开始,随着训练的进行线性增加到1。
对生成器的更改
生成器必须添加一个新的卷积层块,输出一个32x32的图像,在使用最近邻插值之前,将其与16x16层的输出连接起来。
许多GAN发生器使用转置的卷积层对图像进行上采样。
对识别器的更改
识别器必须通过添加新的卷积块和跳过连接来适应支持32x32的图像大小。然后输出图像使用平均池下行采样,以便它可以作为现有的16x16块的输入。
同样,大多数GANs使用步长2来获得相同的输出格式。
小批量的鉴别
与批处理归一化类似,研究人员已经提出了一种在两个网络中实现层归一化的方法。这被称为小批量鉴别。由于GAN倾向于仅捕获训练数据中发现的变异的一个子集,因此此方法可以在一定程度上解决这个问题 。让我们看看这是如何做到的
- 首先我们计算每个小批量中每个特征的标准差。
- 然后我们对这些估计的总体特征进行平均,得到一个单一的值
- 该值连接到小批上的所有空间位置,产生一个额外的特征映射。
总结
在StyleGANs上下文中,渐进式增长是所有这些块的一个系列,这些块逐渐增长成越来越高的分辨率输出,StyleGAN生成器本质上是这样的。每一个块都将由一个上采样层和一个卷积层组成,实际上,每两个卷积层都可以学习更多。
总而言之,渐进式增长将使图像分辨率翻倍,这样随着时间的推移,你的样式师更容易学习到更高分辨率的图像。本质上,这有助于更快更稳定的训练。
有用的链接:
https://arxiv.org/pdf/1811.06229.pdf
https://en.wikipedia.org/wiki/Nearest-neighbor_interpolation
https://arxiv.org/abs/1710.10196
https://machinelearningmastery.com/how-to-train-a-progressive-growing-gan-in-keras-for-synthesizing-faces/
https://machinelearningmastery.com/introduction-to-progressive-growing-generative-adversarial-networks/
https://github.com/tkarras/progressive_growing_of_gans
作者;Tim Cvetko
deephub翻译组
GANs是如何创造出高分辨率的图像的相关推荐
- 论文笔记(二):基于卷积神经网络的高分辨率遥感图像上的水体识别技术
基于卷积神经网络的高分辨率遥感图像上的水体识别技术 作者:徐文健 作者单位:浙江大学 日期:2017.01 (硕士学位论文) https://kns.cnki.net/KCMS/detail/deta ...
- 《阿凡达》神树成真,科学家创造出可终生发光的植物
电影<阿凡达>中展现了一个神奇的世界,在那里有郁郁葱葱发着荧光的丛林,这些发光植物创造了一片璀璨的奇异景象.而现如今,借助基因技术的进步,让植物发出可见光已不再是一个幻想. 在本周 Nat ...
- RSE2020/云检测:基于弱监督深度学习的高分辨率遥感图像精确云检测
RSE2020/云检测:Accurate cloud detection in high-resolution remote sensing imagery by weakly supervised ...
- 云检测2020:用于高分辨率遥感图像中云检测的自注意力生成对抗网络Self-Attentive Generative Adversarial Network for Cloud Detection
用于高分辨率遥感图像中云检测的自注意力生成对抗网络Self-Attentive Generative Adversarial Network for Cloud Detection in High R ...
- 如何创造出优秀的游戏
在本文中,我们将讨论为什么讲故事需要围绕着媒体的互动属性.让我们来学习如何识别优秀的游戏叙述,并理解互动性故事叙述的重要性(而不是像电影中那样的故事叙述). 想象有一天你突然产生了一个灵感:脑子里 ...
- winform是如何自动弹出软键盘_自媒体广告如何创造出更大的价值?
自媒体随着网络的快速发展,产生了众多自媒体平台为广告的传播提高了更宽广的道路,自媒体广告的发展塑造了公众新的广告观念.自媒体下的广告传受双方自媒体是指自己创造的平台所产生的媒体,即以自我为中心的一种媒 ...
- ios点击大头针气泡不弹出_画家双手抖不停,画不了画丢了工作,却迎合抖动创造出一个个奇迹...
画家双手抖不停,画不了画还丢了工作,却迎合抖动创造出一个个奇迹! ▲他用大头针在香蕉上画画. 有这么一个画家,他拿着大头针,在香蕉上画画,红爆了网络,并且还出了一本书叫<给香蕉纹身>,教大 ...
- 飞鸽传书创造出自己的一片天吧
今天的只要功夫深的飞鸽传书,创造出自己的一片天吧,踩在柔软的沙滩上快乐地同大海舞蹈,枯黄的叶子被露水湿润后,多么地自由自在呀,我渴望高中三年与大家同甘共苦,我拿了个巧克力味的,非常惹人喜爱,尊敬的飞鸽 ...
- 设计师喜欢收集各种各样的笔刷来喽,不必倾家倾产就能像创造出令人惊叹的设计。
一组最好的Photoshop笔刷,让您不必倾家倾产就能像专业人士一样创造出令人惊叹的设计. 我们知道设计师喜欢收集各种各样的刷子. 对于创建各种类型的设计非常有用,包括从绘画到绘画,上色,纹理,肌理等 ...
- 学习笔记-基于全局和局部对比自监督学习的高分辨率遥感图像语义分割-day1
基于全局和局部对比自监督学习的高分辨率遥感图像语义分割-day1 摘要 一. 引言 摘要 最近,监督深度学习在遥感图像(RSI)语义分割中取得了巨大成功. 然而,监督学习进行语义分割需要大量的标记样本 ...
最新文章
- 已知2个整形数据a,b.不使用if,?:以及其他任何条件判断的语法,找出a跟b中数据的大者。
- 人工智能技术进阶路线
- JavaScript中的匿名函数遇上!会怎么样
- emacs 剪切板_将Emacs用作RPG仪表板的5种方法
- MCMC: Metropolis-Hastings, Gibbs and slice sampling
- mysql下载安装使用教程
- 【每日算法Day 94】经典面试题:机器人的运动范围
- 企业级 SpringBoot 教程 (七)springboot开启声明式事务
- 【气动学】基于matlab内弹道【含Matlab源码 057期】
- 数学建模——典型相关分析(CCA)及spss操作过程
- java方法 将123转换成 “一百二十三”
- Java中通过js简单的调用高拍仪和扫描仪
- python获取像素值_从PIL获取像素值列表
- JWT 的退出登录方法
- HTML和CSS的知识点
- 相机标定与三维重建原理
- 黑马粉丝感叹:好可呀,好想要!!【最新福利你还没领?】
- 官方资料:Oracle 10g DBA 学习手册(精心整理,申请加精)
- BeautifulSoup介绍
- 泽塔云:用超融合撑起软件定义数据中心的梦想