深度学习《EBGAN》
本文学习自李宏毅老师的深度学习视频。
EBGAN如下图所示:
它仅仅只改变了判别器D的结构,它将D改成一个AE的结构,也就是说,现在给D一个数据让他判断是不是真实的数据,它的做法就是去把数据重构一把,看看能不能重构回来,也就是看看重构的损失/误差大不大,根据这个损失值去打个分数,如果重构损失越小,说明原来的图片的效果越好,相反如果重构损失越大,说明原来的图片的效果越差。
传统的D网络是一个二元分类器,训练的时候需要正负样本,不能单独训练,需要G网络产生负样本。但是现在D网络变成了一个损失值的计算,不属于分类了,也就第不需要G来帮助产生负样本。而是根据可重构的损失来评估输入图片的质量,训练D的时候只需要最小化重构损失即可。
这样做的最大好处就是,D模块可以被独立训练,也就是提前训练好,而且只拿真实的数据去训练即可,可以不用虚假数据训练,这样的话,对G来说,D不是陪着G一起成长的,也是G从很弱的时候就遇到了超厉害的D的批判,正所谓严师出高徒,名师出高徒,这种情况下,这样的G会被训练的很快,可能没几个轮次就出了比较好的照片了,效果也应该会很好。
传统的方式就是,G和D一开始都很弱弱的,D训练几个轮次变强了后,G慢慢跟上,D再变强,G再跟上,D再变强,G再跟上,这个过程很慢的。
深度学习《EBGAN》相关推荐
- 深度学习之自编码器(4)变分自编码器
深度学习之自编码器(4)变分自编码器 1. VAE原理 基本的自编码器本质上是学习输入 x\boldsymbol xx和隐藏变量 z\boldsymbol zz之间映射关系,它是一个 判别模型(Di ...
- 深度学习之自编码器(5)VAE图片生成实战
深度学习之自编码器(5)VAE图片生成实战 1. VAE模型 2. Reparameterization技巧 3. 网络训练 4. 图片生成 VAE图片生成实战完整代码 本节我们基于VAE模型实战F ...
- 深度学习之自编码器AutoEncoder
深度学习之自编码器AutoEncoder 原文:http://blog.csdn.net/marsjhao/article/details/73480859 一.什么是自编码器(Autoencoder ...
- 深度学习之自编码器(3)自编码器变种
深度学习之自编码器(3)自编码器变种 1. Denoising Auto-Encoder 2. Dropout Auto-Encoder 3. Adversarial Auto-Encoder 一般 ...
- 深度学习之自编码器(2)Fashion MNIST图片重建实战
深度学习之自编码器(2)Fashion MNIST图片重建实战 1. Fashion MNIST数据集 2. 编码器 3. 解码器 4. 自编码器 5. 网络训练 6. 图片重建 完整代码 自编码器 ...
- 深度学习之自编码器(1)自编码器原理
深度学习之自编码器(1)自编码器原理 自编码器原理 前面我们介绍了在给出样本及其标签的情况下,神经网络如何学习的算法,这类算法需要学习的是在给定样本 x\boldsymbol xx下的条件概率 P( ...
- 【深度学习】 自编码器(AutoEncoder)
目录 RDAE稳健深度自编码 自编码器(Auto-Encoder) DAE 深度自编码器 RDAE稳健深度自编码 自编码器(Auto-Encoder) AE算法的原理 Auto-Encoder,中文称 ...
- 深入理解深度学习——Transformer:编码器(Encoder)部分
分类目录:<深入理解深度学习>总目录 相关文章: ·注意力机制(AttentionMechanism):基础知识 ·注意力机制(AttentionMechanism):注意力汇聚与Nada ...
- 深度学习之自编码器实现——实现图像去噪
大家好,我是带我去滑雪! 自编码器是一种无监督学习的神经网络,是一种数据压缩算法,主要用于数据降维和特征提取.它的基本思想是将输入数据经过一个编码器映射到隐藏层,再通过一个解码器映射到输出层,使得输出 ...
- 深度学习:自编码器、深度信念网络和深度玻尔兹曼机
最近自己会把自己个人博客中的文章陆陆续续的复制到CSDN上来,欢迎大家关注我的 个人博客,以及我的github. 本文主要讲解有关自编码器.深度信念网络和深度玻尔兹曼机的相关知识. 一.自编码器 1. ...
最新文章
- 从样本处理到决策模型,如何用NLP识别盗版资源?
- 一个权限管理模块的设计(转载)
- Django REST Framework(DRF)教程:快速入门
- 音视频技术开发周刊 | 227
- 使用WebRTC和WebVR进行VR视频通话
- 新浪微博学习的知识点
- 2021.08.23学习内容Pytorch与Torch的关系以及Torchvision作用
- vue element table 修饰
- AcWing 877. 扩展欧几里得算法(拓展欧几里得模板)
- 计算机房通气换气次数,不知道换气次数如何确定?各种换气次数汇总,暖通设计师的宝典...
- 用PS怎样把图片改为100k的图片
- springboot2.0+springDataJPA报错Could not obtain identifier
- 怎么查看当前服务器的运行环境,如何查看Apache服务器运行状态
- MySQL入门系列:MySQL数据类型
- 从头到尾彻底解析Hash 表算法
- 智能电视 = Android + 高清大屏幕 ?
- 爬虫爬取快递100网查快递信息
- 产品经理与研发经理的分工
- CDN加速原理(转载)
- 2016年福建两化深度融合与新型CIO创新发展 论坛圆满落幕