对抗神经网络学习（简单的理解）

深度卷积对抗神经网络（DCGAN)

从随机向量生成真实图像
如何构建一个新的GAN网络1.定义目标2.定义G的输入输出3.定义D的输入输出4.设计G和D的结构

目标函数
最大化D(是否是真的概率）,最小化G
训练判别器，使V(D,G)变大
训练生成器，使V(D,G)变小
反卷积
理解：卷积操作展开
逆过程
模型结构：
pooling层用convolutional层替代(减少信息损失）
G和D上都使用batch normalization
帮助解决初始化差的问题
梯度传播到每一层（避免梯度消失）
BN不应用于输入层和输出层（经验）
移除全连接层，使用global pooling
G上除了输出层使用tanh外其他都用relu
D上使用LeakyRelu

配对图像翻译（Pix2Pix)
模型结构G-------->U Net
类似于encoder-decoder,先卷积做反卷积
问题：数据必须成对
无配对图像翻译（CycleGNN)
目标：从非配对图像中学到转换
思路：能转出再转回来基本不变，输入x做一个损失函数，专程的输出y也做一个损失函数
一致性约束保证了它的有效性
两套GNN
多领域图像翻译（StarGNN)
G的输入添加目标领域的信息b除了判断是否真实以外，还需要判断类别
图像重建loss

文本生成图像

模型结构
G:
输入:随机向量+文本编码
输出：图像
D:
输入：生成图像+文本编码
输出：图像文本是否匹配+图像是否真实
。
。
训练技巧
先将图像是否合理训练出来，再训练图像是否匹配
在训练时注意添加（真图，不匹配描述的反例）

对抗神经网络学习（简单的理解）相关推荐

甘利俊一 | 信息几何法：理解深度神经网络学习机制的重要工具
智源导读:深度学习的统计神经动力学主要涉及用信息几何的方法对深度随机权值网络进行研究.深度学习技术近年来在计算机视觉.语音识别等任务取得了巨大成功,但是其背后的数学理论发展却很滞后.日本理化所的Shu ...
对神经网络的简单理解,简述什么是神经网络
神经网络(深度学习)的几个基础概念从广义上说深度学习的网络结构也是多层神经网络的一种.传统意义上的多层神经网络是只有输入层.隐藏层.输出层.其中隐藏层的层数根据需要而定,没有明确的理论推导来说明到底 ...
神经网络学说的主要观点,对神经网络的简单理解
心理学中定位说和模块说的区别是?整体说和神经网络学说的区别是?模块说和神经网络学说的区别是? 简单说下,希望对你有帮助.定位说认为:大脑的具体功能是对应具体的部位.模块说认为:大脑的具体功能是由多个部 ...
基于神经网络的机器阅读理解综述学习笔记
基于神经网络的机器阅读理解综述学习笔记一.机器阅读理解的任务定义 1.问题描述机器阅读理解任务可以形式化成一个有监督的学习问题:给出三元组形式的训练数据(C,Q,A),其中,C 表示段落,Q 表示 ...
深度学习～生成式对抗神经网络GAN
目录出现背景(why?) 概念出现背景(why?) 在分类任务中,训练机器学习和深度学习模块需要大量的真实世界数据,并且在某些情况下,获取足够数量的真实数据存在局限性,或者仅仅是时间和人力资源的投 ...
MVC简单学习以及浅显理解
以下仅为个人简单浅显理解: MVC来处理Web问题: 路由定位:(如何快速精确地定位请求,分层管理请求?) 此处使用视图Controller的思想来达到分离不同层下的请求,对于同一层下的请求放入一个控 ...
条件生成对抗神经网络,生成对抗网络gan原理
关于GAN生成式对抗网络中判别器的输出的问题 . ...摘要生成式对抗网络GAN(Generativeadversarialnetworks)目前已经成为人工智能学界一个热门的研究方向.GAN的基本思 ...
[翻译] 神经网络与深度学习第三章提升神经网络学习的效果 - Chapter 3 Improving the way neural networks learn
目录: 首页译序关于本书关于习题和难题第一章利用神经网络识别手写数字第二章反向传播算法是如何工作的 > 第三章提升神经网络学习的效果第四章可视化地证明神经网络可以计算任何函数 ...
中科大刘淇：从自适应学习的角度理解AI+教育
不到现场,照样看最干货的学术报告! 嗨,大家好.这里是学术报告专栏,读芯术小编不定期挑选并亲自跑会,为大家奉献科技领域最优秀的学术报告,为同学们记录报告干货,并想方设法搞到一手的PPT和现场视频--足 ...

对抗神经网络学习（简单的理解）

深度卷积对抗神经网络（DCGAN)

对抗神经网络学习（简单的理解）相关推荐

最新文章

热门文章