深度学习 - 生成对抗网络
目录
1 GAN产生背景
2 GAN模型
3 CGAN
4 InfoGAN
5 Improved Techniques for Training GANs
6 DCGAN -- Deep convolutional generative adversarial networks
7 GAN应用
1 GAN产生背景
1. 机器学习方法
生成方法，所学到的模型称为生成式模型
生成方法通过观测数据学习样本与标签的联合概率分布P(X, Y)，训练好的模型，即生成模型，能够生成符合样本分布的新数据；
生成式模型在无监督深度学习方面占据主要位置，可以用于在没有目标类标签信息的情况下捕捉观测到或可见数据的高阶相关性；
判别方法，所学到的模型称为判别式模型
判别方法由数据直接学习决策函数f(X)或者条件概率分布P(Y|X)作为预测的模型，即判别模型；
判别模型经常用在有监督学习方面；
判别方法关心的是对给定的输入X，应该预测什么样的输出Y；
2. 困难和前景
有监督学习经常比无监督学习获得更好的模型，但是有监督学习需要大量的标注数据，从长远看无监督学习更有发展前景；
支持无监督学习的生成式模型遇到两大困难：
首先是人们需要大量的先验知识去对真实世界进行建模，而建模的好坏直接影响着我们的生成模型的表现；
真实世界的数据往往很复杂，人们要用来拟合模型的计算量往往非常庞大，甚至难以承受；
3. 生成对抗网络的提出
2014年，生成对抗网络（Generative Adversarial Networks，GAN）由当时还在蒙特利尔读博士的Ian Goodfellow（导师Bengio）提出；
2016年，GAN热潮席卷AI领域顶级会议，从ICLR到NIPS，大量高质量论文被发表和探讨；
2017年入选MIT评论35岁以下创新人物
4. GAN基本原理
GAN起源于博弈论中的二人零和博弈（获胜1，失败-1）
由两个互为敌手的模型组成：
生成模型（假币制造者团队）；
判别模型（警察团队）；
竞争使得两个团队不断改进他们的方法直到无法区分假币与真币
5. Yann LeCun评价
我们一直在错过一个关键因素就是无监督/预测学习，这是指：机器给真实环境建模、预测可能的未来、并通过观察和演示来理解世界是如何运行的能力；
GAN为创建无监督学习提供了强有力的算法框架，有望帮助我们为AI加入常识，我们认为，沿着这条路走下去，有不小的成功的机会能开发出更智慧的AI；
6. GAN的发展
The GAN Zoo -- GitHub - hindupuravinash/the-gan-zoo: A list of all named GANs!
7. 生成模型中的问题
自编码器：同样一个像素的差异，但是不同的接受度
概率模型
按照某种概率分布生成数据，得到最能覆盖训练样本的概率分布；
需要确定样本的概率模型，即显式地定义概率密度函数；
例如：深度玻尔兹曼机采用对比散度(Gibbs采样)，样本可能会具有很强的相关性，尤其是在高维的情况下；
2 GAN模型
1. 估计样本概率分布却不需要显示定义概率分布
生成模型
捕捉样本数据的分布，用服从某一分布（均匀分布，高斯分布）的噪声z生成一个类似真实训练数据的样本，追求效果是越像真实的数据越好；
表示真实数据的
深度学习 - 生成对抗网络相关推荐
- 你真的了解深度学习生成对抗网络（GAN）吗？
生成对抗网络(GANs,https://en.wikipedia.org/wiki/Generative_adversarial_network)是一类具有基于网络本身即可以生成数据能力的神经网络结构 ...
- 深度学习生成对抗网络（GAN）
一.概述 生成对抗网络(Generative Adversarial Networks)是一种无监督深度学习模型,用来通过计算机生成数据,由Ian J. Goodfellow等人于2014年提出.模型 ...
- [深度学习]生成对抗网络的实践例子
系列文章目录 深度学习GAN(一)之简单介绍 深度学习GAN(二)之DCGAN基于CIFAR10数据集的例子 深度学习GAN(三)之DCGAN基于手写体Mnist数据集的例子 深度学习GAN(四)之c ...
- 深度卷积生成对抗网络
深度卷积生成对抗网络 Deep Convolutional Generative Adversarial Networks GANs如何工作的基本思想.可以从一些简单的,易于抽样的分布,如均匀分布或正 ...
- 对抗生成网络_深度卷积生成对抗网络
本教程演示了如何使用深度卷积生成对抗网络(DCGAN)生成手写数字图片.该代码是使用 Keras Sequential API 与 tf.GradientTape 训练循环编写的. 什么是生成对抗网络 ...
- 深度卷积生成对抗网络（DCGAN）原理与实现（采用Tensorflow2.x）
深度卷积生成对抗网络(DCGAN)原理与实现(采用Tensorflow2.x) GAN直观理解 DCGAN网络结构 GAN训练目标 DCGAN实现 数据加载 网络 鉴别网络 生成网络 网络训练 定义损 ...
- 利用python实现深度学习生成对抗样本模型，为任一图片加扰动并恢复原像素的全流程记录
利用python实现深度学习生成对抗样本,为任一图片加扰动并恢复原像素 一.前言 (一)什么是深度学习 (二)什么是样本模型 (三)什么是对抗样本 1.对抗的目的 2.谁来对抗? 3.对抗的敌人是谁? ...
- 深度卷积生成对抗网络--DCGAN
本问转自:https://ask.julyedu.com/question/7681,详情请查看原文 --前言:如何把CNN与GAN结合?DCGAN是这方面最好的尝试之一,DCGAN的原理和GAN是一 ...
- DCGAN——深度卷积生成对抗网络
译文 | 让深度卷积网络对抗:DCGAN--深度卷积生成对抗网络 原文: https://arxiv.org/pdf/1511.06434.pdf -- 前言:如何把CNN与GAN结合?DCGAN是这 ...
- 深度卷积生成对抗网络DCGAN——生成手写数字图片
前言 本文使用深度卷积生成对抗网络(DCGAN)生成手写数字图片,代码使用Keras API与tf.GradientTape 编写的,其中tf.GradientTrape是训练模型时用到的. 本文用到 ...
最新文章
- linux kernel的spinlock代码导读和分析
- MUI主界面菜单同时移动主体部分不出滚动条解决
- pytorch之object.grad.zero_()
- 【转载】挖坑浪费时间
- wordpress 301重定向 htaccess
- C语言数据结构编程实列,数据结构C语言实现----栈的实例
- iPhone 14系列或均搭载A16芯片：但Pro型号为A16 Pro
- 使用MATLAB分析处理csv数据
- JTable 的使用
- 搭乘云原生与数据中台实践列车 通往数字化转型前沿之旅
- ckEditor与ckFinder的集成
- LED显示驱动（二）：显示驱动FPGA验证流程与注意细节
- yytext显示html并编辑,YYText的使用
- 580集photoshop顶尖视频教程送给你，设计总监手把手带你学ps！
- java实现的PC小说下载器+阅读器
- python发送邮件 退回_【破案了】python发邮件问题，求助！为什么总被退回？
- 2023河南大学计算机考研信息汇总
- 计算机无法显示输入字体,电脑中ps输入字体不显示是怎么回事
- 对接微信支付之网页支付详解
- DB2数据库相关操作