gan loss gan

Generative Adversarial Networks are a novel class of deep generative models, that have recently gained a lot of attention. I’ve covered them in the past ( Tabular synthetic data — Part 1 and Tabular synthetic data — Part 2), in very general terms, and with particular attention to their application to synthesize tabular data. But today, the focus will be a bit different — in a series of articles, I’ll be covering the challenges that you can find while training GANs, the most common solutions, and future directions in literature. This review was inspired by this amazing article about GANs challenges, solutions, and future — I strongly advise you to have a deeper look.

生成对抗网络是一类新型的深度生成模型,最近引起了很多关注。 过去,我已经非常笼统地介绍了它们( 表格综合数据 -第1部分和表格综合数据 -第2部分),并且特别注意了它们在综合表格数据中的应用。 但是今天,重点将有所不同-在一系列文章中,我将介绍您在培训GAN时发现的挑战,最常见的解决方案以及文学的未来方向。 这篇评论的灵感来自于有关GAN的挑战,解决方案和未来的精彩文章 -我强烈建议您更深入地了解。

生成对抗网络 (Generative Adversarial Networks)

Generative models have been widely used in the latest years in a broad and varied number of real applications. Generative Models’ can be defined as models that compute the density estimation where model distribution is learned to approximate the real data distribution.

生成模型已在最近几年中广泛应用于各种实际应用中。 生成模型可以定义为计算密度估计值的模型,其中学习模型分布以近似实际数据分布。

This brings some challenges, as researches have shown that maximum likelihood is not a good option — leads to overgeneralized and unplausible samples.

由于研究表明最大可能性不是一个好的选择,这带来了一些挑战-导致样本过于笼统和不合理。

Generative Adversarial Nets (GANs) can solve this by introducing a Discriminator network that brings the capacity to discriminate original data samples, and samples generated by a model.

生成对抗网络(GAN)可以通过引入Discriminator网络来解决此问题,该网络具有区分原始数据样本和模型生成的样本的能力。

They have a wide scope of application, as they are able to learn implicitly over images, audio, and data which are challenging to model with an explicit likelihood.

它们具有广泛的应用范围,因为它们能够隐式学习图像,音频和数据,而这些图像,音频和数据很难以明确的可能性进行建模。

挑战 (The challenges)

GANs can be very helpful and pretty disruptive in some areas of application, but, as in everything, it’s a trade-off between their benefits and the challenges that we easily find while working with them. We can break down GANs challenges in 3 main problems:

GAN在某些应用领域中可能非常有帮助,并且具有破坏性,但是,就像在所有方面一样,这是在其收益与我们在与他们合作时容易发现的挑战之间进行权衡的。 我们可以将GAN的挑战分解为三个主要问题:

  • Mode collapse模式崩溃
  • Non-convergence and instability不收敛和不稳定
  • Highly sensibility to hyperparameters and evaluation metrics对超参数和评估指标高度敏感

模式为何崩溃?

gan loss gan_我的GAN怎么了?相关推荐

  1. [人工智能-深度学习-63]:生成对抗网络GAN - 图片创作:普通GAN, pix2pix, CycleGAN和pix2pixHD的演变过程

    作者主页(文火冰糖的硅基工坊):文火冰糖(王文兵)的博客_文火冰糖的硅基工坊_CSDN博客 本文网址:https://blog.csdn.net/HiWangWenBing/article/detai ...

  2. DL之GAN:生成对抗网络GAN的简介、应用、经典案例之详细攻略

    DL之GAN:生成对抗网络GAN的简介.应用.经典案例之详细攻略 目录 生成对抗网络GAN的简介 1.生成对抗网络的重要进展 1.1.1986年的RBM→2006年的DBN

  3. 【GAN优化】详解GAN中的一致优化问题

    GAN的训练是一个很难解决的问题,上期其实只介绍了一些基本的动力学概念以及与GAN的结合,并没有进行过多的深入.动力学是一门比较成熟的学科,有很多非常有用的结论,我们将尝试将其用在GAN上,来得到一些 ...

  4. GAN学习笔记-李宏毅:GAN Lecture 7 (2018): Info GAN, VAE-GAN, BiGAN

    李宏毅老师讲解的GAN Lecture 7 (2018): Info GAN, VAE-GAN, BiGAN 问题:input feature 对output影响不明确这件事:本来假设不同的特性在la ...

  5. 【GAN】是什么让GAN成为了这5年里深度学习领域最亮的崽?

    在游戏.VR领域 颠覆传统人类美工的工作方式 生成全真实的场景 GAN说:"我能行!" VR场景 在电影.视频领域 使全虚拟演员.偶像成为可能 一种全新的感觉和体验 GAN说:&q ...

  6. 【GAN】二、原始GAN论文详解

    写在前面 在前面一篇文章:[GAN]一.利用keras实现DCGAN生成手写数字图像中我们利用keras实现了简单的DCGAN,并生成了手写数字图像.程序结果让我们领略了GAN的强大,接下来我们开始一 ...

  7. 54_pytorch GAN(生成对抗网络)、Gan代码示例、WGAN代码示例

    1.54.GAN(生成对抗网络) 1.54.1.什么是GAN 2014 年,Ian Goodfellow 和他在蒙特利尔大学的同事发表了一篇震撼学界的论文.没错,我说的就是<Generative ...

  8. 用于高保真自然图像合成的大规模GAN训练(Large Scale GAN Training For High Fidelity Natural Images)论文 pdf

    下载地址:https://u20150046.ctfile.com/fs/20150046-376632643 By Andrew Brock,Jeff Donahue,Karen Simonyan( ...

  9. 【GAN模型结构】从最简单的全卷积GAN一起开始玩转GAN

    大家好,今天开设新专栏<GAN模型结构>.在这个专栏中,我们会讲述各种各样的GAN的网络结构及其在各类任务中的应用. 作者&编辑 | 言有三 三年前GAN刚出来的时候就开始关注GA ...

  10. 李宏毅学习笔记35.GAN.06.Tips for Improving GAN

    文章目录 简介 JS divergence来衡量分布的问题 What is the problem of JS divergence? Least Square GAN (LSGAN) Wassers ...

最新文章

  1. 中国书法的造型元素与原理 刘彦湖
  2. linux 分卷压缩命令,linux 分卷压缩命令
  3. 不要滥用UNLOGGED table 和 hash index
  4. 内存中绘图 Memdc
  5. 动态语言会淘汰静态语言吗?
  6. P1066 2^k进制数
  7. Flutter 与 Compose 应该怎么选择?它们冲突吗?
  8. 利用stm32读取思岚A1雷达数据
  9. ABAP submit程序获取ALV数据的方法
  10. EXCEL基本功能 --- 三种常用的查找与引用函数
  11. 数学建模----LaTex排版使用速成
  12. 用java在画布上画心形线_Java画心形线
  13. 用python画五角星、填充不了颜色_python的turtle画五角星内部不能填充的解决办法...
  14. 6plus经常显示无服务器,苹果6plus屏幕失灵怎么办?如何解决?
  15. MyBatisPlus 开启事务并交由 Springboot 管理
  16. 安阳工学院计算机类宿舍,2021年安阳工学院新生宿舍条件和宿舍环境图片
  17. VSCode配置C++环境【报错interpreter=mi】
  18. Java中未加入修饰符_(整理)java修饰符
  19. 呆呆带你手撸一个思维导图-基础篇
  20. java万年历方法_利用java制作万年历

热门文章

  1. 动态修改类注解(赋值)
  2. Queue--队列(c语言简单实现)
  3. 高反差保留滤镜学习OpenCV:滤镜系列(11)——高反差保留
  4. 深度学习样本标完后图片增强标签内容不变
  5. 190525每日一句
  6. How to Build the Confidence Habit,7 Ways To Start To Value Yourself,Becoming More Me Through Meditat
  7. Atitit 数据查询法 目录 1. 数据查询语言QL (推荐) 1 1.1. Sql 1 1.2. 对象查询语言(OQL) 1 1.3. Atitit QL查询语言总结Jpql Ongl
  8. Atitit 现代信息检索 Atitit 重要章节 息检索建模 检索评价 第8章 文本分类 Line 210: 第9章 索引和搜索 第11章 Web检索 第13章 结构化文本检索 目录 L
  9. Atitit 利用前端cache indexdb localStorage 缓存提升性能优化attilax总结 1.1. indexdb 更加强大点,但是结果测试,api比较繁琐 使用叫麻烦些 1
  10. Atitit attilax总结的对于attilax重要的jsr规范,以及需要增加的jsr规范