我最近看的一些底层图像算法的 paper 有很多用了各种变形的 GAN 来做。我就很好奇,GAN 到底有啥牛逼。网上关于 GAN 的介绍很多,我从 GAN 的训练角度口头解释下其训练机制。

GAN 的核心思想是纳什均衡理论。因此,GAN 网络中包含一个生成器和一个判别器,如下图所示。生成器和判别器本质是两个独立的网络,因此训练的时候独立训练。

GAN 结构示意图(来源网络)

其训练机理为:生成器和判别器单独交替训练。步骤如下:

1. 训练判别器:

固定生成器的参数,x 输入判别器后输出的结果标签为1,随机噪声 z 输入生成器得到 G(z),再输入判别器后得到的输出结果标签为0,训练判别器到收敛。

2. 训练生成器:

固定判别器的参数,随机噪声输入生成器得到的假图,然后输入判别器得到的结果的标签为1,训练生成器到收敛。

3. 交替循环步骤1和2,当然也可以在不收敛的过程中交替训练。

具体的操作步骤我还没有实践过,改天有时间玩个 demo。

怎么训练 GAN 网络相关推荐

  1. 不服就GAN:GAN网络生成 cifar10 的图片实例(keras 详细实现步骤),GAN 的训练的各种技巧总结,GAN的注意事项和大坑汇总

    GAN 的调参技巧总结 生成器的最后一层不使用 sigmoid,使用 tanh 代替 使用噪声作为生成器的输入时,生成噪声的步骤使用 正态分布 的采样来产生,而不使用均匀分布 训练 discrimin ...

  2. GAN 网络训练中,G_loss上升,D_loss下降

    最近重写拾起了GAN网络,做layout的生成工作,但是在训练的过程中又出现了G和Dloss不按照正常的情况下降和上升: 网上查找的原因是:种情况是判别器太强了,压制了生成器. 查询资料后总结的方法 ...

  3. Nat. Commun. | 条件GAN网络和基因表达特征用于类苗头化合物的发现

    今天给大家介绍的是拜耳作物科学公司.拜耳公司机器学习研发部和遗传毒理学部于2020年1月联合发表在Nature Communications上的一篇论文,这篇文章通过一种生成模型进行分子的从头设计以及 ...

  4. LIVE 预告 | TransGAN:丢弃卷积,纯Transformer构建GAN网络

    自2014年Ian J. Goodfellow等人提出以来,生成对抗网络(GAN,Generative Adversarial Networks)便迅速成为人工智能领域中最有前景的研究方向之一. 而另 ...

  5. 单张图像就可以训练GAN!Adobe改良图像生成方法 | 已开源

    十三 发自 凹非寺 量子位 报道 | 公众号 QbitAI 数据集太小了,无法训练GAN?试试从单个图像入手吧. 去年谷歌就提出了SinGAN,是第一个拿GAN在单幅自然图像学习的非条件生成模型(IC ...

  6. GAN背后的理论依据,以及为什么只使用GAN网络容易产生

    花了一下午研究的文章,解答了我关于GAN网络的很多疑问,内容的理论水平很高,只能尽量理解,但真的是一篇非常好的文章转自http://www.dataguru.cn/article-10570-1.ht ...

  7. OKGAN:线上训练GAN的方法

    ©PaperWeekly 原创 · 作者|尹娟 学校|北京理工大学博士生 研究方向|随机过程.复杂网络 论文标题:Online Kernel based Generative Adversarial ...

  8. 速度堪比Adam,准确率媲美SGD,还能稳定训练GAN:全新优化器成为NeurIPS爆款

    点上方蓝字计算机视觉联盟获取更多干货 在右上方 ··· 设为星标 ★,与你不见不散 仅作学术分享,不代表本公众号立场,侵权联系删除 转载于:机器之心 AI博士笔记系列推荐 周志华<机器学习> ...

  9. 『TensorFlow』通过代码理解gan网络_中

    『cs231n』通过代码理解gan网络&tensorflow共享变量机制_上 上篇是一个尝试生成minist手写体数据的简单GAN网络,之前有介绍过,图片维度是28*28*1,生成器的上采样使 ...

  10. 简记GAN网络的loss

    <简记GAN loss的理解>   GAN 是一种思想,刚接触的时候极为震撼,后来通过GAN思想也做过模型的优化,写过一篇专利.最近在用 GAN 生成数据,顺手写一写对GAN loss的理 ...

最新文章

  1. 一起谈.NET技术,在没有安装 ASP.NET MVC3 的服务器上运行 MVC3
  2. ubuntu 16.04 编译 opencv_contrib 3.4, nonfree
  3. 【PC工具】大神开源项目-配色调色工具Colorpicker颜色选择器
  4. hadoop-0.21.0 在Windows环境下的部署(2)Hadoop配置
  5. 用mysqlbinlog查看row格式的事件
  6. Matlab/Eigen矩阵填充问题
  7. 业务架构、信息架构、技术架构三位一体,互联网营销
  8. python的线性链表_Python线性表——单链表-阿里云开发者社区
  9. java bouncycastle_java – 使用bouncycastle进行签名和验证签名的正确方法
  10. [渝粤教育] 西南科技大学 电子产品制造工艺 在线考试复习资料
  11. [导入]画带阴影效果的文字
  12. Objective C 总结(十):Conventions
  13. java android 五子棋游戏_基于Android平台五子棋游戏最终版.doc
  14. K8s CKS认证学习全套笔记
  15. 小学计算机优秀说课稿ppt,【说课备考】各学科说课稿示范第7天 — 小学信息技术...
  16. 时事点评-红芯浏览器事件
  17. 让你心动的20句励志文案
  18. 有关java开发的单词_Java开发常用英语单词表
  19. 在线ddl变更工具​ gh-ost
  20. 【C语言小游戏】扫雷

热门文章

  1. 极域电子教室2016破解版
  2. 大牛直播跨平台RTSP/RTMP转RTMP转发SDK
  3. unity技美31——Curvy Splines寻路插件绘制赛道,并且生成OBJ教程
  4. seo伪原创/百度链接推送/原创检测工具,python超简单POST案例
  5. 百度网盘该坐不住了,迅雷11内测版,不限速2T云盘免费送!
  6. 企业信息安全管理建设(3)——安全管理体系
  7. 重装系统(用U盘+wepe)
  8. Matlab:实现高斯光束产生
  9. t分布 u分布 卡方分布_u分布(u分布和t分布)
  10. ROS路由器ethernet接口: