训练生成对抗网络的过程中，训练gan的地方为什么这里没有detach,怎么保证训练生成器的时候不会改变判别器

答：

detach的作用是冻结梯度下降，无论是对于判别网络还是生成网络而言，我们更新的都是关于logD(G(z))，对于判别网络而言，冻结G并不影响整体的梯度更新（就是内层函数看成是一个常数，不影响外层函数求梯度），但是反过来，如果冻结D，就没有办法完成梯度更新了。所以，我们在训练生成器的时候没用冻结D的梯度。所以，对于生成器而言，我们的确计算了D的梯度，但是我们没有更新D的权重（只写了optimizer_g.step），所以训练生成器的时候也就不会改变判别器了。你可能会问，那既然如此，为什么训练判别器的时候还要加上detach呢，这不是多此一举吗？

因为我们冻结梯度下降，可以加快训练速度，所以能用的地方就可以用一下，不是多此一举。然后我们在训练生成器的时候，因为logD(G(z))的原因，冻结D的梯度根本就没有办法计算了，所以，这里就不写detach了

训练生成对抗网络的过程中，训练gan的地方为什么这里没有detach,怎么保证训练生成器的时候不会改变判别器相关推荐

【深度学习实战】从零开始深度学习（五）：生成对抗网络——深度学习中的非监督学习问题
参考资料: <PyTorch深度学习>(人民邮电出版社)第7章生成网络 PyTorch官方文档廖星宇著<深度学习入门之Pytorch>第6章生成对抗网络其他参考的网络资 ...
训练生成对抗网络的一些需要关注的问题
Utkarsh Desai 2020-09-22 Tuesday ➤ 01导读生成对抗网络是个好东西,不过训练比较麻烦,这里有一些技巧和陷阱,分享给大家. 生成对抗网络(GANs)是当前深度学习研究 ...
学习笔记|生成对抗网络（Generative Adversarial Networks,GAN）——让机器学习具有创造力
文章目录 1.生成对抗网络概述 1.1 对"生成"的理解 1.2 对"对抗"的理解 2. 生成对抗网络的理论基础 1.生成对抗网络概述有时候我们希望网络具有一 ...
是时候学习生成对抗网络了，李宏毅老师GAN视频教程下载
点击我爱计算机视觉标星,更快获取CVML新技术要说过去的一年哪一项技术最火,非生成对抗网络(GAN)莫属! 52CV曾经报道过: ACM MM2018 Best Paper 被华人包揽两篇最佳论文 ...
生成对抗网络的发展与应用
生成对抗网络的发展与应用一.生成对抗网络的提出 Generative Adversarial Nets 二.生成对抗网络的发展 Conditional Generative Adversarial ...
[深度学习-实践]条件生成对抗网络cGAN的例子-Tensorflow2.x Keras
系列文章目录深度学习GAN(一)之简单介绍深度学习GAN(二)之DCGAN基于CIFAR10数据集的例子深度学习GAN(三)之DCGAN基于手写体Mnist数据集的例子深度学习GAN(四)之c ...
孪生网络图像相似度_生成对抗网络的进步多大，请看此文
全文共4175字,预计学习时长8分钟最近,多项研究采用了生成对抗网络(Generative Adversarial Networks, 简称GANs)这一技术来生成分辨率为1024x1024的高清图 ...
判别两棵树是否相等设计算法_一文看懂生成对抗网络 - GANs？（附：10种典型算法+13种应用）...
生成对抗网络 – GANs 是最近2年很热门的一种无监督算法,他能生成出非常逼真的照片,图像甚至视频.我们手机里的照片处理软件中就会使用到它. 本文将详细介绍生成对抗网络 – GANs 的设计初衷.基 ...
基于生成对抗网络的医学数据域适应研究
点击上方蓝字关注我们基于生成对抗网络的医学数据域适应研究于胡飞, 温景熙, 辛江, 唐艳中南大学计算机学院,湖南长沙 410083 摘要:在医疗影像辅助诊断研究中,研究者通常使用不同医院( ...

训练生成对抗网络的过程中，训练gan的地方为什么这里没有detach,怎么保证训练生成器的时候不会改变判别器

训练生成对抗网络的过程中，训练gan的地方为什么这里没有detach,怎么保证训练生成器的时候不会改变判别器相关推荐

最新文章

热门文章