4.9 内容代价函数-深度学习第四课《卷积神经网络》-Stanford吴恩达教授
←上一篇 | ↓↑ | 下一篇→ |
---|---|---|
4.8 代价函数 | 回到目录 | 4.10 风格代价函数 |
内容代价函数 (Content cost function)
风格迁移网络的代价函数有一个内容代价部分,还有一个风格代价部分。
J(G)=αJcontent(C,G)+βJstyle(S,G)J(G)=\alpha J_{content}(C,G)+\beta J_{style}(S,G)J(G)=αJcontent(C,G)+βJstyle(S,G)
我们先定义内容代价部分,不要忘了这就是我们整个风格迁移网络的代价函数,我们看看内容代价函数应该是什么。
假如说,你用隐含层 lll 来计算内容代价,如果 lll 是个很小的数,比如用隐含层1,这个代价函数就会使你的生成图片像素上非常接近你的内容图片。然而如果你用很深的层,那么那就会问,内容图片里是否有狗,然后它就会确保生成图片里有一个狗。所以在实际中,这个层 lll 在网络中既不会选的太浅也不会选的太深。因为你要自己做这周结束的编程练习,我会让你获得一些直觉,在编程练习中的具体例子里通常 lll 会选择在网络的中间层,既不太浅也不很深,然后用一个预训练的卷积模型,可以是VGG网络或者其他的网络也可以。
现在你需要衡量假如有一个内容图片和一个生成图片他们在内容上的相似度,我们令这个 a[l][C]a^{[l][C]}a[l][C] 和 a[l][G]a^{[l][G]}a[l][G] ,代表这两个图片 CCC 和 GGG 的 lll 层的激活函数值。如果这两个激活值相似,那么就意味着两个图片的内容相似。
我们定义这个
Jcontent(C,G)=12∣∣a[l][C]−a[l][G]∣∣2J_{content}(C,G)=\frac12||a^{[l][C]}-a^{[l][G]}||^2Jcontent(C,G)=21∣∣a[l][C]−a[l][G]∣∣2
为两个激活值不同或者相似的程度,我们取 lll 层的隐含单元的激活值,按元素相减,内容图片的激活值与生成图片相比较,然后取平方,也可以在前面加上归一化或者不加,比如 12\frac1221 或者其他的,都影响不大,因为这都可以由这个超参数 α\alphaα 来调整( J(G)=αJcontent(C,G)+βJstyle(S,G)J(G)=\alpha J_{content}(C,G)+\beta J_{style}(S,G)J(G)=αJcontent(C,G)+βJstyle(S,G) )。
要清楚我这里用的符号都是展成向量形式的,这个就变成了这一项( a[l][C]a^{[l][C]}a[l][C] )减这一项( a[l][C]a^{[l][C]}a[l][C] )的 L2L2L2 范数的平方,在把他们展成向量后。这就是两个激活值间的差值平方和,这就是两个图片之间 lll 层激活值差值的平方和。后面如果对 J(G)J(G)J(G) 做梯度下降来找 GGG 的值时,整个代价函数会激励这个算法来找到图像 GGG ,使得隐含层的激活值和你内容图像的相似。
这就是如何定义风格迁移网络的内容代价函数,接下来让我们学习风格代价函数。
课程板书
←上一篇 | ↓↑ | 下一篇→ |
---|---|---|
4.8 代价函数 | 回到目录 | 4.10 风格代价函数 |
4.9 内容代价函数-深度学习第四课《卷积神经网络》-Stanford吴恩达教授相关推荐
- 深度学习第四课——卷积神经网络(week 1)
目录 一.前言 1.1 卷积 1.2 其他滤波器 1.3 Padding 1.3.1 解释 1.3.2 填充多少像素的选择 1.4 卷积步长 1.5 三维卷积 1.6 单层卷积网络 1.7 深度卷积神 ...
- 2.19 总结-深度学习-Stanford吴恩达教授
←上一篇 ↓↑ 下一篇→ 2.18 Logistic 损失函数的解释 回到目录 3.1 神经网络概览 文章目录 总结 习题 第 11 题 第 12 题 第 13 题 第 14 题 第 15 题 第 1 ...
- 4.11 一维到三维推广-深度学习第四课《卷积神经网络》-Stanford吴恩达教授
←上一篇 ↓↑ 下一篇→ 4.10 风格代价函数 回到目录 4.12 总结 一维到三维推广 (1D and 3D Generalizations of Models) 你已经学习了许多关于卷积神经网络 ...
- 4.1 什么是人脸识别-深度学习第四课《卷积神经网络》-Stanford吴恩达教授
←上一篇 ↓↑ 下一篇→ 3.11 总结 回到目录 4.2 One-Shot 学习 什么是人脸识别 (What is face recognition?) 欢迎来到第四周,即这门课卷积神经网络课程的最 ...
- 1.8 简单卷积网络示例-深度学习第四课《卷积神经网络》-Stanford吴恩达教授
←上一篇 ↓↑ 下一篇→ 1.7 单层卷积网络 回到目录 1.9 池化层 简单卷积网络示例 (A Simple Convolution Network Example) 上节课,我们讲了如何为卷积网络 ...
- 深度学习教程(6) | 神经网络优化算法(吴恩达·完整版)
作者:韩信子@ShowMeAI 教程地址:https://www.showmeai.tech/tutorials/35 本文地址:https://www.showmeai.tech/article-d ...
- 3.5 向量化实现的解释-深度学习-Stanford吴恩达教授
←上一篇 ↓↑ 下一篇→ 3.4 多个例子中的向量化 回到目录 3.6 激活函数 向量化实现的解释 (Explanation for Vectorized Implementation) 在上一个视频 ...
- 1.1 欢迎-深度学习第一课《神经网络与深度学习》-Stanford吴恩达教授
←上一篇 ↓↑ 下一篇→ 无 回到目录 1.2 什么是神经网络 欢迎 第一个视频主要讲了什么是深度学习,深度学习能做些什么事情.以下是吴恩达老师的原话: 深度学习改变了传统互联网业务,例如如网络搜索和 ...
- 机器学习和深度学习到底怎么学?顶尖专家吴恩达告诉你
机器学习和深度学习到底怎么学? 在外国版知乎上,有位网友问:新手如何学习机器学习?学习完MOOC的课程后有没有能力阅读研究论文或者真正的做出一点研究成果? 这个困惑很多人的问题吴恩达给出了详细的回答, ...
最新文章
- Layui框架 中table解决日期格式问题
- 机器学习(MACHINE LEARNING) 【周志华版-”西瓜书“-笔记】 DAY9-聚类
- “error LNK2019: 无法解析的外部符号”的几种可能原因
- JAVA入门级教学之(JAVA程序的加载和运行)
- neo4j 节点与关系
- [FFmpeg] 绘制矩形框
- 热电偶测温方案 AD7124+Pt100冷端补偿 包含Pt100、NTC热敏、热电偶处理驱动源码
- Intellij IDEA免费版方法(1)
- Teststand中那些和LabVIEW里不一致的让人疑惑的规则
- 五大车载操作(VOS)系统优劣对比
- 它们把色情版 “微信” 的底裤都给挖出来了,网友: 草率了。。。
- html转换为pdf的笔顺,笔顺正确写法,很全面.pdf
- html生成word页眉图片不显示,Word首页不显示页眉怎么设置
- 将标准的EclipseWTP项目转化成具有Gradle功能的EclipseWTP项目
- 华为设备IPsec简单配置
- DIY 章鱼猫活动 |
- CISCO ANYCONNECT 一直连接不上,打开点击连接就闪退 或 卡在“Hostscan mission complete” or “Hostscan state idle“
- 6款换脸软件下载推荐!
- postgresql索引_PostgreSQL中的索引— 8(RUM)
- 如何在wps ppt中播放gif动图