温州大学《深度学习》课程课件（六、优化算法）

这学期我上的另一门课是本科生的《深度学习》，主要用的是吴恩达老师的《深度学习》视频课的内容。

使用教材：吴恩达《深度学习》课程笔记

课外参考书：《深度学习》，人民邮电出版社，IAN GOODFELLOW 等，2017 年出版

课程资源下载链接：

https://github.com/fengdu78/deeplearning_ai_books

授课计划

模块 1 课程导学以及深度学习简介

模块 2 神经网络基础

模块 3 浅层神经网络和反向传播算法实验一

模块 4 深层神经网络实验一

模块 5 Pytorch 基础知识讲解实验二

模块 6 深度学习实践

模块 7 优化算法实验三

模块 8 卷积神经网络基础

模块 9 经典网络实验四

模块 10 ResNets 的原理及应用

模块 11 目标检测的原理和常见算法实验五

模块 12 人脸识别与风格转换

模块 13 循环神经网络实验五

模块 14 GRU/LSTM/BIRNN 实验六

模块 15 自然语言与词嵌入

模块 16 序列模型与注意力机制实验六

期末考核

课件(一)

备注：请不要用于商业用途。

如果是在校老师，请告知我们学校和姓名，我可以发原版ppt文件，请联系我：haiguang2000@wzu.edu.cn

配套笔记下载：

https://github.com/fengdu78/deeplearning_ai_books

温州大学《深度学习》课程课件（六、优化算法）相关推荐

深度学习中常用的优化算法(SGD, Nesterov,Adagrad,RMSProp,Adam)总结
深度学习中常用的优化算法(SGD, Nesterov,Adagrad,RMSProp,Adam)总结 1. 引言在深度学习中我们定义了损失函数以后,会采取各种各样的方法来降低损失函数的数值,从而使模 ...
深度学习-各类梯度下降优化算法回顾
本文是根据链接进行的翻译,回顾了深度学习的各种梯度下降优化算法.*已获得原作者的翻译许可. 文章目录一.概述二.引言三.Gradient Descent Variants(梯度下降法变体) ...
机器学习、深度学习中常用的优化算法详解——梯度下降法、牛顿法、共轭梯度法
一.梯度下降法 1.总述: 在机器学习中,基于基本的梯度下降法发展了三种梯度下降方法,分别为随机梯度下降法,批量梯度下降法以及小批量梯度下降法. (1)批量梯度下降法(Batch Gradient D ...
吴恩达深度学习笔记6-Course2-Week2【优化算法】
优化算法一.Mini-batch gradient descent(小批量梯度下降法) Mini-batch: 把整个训练数据集分成若干个小的训练集,即为Mini-batch. 为什么要分?梯度下降 ...
【深度学习】——梯度下降优化算法（批量梯度下降、随机梯度下降、小批量梯度下降、Momentum、Adam）
目录梯度梯度下降常用的梯度下降算法(BGD,SGD,MBGD) 梯度下降的详细算法算法过程批量梯度下降法(Batch Gradient Descent) 随机梯度下降法(Stochastic ...
深度学习中的Adam优化算法详解
Adam论文:https://arxiv.org/pdf/1412.6980.pdf (一).什么是Adam算法? Adam(Adaptive momentum)是一种自适应动量的随机优化方法(A m ...
深度学习中常用的优化算法
参考<动手学深度学习> https://zh.d2l.ai/chapter_optimization/index.html 一维梯度下降我们先以简单的一维梯度下降为例,解释梯度下降算法可 ...
深度学习 Optimizer 梯度下降优化算法总结
点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达来源:https://zhuanlan.zhihu.com/p/3 ...
深度学习调参：优化算法，优化器optimizer，学习率learning rate
在优化模型的过程中,有高原.高峰.洼地,我们的目的是找到最低的那个洼地. 选择不同的学习率和优化器,可能进入不同的洼地,或者在洼地附近震荡,无法收敛. 1 优化器的选择 Adam那么棒,为什么还对SG ...
吴恩达深度学习课程完整笔记(DeepLearning.ai)
为了方便学习深度学习课程,转载一个吴恩达老师的一个深度学习笔记,转载的网站是下面这个 https://blog.csdn.net/red_stone1/article/details/80207815 ...

温州大学《深度学习》课程课件（六、优化算法）

授课计划

课件(一)

温州大学《深度学习》课程课件（六、优化算法）相关推荐

最新文章

热门文章