深度学习的四个学习阶段!
↑↑↑关注后"星标"Datawhale
每日干货 & 每月组队学习,不错过
Datawhale干货
来源:Coggle数据科学
机器学习领域是巨大的,为了学习不迷路,可以从以下列表帮助学习。它概述深度学习的一些学习细节。
阶段1:入门级
入门级能够掌握以下技能:
能够处理小型数据集
理解经典机器学习技术的关键概念
理解经典网络DNN、CNN和RNN
数据处理
在入门级使用的数据集很小,可以放入主内存中。只需几行代码即可应用此类操作。在此阶段数据包括Audio、Image、Time-series和Text等类型。
经典机器学习
在深入研究深度学习之前,学习基本机器学习技术是一个不错的选择,其包括回归、聚类、SVM和树模型。
网络
掌握常见的网络层,以及相应的神经网络;GAN、AE、VAE、DNN、CNN、RNN 等等。在入门阶段,可以优先掌握DNN、CNN和RNN。
理论
没有神经网络就没有深度学习,没有(数学)理论就没有神经网络。可以通过了解数学符号来开始学习,可以从矩阵、线性代数和概率论开始你的学习。
阶段2:进阶水平
进阶和入门级之间没有真正的分界,进阶水平能够处理更大的数据集,能够使用高级网络处理自定义项模型:
处理更大的数据集
能够自定义模型完成任务
网络模型精度变得更好
数据处理
能够处理几GB的数据集,需要自定义数据扩增方法和数据处理函数。
自己完成任务
能够根据具体任务完成代码的开发,而不是参考MNIST的教程完成编码。
自定义网络
处理自定义项目时,如何处理数据数据?如何定义自己的网络层?
模型训练
掌握迁移学习的思路,学会使用预训练权重完成新任务。并掌握冻结部分网络层的方法。
深度学习理论
掌握深度学习模型的正向传播和反向传播,特别是链式求导法则。掌握激活函数和目标函数的作用,能够选择合适的激活函数和目标函数。
阶段3:熟练水平
与进阶相比你需要掌握更加的数据集处理方法,并掌握加速模型训练的方法:
大规模数据的处理和存储
网络模型的调参
无监督学习和强化学习
数据处理
需要掌握几百GB数据集的处理,学会Linux的操作。此阶段可能接触到多模态任务。
无监督项目
开始尝试无监督网络模型的搭建,如自编码器和GAN模型,能够掌握模型原理。
模型训练
掌握模型调参的方法和常见的日志和可视化工具,如TensorBoard的使用。掌握学习率的调节方法,如余弦退火。掌握多机和混合精度训练。
阶段4:专家级
掌握前沿的学术模型的发展,知道自己的兴趣是什么,并能提出新的模型:
学会使用JAX或DALI处理数据
熟悉图神经网络和Transformer模型
本文在原文基础上进行了精简,原文链接:https://towardsdatascience.com/a-guide-to-the-field-of-deep-learning-9bb9b21dae2
整理不易,点赞三连↓
深度学习的四个学习阶段!相关推荐
- [jQuery学习系列四 ]4-Jquery学习四-事件操作
[jQuery学习系列四 ]4-Jquery学习四-事件操作 前言: 今天看知乎偶然看到中国有哪些类似于TED的节目, 回答中的一些推荐我给记录下来了, 顺便也在这里贴一下: 一席 云集 听道 推酷 ...
- 系统学习深度学习(四十一)--AlphaGo Zero强化学习原理
转自:https://www.cnblogs.com/pinard/p/10609228.html 本篇主要参考了AlphaGo Zero的论文, AlphaGo Zero综述和AlphaGo Zer ...
- 计算机视觉的深度学习实战四:图像特征提取
更多精彩内容请关注微信公众号:听潮庭. 计算机视觉的深度学习实战四:图像特征提取 综述: 颜色特征 量化颜色直方图.聚类颜色直方图 几何特征 Edge,Corner,Blob 基于关键点的特征描述子 ...
- 学习深度学习的四个步骤
摘要: 深度学习的四个步骤,由浅入深,并给出每个阶段的学习资源. 原文地址: https://medium.com/@vzkuma/4-steps-for-learning-deep-learning ...
- 0.0 目录-深度学习第四课《卷积神经网络》-Stanford吴恩达教授
文章目录 第五课 第四课 第三课 第二课 第一课 第五课 <序列模型> 笔记列表 Week 1 循环序列模型 Week 1 传送门 -> 1.1 为什么选择序列模型 1.2 数学符号 ...
- 花书+吴恩达深度学习(四)多分类 softmax
目录 0. 前言 1. 二分类 sigmoid 2. 多分类 softmax 3. 多分类 softmax 梯度下降推导 如果这篇文章对你有一点小小的帮助,请给个关注,点个赞喔~我会非常开心的~ 花书 ...
- 深度学习 图像识别 四
深度学习 图像识别 四 传送门 传送门 〇.前言 一.机器学习基础 二.开发环境搭建 三.逐行学习代码,熟悉开发环境 四.学习Keras构建网络,尝试各种模型 五.TensorBoard 可视化,更可 ...
- 人工智能必看论文系列推荐(含神经网络,计算机视觉,AI,深度学习共计四十余篇)
首先要感谢网上学习资源,这也是自己的笔记. 为了方便后期自己学习,我也将论文下载了一部分,百度云链接见文末 目录 一.神经网络基础部分 二.图像分类部分 三.批量正则化部分 四.注意力部分 五.高级的 ...
- 『深度学习项目四』基于ResNet101人脸特征点检测
相关文章: [深度学习项目一]全连接神经网络实现mnist数字识别 [深度学习项目二]卷积神经网络LeNet实现minst数字识别 [深度学习项目三]ResNet50多分类任务[十二生肖分类] 『深度 ...
最新文章
- Unity 4.x 2D游戏开发基础教程
- win10右键闪退到桌面_【雷粉百科】windows10鼠标点击右键出现卡顿或者转圈
- React-Native学习指南
- LSMW批处理使用方法(08)_步骤8、9
- HDU 4135 Co-prime
- Android CookieSyncManager同步cookie
- VTK:PolyData之TriangleColoredPoints
- android模拟器后台截屏,【Android】Android模拟器下截屏及格式转换
- Java 查看指定文件最后的修改时间
- Wix 安装部署(二)自定义安装界面和行为
- 二.开发记录之派勤工控机远程使用和ubuntu和ROS环境配置
- -bash: xxxx.sh: /bin/bash^M: 坏的解释器: 没有那个文件或目录
- 51 -算法 -斐波拉奇数列 -LeetCode 70 -递推
- maya python 游戏与影视编程指南_Maya Python 游戏与影视编程指南
- 大话设计模式之----状态模式
- hadoop学习视频
- 程序员如何写一份打动面试官的简历?这些坑你必须注意了!
- 树的前序、中序、后序遍历 | Tree Walk | C/C++实现
- 数据全裸时代,公开获取上百万条四六级成绩
- 爬虫:Instagram信息爬取
热门文章
- php session存入redis
- [bzoj2333] [SCOI2011]棘手的操作 (可并堆)
- [转]Windows与VC命名规则
- Flash/Flex学习笔记(4):如何打开网页及Get/Post数据
- LeetCode实战:二叉树中的最大路径和
- 策略模式(Strategy)
- ​谷歌大神 Jeff Dean 领衔,万字展望5大 AI 趋势
- 内含福利|CSDN 携手字节跳动:云原生Meetup北京站报名热烈启动,1月8日见!
- Go modules基础精进,六大核心概念全解析(下)
- 英特尔第三代 Ice Lake 发布正面与 AMD EPYC PK,结果令人大跌眼镜!