Stanford cs231n'18 课程及作业详细解读

Stanfor cs231n是一门介绍CNN基础概念和知识的课程。这一课程前半部分的重点在于介绍组成CNN的各种模块，包括FC, Conv, Relu, BN等等。特别是在它的assignment1和2中，作者很用心的一步一步、循序渐进的带领初学者动手编程实现每一个模块。这样，在平时的工作中，我们不但可以像搭积木一样，将这些模块一层一层的叠加起来组成我们的CNN，更重要的是，我们可以更深入的了解数据在这些模块中是怎样流动的，以及梯度又是如何在这些模块中backpropagate的。基于此，在这里将学习cs231n课程中的学习心得记录下来，内容包括：

1. 各个模块backpropagation公式的推导过程，以及在编写程序中遇到的问题解决过程。这一点很重要，因为在以后的工作中，不论是使用TensorFlow还是PyTorch,我们只需要考虑forward过程来搭建CNN，至于梯度如何backpropagate，软件会自动帮我们处理好。所以我们只知道CNN会backpropagation，但很少有机会知道它是怎样backpropagation的。而这门课程恰恰可以让我们了解每一个CNN模块backpropagation的公式推导及编程实现，这对今后处理梯度消失/爆炸的问题会很有帮助。

2. 学习作者调试CNN模块的思路和流程，包括初始值的检验，gradie check，minibatch overfitting等等。如1所述，即使我们知道了CNN的梯度是如何计算的，CNN搭建起来是如何验证的，但将它编程实现又是另外一个问题，这里面有很多细节值得我们注意。基于此，这里将按照作业的流程将其中出现的所有函数自己动手写一遍，深入了解一下作者搭建调试CNN网络的过程。

详细的笔记和代码放在github上，这里的专栏仅仅做概括和索引之用。

笔记链接：笔记链接

代码链接：代码链接

Stanford cs231n'18 课程及作业详细解读相关推荐

吴恩达课程翻译_中文学习资源：斯坦福大学CS231n计算机视觉课程
hi,我是为你们的xio习操碎了心的和鲸社区男运营我们的网站:和鲸社区 Kesci.co 我们的公众号:和鲸社区(ID:heywhale-kesci) 有干货,来! 大家好,此次本鲸给大家翻译的项目 ...
经典神经网络论文超详细解读（八）——ResNeXt学习笔记（翻译＋精读＋代码复现）
前言今天我们一起来学习何恺明大神的又一经典之作: ResNeXt(<Aggregated Residual Transformations for Deep Neural Networks&g ...
AFL(American Fuzzy Lop)源码详细解读（2）
AFL(American Fuzzy Lop)源码详细解读(2) 本篇是关于 dry run (空跑.演练) 阶段的内容,一直到主循环之前. 多亏大佬们的文章,对读源码帮助很大: https://et ...
等保测评2.0超详细解读，收藏这一篇就够了
一.等级保护介绍 1.1什么是等级保护网络安全等级保护是指对国家重要信息.法人和其他组织及公民的专有信息以及信息和存储.传输.处理这些信息的信息系统分等级实行安全保护,对信息系统中使用的信息安全产品 ...
VINS-mono详细解读与实现
VINS-mono详细解读 VINS-mono详细解读前言 Vins-mono是香港科技大学开源的一个VIO算法,https://github.com/HKUST-Aerial-Robotics/V ...
MemCache超详细解读
MemCache是什么 MemCache是一个自由.源码开放.高性能.分布式的分布式内存对象缓存系统,用于动态Web应用以减轻数据库的负载.它通过在内存中缓存数据和对象来减少读取数据库的次数,从而提高 ...
MemCache详细解读
MemCache是什么 MemCache是一个自由.源码开放.高性能.分布式的分布式内存对象缓存系统,用于动态Web应用以减轻数据库的负载.它通过在内存中缓存数据和对象来减少读取数据库的次数,从而提高 ...
18春东师计算机应用基础,东师计算机应用基础18春在线作业31.docx
东师计算机应用基础18春在线作业3 1.A 2.A 3.D 4.D 5.C 一.单选题共25题,62.5分 1.解释程序的功能是 A解释执行高级语言程序 B解释执行汇编语言程序 C将汇编语言程序编译成 ...
计算机应用基础18春在线作业1答案,东师计算机应用基础-18春在线作业1.docx
东师计算机应用基础18春在线作业1 1.A 2.C 3.C 4.C 5.B 一.单选题共25题,62.5分 1.国际区位.全拼双音.五笔字型和自然码是不同种类的汉字 A外码 B内码 C字型码 D交换码 ...

Stanford cs231n'18 课程及作业详细解读

Stanford cs231n'18 课程及作业详细解读相关推荐

最新文章

热门文章