吴恩达深度学习 —— 2.11 向量化

向量化通常是消除代码中显式for循环语句的艺术，在深度学习安全领域、深度学习、练习中，经常发现在训练大数据集时，深度学习算法表现才更加优越，所以代码运行得非常快非常重要。否则如果运行在一个大数据集上，代码可能花费很长时间去运行，这将要等待非常长的时间去得到结果。

所以在深度学习领域，向量化是一个关键的技巧。

在逻辑回归中，需要计算z=wT∗x+bz=w^T*x+bz=wT∗x+b，w是列向量，x也是列向量。如果有很多的特征，这些向量就是非常大的向量，所以w和x都是nxn_xnx维的向量。

所以计算wT∗xw^T*xwT∗x，如果有一个非向量化的实现，你将会做一些事情，这将会使用到一个for循环用于计算z。

用向量化的方法，将会直接计算wT∗xw^T*xwT∗x，需要用到命令z=np.dot(w,x)+bz=np.dot(w,x)+bz=np.dot(w,x)+b，这就是向量化的方法。

事实证明，当能够使用向量化时就不要使用for循环。

吴恩达深度学习 —— 2.11 向量化相关推荐

吴恩达深度学习 —— 2.14 向量化逻辑回归的梯度输出
这一节将学习如果向量化计算m个训练数据的梯度,强调一下,是同时计算. 前面已经说过,在逻辑回归中,有dz(1)=a(1)−y(1)dz^{(1)}=a^{(1)}-y^{(1)}dz(1)=a(1)− ...
吴恩达深度学习 —— 2.12 向量化的更多例子
当你编写新的网络时,或者做的只是回归,一定要尽量避免for循环,能不用就不用.如果可以使用一个内置函数或者找出其它办法去计算循环,通常会比直接用for循环更快,来看另一个例子. 如果想计算一个向量u, ...
吴恩达深度学习 —— 3.11 随机初始化
当你训练神经网络的时候,随机初始化权重非常重要,对于逻辑回归,可以将权重初始化为零,但如果将神经网络的各参数数组全部初始化为0,再使用梯度下降算法那会完全无效,让我们看看是什么原因. 如上图,神经网络 ...
深度学习入门首推资料--吴恩达深度学习全程笔记分享
本文首发于微信公众号"StrongerTang",可打开微信搜一搜,或扫描文末二维码,关注查看更多文章. 原文链接:(https://mp.weixin.qq.com/s?__bi ...
吴恩达深度学习教程——中文笔记网上资料整理
吴恩达深度学习笔记整理内容为网上博主博文整理,如有侵权,请私信联系. 课程内容: Coursera:官方课程安排(英文字幕).付费用户在课程作业中可以获得作业评分,每门课程修完可获得结课证书:不付费 ...
吴恩达深度学习笔记——神经网络与深度学习（Neural Networks and Deep Learning）
文章目录前言传送门神经网络与深度学习(Neural Networks and Deep Learning) 绪论梯度下降法与二分逻辑回归(Gradient Descend and Logist ...
花书+吴恩达深度学习（二五）直面配分函数（CD, SML, SM, RM, NCE）
文章目录 0. 前言 1. 对数似然梯度 1.1 朴素 MCMC 算法 1.2 对比散度算法 CD 1.3 随机最大似然 SML 2. 伪似然 3. 得分匹配 SM 4. 比率匹配 RM 5. 去噪得 ...
花书+吴恩达深度学习（四）多分类 softmax
目录 0. 前言 1. 二分类 sigmoid 2. 多分类 softmax 3. 多分类 softmax 梯度下降推导如果这篇文章对你有一点小小的帮助,请给个关注,点个赞喔~我会非常开心的~ 花书 ...
花书+吴恩达深度学习（三）反向传播算法 Back Propagation
目录 0. 前言 1. 从 Logistic Regression 中理解反向传播 2. 两层神经网络中单个样本的反向传播 3. 两层神经网络中多个样本的反向传播如果这篇文章对你有一点小小的帮助,请 ...

吴恩达深度学习 —— 2.11 向量化

吴恩达深度学习 —— 2.11 向量化相关推荐

最新文章

热门文章