Matlab实现图像识别（十）

接下来就是参数选择的问题。

什么是参数选择的问题呢？例如如果你把720x720的图片放进去，隐藏层都几个G了，这个自然是不行的。

在本次实验中，我一开始用了5000个隐藏节点，结果，训练一次这个隐藏层就需要1分钟的时间，自然是不可以的，因为我还要训练一万次，没法调Bug啊，这个时间绝对不行。

因此图像的大小选择是十分慎重的，因为如果只是28x28像素的话，总的也才784个节点，如果是60x80的话，就会陡增至4800个节点。计算机的算力吃不消。当初我做minst的时候，输入784个节点，隐藏层也就100~150个节点，输出为10个，大概能花上几分钟的时间就可以运行完毕。那么如果本次的用4800个节点，500个隐藏层节点，输出为101，那么时间可能花上几倍的时间。

就是说，在训练的时候，可以选取更小的节点，确保其本身的确是下降的，如果你设计的一个网络，光运行就花费三个小时，那么你若认清它不是下降的，就至少花费6个小时，因此用更小的节点先进行测试，确保它没有什么关系后，可以用更大的序列计算。

参数初始化的时候不可以初始化为0，因为在反向传播的时候就都变成0了，根本不会有任何变化。

很明显的是，虽然一开始都很小，但是自从第一轮开始，它的输出就会变成200多，再激活就是1了，这种情况是不是对的呢？自然是不对的，常理情况下，每一个输出节点，输出到隐藏层后，它应该是-1_{1之间，然后激活一下，还是在-1}1之间，因此，在最开始初始化的时候，虽然把参数都初始化为-1_{1之间，但是还是要再除以个上一层的节点个数，这样总和一加，仍能保持在-1}1之间，不会猛增至几百，最后NAN根本就不是数了。

实际上，并不是说除以前一个节点的个数就行，因为每一个数是0~1之间，它并不是1，因此总和加起来，它应该会更小，大概会小一个数量级，因此最好除以个个数的一半，或者更小一些，让最后结果维持在零点几，而不是零点零几这个范围。这个非常重要，参数初始化不对，可能根本就不会下降的。

不同的激活函数，它们的参数初始化是不一样的，例如sigmoid函数，因为它要求输入应该在-1_{1之间，因此在设计参数时，它的确能保证输入值能限制在-1}1之间，又比如ReLU函数，它的特点是正数取正数，负数取零，如果你的参数都预处理为正数，你的输入也都是正数，那么ReLUctant函数就会失效，从而整个神经网络转变为一个多项式级别的了，可能根本都不收敛，因此在初始化的时候，应该保证正数和负数最好是一半一半。

因此，小心调参，防止NaN，就是这样。

Matlab实现图像识别（十）相关推荐

matlab识别图像,基于MATLAB神经网络图像识别的高识别率代码
MATLAB神经网络图像识别高识别率代码 I0=pretreatment(imread('Z:\data\PictureData\TestCode\SplitDataTest\0 (1).png')) ...
计算识别率的matlab代码,基于MATLAB神经网络图像识别的高识别率代码
更新时间: 2019年3月14日10:50:04作者: 钱190 今天,我将与您分享一个基于MATLAB神经网络图像识别的高识别代码. 我认为内容非常好. 现在我与大家分享. 具有很好的参考价值. 需 ...
matlab 车牌图识别,基于MATLAB车牌图像识别的设计与实现(附答辩记录)
基于MATLAB车牌图像识别的设计与实现(附答辩记录)(包含选题审批表,任务书,开题报告,中期报告,毕业论文15000字,代码) 摘要:车牌照识别是图像识别领域的重要研究课题.运用MATLAB对车 ...
matlab：图像识别
matlab:图像识别一.Matlab图像识别的基本原理二.Matlab图像识别的实现步骤三.常用的Matlab图像识别算法四.Matlab图像识别的应用领域五.总结 Matlab是一款非常 ...
基于MATLAB车牌图像识别的设计与实现
课题介绍车牌图像识别系统是现代智能交通管理的重要组成部分之一.车牌识别系统使车辆管理更智能化,数字化,有效提升了交通管理的方便性和有效性. 车牌识别系统主要包括了图像采集.图像预处理.车牌定位.字符 ...
matlab在图像识别（深度学习神经网络）中的使用（转）
前言: 1)图像识别用途甚广,解决的算法之一,是深度学习神经网络.matlab近几个版本,对这块的语法修改较多,总体而言,用户用起来更方便了: 2)这里以2018a版本为例,做一些粗略的说明. 1.概 ...
matlab rotatefactors,第十二章-matlab--因子分析.docx
第十二章因子分析(贵州大学杨虎统计) 引出因子分析的定义:作个比喻,对面来了一群女生,我们一眼就能够分辨出孰美孰丑,这是判别分析:并且我们的脑海中会迅速的将这群女生分为两类:美的一类,丑的一类, ...
用MATLAB作图像识别所需要注意的细节!
⑴自己构建的图像矩阵一定要从double类型转换为uint8类型!示例代码如下: I1=[50 200 220 100 200]; I1=uint8(I1); ⑵MATLAB因为数组编号从1开始,所以 ...
matlab数学实验十,数学实验(MATLAB版)
丛书序前言第1章概述 1．1 数学实验 1．2 MATLAB软件简介 1．2．1 MATLAB的基本作 1．2．2 窗口与菜单 1．2．3 变量与符号 1．2．4 常用命令和技巧 1．2 ,5函 ...
matlab中基于十字形窗口的滤波算法,#215;字形滤波窗口在Matlab自适应中值滤波算法中的应用 - 21ic中国电子网...
由于种种原因,图像在生成.传输.变换等过程中往往会受到各种噪声的污染,从而导致图像质量退化.噪声信号的滤波是图像处理的基本任务之一,主要有线性滤波和非线性滤波两种方法.线性滤波方法一般具有低通特性,而 ...

Matlab实现图像识别（十）

Matlab实现图像识别（十）相关推荐

最新文章

热门文章