1. 参考文献1-08年,沈花玉等

1.1 简述

隐含层单元的数目与问题的要求、输入、输出单元的数目都有直接关系,数目太少,所获取的信息太少,出现欠拟合。数目太多,增加训练时间,容易出现过拟合,泛化能力差。

1.2 确定方法

在以前确定的方法是,参照下面三个公式,分别计算最佳隐含层单元数,然后综合比较选出最优,这种方式的缺点是验证次数多,计算周期太长
参考公式:


文献中介绍的方法是:通过三种方法结合确定的最佳隐藏层数的边界n1_min,n1_max,在这两个之间逐渐增加单元数,在收敛后比较收敛速度,根据对得到的训练误差和测试误差及收敛速度综合选择最佳隐藏层数。

2 百度知道查得结果2

(1)构造法

首先运用三种确定隐含层层数的方法得到三个隐含层层数,找到最小值和最大值,然后从最小值开始逐个验证模型预测误差,直到达到最大值。最后选取模型误差最小的那个隐含层层数。该方法适用于双隐含层网络。

(2)删除法

单隐含层网络非线性映射能力较弱,相同问题,为达到预定映射关系,隐层节点要多一些,以增加网络的可调参数,故适合运用删除法。

(3)黄金分割法

算法的主要思想:首先在[a,b]内寻找理想的隐含层节点数,这样就充分保证了网络的逼近能力和泛化能力。为满足高精度逼近的要求,再按照黄金分割原理拓展搜索区间,即得到区间b,c,在区间[b,c]中搜索最优,则得到逼近能力更强的隐含层节点数,在实际应用根据要求,从中选取其一即可。

BP算法中,权值和阈值是每训练一次,调整一次。
逐步试验得到隐层节点数就是先设置一个初始值,然后在这个值的基础上逐渐增加,比较每次网络的预测性能,选择性能最好的对应的节点数作为隐含层神经元节点数。


  1. 沈花玉.BP神经网络隐含层单元数的确定.天津理工大学学报 ↩︎

  2. https://zhidao.baidu.com/question/501839410.html ↩︎

BP神经网络隐藏层单元数的选择--(1)相关推荐

  1. 神经网络隐藏层节点数效率最优值

    本文通过调节神经网络隐藏层节点数观察隐藏层节点数对神经网络性能的影响,并通过实验找到隐藏层节点数的收敛效率最优值. 首先构造一个二分类网络区分minst数据集的0和2,实验将28*28的图片缩小到9* ...

  2. BP神经网络隐含层节点数的确定

    BP神经网络隐含层节点数的确定 (1)构造法 首先运用三种确定隐含层层数的方法得到三个隐含层层数,找到最小值和最大值,然后从最小值开始逐个验证模型预测误差,直到达到最大值.最后选取模型误差最小的那个隐 ...

  3. BP神经网络隐藏层的作用,bp神经网络输出层函数

    matlab bp神经网络只能输入一组预测一组吗 可以用前面很多数据建立网络后预测下几组数据吗 当然可以,这就是输入模式和输出模式的制定,可以自由设置,多输入多输出.但要注意如果预测多组,输入必须要提 ...

  4. 计算神经网络隐藏层节点数极小值

    神经网络的隐藏层的节点数越少网络的速度越快,那么神经网络的隐藏层的节点数是否有一个可以保证性能的极小值,本文用mnist数据集做了实验. 首先制作一个784*n*2的神经网络,用于测试0-9中的任意两 ...

  5. python bp神经网络 隐含层神经元数_【机器学习】python实现BP神经网络实战

    概述: 人工神经网络是一种经典的机器学习模型,随着深度学习的发展神经网络模型日益完善.联想大家熟悉的回归问题, 神经网络模型实际上是根据训练样本创造出一个多维输入多维输出的函数, 并使用该函数进行预测 ...

  6. BP神经网络隐藏层大小的选取

    隐含层的选取 在BP神经网络中,输入层和输出层的节点个数都是确定的,而隐含层节点个数不确定,那么应该设置为多少 才合适呢?实际上,隐含层节点个数的多少对神经网络的性能是有影响的,有一个经验公式可以确定 ...

  7. 由隐藏层节点数引起的网络准确率的不规则变化02

    (0,2)-81*n*2-(1,0)(0,1) 做一个分类mnist 0,2的二分类三层网络,隐藏层节点数由3-1000共实验了59组值.固定收敛标准δ=1e-6,每组值迭代1999次,统计平均分类准 ...

  8. 平均分辨准确率对网络隐藏层节点数的非线性变化关系03

    (0,3)-81*n*2-(1,0)(0,1) 制作一个二分类的网络分类mnist的0和3,收敛标准1e-6,收敛次数是1999次,隐藏层节点数从3到1000共实验了79组值.统计每次收敛的迭代次数, ...

  9. 隐藏层节点数对迭代次数分布规律的影响

    制作一个二分类网络 (mnist 0 ,2)-81*n*2-(1,0)(0,1) 让n分别等于3,5,10,20,30,40,50,60,70,80,90,100,100,110,120,130, 让 ...

最新文章

  1. Windows配置ArUco
  2. Zend Studio 10代码格式化设置
  3. 算法 - 插入排序(C#)
  4. 高精度模板 洛谷Luogu P1932 A+B A-B A*B A/B Problem
  5. python官网下载步骤64位-windows下载并安装Python的具体步骤
  6. LaTeX技巧006:使用pdfLaTeX时,添加PDF文件属性的方法
  7. python3 deque(双向队列)
  8. 如何将数据库文件.mdf导入/恢复到SQL_Server2000
  9. Serverless,后端小程序的未来
  10. SpringBoot—整合log4j2入门和log4j2.xml配置详解
  11. R语言作图之ggplot2初识(1)
  12. Altium Designer(一):SCH
  13. 详解NRF24L01无线收发模块
  14. 左耳朵耗子:编程的本质是什么?
  15. iPhone 13 投屏到 Windows 10 的办法
  16. 爱欲与文明(一)快乐原则与现实原则
  17. 手把手教你批量下载微博视频
  18. 彩色二维码生成器,带logo文字和中心文字
  19. 惠普g7服务器硬盘阵列,HP DL388 G7 服务器重新做RAID
  20. PDF里面复制出来的文章,在word里去掉回车符

热门文章

  1. 联机与脱机 手写汉字识别
  2. 人工智能之语音合成,语音识别
  3. 干货分享|编辑视频有哪些选择,常见视频剪辑软件分享
  4. TCL雷鸟电视卸载内置应用
  5. 跟着BOY学习开发cocos2d-x 游戏 实战篇(4)之 游戏主界面 -----怪物系统---赌徒来袭
  6. 计算机考试中粗实线,国开电大 计算机绘图(终结性考试)大作业答案
  7. 水平耀斑_将带有油漆和透明度键的耀斑添加到您的C#项目中
  8. unity3d学习之镜头耀斑
  9. Unity3D 自学之路
  10. qiankun 基座下发组件