深度学习入门:一文详解BP神经网络
任何关于算法、编程、AI行业知识或博客内容的问题,可以随时扫码关注公众号「图灵的猫」,加入”学习小组“,沙雕博主在线答疑~此外,公众号内还有更多AI、算法、编程和大数据知识分享,以及免费的SSR节点和学习资料。其他平台(知乎/B站)也是同名「图灵的猫」,不要迷路哦~
今天来讲BP神经网络,神经网络在机器学习中应用比较广泛,比如函数逼近,模式识别,分类,数据压缩,数据
挖掘等领域。接下来介绍BP神经网络的原理及实现。
Contents
1. BP神经网络的认识
2. 隐含层的选取
3. 正向传递子过程
4. 反向传递子过程
5. BP神经网络的注意点
6. BP神经网络的C++实现
1. BP神经网络的认识
BP(Back Propagation)神经网络分为两个过程
(1)工作信号正向传递子过程
(2)误差信号反向传递子过程
在BP神经网络中,单个样本有个输入,有个输出,在输入层和输出层之间通常还有若干个隐含层。实际
上,1989年Robert Hecht-Nielsen证明了对于任何闭区间内的一个连续函数都可以用一个隐含层的BP网
络来逼近,这就是万能逼近定理。所以一个三层的BP网络就可以完成任意的维到维的映射。即这三层分
别是输入层(I),隐含层(H),输出层(O)。如下图示
2. 隐含层的选取
在BP神经网络中,输入层和输出层的节点个数都是确定的,而隐含层节点个数不确定,那么应该设置为多少
才合适呢?实际上,隐含层节点个数的多少对神经网络的性能是有影响的,有一个经验公式可以确定隐含层
节点数目,如下
其中为隐含层节点数目,为输入层节点数目,为输出层节点数目,为之间的调节常数。
3. 正向传递子过程
现在设节点和节点之间的权值为,节点的阀值为,每个节点的输出值为,而每个节点的输出
值是根据上层所有节点的输出值、当前节点与上一层所有节点的权值和当前节点的阀值还有激活函数来实现
的。具体计算方法如下
其中为激活函数,一般选取S型函数或者线性函数。
正向传递的过程比较简单,按照上述公式计算即可。在BP神经网络中,输入层节点没有阀值。
4. 反向传递子过程
在BP神经网络中,误差信号反向传递子过程比较复杂,它是基于Widrow-Hoff学习规则的。假设输出层
的所有结果为,误差函数如下
而BP神经网络的主要目的是反复修正权值和阀值,使得误差函数值达到最小。Widrow-Hoff学习规则
是通过沿着相对误差平方和的最速下降方向,连续调整网络的权值和阀值,根据梯度下降法,权值矢量
的修正正比于当前位置上E(w,b)的梯度,对于第个输出节点有
假设选择激活函数为
对激活函数求导,得到
那么接下来针对有
其中有
同样对于有
这就是著名的学习规则,通过改变神经元之间的连接权值来减少系统实际输出和期望输出的误差,这个规
则又叫做Widrow-Hoff学习规则或者纠错学习规则。
上面是对隐含层和输出层之间的权值和输出层的阀值计算调整量,而针对输入层和隐含层和隐含层的阀值调
整量的计算更为复杂。假设是输入层第k个节点和隐含层第i个节点之间的权值,那么有
其中有
这样对学习规则理解更为深刻了吧。
有了上述公式,根据梯度下降法,那么对于隐含层和输出层之间的权值和阀值调整如下
而对于输入层和隐含层之间的权值和阀值调整同样有
至此BP神经网络的原理基本讲完。
5. BP神经网络的注意点
BP神经网络一般用于分类或者逼近问题。如果用于分类,则激活函数一般选用Sigmoid函数或者硬极限函
数,如果用于函数逼近,则输出层节点用线性函数,即。
BP神经网络在训练数据时可以采用增量学习或者批量学习。
增量学习要求输入模式要有足够的随机性,对输入模式的噪声比较敏感,即对于剧烈变化的输入模式,训
练效果比较差,适合在线处理。批量学习不存在输入模式次序问题,稳定性好,但是只适合离线处理。
标准BP神经网络的缺陷:
(1)容易形成局部极小值而得不到全局最优值。
BP神经网络中极小值比较多,所以很容易陷入局部极小值,这就要求对初始权值和阀值有要求,要使
得初始权值和阀值随机性足够好,可以多次随机来实现。
(2)训练次数多使得学习效率低,收敛速度慢。
(3)隐含层的选取缺乏理论的指导。
(4)训练时学习新样本有遗忘旧样本的趋势。
BP算法的改进:
(1)增加动量项
引入动量项是为了加速算法收敛,即如下公式
动量因子一般选取。
(2)自适应调节学习率
(3)引入陡度因子
通常BP神经网络在训练之前会对数据归一化处理,即将数据映射到更小的区间内,比如[0,1]或[-1,1]。
6. BP神经网络的C++实现
BP神经网络的C++文件如下
BP.h:
- #ifndef _BP_H_
- #define _BP_H_
- #include <vector>
- #define LAYER 3 //三层神经网络
- #define NUM 10 //每层的最多节点数
- #define A 30.0
- #define B 10.0 //A和B是S型函数的参数
- #define ITERS 1000 //最大训练次数
- #define ETA_W 0.0035 //权值调整率
- #define ETA_B 0.001 //阀值调整率
- #define ERROR 0.002 //单个样本允许的误差
- #define ACCU 0.005 //每次迭代允许的误差
- #define Type double
- #define Vector std::vector
- struct Data
- {
- Vector<Type> x; //输入数据
- Vector<Type> y; //输出数据
- };
- class BP{
- public:
- void GetData(const Vector<Data>);
- void Train();
- Vector<Type> ForeCast(const Vector<Type>);
- private:
- void InitNetWork(); //初始化网络
- void GetNums(); //获取输入、输出和隐含层节点数
- void ForwardTransfer(); //正向传播子过程
- void ReverseTransfer(int); //逆向传播子过程
- void CalcDelta(int); //计算w和b的调整量
- void UpdateNetWork(); //更新权值和阀值
- Type GetError(int); //计算单个样本的误差
- Type GetAccu(); //计算所有样本的精度
- Type Sigmoid(const Type); //计算Sigmoid的值
- private:
- int in_num; //输入层节点数
- int ou_num; //输出层节点数
- int hd_num; //隐含层节点数
- Vector<Data> data; //输入输出数据
- Type w[LAYER][NUM][NUM]; //BP网络的权值
- Type b[LAYER][NUM]; //BP网络节点的阀值
- Type x[LAYER][NUM]; //每个神经元的值经S型函数转化后的输出值,输入层就为原值
- Type d[LAYER][NUM]; //记录delta学习规则中delta的值
- };
- #endif //_BP_H_
BP.cpp:
- #include <string.h>
- #include <stdio.h>
- #include <math.h>
- #include <assert.h>
- #include "BP.h"
- //获取训练所有样本数据
- void BP::GetData(const Vector<Data> _data)
- {
- data = _data;
- }
- //开始进行训练
- void BP::Train()
- {
- printf("Begin to train BP NetWork!\n");
- GetNums();
- InitNetWork();
- int num = data.size();
- for(int iter = 0; iter <= ITERS; iter++)
- {
- for(int cnt = 0; cnt < num; cnt++)
- {
- //第一层输入节点赋值
- for(int i = 0; i < in_num; i++)
- x[0][i] = data.at(cnt).x[i];
- while(1)
- {
- ForwardTransfer();
- if(GetError(cnt) < ERROR) //如果误差比较小,则针对单个样本跳出循环
- break;
- ReverseTransfer(cnt);
- }
- }
- printf("This is the %d th trainning NetWork !\n", iter);
- Type accu = GetAccu();
- printf("All Samples Accuracy is %lf\n", accu);
- if(accu < ACCU) break;
- }
- printf("The BP NetWork train End!\n");
- }
- //根据训练好的网络来预测输出值
- Vector<Type> BP::ForeCast(const Vector<Type> data)
- {
- int n = data.size();
- assert(n == in_num);
- for(int i = 0; i < in_num; i++)
- x[0][i] = data[i];
- ForwardTransfer();
- Vector<Type> v;
- for(int i = 0; i < ou_num; i++)
- v.push_back(x[2][i]);
- return v;
- }
- //获取网络节点数
- void BP::GetNums()
- {
- in_num = data[0].x.size(); //获取输入层节点数
- ou_num = data[0].y.size(); //获取输出层节点数
- hd_num = (int)sqrt((in_num + ou_num) * 1.0) + 5; //获取隐含层节点数
- if(hd_num > NUM) hd_num = NUM; //隐含层数目不能超过最大设置
- }
- //初始化网络
- void BP::InitNetWork()
- {
- memset(w, 0, sizeof(w)); //初始化权值和阀值为0,也可以初始化随机值
- memset(b, 0, sizeof(b));
- }
- //工作信号正向传递子过程
- void BP::ForwardTransfer()
- {
- //计算隐含层各个节点的输出值
- for(int j = 0; j < hd_num; j++)
- {
- Type t = 0;
- for(int i = 0; i < in_num; i++)
- t += w[1][i][j] * x[0][i];
- t += b[1][j];
- x[1][j] = Sigmoid(t);
- }
- //计算输出层各节点的输出值
- for(int j = 0; j < ou_num; j++)
- {
- Type t = 0;
- for(int i = 0; i < hd_num; i++)
- t += w[2][i][j] * x[1][i];
- t += b[2][j];
- x[2][j] = Sigmoid(t);
- }
- }
- //计算单个样本的误差
- Type BP::GetError(int cnt)
- {
- Type ans = 0;
- for(int i = 0; i < ou_num; i++)
- ans += 0.5 * (x[2][i] - data.at(cnt).y[i]) * (x[2][i] - data.at(cnt).y[i]);
- return ans;
- }
- //误差信号反向传递子过程
- void BP::ReverseTransfer(int cnt)
- {
- CalcDelta(cnt);
- UpdateNetWork();
- }
- //计算所有样本的精度
- Type BP::GetAccu()
- {
- Type ans = 0;
- int num = data.size();
- for(int i = 0; i < num; i++)
- {
- int m = data.at(i).x.size();
- for(int j = 0; j < m; j++)
- x[0][j] = data.at(i).x[j];
- ForwardTransfer();
- int n = data.at(i).y.size();
- for(int j = 0; j < n; j++)
- ans += 0.5 * (x[2][j] - data.at(i).y[j]) * (x[2][j] - data.at(i).y[j]);
- }
- return ans / num;
- }
- //计算调整量
- void BP::CalcDelta(int cnt)
- {
- //计算输出层的delta值
- for(int i = 0; i < ou_num; i++)
- d[2][i] = (x[2][i] - data.at(cnt).y[i]) * x[2][i] * (A - x[2][i]) / (A * B);
- //计算隐含层的delta值
- for(int i = 0; i < hd_num; i++)
- {
- Type t = 0;
- for(int j = 0; j < ou_num; j++)
- t += w[2][i][j] * d[2][j];
- d[1][i] = t * x[1][i] * (A - x[1][i]) / (A * B);
- }
- }
- //根据计算出的调整量对BP网络进行调整
- void BP::UpdateNetWork()
- {
- //隐含层和输出层之间权值和阀值调整
- for(int i = 0; i < hd_num; i++)
- {
- for(int j = 0; j < ou_num; j++)
- w[2][i][j] -= ETA_W * d[2][j] * x[1][i];
- }
- for(int i = 0; i < ou_num; i++)
- b[2][i] -= ETA_B * d[2][i];
- //输入层和隐含层之间权值和阀值调整
- for(int i = 0; i < in_num; i++)
- {
- for(int j = 0; j < hd_num; j++)
- w[1][i][j] -= ETA_W * d[1][j] * x[0][i];
- }
- for(int i = 0; i < hd_num; i++)
- b[1][i] -= ETA_B * d[1][i];
- }
- //计算Sigmoid函数的值
- Type BP::Sigmoid(const Type x)
- {
- return A / (1 + exp(-x / B));
- }
Test.cpp:
- #include <iostream>
- #include <string.h>
- #include <stdio.h>
- #include "BP.h"
- using namespace std;
- double sample[41][4]=
- {
- {0,0,0,0},
- {5,1,4,19.020},
- {5,3,3,14.150},
- {5,5,2,14.360},
- {5,3,3,14.150},
- {5,3,2,15.390},
- {5,3,2,15.390},
- {5,5,1,19.680},
- {5,1,2,21.060},
- {5,3,3,14.150},
- {5,5,4,12.680},
- {5,5,2,14.360},
- {5,1,3,19.610},
- {5,3,4,13.650},
- {5,5,5,12.430},
- {5,1,4,19.020},
- {5,1,4,19.020},
- {5,3,5,13.390},
- {5,5,4,12.680},
- {5,1,3,19.610},
- {5,3,2,15.390},
- {1,3,1,11.110},
- {1,5,2,6.521},
- {1,1,3,10.190},
- {1,3,4,6.043},
- {1,5,5,5.242},
- {1,5,3,5.724},
- {1,1,4,9.766},
- {1,3,5,5.870},
- {1,5,4,5.406},
- {1,1,3,10.190},
- {1,1,5,9.545},
- {1,3,4,6.043},
- {1,5,3,5.724},
- {1,1,2,11.250},
- {1,3,1,11.110},
- {1,3,3,6.380},
- {1,5,2,6.521},
- {1,1,1,16.000},
- {1,3,2,7.219},
- {1,5,3,5.724}
- };
- int main()
- {
- Vector<Data> data;
- for(int i = 0; i < 41; i++)
- {
- Data t;
- for(int j = 0; j < 3; j++)
- t.x.push_back(sample[i][j]);
- t.y.push_back(sample[i][3]);
- data.push_back(t);
- }
- BP *bp = new BP();
- bp->GetData(data);
- bp->Train();
- while(1)
- {
- Vector<Type> in;
- for(int i = 0; i < 3; i++)
- {
- Type v;
- scanf("%lf", &v);
- in.push_back(v);
- }
- Vector<Type> ou;
- ou = bp->ForeCast(in);
- printf("%lf\n", ou[0]);
- }
- return 0;
- }
Makefile:
- Test : BP.h BP.cpp Test.cpp
- g++ BP.cpp Test.cpp -o Test
- clean:
- rm Test
深度学习入门:一文详解BP神经网络相关推荐
- 【深度学习】一文详解RNN及股票预测实战(Python)!
循环神经网络(RNN)是基于序列数据(如语言.语音.时间序列)的递归性质而设计的,是一种反馈类型的神经网络,其结构包含环和自重复,因此被称为"循环".它专门用于处理序列数据,如逐字 ...
- 机器学习,深度学习基础算法原理详解(图的搜索、交叉验证、PAC框架、VC-维(持续更新))
机器学习,深度学习基础算法原理详解(图的搜索.交叉验证.PAC框架.VC-维.支持向量机.核方法(持续更新)) 机器学习,深度学习基础算法原理详解(数据结构部分(持续更新)) 文章目录 1. 图的搜索 ...
- 深度学习网络模型——RepVGG网络详解、RepVGG网络训练花分类数据集整体项目实现
深度学习网络模型--RepVGG网络详解.RepVGG网络训练花分类数据集整体项目实现 0 前言 1 RepVGG Block详解 2 结构重参数化 2.1 融合Conv2d和BN 2.2 Conv2 ...
- 深度学习网络模型——Vision Transformer详解 VIT详解
深度学习网络模型--Vision Transformer详解 VIT详解 通用深度学习网络效果改进调参训练公司自己的数据集,训练步骤记录: 代码实现version-Transformer网络各个流程, ...
- 深度学习入门笔记(五):神经网络的学习
专栏--深度学习入门笔记 推荐文章 深度学习入门笔记(一):机器学习基础 深度学习入门笔记(二):神经网络基础 深度学习入门笔记(三):感知机 深度学习入门笔记(四):神经网络 深度学习入门笔记(五) ...
- 深度学习入门笔记(四):神经网络
专栏--深度学习入门笔记 推荐文章 深度学习入门笔记(一):机器学习基础 深度学习入门笔记(二):神经网络基础 深度学习入门笔记(三):感知机 深度学习入门笔记(四):神经网络 深度学习入门笔记(五) ...
- 深度学习入门笔记(二):神经网络基础
欢迎关注WX公众号:[程序员管小亮] 专栏--深度学习入门笔记 声明 1)该文章整理自网上的大牛和机器学习专家无私奉献的资料,具体引用的资料请看参考文献. 2)本文仅供学术交流,非商用.所以每一部分具 ...
- 深度学习入门笔记(五):神经网络的编程基础
欢迎关注WX公众号:[程序员管小亮] 专栏--深度学习入门笔记 声明 1)该文章整理自网上的大牛和机器学习专家无私奉献的资料,具体引用的资料请看参考文献. 2)本文仅供学术交流,非商用.所以每一部分具 ...
- 深度学习入门(三十一)卷积神经网络——GoogLeNet
深度学习入门(三十一)卷积神经网络--GoogLeNet 前言 卷积神经网络--GoogLeNet 课件 最好的卷积层超参数? Inception:全都要 Inception块 GoogLeNet 段 ...
- 深度学习入门(三十三)卷积神经网络——ResNet
深度学习入门(三十三)卷积神经网络--ResNet 前言 卷积神经网络--ResNet 课件 加更多的层总是改进精度吗? 残差块 ResNet块细节 不同的残差块 ResNet块 ResNet架构 总 ...
最新文章
- python-pcl官网 应用、特征、过滤Filter教程翻译
- 计算机基础知识的最小集合
- 如何利用CNKI句子检索功能提高研究效率
- 如何处理扎堆而至的工作任务?
- mysql主从配置常见问题_mysql 主从复制配置,以及常见问题解决!
- mysql 高版本检索外键_第05期:外键到底能不能用?
- 工作290:js日期操作
- 100台CentOS7要升级OpenSSH怎么办?
- js工作笔记002---检测当前是不是触摸设备(移动设备)
- 播放内核的“瘦身”,你只需要这样做!
- Django之form组件加cookie,session
- Leetcode 30.串联所有单词的子串
- jQuery实现页面元素置顶时悬浮
- OpenResty无损升级内嵌nginx版本0DAY漏洞
- 修补计算机漏洞重启,win7系统出现严重的系统漏洞如何修复
- WIN10鼠标乱跳问题解决办法
- Rank Scores(分数排序)
- Android 播放器之流媒体,边下边播如此简单。
- 视频|《8问》浙江大学张宏鑫:边缘计算或许是区块链的福音
- JavaScript实现的简单烟花特效代码1.15
热门文章
- UGUI Auto Layout 自动布局
- 夺命雷公狗---无限级分类NO2
- 【转载】Android通过ksoap2调用.net(c#)的webservice
- 游戏设计亦或课件设计
- QT添加资源和样式表(设计窗口背景图)
- C++编程语言中创建类的对象(类的初始化)的方法
- Solr 05 - Solr Web管理界面的基本使用
- 我的代码库-Java8实现FTP与SFTP文件上传下载
- Linux下计算进程的CPU占用和内存占用的编程方法[转]
- 中介者模式(Mediator) 笔记