机器学习(一):BP神经网络(含代码及注释)
目录
- 人工神经网络
- 神经网络分类
- BP神经网络
- 代码实现
人工神经网络
人们利用数学模型来模仿生物神经元传递信息以及做出决策等等。
下图神经网络数学模型可以等效为输入矩阵X与系数矩阵W相乘并加上偏置项求和,并利用激活函数 f() 进行映射,从而得到输出。其中,系数矩阵W和偏置项是需要我们利用训练集数据进行调整优化,使得整个网络能完成特定任务。
神经网络分类
- 按照连接方式,可以分为:前向神经网络 和 反馈(递归)神经网络
- 按照学习方式,可以分为:有监督学习神经网络 和 无监督学习神经网络
- 按照实现功能,可以分为:拟合(回归)神经网络 和 分类神经网络
BP神经网络
BP神经网络时人工神经网络的一种,属于有监督学习,主要流程:
- 准备数据集,搭建网络模型,参数初始化
- 正向传播,计算结点输出值
- 反向传播,计算每个结点误差,调整权值参数
- 直至网络收敛到规定值
正向传播:
反向传播,计算误差
调整权值W ------> W’
代码实现
利用MATLAB代码(含详细注释)实现BP神经网络,其中最为核心的就是newff()函数,大家可以看看源码(在命令执行窗口中输入edit newff),其实就是上述流程的数学推导计算:
% I. 清空环境变量
clear all
clc% II. 训练集/测试集产生
% 1. 导入数据集,可以替换为自己的数据集
load spectra_data.mat% 2. 随机产生训练集和测试集
temp = randperm(size(NIR,1));
% 训练集——50个样本,P为输入数据,T为对应输入数据的输出结果
P_train = NIR(temp(1:50),:)';
T_train = octane(temp(1:50),:)';
% 测试集——10个样本
P_test = NIR(temp(51:end),:)';
T_test = octane(temp(51:end),:)';
N = size(P_test,2);% III. 数据归一化
[p_train, ps_input] = mapminmax(P_train,0,1);
p_test = mapminmax('apply',P_test,ps_input);[t_train, ps_output] = mapminmax(T_train,0,1);% IV. BP神经网络创建、训练及仿真测试
% 1. 创建网络,[9,9]意思为网络含有两个隐藏层,每层有9个单元
net = newff(p_train,t_train,[9,9]);% 2. 设置训练参数
net.trainParam.epochs = 1000;%训练批次
net.trainParam.goal = 1e-12;%训练目标,误差小于1e-12即结束训练
net.trainParam.lr = 0.01;%设置学习率
%另外也可以设置其他训练参数,可看newff()函数介绍手册% 3. 训练网络
net = train(net,p_train,t_train);% 4. 仿真测试
t_sim = sim(net,p_test);% 5. 数据反归一化
T_sim = mapminmax('reverse',t_sim,ps_output);% V. 性能评价
% 1. 相对误差error
error = abs(T_sim - T_test)./T_test;% 2. 决定系数R^2
R2 = (N * sum(T_sim .* T_test) - sum(T_sim) * sum(T_test))^2 / ((N * sum((T_sim).^2) - (sum(T_sim))^2) * (N * sum((T_test).^2) - (sum(T_test))^2)); % 3. 结果对比
result = [T_test' T_sim' error']% VI. 绘图
figure
plot(1:N,T_test,'b:*',1:N,T_sim,'r-o')
legend('真实值','预测值')
xlabel('预测样本')
ylabel('xxxx')
string = {'xxxxxx预测结果对比';['R^2=' num2str(R2)]};
title(string)
这是matlab中建立的网络模型简图
结果图:
机器学习(一):BP神经网络(含代码及注释)相关推荐
- gwo算法matlab源代码,智能优化算法应用:基于GWO优化BP神经网络 - 附代码
智能优化算法应用:基于GWO优化BP神经网络 - 附代码 智能优化算法应用:基于GWO优化BP神经网络 - 附代码 智能优化算法应用:基于GWO优化BP神经网络 文章目录智能优化算法应用:基于GWO优 ...
- 机器学习系列2 BP神经网络+代码实现
神经网络简单的说,就是用一种层次化的方式将一堆简单的函数在顶层堆叠在一起,形成一个复杂的非线性函数,以此表达输入与输出之间的关系. 本文结构: 1.介绍构成神经网络的基本单元:神经元 2.介绍三层神经 ...
- BP神经网络python代码详细解答(来自原文翻译)
翻译如下 ** <font color=black size=6.5> 在 SCRATCH采用python 上实现一种神经网络 ** 注: Scratch是一款由麻省理工学 ...
- C++实现的BP神经网络(代码与详解)
前言:本文为原创 若有错误欢迎评论! 描述部分 什么是BP神经网络 这个百度比较多就不赘述了 在看到我的文章前一定也看了不少了! 开篇先说几点 本文参考了博客"https://blog.cs ...
- 机器学习:BP神经网络,CNN卷积神经网络,GAN生成对抗网络
1,基础知识 1.1,概述 机器学习:概念_燕双嘤-CSDN博客1,机器学习概述1.1,机器学习概念机器学习即Machine Learning,涉及概率论.统计学.逼近论.凸分析.算法复杂度理论等多门 ...
- 吴恩达机器学习中BP神经网络算法公式的详细推导
Andrew Ng在他的机器学习课程中讲述bp神经网络时,并没有深究这算法背后的推导过程,只是给了我们一个大体的执行步骤,实现了这个算法但却不知道这个算法背后的原理是件很痛苦的事.在看了知乎.cs ...
- 深度学习-BP神经网络(python3代码实现)
BP神经网络 哈尔滨工程大学-537 一.试验数据 在试验开始前必定要先导入所需要的python库,%matplotlib inline是为了使绘制的图形能够显示在浏览器上. import numpy ...
- BP神经网络+c代码
BP神经网络的设计应注意以下几个问题: 1. 网络的层数.一般三层网络结构就可以逼近任何有理函数.增加网络层数虽然可以提高计算精度,减少误差,但也使得网络复杂化,增加网络训练时间.如果实在想增加层数 ...
- python生成6位验证码随机数,需包含英文字母大写、小写和数字(含代码和注释)
具体见代码和注释: def get_code():code_list = []# for i in range(10): # 0~9for i in range(48,57): #ASCII表示的数字 ...
最新文章
- Spring Cloud构建微服务架构:消息驱动的微服务(消费分区)【Dalston版】
- webpack5--css 打包
- bs4 python解析html
- DCMTK:测试衍生图像FG类
- 27_多线程_第27天(线程安全、线程同步、等待唤醒机制、单例设计模式)_讲义...
- 使用VNC访问Linux桌面
- ctypes python_Python使用Ctypes与C/C++
- 不均衡数据的处理方法
- Spring Cloud构建微服务架构-Hystrix监控面板
- PowerDesigner从数据库导入
- 浪潮ai服务器最新数据,浪潮发布的最新AI服务器,将GPU资源利用率提升至前所未有的水平...
- oracle undo seg,正确切换undo
- Java线程的5种状态及切换(透彻讲解)-京东面试
- EDA技术实用教程 | 复习九 | 数据选择器的行为级描述
- php 背景图片缩放,PHP按原比率缩小图片并保留透明背景
- 概率密度函数曲线及绘制
- JavaScript中的随机数--随机点名器
- 何为ISM频段?ISM频段主要频率有哪些? 1
- 幕后产品_版本控制:幕后
- hmmlearn使用简介