机器学习——BP神经网络详细介绍及案例Python代码实现
哒哒!来咯!来喽!
BP(Back Propagation)称误差反向传播,1985年由Rumelhart 和 McCelland提出。神经元函数如图:
(一)、举个通俗易懂的例子:假如,我说的是假如喔,我拥有N个亿,那肯定不用说了,我的N肯定是极限中lim下的正无穷啦!我要进行投资给五个公司,投给每个公司的权重分别为w1、w2、w3、w4、w5,而每个公司我的收益是不同的分别为:m1、m2、m3、m4、m5,最后我的总收益为:
那么问题来了,神经网络可以这么表示(如下图):
(二)、反向传播
学过Java想必大家都会编写猜数小游戏,你设定一个数,限制猜这个数的次数,比如:我设定数字为66,第一次你猜33,我说小了。对于我的信息反馈就是反向传播 ,你说的信息是正向传播。从这里你是否可以感觉这个反向传播,是不是很像测量值与真实值之间的误差信息。
(三)、激活函数——需要用一个非线性函数,将线性分量用于输入。需要通过将激活函数应用于线性组合来完成。激活函数将输入信号转换为输出信号。应用激活函数后的输出为f(a⋅W1+b))f(a⋅W1+b)),其中f()就是激活函数。
Sigmoid——最常用的激活函数之一,它被定义为 :
Sigmoid变换呈现出值域为[0,1]的S型生长曲线。如果你需要观察在输入变化极小的情况下,输出值的变化,此时Sigmoid函数优于阶跃函数。
(四)BP神经网络
从上图我们看到了,神经元函数的构造:我们发现了激活函数,激活函数就是在隐藏层中发挥着作用,当我们利用神经网络做回归的时候最后一列的隐层不含有激活函数,激活函数的作用就是非线性组合,也不知道大家会不会理解,那就再画个简单的图(这个里面没有添加偏置项b在架构网络的时候大家可以设定):
所以在我们进行建模竞赛的时候 ,对于多变量的关系可以采取拟合或者线性回归。
那么BP神经网络的反向在哪里呢?
在我们进行权值计算的时候,我们得到的结果还可以和真实值进行对比也就是损失函数(loss)。
损失函数(loss)——建立一个网络时,为了将结果预测得尽可能靠近实际值。我们使用损失函数来衡量网络的准确,而损失函数会在发生错误时尝试惩罚网络。运行网络的目标是提高预测精度并减少误差,从而最大限度地降低成本。最优化的输出是那些成本或损失函数值最小的输出。
正向传播就是:我们通过输入让信息从输入层进入神经网络。
不知道会不会有人和我有一样的问题:它求不出来表达式,那可以干嘛呢?可以预测呀,很重要的!
(五)、房价预测实例
1.数据集:
2.代码(和前面博文的步骤一样,只是不同在函数的调用)
from sklearn.datasets import load_boston
import numpy as np
import pandas as pd
data=pd.read_csv('./data_picture/chapter1/boston_house_prices.csv')
data.head()
from sklearn.model_selection import train_test_split
X=data.drop('MEDV',axis=1)
y=data['MEDV']
X=X.values
y=y.values
X_train,X_test,y_train,y_test=train_test_split(X,y,random_state=33,test_size=0.25)
from sklearn.preprocessing import StandardScaler
ss_X=StandardScaler()
scaler_X=ss_X.fit(X_train)
X_train=scaler_X.transform(X_train)
X_test=scaler_X.transform(X_test)
from sklearn.neural_network import MLPRegressor
model = MLPRegressor(solver='lbfgs', hidden_layer_sizes=(15,15), random_state=1)
model.fit(X_train, y_train)
from sklearn.metrics import r2_score,mean_squared_error,mean_absolute_error
print('训练集回归评估指标:')
model_score1=model.score(X_train,y_train)
print('The accuracy of train data is',model_score1)
print('测试集回归评估指标:')
model_score2=model.score(X_test,y_test)
print('The accuracy of test data is',model_score2)
y_test_predict=model.predict(X_test)
mse=mean_squared_error(y_test,y_test_predict)
print('The value of mean_squared_error:',mse)
mae=mean_absolute_error(y_test,y_test_predict)
print('The value of mean_absolute_error:',mae)
结果:
3.新的数据进行预测:
new_data=np.array([[0.22489,12.5,7.87,0,0.524,6.377,94.3,6.3467, 5.,311,15.2,392.52,20.45],[0.3489,11.5,7.7,0,0.526,6.477,94.3,16.3467, 5.,313,15.2,392.55,20.45]])
X_new=scaler_X.transform(new_data) #标准化
y_new=model.predict(X_new) #预测
print(y_new)
结果:
房价预测范围。
机器学习——BP神经网络详细介绍及案例Python代码实现相关推荐
- 训练三层BP神经网络实现异或运算 Python 代码实现
本文主要使用下面的网络结构来完成 异或运算 异或运算 : 0^0 = 0, 1^0 = 1, 0^1 = 1, 1^1 = 0 . 上图的公式推导可以参考博文: 三层神经网络前向后向传播示意图 imp ...
- 联邦学习算法介绍-FedAvg详细案例-Python代码获取
联邦学习算法介绍-FedAvg详细案例-Python代码获取 一.联邦学习系统框架 二.联邦平均算法(FedAvg) 三.联邦随梯度下降算法 (FedSGD) 四.差分隐私随联邦梯度下降算法 (DP- ...
- puppet成长日记二 Package资源详细介绍及案例分析
puppet成长日记二 Package资源详细介绍及案例分析 一.系统环境 1.puppet服务端 Release:RHEL6.4 HOSTNAME: puppetserver.rsyslog.org ...
- 机器学习常用的六种分类方法,Python代码详细都在这里!
机器学习常用的六种分类方法,Python代码详细都在这里! 六种常用分类方法包括两种线性分类及四种非线性分类法,分别是: 一.线性判别分析 from sklearn.model_selection i ...
- 基于头脑风暴优化的BP神经网络(预测应用) - 附代码
基于头脑风暴优化的BP神经网络(预测应用) - 附代码 文章目录 基于头脑风暴优化的BP神经网络(预测应用) - 附代码 1.数据介绍 3.BSO优化BP神经网络 3.1 BP神经网络参数设置 3.2 ...
- 基于布谷鸟优化的BP神经网络(预测应用) - 附代码
基于布谷鸟优化的BP神经网络(预测应用) - 附代码 文章目录 基于布谷鸟优化的BP神经网络(预测应用) - 附代码 1.数据介绍 3.CS优化BP神经网络 3.1 BP神经网络参数设置 3.2 布谷 ...
- 基于鸟群优化的BP神经网络(预测应用) - 附代码
基于鸟群优化的BP神经网络(预测应用) - 附代码 文章目录 基于鸟群优化的BP神经网络(预测应用) - 附代码 1.数据介绍 3.BSA优化BP神经网络 3.1 BP神经网络参数设置 3.2 鸟群算 ...
- Python代码写好了怎么运行?为大家详细讲讲如何运行Python代码
Python代码写好了怎么运行?相信问这样问题的朋友一定是刚刚入门Python的初学者.本文就来为大家详细讲讲如何运行Python代码.一般来讲,运行Python代码的方式有两种,一是在Python交 ...
- ACO蚁群算法优化BP神经网络(ACO-BPNN)回归预测MATLAB代码(有优化前后的对比)
ACO蚁群算法优化BP神经网络(ACO-BPNN)回归预测MATLAB代码(有优化前后的对比) 代码注释清楚. main为运行主程序,可以读取本地EXCEL数据. 很方便,容易上手. (以电厂运行数据 ...
最新文章
- 智能制造-逆向工程-三维测量-标定
- php与nginx链接,Nginx与PHP的交互
- ffpemg扩展 安装php_ThinkSwoole 教程(二)安装
- python使用笔记:pyautogui自动化控制鼠标和键盘
- python注册人工智能专业_从专业程度上分析Python和人工智能(AI) 它们如何相关?...
- 巧用事件查看器维护服务器安全
- 单例模式---懒汉模式与饿汉模式
- 清爽娱乐网系统源码 v5.69
- cooleditpro批量加速文件_Python玩转阿里云OSS对象存储,批量转存markdown和html图片
- 爱克发胶片_AGFA爱克发C7工业X射线胶片 工业胶片(图)
- Html中 发光字体 的CSS属性
- 【小技巧】H5禁止手机虚拟键盘弹出
- Spartan6系列之SelectIO---IOB深入详解
- 显著性检测2018(ECCV, CVPR)【part-1】
- 请输入星期几的第一个字母来判断一下是星期几
- 快速分区MBR和GUID的区别
- 2022年商标注册需要多长时间?
- FPGA学习笔记【FPGA原理与结构】
- 入门电机系列之1认识电机
- 2019 区块链数据报告:广东省拥有全国最多的区块链公司;中国至亚洲在出块方面表现均比欧洲强...
热门文章
- 按要求编写一个Java应用程序:(1)编写一个矩形类Rect,包含:两个属性...2、定义一个接口Shape,包括计算图形面积(getArea)和周长(getcir)...
- 阿里云服务器价格,阿里云轻量应用服务器最新价格表
- 李克勤爱不释手歌词解析
- 印度小胖告诉你,计算机专业想去银行,你的简历应该是什么样子?
- 十个适合壁纸动漫的网站,知乎超100万人知道,以后壁纸不求人
- vue-cli3.0 vue打包部署非根目录时,静态资源图片路径错误
- ​5G黄金频段浮出水面!以后买手机得注意这个细节
- 金行健:小米汽车经理级工程师薪酬曝光,年薪60万配100万期权
- 智见 | 海底捞CTO周浩运:数字化转型最大的难点是思维的转变
- Texers的几何画板——tkz-euclide作图教程