三层BP神经网络Python代码实现

数据集使用iris数据集

# 开发时间：2021/11/5 15:07
import numpy as np
import math
import random
import string
import matplotlib as mpl
import matplotlib.pyplot as plt
import pandas
from pandas import read_csv
from sklearn.preprocessing import LabelEncoder             # 编码
from sklearn.model_selection import train_test_split# 导入数据
iris = pandas.read_csv('http://archive.ics.uci.edu/ml/machine-learning-databases/iris/iris.data', header=None)
iris.columns=['SepalLengthCm', 'SepalWidthCm', 'PetalLengthCm', 'PetalWidthCm', 'Species']size_mapping = {'Iris-virginica': 2,            # 001'Iris-versicolor': 1,           # 010'Iris-setosa': 0}               # 100
iris['Species'] = iris['Species'].map(size_mapping)
arrary = iris.valuesa = arrary[:100, :]
b = arrary[100:, :]
c = arrary[:100, 4]# 独热编码
def onehot(targets, num_out):onehot = np.zeros((num_out, targets.shape[0]))for idx, val in enumerate(targets.astype(int)):onehot[val, idx] = 1.return onehot.T# 生成一个矩阵，大小为m*n,并且设置默认零矩阵
def makematrix(m, n, fill=0.0):a = []for i in range(m):a.append([fill] * n)return a# 函数sigmoid(),采用tanh，
def sigmoid(x):return math.tanh(x)# 函数sigmoid的派生函数
def derived_sigmoid(x):return 1.0 - x ** 2class BPNN:def __init__(self, num_in, num_hidden, num_out):self.num_in = num_in+1self.num_hidden = num_hidden+1self.num_out = num_outself.active_in = [1.0] * self.num_inself.active_hidden = [1.0] * self.num_hiddenself.active_out = [1.0] * self.num_outself.wight_in = makematrix(self.num_in, self.num_hidden)self.wight_out = makematrix(self.num_hidden, self.num_out)# 对权值矩阵赋初值for i in range(self.num_in):for j in range(self.num_hidden):self.wight_in[i][j] = np.random.normal(0.0, pow(self.num_hidden,-0.5))  # 5x4 输出num_in行,num_hidden列权重矩阵，随机生成满足正态分布的权重for i in range(self.num_hidden):for j in range(self.num_out):self.wight_out[i][j] = np.random.normal(0.0, pow(self.num_out, -0.5))# 最后建立动量因子（矩阵）self.ci = makematrix(self.num_in, self.num_hidden)self.co = makematrix(self.num_hidden, self.num_out)def update(self, inputs):if len(inputs) != self.num_in - 1:raise ValueError('与输入层节点数不符')# 数据输入输入层for i in range(self.num_in - 1):# self.active_in[i] = sigmoid(inputs[i])  #或者先在输入层进行数据处理self.active_in[i] = inputs[i]  # active_in[]是输入数据的矩阵# 数据在隐藏层的处理for i in range(self.num_hidden-1):sum = 0.0for j in range(self.num_in):sum = sum + self.active_in[j] * self.wight_in[j][i]self.active_hidden[i] = sigmoid(sum)  # active_hidden[]是处理完输入数据之后存储，作为输出层的输入数据# 数据在输出层的处理for i in range(self.num_out):sum = 0.0for j in range(self.num_hidden):sum = sum + self.active_hidden[j] * self.wight_out[j][i]self.active_out[i] = sigmoid(sum)return self.active_out[:]def errorbackpropagate(self, targets, lr, m):  # lr是学习率， m是动量因子if len(targets) != self.num_out:raise ValueError('与输出层节点数不符！')# 首先计算输出层的误差out_deltas = [0.0] * self.num_outfor i in range(self.num_out):error = targets[i] - self.active_out[i]out_deltas[i] = derived_sigmoid(self.active_out[i]) * error# 然后计算隐藏层误差hidden_deltas = [0.0] * self.num_hiddenfor i in range(self.num_hidden):error = 0.0for j in range(self.num_out):error = error + out_deltas[j] * self.wight_out[i][j]hidden_deltas[i] = derived_sigmoid(self.active_hidden[i]) * error# 首先更新输出层权值for i in range(self.num_hidden):for j in range(self.num_out):change = out_deltas[j] * self.active_hidden[i]self.wight_out[i][j] = self.wight_out[i][j] + lr * change + m * self.co[i][j]self.co[i][j] = change# 然后更新输入层权值for i in range(self.num_in):for j in range(self.num_hidden):change = hidden_deltas[j] * self.active_in[i]self.wight_in[i][j] = self.wight_in[i][j] + lr * change + m * self.ci[i][j]self.ci[i][j] = change# 计算总误差error = 0.0for i in range(self.num_out):error = error + 0.5 * (targets[i] - self.active_out[i]) ** 2return errordef train(self, a, itera=1000, lr=0.1, m=0.1):for i in range(itera):error = 0.0for j in range(100):inputs = a[j, 0:4]d = onehot(c, self.num_out)targets = d[j, :]self.update(inputs)error = error + self.errorbackpropagate(targets, lr, m)if i % 100 == 0:print('误差 %-.5f' % error)def test(self, b):for i in range(b.shape[0]):print(b[i, 0:4], '->', self.update(b[i, 0:4]))# 权重def weights(self):print("输入层权重")for i in range(self.num_in):print(self.wight_in[i])print("输出层权重")for i in range(self.num_hidden):print(self.wight_out[i])def Mytrain():a = iris.values# 创建神经网络，4个输入节点，X个隐藏层节点，1个输出层节点n = BPNN(4, 8, 3)# 训练神经网络n.train(a)n.weights()n.test(b)if __name__ == '__main__':Mytrain()

三层BP神经网络Python代码实现相关推荐

BP神经网络python代码详细解答（来自原文翻译）
翻译如下 ** <font color=black size=6.5> 在 SCRATCH采用python 上实现一种神经网络 ** 注: Scratch是一款由麻省理工学 ...
BP神经网络python代码实现#超详细-小白快速入门
注释为当前行的注释或者是下一行的注释. import numpy as np#科学计算的基础包# 定义sigmoid函数及其求导,deriv=False时进行前向传播的运算,deriv=True进行反 ...
Python实现三层BP神经网络
题外话看论文,仿真实现,最基本的能力!研一的时候定要多看看论文,提升自己的代码能力! 引言本篇博客默认读者有一定的BP神经网络的基础,BP神经网络的基本知识就不阐述了! BP神经网络结构本文内容 ...
机器学习系列2 BP神经网络＋代码实现
神经网络简单的说,就是用一种层次化的方式将一堆简单的函数在顶层堆叠在一起,形成一个复杂的非线性函数,以此表达输入与输出之间的关系. 本文结构: 1.介绍构成神经网络的基本单元:神经元 2.介绍三层神经 ...
三层BP神经网络公式推导及C语言实现
公式推导三层BP神经网络如上图所示.其中, x i x_i xi表示第 i i i个输入层节点的输入值,也是其输出值, z j z_j zj表示第 j j j个隐藏层节点的输出值, y k ...
基于三层BP神经网络的人脸识别
实验四.基于三层BP神经网络的人脸识别一. 实验要求采用三层前馈BP神经网络实现标准人脸YALE数据库的识别,编程语言为C系列语言. 二.BP神经网络的结构和学习算法实验中建议采用如下最简单的三 ...
gwo算法matlab源代码,智能优化算法应用：基于GWO优化BP神经网络 - 附代码
智能优化算法应用:基于GWO优化BP神经网络 - 附代码智能优化算法应用:基于GWO优化BP神经网络 - 附代码智能优化算法应用:基于GWO优化BP神经网络文章目录智能优化算法应用:基于GWO优 ...
模式识别八--三层BP神经网络的设计与实现
文章转自:http://www.kancloud.cn/digest/prandmethod/102850 本文的目的是学习和掌握BP神经网络的原理及其学习算法.在MATLAB平台上编程构造一个3-3 ...
模式识别：三层BP神经网络的设计与实现
本文的目的是学习和掌握BP神经网络的原理及其学习算法.在MATLAB平台上编程构造一个3-3-1型的singmoid人工神经网络,并使用随机反向传播算法和成批反向传播算法来训练这个网络,这里设置不同的 ...
BP神经网络python实现
BP神经网络python实现总体布局函数构建网络前馈的一个过程更新 w , b w,b w,b 进行测试数据读取 m a i n main main函数数据集总体布局函数 S i g ...

三层BP神经网络Python代码实现

三层BP神经网络Python代码实现相关推荐

最新文章

热门文章