用Python从头实现一个神经网络
用Python从头实现神经网络
实在是觉得LaTeX编译出来的公式太好看了,所以翻译了一下,原文地址:
Machine Learning for Beginners: An Introduction to Neural Networks - victorzhou.comvictorzhou.com/blog/intro-to-neural-networks/正在上传…重新上传取消
有个事情可能会让初学者惊讶:神经网络并不复杂!『神经网络』这个词让人觉得很高大上,但实际上神经网络算法要比人们想象的简单。
这篇文章完全是为新手准备的。我们会通过用Python从头实现一个神经网络来理解神经网络的原理。
开工!
砖块:神经元
首先让我们看看神经网络的基本单位,神经元。神经元接受输入,对其做一些数据操作,然后产生输出。例如,这是一个2-输入神经元:
这里发生了三个事情。首先,每个输入都跟一个权重相乘(红色):
然后,加权后的输入求和,加上一个偏差b(绿色):
最后,这个结果传递给一个激活函数f:
激活函数的用途是将一个无边界的输入,转变成一个可预测的形式。常用的激活函数就就是S型函数:
S型函数的值域是(0, 1)。简单来说,就是把(−∞, +∞)压缩到(0, 1) ,很大的负数约等于0,很大的正数约等于1。
一个简单的例子
假设我们有一个神经元,激活函数就是S型函数,其参数如下:
w=[0, 1] 就是以向量的形式表示w_1=0, w_2=1。现在,我们给这个神经元一个输入x=[2, 3]。我们用点积来表示:
当输入是[2, 3]时,这个神经元的输出是0.999。给定输入,得到输出的过程被称为前馈(feedforward)。
编码一个神经元
让我们来实现一个神经元!用Python的NumPy库来完成其中的数学计算:
import numpy as npdef sigmoid(x):# Our activation function: f(x) = 1 / (1 + e^(-x))return 1 / (1 + np.exp(-x))class Neuron:def __init__(self, weights, bias):self.weights = weightsself.bias = biasdef feedforward(self, inputs):# Weight inputs, add bias, then use the activation functiontotal = np.dot(self.weights, inputs) + self.biasreturn sigmoid(total)weights = np.array([0, 1]) # w1 = 0, w2 = 1
bias = 4 # b = 4
n = Neuron(weights, bias)x = np.array([2, 3]) # x1 = 2, x2 = 3
print(n.feedforward(x)) # 0.9990889488055994
还记得这个数字吗?就是我们前面算出来的例子中的0.999。
把神经元组装成网络
所谓的神经网络就是一堆神经元。这就是一个简单的神经网络:
这个网络有两个输入,一个有两个神经元( 和 )的隐藏层,以及一个有一个神经元( )的输出层。要注意, 的输入就是 和 的输出,这样就组成了一个网络。
隐藏层就是输入层和输出层之间的层,隐藏层可以是多层的。
例子:前馈
我们继续用前面图中的网络,假设每个神经元的权重都是 ,截距项也相同 ,激活函数也都是S型函数。分别用 表示相应的神经元的输出。
当输入 时,会得到什么结果?
这个神经网络对输入[2,3]的输出是0.7216,很简单。
一个神经网络的层数以及每一层中的神经元数量都是任意的。基本逻辑都一样:输入在神经网络中向前传输,最终得到输出。接下来,我们会继续使用前面的这个网络。
编码神经网络:前馈
接下来我们实现这个神经网络的前馈机制,还是这个图:
import numpy as np# ... code from previous section hereclass OurNeuralNetwork:'''A neural network with:- 2 inputs- a hidden layer with 2 neurons (h1, h2)- an output layer with 1 neuron (o1)Each neuron has the same weights and bias:- w = [0, 1]- b = 0'''def __init__(self):weights = np.array([0, 1])bias = 0# The Neuron class here is from the previous sectionself.h1 = Neuron(weights, bias)self.h2 = Neuron(weights, bias)self.o1 = Neuron(weights, bias)def feedforward(self, x):out_h1 = self.h1.feedforward(x)out_h2 = self.h2.feedforward(x)# The inputs for o1 are the outputs from h1 and h2out_o1 = self.o1.feedforward(np.array([out_h1, out_h2]))return out_o1network = OurNeuralNetwork()
x = np.array([2, 3])
print(network.feedforward(x)) # 0.7216325609518421
结果正确,看上去没问题。
训练神经网络,第1部分
现在有这样的数据:
接下来我们用这个数据来训练神经网络的权重和截距项,从而可以根据身高体重预测性别:
我们用0和1分别表示男性(M)和女性(F),并对数值做了转化:
我这里是随意选取了135和66来标准化数据,通常会使用平均值。
损失
在训练网络之前,我们需要量化当前的网络是『好』还是『坏』,从而可以寻找更好的网络。这就是定义损失的目的。
我们在这里用平均方差(MSE)损失: 让我们仔细看看:
- n是样品数,这里等于4(Alice、Bob、Charlie和Diana)。
- y表示要预测的变量,这里是性别。
- 是变量的真实值(『正确答案』)。例如,Alice的 就是1(男性)。
- 是变量的预测值。这就是我们网络的输出。
被称为方差(squared error)。我们的损失函数就是所有方差的平均值。预测效果于浩,损失就越少。
更好的预测 = 更少的损失!
训练网络 = 最小化它的损失。
损失计算例子
假设我们的网络总是输出0,换言之就是认为所有人都是男性。损失如何?
代码:MSE损失
下面是计算MSE损失的代码:
import numpy as npdef mse_loss(y_true, y_pred):# y_true and y_pred are numpy arrays of the same length.return ((y_true - y_pred) ** 2).mean()y_true = np.array([1, 0, 0, 1])
y_pred = np.array([0, 0, 0, 0])print(mse_loss(y_true, y_pred)) # 0.5
如果你不理解这段代码,可以看看NumPy的快速入门中关于数组的操作。
好的,继续。
训练神经网络,第2部分
现在我们有了一个明确的目标:最小化神经网络的损失。通过调整网络的权重和截距项,我们可以改变其预测结果,但如何才能逐步地减少损失?
这一段内容涉及到多元微积分,如果不熟悉微积分的话,可以跳过这些数学内容。
为了简化问题,假设我们的数据集中只有Alice:
那均方差损失就只是Alice的方差:
也可以把损失看成是权重和截距项的函数。让我们给网络标上权重和截距项:
这样我们就可以把网络的损失表示为:
假设我们要优化 ,当我们改变 时,损失 会怎么变化?可以用 来回答这个问题,怎么计算?
接下来的数据稍微有点复杂,别担心,准备好纸和笔。
首先,让我们用 来改写这个偏导数:
因为我们已经知道 ,所以我们可以计算 :
现在让我们来搞定 。 分别是其所表示的神经元的输出,我们有:
由于 只会影响 (不会影响 ),所以:
对 ,我们也可以这么做:
在这里, 是身高, 是体重。这是我们第二次看到 (S型函数的导数)了。求解:
稍后我们会用到这个 。
我们已经把 分解成了几个我们能计算的部分:
这种计算偏导的方法叫『反向传播算法』(backpropagation)。
好多数学符号,如果你还没搞明白的话,我们来看一个实际例子。
例子:计算偏导数
我们还是看数据集中只有Alice的情况:
把所有的权重和截距项都分别初始化为1和0。在网络中做前馈计算:
网络的输出是 ,对于Male(0)或者Female(1)都没有太强的倾向性。算一下 :
提示:前面已经得到了S型激活函数的导数 。
搞定!这个结果的意思就是增加 , 也会随之轻微上升。
训练:随机梯度下降
现在训练神经网络已经万事俱备了!我们会使用名为随机梯度下降法的优化算法来优化网络的权重和截距项,实现损失的最小化。核心就是这个更新灯饰:
是一个常数,被称为学习率,用于调整训练的速度。我们要做的就是用 减去 :
- 如果 是正数, 会变小, 会下降。
- 如果 是负数, 会变大, 会上升。
如果我们对网络中的每个权重和截距项都这样进行优化,损失就会不断下降,网络性能会不断上升。
我们的训练过程是这样的: 1. 从我们的数据集中选择一个样本,用随机梯度下降法进行优化——每次我们都只针对一个样本进行优化; 2. 计算每个权重或截距项对损失的偏导(例如 、 等); 3. 用更新等式更新每个权重和截距项; 4. 重复第一步;
代码:一个完整的神经网络
我们终于可以实现一个完整的神经网络了:
import numpy as npdef sigmoid(x):# Sigmoid activation function: f(x) = 1 / (1 + e^(-x))return 1 / (1 + np.exp(-x))def deriv_sigmoid(x):# Derivative of sigmoid: f'(x) = f(x) * (1 - f(x))fx = sigmoid(x)return fx * (1 - fx)def mse_loss(y_true, y_pred):# y_true and y_pred are numpy arrays of the same length.return ((y_true - y_pred) ** 2).mean()class OurNeuralNetwork:'''A neural network with:- 2 inputs- a hidden layer with 2 neurons (h1, h2)- an output layer with 1 neuron (o1)*** DISCLAIMER ***:The code below is intended to be simple and educational, NOT optimal.Real neural net code looks nothing like this. DO NOT use this code.Instead, read/run it to understand how this specific network works.'''def __init__(self):# 权重,Weightsself.w1 = np.random.normal()self.w2 = np.random.normal()self.w3 = np.random.normal()self.w4 = np.random.normal()self.w5 = np.random.normal()self.w6 = np.random.normal()# 截距项,Biasesself.b1 = np.random.normal()self.b2 = np.random.normal()self.b3 = np.random.normal()def feedforward(self, x):# x is a numpy array with 2 elements.h1 = sigmoid(self.w1 * x[0] + self.w2 * x[1] + self.b1)h2 = sigmoid(self.w3 * x[0] + self.w4 * x[1] + self.b2)o1 = sigmoid(self.w5 * h1 + self.w6 * h2 + self.b3)return o1def train(self, data, all_y_trues):'''- data is a (n x 2) numpy array, n = # of samples in the dataset.- all_y_trues is a numpy array with n elements.Elements in all_y_trues correspond to those in data.'''learn_rate = 0.1epochs = 1000 # number of times to loop through the entire datasetfor epoch in range(epochs):for x, y_true in zip(data, all_y_trues):# --- Do a feedforward (we'll need these values later)sum_h1 = self.w1 * x[0] + self.w2 * x[1] + self.b1h1 = sigmoid(sum_h1)sum_h2 = self.w3 * x[0] + self.w4 * x[1] + self.b2h2 = sigmoid(sum_h2)sum_o1 = self.w5 * h1 + self.w6 * h2 + self.b3o1 = sigmoid(sum_o1)y_pred = o1# --- Calculate partial derivatives.# --- Naming: d_L_d_w1 represents "partial L / partial w1"d_L_d_ypred = -2 * (y_true - y_pred)# Neuron o1d_ypred_d_w5 = h1 * deriv_sigmoid(sum_o1)d_ypred_d_w6 = h2 * deriv_sigmoid(sum_o1)d_ypred_d_b3 = deriv_sigmoid(sum_o1)d_ypred_d_h1 = self.w5 * deriv_sigmoid(sum_o1)d_ypred_d_h2 = self.w6 * deriv_sigmoid(sum_o1)# Neuron h1d_h1_d_w1 = x[0] * deriv_sigmoid(sum_h1)d_h1_d_w2 = x[1] * deriv_sigmoid(sum_h1)d_h1_d_b1 = deriv_sigmoid(sum_h1)# Neuron h2d_h2_d_w3 = x[0] * deriv_sigmoid(sum_h2)d_h2_d_w4 = x[1] * deriv_sigmoid(sum_h2)d_h2_d_b2 = deriv_sigmoid(sum_h2)# --- Update weights and biases# Neuron h1self.w1 -= learn_rate * d_L_d_ypred * d_ypred_d_h1 * d_h1_d_w1self.w2 -= learn_rate * d_L_d_ypred * d_ypred_d_h1 * d_h1_d_w2self.b1 -= learn_rate * d_L_d_ypred * d_ypred_d_h1 * d_h1_d_b1# Neuron h2self.w3 -= learn_rate * d_L_d_ypred * d_ypred_d_h2 * d_h2_d_w3self.w4 -= learn_rate * d_L_d_ypred * d_ypred_d_h2 * d_h2_d_w4self.b2 -= learn_rate * d_L_d_ypred * d_ypred_d_h2 * d_h2_d_b2# Neuron o1self.w5 -= learn_rate * d_L_d_ypred * d_ypred_d_w5self.w6 -= learn_rate * d_L_d_ypred * d_ypred_d_w6self.b3 -= learn_rate * d_L_d_ypred * d_ypred_d_b3# --- Calculate total loss at the end of each epochif epoch % 10 == 0:y_preds = np.apply_along_axis(self.feedforward, 1, data)loss = mse_loss(all_y_trues, y_preds)print("Epoch %d loss: %.3f" % (epoch, loss))# Define dataset
data = np.array([[-2, -1], # Alice[25, 6], # Bob[17, 4], # Charlie[-15, -6], # Diana
])
all_y_trues = np.array([1, # Alice0, # Bob0, # Charlie1, # Diana
])# Train our neural network!
network = OurNeuralNetwork()
network.train(data, all_y_trues)
随着网络的学习,损失在稳步下降。
现在我们可以用这个网络来预测性别了:
# Make some predictions
emily = np.array([-7, -3]) # 128 pounds, 63 inches
frank = np.array([20, 2]) # 155 pounds, 68 inches
print("Emily: %.3f" % network.feedforward(emily)) # 0.951 - F
print("Frank: %.3f" % network.feedforward(frank)) # 0.039 - M
接下来?
搞定了一个简单的神经网络,快速回顾一下:
- 介绍了神经网络的基本结构——神经元;
- 在神经元中使用S型激活函数;
- 神经网络就是连接在一起的神经元;
- 构建了一个数据集,输入(或特征)是体重和身高,输出(或标签)是性别;
- 学习了损失函数和均方差损失;
- 训练网络就是最小化其损失;
- 用反向传播方法计算偏导;
- 用随机梯度下降法训练网络;
接下来你还可以:
- 用机器学习库实现更大更好的神经网络,例如TensorFlow、Keras和PyTorch;
- 在浏览器中实现神经网络;
- 其他类型的激活函数;
- 其他类型的优化器;
- 学习卷积神经网络,这给计算机视觉领域带来了革命;
- 学习递归神经网络,常用语自然语言处理;
顺手写了一个Tensorflow版本:
https://gist.github.com/gangchen/4e75744b811f41ca4120ac8c296903e0gist.github.com/gangchen/4e75744b811f41ca4120ac8c296903e0
编辑于 2019-03-17
用Python从头实现一个神经网络相关推荐
- 使用Python从头实现一个神经网络
在学习神经网络的过程中,在知乎上看到了一篇写的非常好的文章,不仅仅将神经网络的结构介绍地非常详细,而且将神经网络的反向传播的原理讲的十分透彻.经过作者同意,转载到本博客中. 原文链接:用Python从 ...
- 13行Python代码实现一个神经网络(Part 2 - 梯度下降法)
Declaration: 本文翻译自iammask的blog,原作者保留本文知识产权,转载请注明出处. Part 1 "一个 11 行 Python 代码实现的神经网络(第一部分)" ...
- Python中从头开始实现神经网络 - 介绍
原文出处: http://www.wildml.com/2015/09/implementing-a-neural-network-from-scratch/ Posted on September ...
- python神经网络训练数据_用Python从头开始实现一个神经网络
注:本篇文章非原创,翻译自Implementing a Neural Network from Scratch in Python – An Introductionwww.wildml.com ...
- 用Python从头开始实现一个神经网络
注:本篇文章非原创,翻译自http://www.wildml.com/2015/09/implementing-a-neural-network-from-scratch/,已获作者同意. 点击此处获 ...
- python9行代码_如何用9行Python代码编写一个简易神经网络
原标题:如何用9行Python代码编写一个简易神经网络 Python部落(python.freelycode.com)组织翻译,禁止转载,欢迎转发. 学习人工智能时,我给自己定了一个目标--用Pyth ...
- 如何在 Python 中创建一个简单的神经网络
点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达 引言 在过去的几十年里,机器学习对世界产生了巨大的影响,而且它的普 ...
- 《Python神经网络编程》自己动手编写一个神经网络
最近在看一些经典的论文,想要动手复现其中的代码,无奈自己水平过于低,总感觉对于神经网络的理解不够深入,于是想补一下相关的知识. 便找到了<Python神经网络编程>这本书,若稍微有些基础看 ...
- 独家 | 手把手教你用Python创建简单的神经网络(附代码)
作者:Michael J.Garbade 翻译:陈之炎 校对:丁楠雅 本文共2000字,建议阅读9分钟. 本文将为你演示如何创建一个神经网络,带你深入了解神经网络的工作方式. 了解神经网络工作方式的最 ...
最新文章
- 正则表达式实现最小匹配
- C++Builder 2010深入TApplication类之事件
- 卷积核的数量是不是越多越好?-分类0,5
- 《数据中台实战》:如何通过标签平台圈出产品高价值用户?
- 实现IFrame的自适应高度
- 啥是PID?PID可以吃吗?
- python框架源码学习
- (转载)构建public APIs与CORS
- python中类的定义_python中类的概念
- mysql 5.0 慢日志_MySQL的慢查询日志
- win10设置计算机关机时间,w10怎么设置自动关机_win10电脑设置自动关机的方法
- 自学Java必备英语单词表
- 新居住时代是什么样的?一岁的贝壳给出了最佳答案
- Nginx可视化配置工具—NginxWebUI
- GeographicLib安装
- 美国旅游签证办理流程
- ubuntu虚拟机中的vscode:扩展失败XHR Failed
- 名编辑电子杂志大师教程 | 添加购物车
- 天敏VC4000调试
- linux mate中文输入法,树莓派3b基于UbuntuMate下载中文输入法(示例代码)
热门文章
- python 光标位置输入文字_Python 移动光标位置的方法
- 超全汇总 | ORB-SLAM2 / ORB-SLAM3 相关改进代码!
- 汇总|基于激光雷达的3D目标检测开源项目数据集
- RDKit | 基于RDKit计算3D药效团指纹
- 水星记(Mercury Records)
- php上传图文教程,PHP 上传图片、文件的方法
- R绘制Rank-abundance曲线
- ​北京大学吴华君组诚聘医学/生信助理研究员和博士后
- 蚂蚁森林最高效的合种团队—招募队友云植树,最快1天1颗树
- mSystems:南京土壤所禇海燕组受邀发表微生物生物地理学综述(官方配视频简介)