动手学深度学习(PyTorch实现)(五)--多层感知机

多层感知机

1. 基本知识
2. 激活函数
- 2.1 ReLU函数
- 2.2 Sigmoid函数
- 2.3 tanh函数
- 2.4 关于激活函数的选择
3. PyTorch实现
- 3.1 导入相应的包
- 3.2 初始化模型和各个参数
- 3.3 训练

1. 基本知识

深度学习主要关注多层模型。在这里，我们将以多层感知机（multilayer perceptron，MLP）为例，介绍多层神经网络的概念。

多层感知机就是含有至少一个隐藏层的由全连接层组成的神经网络，且每个隐藏层的输出通过激活函数进行变换。多层感知机的层数和各隐藏层中隐藏单元个数都是超参数。以单隐藏层为例并沿用本节之前定义的符号，多层感知机按以下方式计算输出：

H=ϕ(XWh+bh),O=HWo+bo,\begin{aligned} \boldsymbol{H} &= \phi(\boldsymbol{X} \boldsymbol{W}_h + \boldsymbol{b}_h),\\ \boldsymbol{O} &= \boldsymbol{H} \boldsymbol{W}_o + \boldsymbol{b}_o, \end{aligned} HO=ϕ(XWh+bh),=HWo+bo,

其中ϕ\phiϕ表示激活函数。

下图展示了一个多层感知机的神经网络图，它含有一个隐藏层，该层中有5个隐藏单元。

具体来说，给定一个小批量样本X∈Rn×d\boldsymbol{X} \in \mathbb{R}^{n \times d}X∈Rn×d，其批量大小为nnn，输入个数为ddd。假设多层感知机只有一个隐藏层，其中隐藏单元个数为hhh。记隐藏层的输出（也称为隐藏层变量或隐藏变量）为H\boldsymbol{H}H，有H∈Rn×h\boldsymbol{H} \in \mathbb{R}^{n \times h}H∈Rn×h。因为隐藏层和输出层均是全连接层，可以设隐藏层的权重参数和偏差参数分别为Wh∈Rd×h\boldsymbol{W}_h \in \mathbb{R}^{d \times h}Wh∈Rd×h和 bh∈R1×h\boldsymbol{b}_h \in \mathbb{R}^{1 \times h}bh∈R1×h，输出层的权重和偏差参数分别为Wo∈Rh×q\boldsymbol{W}_o \in \mathbb{R}^{h \times q}Wo∈Rh×q和bo∈R1×q\boldsymbol{b}_o \in \mathbb{R}^{1 \times q}bo∈R1×q。

我们先来看一种含单隐藏层的多层感知机的设计。其输出O∈Rn×q\boldsymbol{O} \in \mathbb{R}^{n \times q}O∈Rn×q的计算为

H=XWh+bh,O=HWo+bo,\begin{aligned} \boldsymbol{H} &= \boldsymbol{X} \boldsymbol{W}_h + \boldsymbol{b}_h,\\ \boldsymbol{O} &= \boldsymbol{H} \boldsymbol{W}_o + \boldsymbol{b}_o, \end{aligned} HO=XWh+bh,=HWo+bo,

也就是将隐藏层的输出直接作为输出层的输入。如果将以上两个式子联立起来，可以得到

O=(XWh+bh)Wo+bo=XWhWo+bhWo+bo.\boldsymbol{O} = (\boldsymbol{X} \boldsymbol{W}_h + \boldsymbol{b}_h)\boldsymbol{W}_o + \boldsymbol{b}_o = \boldsymbol{X} \boldsymbol{W}_h\boldsymbol{W}_o + \boldsymbol{b}_h \boldsymbol{W}_o + \boldsymbol{b}_o. O=(XWh+bh)Wo+bo=XWhWo+bhWo+bo.

从联立后的式子可以看出，虽然神经网络引入了隐藏层，却依然等价于一个单层神经网络：其中输出层权重参数为WhWo\boldsymbol{W}_h\boldsymbol{W}_oWhWo，偏差参数为$\boldsymbol{b}_h

2. 激活函数

上述问题的根源在于全连接层只是对数据做仿射变换（affine transformation），而多个仿射变换的叠加仍然是一个仿射变换。解决问题的一个方法是引入非线性变换，例如对隐藏变量使用按元素运算的非线性函数进行变换，然后再作为下一个全连接层的输入。这个非线性函数被称为激活函数（activation function）。

下面我们介绍几个常用的激活函数。

2.1 ReLU函数

ReLU（rectified linear unit）函数提供了一个很简单的非线性变换。给定元素xxx，该函数定义为

ReLU(x)=max⁡(x,0).\text{ReLU}(x) = \max(x, 0). ReLU(x)=max(x,0).

可以看出，ReLU函数只保留正数元素，并将负数元素清零。

2.2 Sigmoid函数

sigmoid函数可以将元素的值变换到0和1之间：

sigmoid(x)=11+exp⁡(−x).\text{sigmoid}(x) = \frac{1}{1 + \exp(-x)}. sigmoid(x)=1+exp(−x)1.

2.3 tanh函数

tanh（双曲正切）函数可以将元素的值变换到-1和1之间：

tanh(x)=1−exp⁡(−2x)1+exp⁡(−2x).\text{tanh}(x) = \frac{1 - \exp(-2x)}{1 + \exp(-2x)}. tanh(x)=1+exp(−2x)1−exp(−2x).

2.4 关于激活函数的选择

ReLu函数是一个通用的激活函数，目前在大多数情况下使用。但是，ReLU函数只能在隐藏层中使用。

用于分类器时，sigmoid函数及其组合通常效果更好。由于梯度消失问题，有时要避免使用sigmoid和tanh函数。

在神经网络层数较多的时候，最好使用ReLu函数，ReLu函数比较简单计算量少，而sigmoid和tanh函数计算量大很多。

在选择激活函数的时候可以先选用ReLu函数如果效果不理想可以尝试其他激活函数。

3. PyTorch实现

3.1 导入相应的包

import torch
from torch import nn
from torch.nn import init
import numpy as np
import sys
sys.path.append("/home/kesci/input")
import d2lzh1981 as d2l

3.2 初始化模型和各个参数

# 定义输入特征数、输出特征以及隐藏层的个数
num_inputs, num_outputs, num_hiddens = 784, 10, 256net = nn.Sequential(# 转化输入维度d2l.FlattenLayer(),# 经过第一层线性回归nn.Linear(num_inputs, num_hiddens),# 经过激活函数nn.ReLU(),# 经过第二层线性回归nn.Linear(num_hiddens, num_outputs), )# 初始化网络参数
for params in net.parameters():init.normal_(params, mean=0, std=0.01)

3.3 训练

# 定义每个批量的样本数
batch_size = 256
# 训练集与测试集
train_iter, test_iter = d2l.load_data_fashion_mnist(batch_size,root='/home/kesci/input/FashionMNIST2065')
# 定义损失函数为交叉熵函数
loss = torch.nn.CrossEntropyLoss()# 定义优化函数为随机梯度下降SGD
optimizer = torch.optim.SGD(net.parameters(), lr=0.5)# 定义训练周期为5
num_epochs = 5
# 开始训练
d2l.train_ch3(net, train_iter, test_iter, loss, num_epochs, batch_size, None, None, optimizer)

训练结果为：