运用cnn实现手写体(mnist)数字识别_实现 MNIST 手写数字识别

1. MNIST 数据集加载

MNIST 数据集可以从MNIST官网下载。也可以通过 Tensorflow 提供的 input_data.py进行载入。

由于上述方法下载数据集比较慢，我已经把下载好的数据集上传到CSDN资源中，可以直接下载。

将下载好的数据集放到目录C:/Users/Administrator/.spyder-py3/MNIST_data/下。目录可以根据自己的喜好变换，只是代码中随之改变即可。

通过运行Tensorflow 提供的代码加载数据集：

MNIST数据集包含55000样本的训练集，5000样本的验证集，10000样本的测试集。 input_data.py 已经将下载好的数据集解压、重构图片和标签数据来组成新的数据集对象。

图像是28像素x28像素大小的灰度图片。空白部分全部为0，有笔迹的地方根据颜色深浅有0~1的取值，因此，每个样本有28x28=784维的特征，相当于展开为1维。

所以，训练集的特征是一个 55000x784 的 Tensor，第一纬度是图片编号，第二维度是图像像素点编号。而训练集的 Label(图片代表的是0~9中哪个数)是一个 55000x10 的 Tensor，10是10个种类的意思，进行 one-hot 编码 即只有一个值为1，其余为0，如数字0，对于 label 为[1,0,0,0,0,0,0,0,0,0]。

2. Softmax Regression 算法

数字都是0~9之间的，一共有10个类别，当对图片进行预测时，Softmax Regression 会对每一种类别估算一个概率，并将概率最大的那个数字作为结果输出。

Softmax Regression 将可以判定为某类的特征相加，然后将这些特征转化为判定是这一个类的概率。我们对图片的所以像素求一个加权和。如某个像素的灰度值大代表很有可能是数字n，这个像素权重就很大，反之，这个权重很有可能为负值。

特征公式：

bi" role="presentation" style=" box-sizing: border-box; outline: 0px; display: inline; line-height: normal; word-spacing: normal; overflow-wrap: break-word; float: none; direction: ltr; max-width: none; max-height: none; min-width: 0px; min-height: 0px; border-width: 0px; border-style: initial; border-color: initial; ">bibi 为偏置值，就是这个数据本身的一些倾向。

然后用 softmax 函数把这些特征转换成概率

对所有特征计算 softmax，并进行标准化(所有类别输出的概率值和为1)：

判定为第 i 类的概率为：

Softmax Regression 流程如下：

转换为矩阵乘法：

写成公式如下：

3.实现模型

import tensorflow as tfsess = tf.InteractiveSession()x = tf.placeholder(tf.float32, [None, 784])W = tf.Variable(tf.zeros([784,10]))b = tf.Variable(tf.zeros([10]))y = tf.nn.softmax(tf.matmul(x,W) + b)

首先载入 Tensorflow 库，并创建一个新的 InteractiveSession ，之后的运算默认在这个 session 中。

placeholder：输入数据的地方，None 代表不限条数的输入，每条是784维的向量
Variable：存储模型参数，持久化的

4.训练模型

我们定义一个 loss 函数来描述模型对问题的分类精度。 Loss 越小，模型越精确。这里采用交叉熵：

其中，y 是我们预测的概率分布, y’ 是实际的分布。

y_ = tf.placeholder(tf.float32, [None,10])cross_entropy = tf.reduce_mean(-tf.reduce_sum(y_ * tf.log(y),reduction_indices=[1]))

定义一个 placeholder 用于输入正确值，并计算交叉熵。

接着采用随机梯度下降法，步长为0.5进行训练。

train_step = tf.train.GradientDescentOptimizer(0.5).minimize(cross_entropy)

训练模型，让模型循环训练1000次，每次随机从训练集去100条样本，以提高收敛速度。

for i in range(1000):  batch_xs, batch_ys = mnist.train.next_batch(100)  train_step.run({x: batch_xs, y_: batch_ys})

5.评估模型

我们通过判断实际值和预测值是否相同来评估模型，并计算准确率，准确率越高，分类越精确。

6.总结

实现的整个流程：

定义算法公式，也就是神经网络前向传播时的计算。
定义 loss ，选定优化器，并指定优化器优化 loss。
迭代地对数据进行训练。
在测试集或验证集上对准确率进行评测。

7.全部代码

import tensorflow as tf

from tensorflow.examples.tutorials.mnist import input_data

# 获取数据mnist = input_data.read_data_sets("C:/Users/Administrator/.spyder-py3/MNIST_data/", one_hot=True)

print('训练集信息：')print(mnist.train.images.shape,mnist.train.labels.shape)print('测试集信息：')print(mnist.test.images.shape,mnist.test.labels.shape)print('验证集信息：')print(mnist.validation.images.shape,mnist.validation.labels.shape)

# 构建图sess = tf.InteractiveSession()x = tf.placeholder(tf.float32, [None, 784])W = tf.Variable(tf.zeros([784,10]))b = tf.Variable(tf.zeros([10]))

y = tf.nn.softmax(tf.matmul(x,W) + b)

y_ = tf.placeholder(tf.float32, [None,10])cross_entropy = tf.reduce_mean(-tf.reduce_sum(y_ * tf.log(y),reduction_indices=[1]))train_step = tf.train.GradientDescentOptimizer(0.5).minimize(cross_entropy)

# 进行训练tf.global_variables_initializer().run()

for i in range(1000):  batch_xs, batch_ys = mnist.train.next_batch(100)  train_step.run({x: batch_xs, y_: batch_ys})

# 模型评估correct_prediction = tf.equal(tf.argmax(y,1), tf.argmax(y_,1))accuracy = tf.reduce_mean(tf.cast(correct_prediction, tf.float32))

print('MNIST手写图片准确率：')print(accuracy.eval({x: mnist.test.images, y_: mnist.test.labels}))