Tensorflow搭建神经网络八股及实现鸢尾花数据集分类

tensorflow笔记系列文章均参考自中国大学Mooc上北京大学软件与微电子学院曹建老师的《Tensorflow笔记2》课程。曹建老师讲的非常棒，受益良多，强烈建议tensorflow初学者学习。

使用keras搭建神经网络通常有以下六步：

import 相关模块
train, test 说明训练集和测试集
model = tf.keras.models.Sequential 搭建网络结构，逐层描述每层网络
model.compile 配置训练方法，例如优化器、损失函数、评测指标
model.fit 执行训练过程
model.summary 打印出网络的结构和参数统计

Sequential()用法

Sequential()可以认为是一个容器，里面封装了一个神经网络的结构，在Sequential()要描述从输入层到输出层每一层的网络结构，语法如下：

model = tf.keras.models.Sequential([网络结构])

网络结构举例：

拉直层：tf.keras.layers.Flatten()，这一层不含计算，只是将输入数据拉直变成一维数组

全连接层：tf.kears.layers.Dense(神经元个数,activation="激活函数",kernel_regularizer=哪种正则化)，其中激活函数可选:relu、softmax、sigmoid、tanh，正则化可选：tf.kears.regularizers.l1()、tf.keras.regularizers.l2()

卷积层：tf.keras.layers.Conv2D(filters=卷积核个数,kernel_size=卷积核尺寸，strides=卷积步长，padding="valid"或者"same")

LSTM层：tf.keras.layers.LSTM()

compile()用法

compile指定网络的优化器、损失函数以及评测指标，语法如下：

model.compile(optimizer=优化器，loss=损失函数, metrics=["准确率"])

Optimizer可选：

‘sgd’ or tf.keras.optimizer.SGD(lr=学习率，momentum=动量参数)
‘adagrad’ or tf.keras.optimizers.Adagrad(lr=学习率)
‘adadelta’ or tf.kears.optimizers.Adadelta(lr=学习率)
‘adam’ or tf.keras.optimizers.Adam(lr=学习率，beta_1=0.9，beta_2=0.999)

loss可选：

‘mse’ or tf.keras.losses.MeanSquaredError()
‘sparse_categorical_crossentropy’ or tf.keras.losses.SparseCategoricalCrossentropy(from_logits=False)，需要注意的是from_logits这个参数代表输出时是否符合概率分布，如果不符合概率分布，那么为true，否则为false

Metrics可选：

‘accuracy’ : y_和y都是数值，如y__=[1] y=[1]
‘categorical_accuracy’ : y_和y都是独热码形式
‘sparse_categorical_accuracy’ : y_是数值，y是独热码

fit()用法

fit()函数描述训练的的过程，语法如下：

model.fit(训练集的输入特征，训练集的标签，batch_size= , epochs= , validation_data=(测试集的输入特征，测试集的标签),validation_split=从训练集划分多少比例给测试集，validation_freq=多少次epoch测试一次)

validation_data和`validation_split二者选择其一即可

keras搭建神经网络实现鸢尾花数据集例子

# import相关模块
import tensorflow as tf
from sklearn import datasets
import numpy as np# 加载训练数据
x_train = datasets.load_iris().data
y_train = datasets.load_iris().targetnp.random.seed(116)
np.random.shuffle(x_train)
np.random.seed(116)
np.random.shuffle(y_train)
np.random.seed(116)# 搭载网络结构
model = tf.keras.models.Sequential([tf.keras.layers.Dense(3, activation="softmax", kernel_regularizer=tf.keras.regularizers.l2())
])# 配置训练方法
model.compile(optimizer='sgd',loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=False),metrics=['sparse_categorical_accuracy'])# 使用fit进行训练
model.fit(x_train, y_train, batch_size=32,epochs=500, validation_split=0.2,validation_freq=20)# 使用Summary函数打印网络的结构和参数统计
model.summary()