Tensorflow使用Char-CNN实现中文文本分类（1）

前言

在之前的中文文本分类中，使用了LSTM来进行模型的构建（详情参考：
Tensorflow使用LSTM实现中文文本分类（2）、使用numpy实现LSTM和RNN网络的前向传播过程）。除了使用LSTM来处理时间序列问题，也可以使用在图像处理领域使用更多的卷积神经网络来处理时间序列问题。

LSTM and Char-CNN

在Char-CNN中，词语embedding的每一列（每一个特征），可以看做是一个通道，是该词语的一种表达。因此，(timesteps, embed_size)中的每一列，都可以看做是这一个句子的不同表达。
其实想想，在图像领域，不同的卷积核提取出来的feature map，也是该图像的不同表达而已，本质上并没有什么区别。
一维卷积核应用在时间维度上，也就是应用在timestep（时间步）上，embedding的长度就是通道数目。这就产生了一个问题——句子不等长的处理方式，必须要对不等长的就句子进行截断，令其变成等长序列，这样才能正常运行。这也就是为什么CNN天然的不能很完美的解决序列式问题的原因之一。
CNN的卷积核长度，就相当于可以看到句子中词语的个数，每次只能看到n个词语（虽然说可以将n设置的大一些，但终究是有限个）。而RNN是可以完整的看完整个句子的，所以说，RNN 相对于 CNN 来说，可以提取一个更长的依赖，如果是双向RNN的话，效果会更好。
另外，无论 RNN 还是 CNN，都需要使用到 embedding，需要在一个更大的预料数据集上进行一个pre_train的embedding。
最后 CNN 模型相对与 RNN 模型来说，不算太复杂，因此效率更高也更快。

tf.layers.Conv1D函数

该函数的参数还是很多的，但只说几个常用参数，其他的参数我也没用过，也不太懂。
参数：
filters：整数，输出空间的维数(即卷积中的滤波器数)。
kernel_size：单个整数的整数或元组/列表，指定1D卷积窗口的长度。
strides：单个整数的整数或元组/列表，指定卷积的步幅.指定任何步幅(stride)值！= 1与指定任何dilation_rate值都不相容！= 1。
padding：一个"valid"或"same"(不区分大小写)。
data_format：一个字符串，可以是channels_last(默认)或channels_first；输入中维度的顺序；channels_last对应于具有形状(batch, length, channels)的输入，而channels_first对应于具有形状(batch, channels, length)的x输入。
dilation_rate：单个整数的整数或元组/列表，指定用于扩张卷积的扩张率。目前，指定任何dilation_rate值！= 1与指定任何strides值！= 1 不兼容。
activation：激活功能，将其设置为“None”以保持线性激活。
对该函数有更加强烈的求知欲的话，请参考：TensorFlow函数：tf.layers.Conv1D

代码演示

本来想把代码也贴出来的，已经写了很长了，代码贴到下一篇了。