·摘要：
本文作者将CNN引用到了NLP的文本分类任务中。
·参考文献：
[1] Convolutional Neural Networks for Sentence Classification 论文链接：http://cn.arxiv.org/pdf/1408.5882.pdf

[1] 模型

很基础的卷积神经网络模型。

算法流程：

1）word2vec词嵌入

将若干个文本中的所有词，进行无监督训练，得到词向量（word vectors）。对于每个文本，可以采用词向量加和、平均的方式表示。

2）convolutional卷积

卷积特征向量。

3）pooling池化

使用最大池化，抽取最重要的特征。

4）全连接

dropout规则化防止过拟合+ 全连接的softmax层多分类

[2] 模型参数

这里，模型根据词向量的不同分为四种：

· CNN-rand，所有的词向量都随机初始化，并且作为模型参数进行训练。

· CNN-static，即用word2vec预训练好的向量（Google News），在训练过程中不更新词向量，句中若有单词不在预训练好的词典中，则用随机数来代替。

· CNN-non-static，根据不同的分类任务，进行相应的词向量预训练。

· CNN-multichannel，两套词向量构造出的句子矩阵作为两个通道，在误差反向传播时，只更新一组词向量，保持另外一组不变。

[3] 实验结果

在七组公开数据集中进行，证明了：

· CNN在NLP文本分类中的有效性

· 通过调参，也表明了word2vec的NLP中重要意义。

[4] 拓展

1、入门了CNN，对torch、torchtext的使用有所掌握；

2、详细了解了在基于深度学习的文本分类任务中embedding层的作用，请阅读文章：【文本分类】深入理解embedding层的模型、结构与文本表示

[5] 获取本项目的源代码

如果需要本项目的源代码，请扫描关注我的公众号，回复“论文源码”。

【文本分类】Convolutional Neural Networks for Sentence Classification相关推荐

Convolutional Neural Networks for Sentence Classification用于句子分类的卷积神经网络
Convolutional Neural Networks for Sentence Classification 论文任务:用卷积神经网络(CNN)在预先训练好的词向量上进行句子级分类任务论文借用 ...
论文阅读：Convolutional Neural Networks for Sentence Classification 卷积神经网络的句子分类
Convolutional Neural Networks for Sentence Classification 卷积神经网络的句子分类目录 Convolutional Neural Networ ...
Convolutional Neural Networks for Sentence Classification(卷积神经网络句子分类）
目录摘要原文翻译单词解释技术解读引言原文翻译单词解释技术解读原文翻译单词解释技术解读原文翻译单词解释技术解读原文翻译单词解释技术解读. Model 原文单 ...
CNN在文本分类的应用(内有代码实现) 论文Convolutional Neural Networks for Sentence Classification
一.CNN文本分类简介文本分类是NLP领域的一个重要子任务,文本分类的目标是自动的将文本打上已经定义好的标签,常见的文本分类任务有: 用户评论的情感识别垃圾邮件过滤用户查询意图识别新闻分类由 ...
Convolutional Neural Networks for Sentence Classification论文解读
本文将CNN和NLP结合: 介绍了一系列的对比实验,实验结果说明了: 一个简单的(单层神经网络)的CNN模型一点超参数的调节(Filter的个数) static word vector 另外,对cn ...
Convolutional Neural Networks for Sentence Classification
论文总体结构一.摘要使用卷积神经网络处理句子级别文本分类,并在多个数据集上有好的效果二.Introduction(背景介绍) 使用预训练词向量和卷积神经网络,提出一种有效分类模型本文的主要契机 ...
[NLP-CNN] Convolutional Neural Networks for Sentence Classification -2014-EMNLP
1. Overview 本文将CNN用于句子分类任务 (1) 使用静态vector + CNN即可取得很好的效果:=> 这表明预训练的vector是universal的特征提取器,可以被用于多种 ...
【论文笔记】Convolutional Neural Networks for Sentence Classification
Model \(x_i\in{\mathbb{R}^k}\) :第\(i\)个词的\(k\)维词向量表示经过padding后长度为\(n\)个句子被表示为\(x_{1:n}\), 形状为\(n\ti ...
Convolutional Neural Networks for Sentence Classification 阅读笔记
1.本文解决了什么问题? 本文以预训练好的词向量矩阵表示一个句子,并且将其作为卷积神经网络的输入层,再通过标记好的数据训练出神经网络模型从而达到预测数据类别的效果. 本文于14年发表,至今已被引用了 ...

【文本分类】Convolutional Neural Networks for Sentence Classification