Abstract:

The wordlevel shallow convolutional neural network (CNN) model has achieved good performance in text classification tasks. However, shallow CNN models cant capture longrange dependencies, which affects the model's performance in text classification tasks, but simply deepening the number of layers of the model does not improve the models performance. This paper proposes a new wordlevel text classification model WordCNNAtt, which uses CNN to capture local features and position information, and captures longrange dependencies with selfattention mechanism. The accuracy of WordCNNAtt, on the five public datasets of AGNews, DBPedia, Yelp Review Polarity, Yelp Review Full, Yahoo! Answers, is 0.9%, 0.2%, 0.5%, 2.1%, and 2.0% higher than the wordlevel shallow CNN model respectively.

四川大学计算机学院琚生根教授,基于卷积神经网络和自注意力机制的文本分类模型...相关推荐

  1. Python深度学习实例--基于卷积神经网络的小型数据处理（猫狗分类）

    Python深度学习实例--基于卷积神经网络的小型数据处理(猫狗分类) 1.卷积神经网络 1.1卷积神经网络简介 1.2卷积运算 1.3 深度学习与小数据问题的相关性 2.下载数据 2.1下载原始数据 ...

  2. 基于卷积神经网络方法的英文短文本情感分类(Python)

    摘要:互联网的快速发展,使得每个人表现自己,发表言论更加的自由和便利.Twitter.Facebook等应用软件为大众提供了表达自身情感的一个平台.情感分类,可以简单地表示为喜欢,厌恶和中性,也渐渐受 ...

  3. 用卷积神经网络和自注意力机制实现QANet（问答网络）

    欢迎大家关注我们的网站和系列教程:http://www.tensorflownews.com/ ,学习更多的机器学习.深度学习的知识! 在这篇文章中,我们将解决自然语言处理(具体是指问答)中最具挑战性 ...

  4. 卷积神经网络中Attention注意力机制（CBAM）

    论文:cbam CBAM: Convolutional Block Attention Module attention机制,简单说就是从特征中学习或者提取出权重分布,再拿这个权重分布施加在原来的特征 ...

  5. 四川大学计算机学院教授名单,四川大学计算机学院2018年硕士研究生招生拟录取名单及成绩公示...

    该楼层疑似违规已被系统折叠 隐藏此楼查看此楼 四川大学计算机学院2018年硕士研究生招生拟录取名单公示(全日制) 姓名 拟录取专业 总成绩 初试成绩 复试成绩 备注 白迪 计算机技术 75.3 353 ...

  6. 四川大学计算机学院夏欣,自适应窗口的图像平滑去噪.pdf

    自适应窗口的图像平滑去噪.pdf 2013年5月 四川大学学报(自然科学版) May．2013 ofSichuan 第50卷第3期 Journal ScienceEdition) V01．50No．3 ...

  7. 四川大学计算机学院陈宇老师,吕建成（四川大学计算机学院（软件学院）院长）_百度百科...

    吕建成 (四川大学计算机学院(软件学院)院长) 语音 编辑 锁定 讨论 上传视频 吕建成,男,汉族,电子科技大学计算机科学博士,四川大学教授.博士生导师,现任四川大学计算机学院(软件学院)院长.[1- ...

  8. 四川大学计算机学院陈宇老师,陈虎（四川大学计算机学院讲师）_百度百科

    陈虎 (四川大学计算机学院讲师) 语音 编辑 锁定 讨论 上传视频 陈虎,男,博士,四川大学计算机学院讲师.[1] 中文名 陈虎 国    籍 中国 毕业院校 电子科技大学 学位/学历 博士[1]专业 ...

  9. 四川大学计算机学院彭德中,CCF@U163：崔勇CCF走进四川大学

    2013年11月15日上午,"CCF走进高校"活动来到四川大学.CCF高级会员.CCF杰出讲者.清华大学计算机系教授.博士生导师崔勇教授为川大师生带来一场题为"下一代互联 ...

最新文章

  1. R语言进行主成分分析（PCA）、使用prcomp函数进行主成分分析：碎石图可视化（scree plot）、R通过条形图（bar plot）来可视化主成分分析的碎石图（scree plot）
  2. Apache、Nginx、Tomcat、PHP的区别
  3. 史上最强轻量级人脸检测，全面超越retinaface
  4. 微任务与宏任务与eventloop
  5. ALTER 简单操作(mysql)
  6. Python搭建web服务器
  7. ubuntu命令安装中文语言包_win10之linux子系统ubuntu安装中文包（三）
  8. 安全研究公司Gauntlet称轻量级区块链协议Mina的攻击成本很高
  9. druid连接池mysql自动关闭_探究Druid连接池“违反协议”异常
  10. 日常生活开支记账明细_做好这3点，不再白记账
  11. 元数据（MetaData）
  12. [ STM32F103 ] 数据手册 —— CAN解析
  13. 【CityEngine】城市模型构建概述（持续更新）
  14. linux gtx驱动程序,NVIDIA 430.09 Linux 驱动发布：支持 GTX 1650
  15. 论文阅读笔记：Layer Normalization
  16. 创业者的噩梦 -商业竞争究竟有多残酷和黑暗
  17. matlab 无穷符号,如何用matlab进行级数或数列的符号求和?matlab符号求和指令分享...
  18. Microsoft SQL Server 数据库使用（一）
  19. 不同原因的美团差评，如何回复？
  20. TypeScript----类型注解之数组与对象

热门文章

  1. jqGrid方法整理
  2. 基于 AVPlayer 自定义播放器
  3. [Android]Android四大组件之Service总结
  4. 数据库快照的工作方式
  5. 手机网络游戏系统架构图
  6. 这一次，字节的组织进化选择优化了CEO（附张一鸣卸任CEO内部信全文）
  7. 浙大PAT甲级1006
  8. kali创建python脚本_kali下编译学习python3
  9. Tiktok下载量激增至20亿次，视频带货或将席卷海外，跨境电商的风口
  10. 怎么调整矩形边框宽度_Illustrator实例教程：利用自定义画笔绘制中国风传统边框...