【简介】自然语言处理(NLP)能够帮助智能型机器更好地理解人类的语言,实现基于语言的人机交流。目前随着计算能力的发展和大量语言数据的出现,推动了使用数据驱动方法自动进行语义分析的需求。由于深度学习方法在计算机视觉、自动语音识别,特别是NLP等领域取得了显著的进步,数据驱动策略的应用已经非常的普遍。本综述对NLP领域中所应用的深度学习进行了分类和讨论。它涵盖了NLP的核心任务和应用领域,并对深度学习方法如何推进这些领域的发展进行了细致的描述。最后我们进一步分析和比较了不同的方法和目前最先进的模型。

原文连接:

Natural Language Processing Advancements By Deep Learning: A Survey​arxiv.org

介绍

自然语言处理(NLP)是计算机科学的一个分支,能够为自然语言和计算机之间提高沟通的桥梁。它帮助机器理解、处理和分析人类语言。NLP通过深入地理解数据的上下文,使得数据变得更有意义,这反过来又促进了文本分析和数据挖掘。NLP通过人类的通信结构和通信模式来实现这一点。这篇综述涵盖了深度学习在NLP领域中所扮演的新角色以及各种应用。我们的研究主要集中在架构上,很少讨论具体的应用程序。另一方面,本文描述了将深度学习应用于NLP问题中时所面临的挑战、机遇以及效果评估方式。

章节目录

section 2: 在理论层面介绍了NLP和人工智能,并将深度学习视为解决现实问题的一种方法。

section 3:讨论理解NLP所必需的基本概念,包括各种表示法、模型框架和机器学习中的示例性问题。

section 4:总结了应用在NLP领域中的基准数据集。

section 5:重点介绍一些已经被证明在NLP任务中有显著效果的深度学习方法。

section 6:进行总结,同时解决了一些开放的问题和有希望改善的领域。

背景知识介绍

长期以来,NLP一直被视为人工智能(AI)的一个重要领域,因为理解和生成自然语言是机器是否达到高级智能的重要指标。深度学习是一种有效的人工智能工具,因此我们接下来将介绍如何把深度学习运用在人工智能世界中。在此之后,我们解释在NLP中应用深度学习的动机。

NLP中的核心概念

本章节主要从特征表示,seq2seq框架和NLP中的强化学习这三个方面来介绍与NLP相关的概念,其中特征表示有四种不同的类型:1)One-Hot 特征表示,2)连续词袋特征表示,3)词向量特征表示,4)字符级别的嵌入表示。

数据集

将深度学习用于NLP任务

这一章节主要描述深度学习在NLP中的各种应用。下表展示了具有代表性的NLP任务。

部分论文展示:

原文连接:

Natural Language Processing Advancements By Deep Learning: A Survey​arxiv.org

综述:NLP中的深度学习优势相关推荐

  1. 《Python自然语言处理-雅兰·萨纳卡(Jalaj Thanaki)》学习笔记:09 NLU和NLG问题中的深度学习

    09 NLU和NLG问题中的深度学习 9.1 人工智能概览 9.1.1 人工智能的基础 9.1.2 人工智能的阶段 9.1.3 人工智能的种类 9.1.4 人工智能的目标和应用 9.2 NLU和NLG ...

  2. #今日论文推荐# 爱丁堡大学等首篇《移动无线网络中的深度学习》综述论文,67页pdf涵盖570篇文献阐述深度学习在移动无线网络中的应用最佳实践

    #今日论文推荐# 爱丁堡大学等首篇<移动无线网络中的深度学习>综述论文,67页pdf涵盖570篇文献阐述深度学习在移动无线网络中的应用最佳实践 移动设备的迅速普及以及移动应用和服务的日益普 ...

  3. 从原理到应用落地,一文读懂推荐系统中的深度学习技术

    作者丨gongyouliu.zandy 来源丨大数据与人工智能(ID:ai-big-data) 2016年DeepMind开发的AlphaGo在围棋对决中战胜了韩国九段选手李世石,一时成为轰动全球的重 ...

  4. DNA/RNA基序挖掘中的深度学习研究进展(A survey on deep learning in DNA/RNA motif mining)

    摘要 DNA/RNA基序挖掘是基因功能研究的基础.DNA/RNA基序挖掘在识别DNA或RNA蛋白结合位点方面起着极其重要的作用,有助于理解基因调控和管理的机制.在过去的几十年里,研究人员一直致力于设计 ...

  5. 综述:自然语言处理中深度学习应用综述

    原文链接:https://arxiv.org/abs/1807.10854 在过去几年中,自然语言处理领域由于深度学习模型的使用取得重大突破. 本综述简要介绍了这个领域,并简要概述了深度学习架构和方法 ...

  6. 我的机器学习入门之路(中)——深度学习(自然语言处理)

    继上一篇<我的机器学习入门之路(上)--传统机器学习>,这一篇博客主要记录深度学习(主要是自然语言处理)这一块内容的学习过程.以下均将自然语言处理简称NLP. 这一块内容的学习路线分为三部 ...

  7. fastText、TextCNN、TextRNN……这里有一套NLP文本分类深度学习方法库供你选择 作者:机器人圈 / 微信号:ROBO_AI发表时间 :2017-07-28 图:pixabay

    fastText.TextCNN.TextRNN--这里有一套NLP文本分类深度学习方法库供你选择 「机器人圈」编译:嗯~阿童木呀.多啦A亮 这个库的目的是探索用深度学习进行NLP文本分类的方法. 它 ...

  8. 图像识别中的深度学习【香港中文大学王晓刚】

    深度学习发展历史 深度学习是近十年来人工智能领域取得的重要突破.它在语音识别.自然语言处理.计算机视觉.图像与视频分析.多媒体等诸多领域的应用取得了巨大成功.现有的深度学习模型属于神经网络.神经网络的 ...

  9. 精准医学中的深度学习和影像组学

    影像科正在经历一种范式转变,即使用人工智能与机器集成以及深度学习与影像组学更好地定义组织特征,从而实现计算机科学与影像学的共生关系.研究的目标是使用集成的深度学习和具有影像学参数的影像组学来为患者进行 ...

最新文章

  1. 行内标签(最常用的:a标签、img标签、span标签)
  2. 「炫富」的GPT-3来了:31位作者,45TB数据,72页论文,1750亿个参数,会编故事,还会三位数加减法...
  3. python动态心形代码-Python数学方程式画心型图案源码示例
  4. [转]让Linux的tty界面支持中文
  5. Math(牛客多校第三场)
  6. Linux配置编程环境+云服务器上传文件
  7. gdal数据类型_科学网-gdal数据类型的代码的核心定义文件-林清莹的博文
  8. 稀疏编码(sparse code)与字典学习(dictionary learning)
  9. Android SurfaceFlinger 学习之路(五)----VSync 工作原理
  10. 全网首发:configure: error: cannot guess build type; you must specify one
  11. 【zhasite】托业英语阅读技巧有哪些
  12. AndroidStudio有时候调试会一直卡在:starting LLDB server
  13. Hive数据仓库数据分析
  14. 基于STM32的ESP8266使用教程(一)
  15. weblogic 启动常见错误解决
  16. pycharm社区版跟专业版有什么区别
  17. 威睿数据中心虚拟化解决方案
  18. 如何选择可转债?可转债是否能带来暴利?
  19. Android APK 签名指令
  20. ISO9000和ISO9001有哪些区别?

热门文章

  1. sklearn 统计多分类和单分类结果的混淆矩阵API 写法 confusion_matrix 左边为真实值 上边为预测值
  2. 2021-02-23 如何用简单易懂的例子解释条件随机场(CRF)模型?它和HMM有什么区别?从HMM、MEMM、CRF某牛自己总结的
  3. 概率x^2 t F三大分布的联系
  4. 表格(增加行号) http://www.blogjava.net/zeyuphoenix/archive/2010/04/19/318788.html
  5. html表格td宽度设置,table以及td宽度设置细节
  6. 分分钟掌握设计基本原则
  7. 世界级Oracle专家权威力作
  8. 开源人工智能算法一种新颖的超像素采样网络深层特征来估计任务特定的超像素
  9. 深度学习(五十六)tensorflow项目构建流程
  10. 吴恩达:告别大数据,AI需要高质量小数据!