深度学习目前主要有哪些研究方向?
深度学习已经在语音识别、图像处理等方面取得了巨大成功。从2013、2014年开始,也在自然语言处理领域出现深度学习的应用浪潮,例如今年ACL上有人(应该是BBN公司?)利用深度学习极大地提升了统计机器翻译的性能,颇值得期待。
关于深度学习的挑战与方向,其实可以关注深度学习重要学者们的相关综述文章和专著,例如Yoshua Bengio曾经写过的Learning Deep Architectures for AI (2009年)、Practical Recommendations for Gradient-Based Training of Deep Architectures(2012年)、Representation Learning: A Review and New Perspectives (2013年)。
限于自己的研究方向和兴趣,我比较关注的一个方向如下,希望与大家交流。人们一般认为深度学习在语音识别和图像处理方面能够取得长足进度,是因为这两个领域的相关特征信息都是相对低层次的,可以借助深度学习的强大学习能力学习其中的复杂信息;而到了自然语言处理领域,人们利用深度学习做过很多尝试,发现很难取得像语音识别和图像处理那么大的突破,原因在于自然语言的相关特征信息都是相对高层次的(如自然语言的基本单位——词汇——本身就有丰富的语义内涵,与图像中的“线条”、“纹理”等特征相比尤其如此),在深度学习之前就由语言专家编制了很多精致而复杂的知识库,如WordNet等,这些知识已经将相关处理性能推到了较高层次。因此,当深度学习进入自然语言时,如果还是像语音识别、图像处理那样从零知识开始做特征学习,相当于将丰富的语言知识弃之不用而另起炉灶,是不符合自然语言处理特点的。所以,深度学习的一个可能重要的发展方向是,如何在深度学习框架中高效地融合人们已经构建出来的丰富先验知识(包括语言知识、世界知识)。
需要注意的是,与LDA(latent Dirichlet allocation)等之前流行的机器学习算法不同,深度学习不是某个具体算法,而是采用”深度“学习思想的一系列算法的统称,在机器学习领域中(如ICML、NIPS),貌似很少有论文会以deep learning命名,而是具体算法的名称,如autoencoder,等等。因此,建议首先阅读一些tutorial,了解深度学习中的主要算法和人物,然后再去了解具体算法。
转载来自:这里
深度学习目前主要有哪些研究方向?相关推荐
- 大佬原创 | 深度学习60讲453页pdf下载
关注公众号 后台回复 深度学习 即可下载深度学习60讲 作者简介 机器学习实验室的号主作为一名统计专业的硕士毕业生,一路从数据分析师进阶到深度学习算法工程师.现于杭州一家AI初创公司担任深度学习算法工 ...
- 【视频课】言有三每天答疑,38课深度学习+超60小时分类检测分割数据算法+超15个Pytorch框架使用与实践案例助你攻略CV...
计算机视觉中大大小小可以包括至少30个以上的方向,在基于深度学习的计算机视觉研究方向中,图像分类,图像分割,目标检测无疑是最基础最底层的任务,掌握好之后可以很快的迁移到其他方向,比如目标识别,目标跟踪 ...
- 【视频课】零基础免费38课时深度学习+超60小时CV核心算法+15大Pytorch CV实践案例助你攻略CV...
计算机视觉中大大小小可以包括至少30个以上的方向,在基于深度学习的计算机视觉研究方向中,图像分类,图像分割,目标检测无疑是最基础最底层的任务,掌握好之后可以很快的迁移到其他方向,比如目标识别,目标跟踪 ...
- 【AI杂谈】从一篇参考文献比正文还长的文章,杂谈深度学习综述
欢迎来到专栏<AI杂谈>,顾名思义就是说一些比较杂的有意思的东西了,任何东西都有可能. 今天首先介绍一篇文章,2014年的一篇深度学习综述,<Deep learning in Neu ...
- 基于深度学习的图像识别进展:百度的若干实践
来源:<中国计算机学会通讯> 2015年第4期<专题> 作者:都大龙 余轶南 罗 恒 等 概述:深度学习和图像识别 近年来在人工智能领域最受关注的,非深度学习莫属.自2006年 ...
- 【阅读笔记】《深度学习》第一章:引言
深度学习--第一章:引言 前言 引言 1. 本书面向的读者 2. 深度学习的历史趋势 2.1 神经网络的众多名称和命运变迁 2.2 与日俱增的数据量 2.3 与日俱增的模型规模 2.4 与日俱增的精度 ...
- 深度学习在控制领域的研究现状与展望
深度学习在控制领域的研究现状与展望 摘要 深度学习在控制领域的研究现状与展望 摘要 深度学习在特征提取与模型拟合方面显示了其潜力和优势.对于存在高维数据的控制系统,引入深度学习具有一定的意义.近年来, ...
- 《深度学习》之 前馈神经网络 原理 详解
前馈神经网络 1. 深度学习: **定义:**深度学习是机器学习的一个研究方向,它基于一种特殊的学习机制.其特点是建立一个多层学习模型,深层级将浅层级的输出作为输入,将数据层层转化,使之越来越抽象.是 ...
- 推荐 | 一个统计硕士的深度学习算法工程师的成长之路
公众号推荐 推荐人/文文 俗话说,一个人走得快,但一群人可以走的远.在数据科学和机器学习的道路上,相信每个人都不是闭门造车的人.技术学习除了在个人努力外,交流和分享也是很重要的一部分. 今天给大家推荐 ...
最新文章
- wxWidgets:wxFont概览
- 如何做个好员工(转载)
- [html] 页面的重绘和回流是什么?
- 如何在Android中获取当前时间和日期
- 联想笔记本安装xp sp3 GHOST版无法安装声卡问题
- java获取linux本机ip_linux下java获取本机IP地址
- 银行业应用系统监控的维度与目标
- 中介者模式 java_Java设计模式学习记录-中介者模式
- 基于Python实现的手写数字识别系统
- Latex语法学习02:文本悬挂缩进
- 基于友盟+U-APM解决客户小姐姐Android Native Crash问题,小姐姐说我真棒,要把她闺蜜介绍给我
- 最新美团-青龙——5-25
- 为什么使用use strict可以节约你的时间
- git android pdk,Android源码下载,Syncing work tree: error
- 这几款好用超赞的 Google Chrome插件送给你!
- 【Babylonjs】位置、旋转、尺寸缩放
- pyspark udf函数
- 电子商务(B2C)购物网站需求设计方案
- UE4-(场景)后期盒子(PostProcessVolume)之Exposure自动曝光
- 对STDOUT_FILENO的理解