Yoshua Bengio——《Deep Learning》学习笔记1
版权声明:此为Yoshua Bengio的新书《Deep Learning》学习笔记,本文为博主在研究工作中经验分享,包括学习笔记、摘录、研究成果,以便以后工作参考之用,欢迎交流和批评;其中参考资料的标注难免会有疏漏之处,以及其它欠妥之处,如有请告知,立马更正,致歉,谢谢;未经博主允许不得转载。
第一章 前言
机器学习(machine learning): AI 系统需要具备自己获取知识的能力,即从原始数据中提取模式的能力。这种能力被称为 机器学习(machine learning)。
简单的机器学习算法的性能在很大程度上依赖于给定数据的 表示(representation)。
表示学习(representation learning):使用机器学习来发掘表示本身,而不仅仅把表示映射到输出。这种方法我们称之为 表示学习(representation learning)。学习到的表示往往比手动设计的表示表现得更好。并且它们只需最少的人工干预,就能让AI系统迅速适应新的任务。 表示学习算法只需几分钟就可以为简单的任务发现一个很好的特征集,对于复杂任务则需要几小时到几个月。手动为一个复杂的任务设计特征需要耗费大量的人工时间和精力;甚至需要花费整个社群研究人员几十年的时间。
表示学习算法的经典例子是 自编码器--autoencoder,自编码器由一个编码器--encoder 和一个解码器--decoder 函数组成。
深度学习( deep learning )通过其他较简单的表示来表达复杂表示,解决了表示学习中的核心问题。
深度学习的典型例子是前馈深度网络或者多层感知机(multilayer perceptron, MLP)。
学习数据的正确表示的想法是解释深度学习的一个视角。另一个视角是深度促使计算机学习一个多步骤的计算机程序。
目前主要有梁总度量模型深度的方式:1、基于评估架构所需执行的顺序指令的数目;2、是在深度概率模型中使用的方法,它不是将计算图的深度视为模型深度,而是将描述概念彼此如何关联的图的深度视为模型深度。
由于并不总是清楚计算图的深度或概率模型图的深度哪一个是最有意义的,并且由于不同的人选择不同的最小元素集来构建相应的图,因此就像计算机程序的长度不存在单一的正确值一样,架构的深度也不存在单一的正确值。另外,也不存在模型多么深才能被修饰为 ‘‘深’’ 的共识。但相比传统机器学习, 深度学习研究的模型涉及更多学到功能或学到概念的组合,这点毋庸置疑。
AI > Machine learning > representation learning 表示学习 > deep learning 深度学习
AI 的例子: knowledge bases 知识库
Machine learning 的例子: logistic regression 逻辑回归
representation learning 的例子: shallow autoencoder 浅层自编码器
deep learning 的例子: MLP
图1.5 流程图展示了AI系统的不同部分如何在不同的AI 学科中彼此相关
Yoshua Bengio——《Deep Learning》学习笔记1相关推荐
- 笔记 | 吴恩达Coursera Deep Learning学习笔记
向AI转型的程序员都关注了这个号☝☝☝ 作者:Lisa Song 微软总部云智能高级数据科学家,现居西雅图.具有多年机器学习和深度学习的应用经验,熟悉各种业务场景下机器学习和人工智能产品的需求分析.架 ...
- 网上某位牛人的deep learning学习笔记汇总
目录(?)[-] 作者tornadomeet 出处httpwwwcnblogscomtornadomeet 欢迎转载或分享但请务必声明文章出处 Deep learning一基础知识_1 Deep le ...
- CV视觉论文Deep learning学习笔记(一)
论文介绍和监督学习(introduction of paper and supervision of learning) 1. 论文介绍和作者介绍 作者:论文作者是2018年图灵奖得主yoshua B ...
- 【Deep Learning学习笔记】Deep learning for nlp without magic_Bengio_ppt_acl2012
看完180多页的ppt,真心不容易.记得流水账如下: Five reason to explore Deep Learning: 1. learning representation; 2. the ...
- 【deep learning学习笔记】注释yusugomori的LR代码 --- LogisticRegression.cpp
模型实现代码,关键是train函数和predict函数,都很容易. #include <iostream> #include <string> #include <mat ...
- Deep Learning论文笔记之(一)K-means特征学习
Deep Learning论文笔记之(一)K-means特征学习 zouxy09@qq.com http://blog.csdn.net/zouxy09 自己平时看了一些论文,但老感 ...
- Deep Learning论文笔记之(七)深度网络高层特征可视化
Deep Learning论文笔记之(七)深度网络高层特征可视化 zouxy09@qq.com http://blog.csdn.net/zouxy09 自己平时看了一些论文,但老感 ...
- Deep Learning论文笔记之(八)Deep Learning最新综述
Deep Learning论文笔记之(八)Deep Learning最新综述 zouxy09@qq.com http://blog.csdn.net/zouxy09 自己平时看了一些论文,但老感觉看完 ...
- Deep Learning论文笔记之(六)Multi-Stage多级架构分析
Deep Learning论文笔记之(六)Multi-Stage多级架构分析 zouxy09@qq.com http://blog.csdn.net/zouxy09 自己平时看了一些 ...
- Deep Learning论文笔记之(五)CNN卷积神经网络代码理解
Deep Learning论文笔记之(五)CNN卷积神经网络代码理解 zouxy09@qq.com http://blog.csdn.net/zouxy09 自己平时看了一些论文,但 ...
最新文章
- interface接口_golang 基础(Four) 接口进阶
- 实验任务四:登录界面、实验任务五:猜数字
- opencv sobel导数
- 怎么一步步编写简单的PHP的Framework(二十一)
- Android视图组成View
- 使用Caffe预测遇到的问题
- SDH光端机和PDH光端机有什么区别?
- android 2个界面抽屉,Android使用DrawerLayout创建左右两个抽屉菜单
- springcloud gateway ribbon使用_Github点赞接近 70k 的Spring Cloud学习教程+实战项目推荐!牛批!...
- React简单聊聊【面试】
- 【Elasticsearch】使用 Elasticsearch 的 44 条建议
- 【新手向】阿里云上ubuntu+flask+gunicorn+nginx服务器部署(二)项目部署
- C语言--课程管理信息系统
- hp1008win7驱动问题
- 单片机c语言延时30s程序,单片机c语言中的精确延时程序
- 神兵利器Dagger2一站式全解(详细总结)
- unity 游戏上架Google Play
- 根据身份证判断年龄排序
- 小米手机刷机失败补救方法详解
- 【火爆全网的抖音无人直播项目:挤地铁源代码】
热门文章
- 第六期 自定义IP添加-PWM 基于ARTY A7的MicroBlaze系统搭建与应用
- Uninformed Students: Student–Teacher Anomaly Detection with Discriminative Latent Embeddings(翻译)
- Etcd——大厂面试问题集合
- 离线语音远程遥控车控门制作教程(二)
- 经典拼数字游戏NumPuzzle C# By Red_angelX
- 硬件安全之ARM体系架构的演进
- dubbo-monitor装配、 监控中心 配置过程
- python-字典练习3 -数字重复统计
- 连接数据库SSL警告: Establishing SSL connection without server’s identity verification is not recommended.
- 哨兵 (sentinal) 机制的工作原理