这篇文章是根据我的书9章2节改编的, 与 python 进行深入学习 (曼宁出版物)。它是关于目前的深度学习的局限性和它的未来的一系列两个职位的一部分。第二部分将于2017年7月18日公布。
这篇文章的目标是那些已经有深入学习经验的人 (例如, 读过1章到书8的人)。我们假设有很多预先存在的知识。
深入学习: 几何观
深入学习最令人惊讶的是它是多么的简单。十年前, 没有人料到我们会通过使用梯度下降训练的简单参数模型来实现机器感知问题的惊人结果。现在, 事实证明, 所有你需要的是足够大的参数模型训练的梯度下降足够多的例子。费曼曾经说过宇宙, "这并不复杂, 它只是很多"。
在深入的学习中, 一切都是一个向量, 即一切都是一个几何空间的点。模型输入 (可以是文本、图像等) 和目标是第一个 "量化", 即变成一些初始输入向量空间和目标向量空间。深度学习模型中的每个层都对经过它的数据进行简单的几何变换。在一起, 模型的层链形成一个非常复杂的几何变换, 分解成一系列简单的。这种复杂的转换尝试将输入空间映射到目标空间, 一次一个点。此转换由层的权重参数, 这是基于模型当前的执行情况进行迭代更新的。这个几何变换的一个关键特征是它必须是可微的, 为了我们能通过梯度下降学会它的参量是需要的。直观地说, 这意味着从输入到输出的几何变形必须是平滑和连续的, 这是一个重要的约束。
将这个复杂的几何变换应用到输入数据的整个过程可以在3D 中可视化, 想象一个人试图 uncrumple 一个纸球: 皱巴巴的纸球是模型开始时的输入数据流形。在纸球上的人所操作的每个动作都类似于一个简单的由一层操作的几何变换。完整的 uncrumpling 手势序列是整个模型的复杂变换。深学习模型是 uncrumpling 复杂的高维数据流形的数学机器。
这就是深入学习的神奇之处: 将意义转化为向量, 进入几何空间, 然后逐步学习复杂的几何变换, 将一个空间映射到另一处。所有您需要的是足够高维度的空间, 以便捕获原始数据中的关系的全部范围。
深度学习的局限性
可以用这个简单的策略实现的应用程序空间几乎是无穷大的。然而, 对于目前的深层学习技术, 更多的应用已经完全无法实现--甚至给出了大量的人类注释数据。比方说, 例如, 您可以组装一个由产品经理编写的、由一个工程师组成的团队为满足这些要求而开发的相应源代码的数据集, 其中包括对软件产品的功能的英语语言描述。即使有了这些数据, 您也无法训练一个深入的学习模型来简单地读取产品描述并生成相应的代码库。这只是许多人中的一个例子。一般情况下, 任何需要推理的编程, 或者应用科学方法--长期规划, 和算法, 比如数据操作--都无法达到深入的学习模式, 不管你向他们扔了多少数据。即使学习一个具有深神经网络的排序算法是非常困难的。
这是因为一个深的学习模型是 "只是" 一连串简单的, 连续的几何变换映射一个向量空间到另一个。它所能做的就是将一个数据流形 x 映射到另一个流形 y 中, 假设存在一个从 x 到 y 的学习连续变换, 以及一个稠密的 x: y 的取样, 用作训练数据。因此, 即使一个深的学习模式可以被解释为一种程序, 相反多数节目不能被表达作为深刻的学习模型-对于多数任务, 或者存在没有对应的 practically-sized 深层神经网络解决任务, 或者, 即使存在一个, 它可能不学习, 即对应的几何变换可能是太复杂的, 或者可能没有适当的数据可供学习。
通过堆叠更多的层和使用更多的培训数据来扩展当前的深层学习技术, 只能表面上减轻其中的一些问题。它不会解决更深层次的问题, 即深入学习

python 进行深入学习相关推荐

  1. python嵩天课堂笔记_[Python机器学习]强化学习笔记（嵩天礼欣老师mooc第三周）

    [Python机器学习]强化学习笔记(嵩天礼欣老师mooc第三周) [Python机器学习]强化学习笔记(嵩天礼欣老师mooc第三周) 目录 强化学习 定义 马尔科夫决策过程 基本元素 值函数 最优值 ...

  2. Blender中的Python脚本介绍学习教程

    Blender中的Python脚本介绍学习教程 MP4 |视频:h264,1280×720 |音频:AAC,48000 Hz 语言:英语+中英文字幕(根据原英文字幕机译更准确)|大小解压后:1.63 ...

  3. 零基础学python培训需要学习多久?

    Python是一种入门比较简单的编程语言,但是如果是零基础学员,学习起来还是需要时间的,那么零基础学python培训需要学习多久呢?我们来看看小编的详细介绍吧. 零基础学python培训需要学习多久? ...

  4. 如何用 OpenCV、Python 和深度学习实现面部识别？

    点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达本文转自|新机器视觉 Face ID 的兴起带动了一波面部识别技术热 ...

  5. 【python教程入门学习】Python实现自动玩贪吃蛇程序

    这篇文章主要介绍了通过Python实现的简易的自动玩贪吃蛇游戏的小程序,文中的示例代码讲解详细,感兴趣的小伙伴可以跟随小编一起学一学 实现效果 先看看效果 这比我手动的快多了,而且是单机的,自动玩没惹 ...

  6. 【python教程入门学习】Python零基础入门爬虫项目

    Python入门爬虫项目 这是我的第一个python项目,分享给大家. 需求 我们目前正在开发一款产品其功能大致是:用户收到短信如:购买了电影票或者火车票机票之类的事件.然后app读取短信,解析短信, ...

  7. Keras快速上手：基于Python的深度学习

    Keras快速上手:基于Python的深度学习 谢梁,鲁颖,劳虹岚 著 ISBN:9787121318726 包装:平装 开本:16开 正文语种:中文 出版社: 电子工业出版社 出版时间:2017-0 ...

  8. Python基础语法学习笔记

    Python基础语法学习笔记 想淘宝省钱看我简介,博客www.liangxin.name (一) 一.Print()函数 1.数字可以直接输出,无需加引号 只能理解数字,却读不懂文字.因为数字和数学运 ...

  9. python自学免费课堂-推荐5个Python爬虫免费学习资源（B站高赞！）

    这里是法学院毕业的Python程序员阿峰. 写在前面: 和学任何技能一样,学习Python爬虫也需要两点:行动和时间. 所有的爬虫速成课,我都不推荐. 如果您愿意付出时间和行动,每天在Python上进 ...

  10. python与c语言在语法上的区别-C语言和Python编程先学习哪个

    原标题:C语言和Python编程先学习哪个 初学者,Python和C语言先学哪个好? 就像是"先有鸡还是先有蛋一样",先学python还是先学C语言,这也是个世纪难题. 这种纠结并 ...

最新文章

  1. 清华数为大数据应用低代码开发工具DWF 2021成长回顾
  2. jsonProperty
  3. poj1061-青蛙的约会(拓展欧几里得java)
  4. Android 系统（185）---如何使用adb command来设置cpu频率和核数
  5. 如果我建一个外卖平台，不收取商家佣金和骑手提点，会不会成功？
  6. Python基础篇：常见常用且要常记得的数据类型--列表
  7. 用POP动画编写带富文本的自定义动画效果
  8. python大漠插件多开_[求助,]用python调用大漠插件,注册好后调用出错.完全不会了...
  9. matlab中modred,计算机仿真技术（中南大学）3系统模型及转换.ppt
  10. windows xp 美化大师之系统主题
  11. Elasticsearch：部署 ECE (Elastic Cloud Enterprise)
  12. cad画直线长度与实际不符_cad画规定长度直线的方法步骤图
  13. docker build报错解决：error creating overlay mount to .../overlay
  14. 一看就懂：阿里云 OSS
  15. 2.shel脚本l知识点学习一
  16. WIN10系统IE浏览器被劫持怎么办?个人呕心沥血的一点小贴士
  17. 小程序解码wx.getUserInfo中的decryptData数据
  18. 平台交叉打包 GYP
  19. 终于搞懂了el-dialog属性modal-append-to-body,append-to-body的作用【图解】
  20. C# DateTime 24小时格式

热门文章

  1. 给二维码加密，防止内部资料外泄
  2. 经典小船过河问题，附Python，java题解
  3. bedtools 批量提取snp前后1000bp片段
  4. CCNA专业英文词汇全集
  5. 小白都能看得懂的ZBrush基础教学
  6. echarts多坐标轴图表
  7. PHP设计模式-简单工厂方法
  8. 如何画好架构图详解（建议收藏）
  9. 我用Python制作了全国疫情地图，其实一点都不难！
  10. qml 滚动控件Scroll ScrollBar ScrollIndicator ScrollView