本文转自https://www.cnblogs.com/zeze/p/7798080.html,感谢这位大神的讲解,为了防止以后找不到相关的知识,所以在此转载,复制到本文。

End to end:指的是输入原始数据,输出的是最后结果,应用在特征学习融入算法,无需单独处理。

end-to-end(端对端)的方法,一端输入我的原始数据,一端输出我想得到的结果。只关心输入和输出,中间的步骤全部都不管。

  端到端指的是输入是原始数据,输出是最后的结果,原来输入端不是直接的原始数据,而是在原始数据中提取的特征,这一点在图像问题上尤为突出,因为图像像素数太多,数据维度高,会产生维度灾难,所以原来一个思路是手工提取图像的一些关键特征,这实际就是就一个降维的过程。
  那么问题来了,特征怎么提?
  特征提取的好坏异常关键,甚至比学习算法还重要,举个例子,对一系列人的数据分类,分类结果是性别,如果你提取的特征是头发的颜色,无论分类算法如何,分类效果都不会好,如果你提取的特征是头发的长短,这个特征就会好很多,但是还是会有错误,如果你提取了一个超强特征,比如染色体的数据,那你的分类基本就不会错了。
  这就意味着,特征需要足够的经验去设计,这在数据量越来越大的情况下也越来越困难。
  于是就出现了端到端网络,特征可以自己去学习,所以特征提取这一步也就融入到算法当中,不需要人来干预了

  简单来说就是深度神经网络处理问题不需要像传统模型那样,如同生产线般一步步去处理输入数据直至输出最后的结果(其中每一步处理过程都是经过人为考量设定好的 (“hand-crafted” function))。

  与之相反,只需给出输入数据以及输出,神经网络就可以通过训练自动“学得”之前那些一步接一步的 “hand-crafted” functions。

相关理解:

1、传统系统需要几个模块串行分别设计,end2end把中间模块都去掉了。
以机器翻译为例 要设计翻译模型 语言模型 调序模型
端到端就是直接一个模型搞定

2、cnn就是比较典型的end2end模型。在图像分类里输入image各通道像素,输出图像类别。 相比于非end2end,conv层的卷积核可以充当feature extractor部分而不需要额外的工作去做特征工程的内容。尽管每一层需要自己设计,但如何得到feature并不需要额外的操作。

3、另一种理解:就是输入一头猪,输出的是香肠

End-to-end在不同应用场景下有不同的具体诠释,

对于视觉领域而言,end-end一词多用于基于视觉的机器控制方面,具体表现是,神经网络的输入为原始图片,神经网络的输出为(可以直接控制机器的)控制指令,如:

1. Nvidia的基于CNNs的end-end自动驾驶,输入图片,直接输出steering angle。从视频来看效果拔群,但其实这个系统目前只能做简单的follow lane,与真正的自动驾驶差距较大。亮点是证实了end-end在自动驾驶领域的可行性,并且对于数据集进行了augmentation。链接:https://devblogs.nvidia.com/parallelforall/deep-learning-self-driving-cars/

2. Google的paper: Learning Hand-Eye Coordination for Robotic Grasping with Deep Learning and Large-Scale Data Collection,也可以算是end-end学习:输入图片,输出控制机械手移动的指令来抓取物品。这篇论文很赞,推荐:https://arxiv.org/pdf/1603.02199v4.pdf

3. DeepMind神作Human-level control through deep reinforcement learning,其实也可以归为end-end,深度增强学习开山之作,值得学习:http://www.nature.com/nature/journal/v518/n7540/full/nature14236.html

4. Princeton大学有个Deep Driving项目,介于end-end和传统的model based的自动驾驶之间,输入为图片,输出一些有用的affordance(实在不知道这词怎么翻译合适…)例如车身姿态、与前车距离、距路边距离等,然后利用这些数据通过公式计算所需的具体驾驶指令如加速、刹车、转向等。链接:http://deepdriving.cs.princeton.edu/

总之

end-end不是什么新东西,也不是什么神奇的东西,仅仅是直接输入原始数据,直接输出最终目标的一种思想。

深度学习中 经常提到的 end to end 的理解相关推荐

  1. 深度学习中的Epoch,Batchsize,Iterations深刻理解

    [嵌牛导读]Epoch,Batchsize,Iterations,这三个都是深度学习训练模型时经常遇到的概念.你一定有过这样的时刻,面对这几个词傻傻分不清楚,这三个概念究竟是什么,它们又有什么区别? ...

  2. 深度学习中7种最优化算法的可视化与理解

    作者丨小小鱼@知乎 来源丨https://zhuanlan.zhihu.com/p/41799394 本文旨在优化一维函数,实际上模型参数有数百万维以上,差距很大,因此本文最好作为辅助法的理解,而非对 ...

  3. 深度学习中端到端(end-to-end)简要理解

    端到端(end-to-end)简要理解 端到端 好处 不同领域的端到端 目标检测 非end-to-end方法 end-to-end方法 CV计算机视觉 语音识别 非端到端 端到端 参考 端到端 端到端 ...

  4. 深度学习中 Embedding层两大作用的个人理解

    https://blog.csdn.net/weixin_42078618/article/details/82999906

  5. 正则化的通俗解释_干货|深度学习中的正则化技术概述(附Python+keras实现代码)...

    点击上方"AI遇见机器学习",选择"星标"公众号 重磅干货,第一时间送达 介绍 数据科学研究者们最常遇见的问题之一就是怎样避免过拟合.你也许在训练模型的时候也遇 ...

  6. 【深度学习】深度学习中模型计算量(FLOPs)和参数量(Params)等的理解以及四种在python应用的计算方法总结

    接下来要分别概述以下内容: 1 首先什么是参数量,什么是计算量 2 如何计算 参数量,如何统计 计算量 3 换算参数量,把他换算成我们常用的单位,比如:mb 4 对于各个经典网络,论述他们是计算量大还 ...

  7. 深度学习中的优化算法之MBGD

    之前在https://blog.csdn.net/fengbingchun/article/details/75351323 介绍过梯度下降,常见的梯度下降有三种形式:BGD.SGD.MBGD,它们的 ...

  8. 深度学习中的注意力机制(一)

    作者 | 蘑菇先生 来源 | NewBeeNLP 头图 | CSDN下载自视觉中国 目前深度学习中热点之一就是注意力机制(Attention Mechanisms).Attention源于人类视觉系统 ...

  9. 深度学习中的Normalization模型(附实例公式)

    来源:运筹OR帷幄 本文约14000字,建议阅读20分钟. 本文以非常宏大和透彻的视角分析了深度学习中的多种Normalization模型,从一个新的数学视角分析了BN算法为什么有效. [ 导读 ]不 ...

最新文章

  1. centos6.5下载卸载mysql,centos 6.5卸载Mysql
  2. shell python -c_python, shell, C/C++ 从命令行获得参数
  3. pyqt5——菜单和工具栏
  4. linux如何挂载nfs目录,linux – NFS导出已经挂载NFS的目录(在服务器上)
  5. 3 QM配置-质量计划配置-编辑特性属性的选择集
  6. Centos0S7手动安装OpenStack Pike版--(Evironment)
  7. python处理excel表格-Python利用pandas处理Excel数据的应用
  8. 安卓原生开机动画_安卓开机动画 74款
  9. <2021SC@SDUSC> 开源游戏引擎 Overload 代码模块分析 之 OvTools(七)—— 终篇总结
  10. 猎豹网校 java,猎豹网校JAVA编程思想高级视频教程
  11. SQL数据库语句大全
  12. C语言银行账户管理系统
  13. mysql 部分汉字乱码_一次mysql部分汉字乱码解决过程
  14. mysql C openmp_OpenMP: sections分段并行 | 学步园
  15. AI一分钟 | 苹果9月13日凌晨召开发布会;林斌晒小米手机新品,“撞脸”荣耀Magic 2...
  16. C#关键字扫盲——Sealed 密封
  17. 矩阵的秩+基础解系的秩为什么等于n?
  18. 中国各省、自治区的名字来历
  19. 城乡投票源码php_PHP微信公众号投票活动系统源码 独立版
  20. IntelliJ IDEA 15款神级超级牛逼插件推荐

热门文章

  1. 【JS】jQuery实现弹幕效果
  2. Python xlrd读取、处理excel日期类型
  3. Image 图像转化为 PDF 文件
  4. python爬虫教程(五):解析库bs4及爬取实例
  5. Markdown语法整理(详细版)
  6. 环境资源与相关词汇中英文对照
  7. 有关H5的第一章介绍
  8. 黑白图片复原为彩色Picture Colorizer(图片着色器)
  9. 解决Redis问题:JedisConnectionException: Could not get a resource from the pool
  10. jbox弹窗_jbox很好的弹出层 很好的弹出层 - 下载 - 搜珍网