神经网络中“端到端”思想
深度学习的一个重要思想就是“端到端”的学习方式,属表示学习的一种。这是深度学习区别于其他机器学习算法的最重要的一个方面。其他机器学习算法,如特征选择算法、分类器算法、集成学习算法等,均假设样本特征是给定的,并在此基础上设计具体的机器学习算法,在深度学习时代之前,样本表示基本都使用人工特征,人工特征的优劣往往在很大程度上决定了最终的任务精度。这样便催生了一种特殊的机器学习分支——特征工程。在深度学习到来之前,特征工程在数据挖掘的工业界应用及计算机视觉应用都是非常重要和关键的环节。
端到端的学习方式就是在整个学习流程中并不进行人为的子问题划分,而是完全交给深度学习模型直接学得从原始输入到期望输出的映射。相比分治策略,“端到端”的学习方式具有协同增效的优势,有更大可能获得全局最优解。
对于深度模型,其输入数据是未经任何人为加工的原始样本形式,后续则是堆叠在输入层上的众多操作层。这些操作层整体可被看做一个复杂的函数Fcnn,最终损失函数由数据损失和模型参数的正则化损失共同组成,深度模型的训练则在最终损失驱动下对模型进行参数更新,并将误差反向传播至网络各层。模型的训练过程可以简单抽象为从原始数据向最终目标的直接“拟合”,而中间的这些部件正起到了将原始数据映射为特征(即特征学习),随后再映射为样本标记(即目标任务,如分类)的作用。
下面是组成Fcnn的各个基本部件。
注:文章选自《解析深度学习—卷积神经网络原理与视觉实践》魏秀参著
神经网络中“端到端”思想相关推荐
- 论文翻译:基于端到端的可训练神经网络基于图像的序列识别及其在场景文本识别中的应用
An End-to-End Trainable Neural Network for Image-based Sequence Recognition and Its Application to S ...
- 论文篇 | 2020-Facebook-DETR :利用Transformers端到端的目标检测=>翻译及理解(持续更新中)
论文题目:End-to-End Object Detection with Transformers 2020 论文复现可参考:项目复现 | DETR:利用transformers端到端的目标检测_夏 ...
- 花卉识别python_基于深度神经网络的安卓移动端智能花卉识别算法研究
基于深度神经网络的安卓移动端智能花卉识别算法研究 基于深度神经网络的安卓移动端智能花卉识别算法研究 一.深度学习简介及开发环境搭建 二.深度可分离卷积MobileNets模型 三.VGG与Mobile ...
- 【记录】本科毕设:基于树莓派的智能小车设计(使用Tensorflow + Keras 搭建CNN卷积神经网络 使用端到端的学习方法训练CNN)
0 申明 这是本人2020年的本科毕业设计,内容多为毕设论文和答辩内容中挑选.最初的灵感来自于早前看过的一些项目(抱歉时间久远,只记录了这一个,见下),才让我萌生了做个机电(小车动力与驱动)和控制(树 ...
- 点云配准的端到端深度神经网络:ICCV2019论文解读
点云配准的端到端深度神经网络:ICCV2019论文解读 DeepVCP: An End-to-End Deep Neural Network for Point Cloud Registration ...
- 利用 AssemblyAI 在 PyTorch 中建立端到端的语音识别模型
作者 | Comet 译者 | 天道酬勤,责编 | Carol 出品 | AI 科技大本营(ID:rgznai100) 这篇文章是由AssemblyAI的机器学习研究工程师Michael Nguyen ...
- 脸书开源第一个使用卷积神经网络技术的端到端语音识别系统
https://www.toutiao.com/a6639449370913669635/ 2018-12-27 07:34:30 脸书发布全新自动语音识别的卷积方法 ,以及开源目前最先进的端到端语音 ...
- KDD 2021 | Neural Auction: 电商广告中的端到端机制优化方法
▐ 导读 拍卖机制设计一直是计算广告领域的核心问题,在本文中我们将机器学习和机制设计方法深度融合,提出一种基于深度神经网络建模的电商广告拍卖机制,并在满足 Value 最大化广告主激励兼容的机制解空 ...
- python 调c++生成的dll 中识别char *_基于tensorflow 实现端到端的OCR:二代身份证号识别...
最近在研究OCR识别相关的东西,最终目标是能识别身份证上的所有中文汉字+数字,不过本文先设定一个小目标,先识别定长为18的身份证号,当然本文的思路也是可以复用来识别定长的验证码识别的. 本文实现思路主 ...
最新文章
- 为什么异步Python比同步Python快?
- Java学习_day007:数组与方法
- RMQ+1/-1算法
- go语言入门经典_Go 语言中的 gRPC 基础入门
- 软件工程个人作业(2)
- maven中如何将所有引用的jar包打包到一个jar中
- mybatis学习(15):mybatis连接mysql数据库
- Java:前程似锦的 NIO 2.0
- 【PHP学习】—PHP的基本数据类型(二)
- DevOps案例研究|中华有为-解构华为软开云DevOps实践
- 3D建模到底难不难?
- 跑跑卡丁车手游怎么用电脑玩 跑跑卡丁车模拟器玩法教程
- 笔记本电脑上insert scrlk 键和 insert键(插入和改写格式转换)
- 一篇文章学习完RabbitMQ
- PNG免抠素材网,免费商用,设计师赶紧马住。
- kettle读取hbase
- 输入两个已经按从小到大顺序排列好的字符串,编写一个合并两个字符串的函数,使合并后的字符串,仍然是从小到大排列。
- s盒c语言算法,AES加密算法中的S盒及其C语言实现
- 【PASCALVOC】The Pascal Visual Object Classes Challenge: A Retrospective
- 保研面试,考研复试-万能模板,一分钟到三分钟英语口语自我介绍。