深度学习在控制领域的研究现状与展望----总结
深度学习在控制领域的研究现状与展望----总结
一． 什么是深度学习？深度的神经网络（具有多隐层的机器学习模型，海量的训练数据，来学习更有用的特征）
二． 深度学习分类：
- DBN：基于 RBM （受限玻尔兹曼机 (Restricted Boltzmann machine, RBM)）的 DBN 由多个 RBM 堆叠而成,底层为RBM网络，逐级向上，两个网络训练过程，第一个是预训练（无监督学习，无标签，只用了输入信号），底层RBM单独训练，最小化RBM网络能量，训练完成后将隐层作为高层RBM输入，然后继续训练，逐级向上；第二个是全局微调，以训练好的 RBM 之间的权重和偏置作为深度信念网络的初始权重和偏置, 以数据的标签作为监督信号计算网络误差, 利用 BP(Back propagation) 算法计算各层误差, 使用梯度下降法完成各层权重和偏置的调节.
DBN 可用于特征提取和数据分类等.
RBM：两层结构，一层是输入层，一层是隐含层，固定权值和偏置，将隐含层定为输出，代入输入信号和隐含层的偏置，求输出，然后以输出为输入，代入输入层的偏置，反推输入，需要注意，这两个过程偏置不一样。
三． SAE
SAE 由多个 AE （自动编码器 (Autoencoder, AE)）堆叠而成, SAE 前向计算类似于 DBN, 其训练过程也分为预训练和全局微调两个阶段. 不同于RBM 的是, AE 之间的连接是不对称的. 每个 AE可视为一个单隐层的人工神经网络, 其输出目标即此 AE 的输入. 在预训练阶段, 从低层开始, 每个AE 单独训练, 以最小化其输出与输入之间的误差为目标. 低层 AE 训练完成后, 其隐层输出作为高层AE 的输入, 继续训练高层 AE. 以此类推, 逐层训练, 直至将所有 AE 训练完成. 同样地, SAE 的预训练阶段也只使用了输入数据, 属于无监督学习. 在全局微调阶段, 以训练好的 AE 的输入层和隐层之间的权重和偏置作为堆叠自动编码器的初始权重和偏置，以数据的标签作为监督信号计算网络误差, 利用BP 算法计算各层误差, 使用梯度下降法完成各层权重和偏置的调节.
自动编码器 (Autoencoder, AE)：是只有一层隐层节点，输入和输出具有相同节点数的神经网络。求函数 。也就是希望神经网络的输出与输入误差尽量少；隐藏节点数目小于输入节点，神经网络需要学习到输入样本的特征，以便进行压缩表示，适用于输入样本具有一定相似。 - CNN（卷积神经网络 (Convolutional neural net-works, CNN)）
由卷积层和次采样层 (也叫 Pooling 层)交叉堆叠而成，网络前向计算时, 在卷积层, 可同时有多个卷积核对输入进行卷积运算, 生成多个特征图, 每个特征图的维度相对于输入的维度有所降低. 在次采样层, 每个特征图经过池化 (Pooling) 得到维度进一步降低的对应图. 多个卷积层和次采样层交叉堆叠后, 经过全连接层到达网络输出. 网络的训练类似于传统的人工神经网络训练方法, 采用 BP 算法将误差逐层反向传递, 使用梯度下降法调整各层之间的参数.
CNN 可提取输入数据的局部特征, 并逐层组合抽象生成高层特征, 可用于图像识别等问题.
卷积神经网络：
数据输入层：对数据预处理，去均值，归一化，PCA；
卷积计算层：这一层就是卷积神经网络最重要的一个层次，也是“卷积神经网络”的名字来源。在这个卷积层，有两个关键操作：局部关联。每个神经元看做一个滤波器(filter)，窗口(receptive field)滑动， filter对局部数据计算。
深度学习在控制领域的研究现状与展望----总结相关推荐
- 深度学习在控制领域的研究现状与展望
深度学习在控制领域的研究现状与展望 摘要 深度学习在控制领域的研究现状与展望 摘要 深度学习在特征提取与模型拟合方面显示了其潜力和优势.对于存在高维数据的控制系统,引入深度学习具有一定的意义.近年来, ...
- 【论文综述】基于深度学习语音分离技术的研究现状与进展
基于深度学习语音分离技术的研究现状与进展 本文主要是针对单通道的监督性语音分离技术的综述,描述该技术涉及到的特征.模型和目标三个主要方面:并对语音分离的一般流程和整体框架进行了详细的介绍.归纳和总结. ...
- [王晓刚]深度学习在图像识别中的研究进展与展望(转发）
[王晓刚]深度学习在图像识别中的研究进展与展望(转发) (2015-06-04 08:27:56) 转载▼ 深度学习是近十年来人工智能领域取得的最重要的突破之一.它在语音识别.自然语言处理.计 ...
- 王晓刚：深度学习在图像识别中的研究进展与展望
深度学习是近十年来人工智能领域取得的最重要的突破之一.它在语音识别.自然语言处理.计算机视觉.图像与视频分析.多媒体等诸多领域都取得了巨大成功.本文将重点介绍深度学习在物体识别.物体检测.视频分析的最 ...
- 【金融量化】深度学习在金融中的研究热点以及应用
写在前面 下面这篇文章的内容主要参考2020年最新发表的一篇综述论文:<Deep Learning for Financial Applications : A Survey>.这篇论文主 ...
- 为什么深度学习几乎成了计算机视觉研究的标配？
本次CVPR 2016上,深度学习几乎成了如今计算机视觉研究的标配,人脸识别.图像识别.视频识别.行人检测.大规模场景识别的相关论文里都用到了深度学习的方法,加上Google,Facebook这样的大 ...
- 2017年深度学习在NLP领域的进展和趋势
本文翻译的是这篇文章 在过去的很多年里,深度学习架构和算法在某些领域,比如图像识别和语音处理,取得了令人印象深刻的进展. 最初,深度学习架构和算法在NLP领域并没能取得大的进展,但是最近深度学习在普通 ...
- 《基于深度学习的加密流量识别研究》-2022毕设笔记
参考文献: 基于深度学习的网络流量分类及异常检测方法研究_王伟 基于深度学习的加密流量分类技术研究与实现_马梦叠 基于深度学习的加密流量识别研究综述及展望_郭宇斌 基于深度学习的加密流量算法识别研究_ ...
- 第五篇《深度学习在故障诊断领域中的研究现状与挑战》论文阅读笔记
[1]任浩,屈剑锋,柴毅,唐秋,叶欣.深度学习在故障诊断领域中的研究现状与挑战[J].控制与决策,2017,32(08):1345-1358. 深度学习在故障诊断领域中的研究现状与挑战 一.文章本身 ...
最新文章
- nginx try_files的理解
- html高度塌陷问题解决
- ---Mybatis3学习笔记(2)
- 【数据结构与算法】之深入解析“平衡二叉树”的求解思路与算法示例
- 整数反转—leetcode7
- . NET5一出，. NET岗面试普遍喊难，真相是…
- H.264的两个概念：DC系数和AC系数。 MV预测过程详解（附图）
- 进一步的去了解正则[一]
- python中setup函数的用法_python学习之setUp函数和tearDown函数
- 解决使用elementUI框架el-upload上传组件时session丢失问题
- redisson版本_通用Redisson版本
- 【iOS】Could not launch Verify the Developer App certificate for your account is trusted on your devic
- iOS----------获取通知状态并跳转设置界面设置
- 基于Netty自己动手实现Web框架
- 红帽Linux登录密码忘了,redhat linux忘记登陆密码之解决办法
- 《计算机网络 自顶向下方法》答案（第七章）
- limesurvey的问卷类型
- 使用smartdns加速DNS域名解析
- linux 脚本加密 shc
- 以清净心看世界，以欢喜心过生活，以平常心生情味，以柔软心除挂碍。