回归预测 | MATLAB实现Bayes-LSTM(贝叶斯优化长短期记忆神经网络)多输入单输出
回归预测 | MATLAB实现Bayes-LSTM(贝叶斯优化长短期记忆神经网络)多输入单输出
目录
- 回归预测 | MATLAB实现Bayes-LSTM(贝叶斯优化长短期记忆神经网络)多输入单输出
- 基本介绍
- 模型介绍
- Bayes模型
- LSTM模型
- Bayes-LSTM模型
- 程序设计
- 预测效果
- 致谢
基本介绍
本次运行测试环境MATLAB2018b;
本次预测基本任务是回归,多变量输入,单变量输出;
主要研究问题不限于交通预测、负荷预测、气象预测、经济预测等。
Bayes-LSTM多变量输入单变量输出,贝叶斯优化长短期记忆神经网络,具体介绍如下。
模型介绍
Bayes模型
贝叶斯优化(Bayesian optimization,简称BO)是一种有效的解决方法.
贝叶斯优化在不同的领域也称作序贯克里金优化(sequential Kriging optimization,简称SKO)、基于模型的序贯优化(sequential model-based optimization,简称SMBO)、高效全局优化(efficient global optimization,简称EGO).
- 该方法是一种基于模型的序贯优化(即,在一次评估之后才进行下一次评估)方法,能够在很少的评估代价下得到一个近似最优解.贝叶斯优化已经应用于网页、游戏和材料设计、推荐系统、用户界面交互、机器人步态、导航和嵌入式学习系统、环境监控、组合优化、自动机器学习、传感器网络等领域,展示出令人瞩目的发展前景.
- 概率模型已经成为当前人工智能、机器人学、机器学习等领域的主流方法.机器能够根据概率框架预测未来数据,并且根据预测数据给出决策.这些问题的主要难点在于观测值具有不确定性,而概率模型能够对不确定性进行建模,有效地解决观测噪声问题.Ghahramani 指出,贝叶斯优化是在概率机器学习和人工智能领域中几种最先进、最有希望的技术。
- 贝叶斯优化框架有两个关键部分:(1) 使用概率模型代理原始评估代价高昂的复杂目标函数;(2) 利用代理模型的后验信息构造主动选择策略,即采集函数.在实际应用中,需要针对具体问题选择合适的模型.
LSTM模型
长短时记忆网络(LSTM)是循环神经网络(RNN)的进阶版,专门用来解决一般RNM 的长期依赖问题。LSTM改进的地方在于其增加了三种门和一个记忆单元,可以通过所谓“门”的精细结构向细胞状态添加或移除信息。
Bayes-LSTM模型
由于机器学习的广泛应用,许多现代机器学习算法都包含大量超参数。为有效使用这些算法,需定义适当的超参数值,但神经网络的参数大多数都是手工修改。因此,贝叶斯优化逐渐被用来微调神经网络的超参数。同时会有费时、过拟合的缺点,对此,H提出了Dropout的概念,减弱了神经元节点间的联合适应性,增强了泛化能力。基于贝叶斯的Dropout优化算法的步骤如下。
程序设计
%% 变量初始化
opt.learningMethod = 'LSTM';
%% 参数定义
%最大迭代次数
opt.maxEpochs = 10;
%批处理大小
opt.miniBatchSize = 16;
%执行环境: 'cpu' 'gpu' 'auto'
opt.executionEnvironment = 'cpu';
%优化算法: 'sgdm' 'rmsprop' 'adam'
opt.LR = 'adam';
%训练进程: 'training-progress' 'none'
opt.trainingProgress = 'none'; % 优化参数设定
opt.isUseOptimizer = true;
opt.MaxOptimizationTime = 14*60*60;
opt.MaxItrationNumber = 10;
opt.isDispOptimizationLog = true;
%参数保存设定
opt.isSaveOptimizedValue = false;
opt.isSaveBestOptimizedValue = true; % 贝叶斯数据导入
data.X = inputn;
data.Y = outputn;% 数据划分
data.XTr = [];
data.YTr = [];
data.XTs = [];
data.YTs = [];%% 基于贝叶斯寻找最佳LSTM参数
% 超参数运行
if opt.isDispOptimizationLogisLog = 2;
elseisLog = 0;
end
- 完整程序私信博主。
预测效果
Matlab实现BayesLSTM多变量回归预测
1.wata为数据集,7个输入特征,1个输出特征。
2.BayesLSTMNN.m为主程序文件,运行即可,ObjFcn为函数文件无需运行。
3.命令窗口输出MAPE和RMSE,可在下载区获取数据和程序内容。
注意程序和数据放在一个文件夹,运行环境为Matlab2018及以上。
致谢
- 大家的支持是我写作的动力!
- 感谢大家订阅,感谢,记得备注!
回归预测 | MATLAB实现Bayes-LSTM(贝叶斯优化长短期记忆神经网络)多输入单输出相关推荐
- 回归预测 | MATLAB实现GWO-LSTM灰狼算法优化长短期记忆神经网络多输入单输出回归预测
回归预测 | MATLAB实现GWO-LSTM灰狼算法优化长短期记忆神经网络多输入单输出回归预测 目录 回归预测 | MATLAB实现GWO-LSTM灰狼算法优化长短期记忆神经网络多输入单输出回归预测 ...
- 回归预测 | MATLAB实现WOA-LSTM鲸鱼算法优化长短期记忆神经网络多输入单输出回归预测
回归预测 | MATLAB实现WOA-LSTM鲸鱼算法优化长短期记忆神经网络多输入单输出回归预测 目录 回归预测 | MATLAB实现WOA-LSTM鲸鱼算法优化长短期记忆神经网络多输入单输出回归预测 ...
- 多维时序 | MATLAB实现TPA-LSTM(时间注意力注意力机制长短期记忆神经网络)多输入单输出
多维时序 | MATLAB实现TPA-LSTM(时间注意力注意力机制长短期记忆神经网络)多输入单输出 目录 多维时序 | MATLAB实现TPA-LSTM(时间注意力注意力机制长短期记忆神经网络)多输 ...
- 回归预测 | MATLAB实现SSA-BiLSTM麻雀算法优化双向长短期记忆神经网络多输入单输出
回归预测 | MATLAB实现SSA-BiLSTM麻雀算法优化双向长短期记忆神经网络多输入单输出 目录 回归预测 | MATLAB实现SSA-BiLSTM麻雀算法优化双向长短期记忆神经网络多输入单输出 ...
- 回归预测 | MATLAB实现WOA-BiLSTM鲸鱼算法优化双向长短期记忆神经网络多输入单输出回归预测
回归预测 | MATLAB实现WOA-BiLSTM鲸鱼算法优化双向长短期记忆神经网络多输入单输出回归预测 目录 回归预测 | MATLAB实现WOA-BiLSTM鲸鱼算法优化双向长短期记忆神经网络多输 ...
- 回归预测 | MATLAB实现GWO-BiLSTM灰狼算法优化双向长短期记忆神经网络多输入单输出回归预测
回归预测 | MATLAB实现GWO-BiLSTM灰狼算法优化双向长短期记忆神经网络多输入单输出回归预测 目录 回归预测 | MATLAB实现GWO-BiLSTM灰狼算法优化双向长短期记忆神经网络多输 ...
- 回归预测 | MATLAB实现CNN-LSTM卷积长短期记忆神经网络多输入单输出
回归预测 | MATLAB实现CNN-LSTM(卷积长短期记忆神经网络)多输入单输出 目录 回归预测 | MATLAB实现CNN-LSTM(卷积长短期记忆神经网络)多输入单输出 基本介绍 模型背景 C ...
- 回归预测 | MATLAB实现PLS(偏最小二乘法)和PCR(主成分回归)多输入单输出
回归预测 | MATLAB实现PLS(偏最小二乘法)和PCR(主成分回归)多输入单输出 目录 回归预测 | MATLAB实现PLS(偏最小二乘法)和PCR(主成分回归)多输入单输出 预测效果 基本介绍 ...
- 回归预测 | MATLAB实现PSO-GCNN粒子群算法优化分组卷积神经网络的数据多输入单输出回归预测
回归预测 | MATLAB实现PSO-GCNN粒子群算法优化分组卷积神经网络的数据多输入单输出回归预测 目录 回归预测 | MATLAB实现PSO-GCNN粒子群算法优化分组卷积神经网络的数据多输入单 ...
最新文章
- 生产环境linux下安装两个及两个以上tomcat实践
- Redis命令详解:Hashs
- 神经网络思想建立LR模型(DL公开课第二周答案)
- SEAYAR - 思雅,快乐生活
- mysql join explain_详解 MySQL 中的 explain
- python中mod运算符_Python—运算符模块,pythonoperator
- 网易云音乐刷了我的过去...
- 计算机运行但屏幕黑屏,电脑显示器黑屏,教您电脑主机运行正常显示器黑屏怎么办...
- 小虎电商浏览器:店透视应该如何查黑号?
- 惠新宸php教程_【转载】惠新宸:PHP在百度的应用现状及展望
- 【活动】VUCA时代下的项目管理:京东技术+系列论坛
- 二叉树的简介、特点及二叉树存储结构’
- 长春有学计算机的中专吗,长春比较好的中专学校
- linux重启 envi服务,envi 4.3在ubuntu edgy下启动错误的解决
- InvocationException: GraphViz‘s executables not found【BUG已解决】
- 读徐小平的《图穷对话录》后感
- fmcw matlab仿真,基于SIMULINK的FMCW雷达测距功能仿真.pdf
- 你想要的MindManager思维导图模板全在这里!
- json字符串转化为map
- Python应用之回测基金定投,选周几收益最高?