【DBN数据预测】基于matlab粒子群算法优化DBN数据预测【含Matlab源码 1420期】
⛄一、DBN算法简介
DBN是深度学习方法中的一种常用模型,是一种融合了深度学习与特征学习的神经网络。DBN网络结构是由若干层受限玻尔兹曼机(Restricted Boltzmann Machine,RBM)和一层BP组成的一种深层神经网络。DBN结构如图2所示。
图2 DBN结构示意图
DBN训练过程由预训练和微调构成,数据首先由输入层输入到网络结构中,生成一个向量V,通过权重值W传给隐藏层得到H,单独无监督训练每一层RBM网络,确保特征向量映射到不同特征空间,最后由BP网络接收RBM的输出特征向量作为它的输入特征向量,反向传播网络自顶向下将错误信息传播给每一层RBM,微调整个DBN网络,进行有监督的训练,最终得到网络中的权重以及偏置。
1 受限玻尔兹曼机
RBM是1986年由Smolensky提出的一种可通过输入数据集学习概率分布的随机生成神经网络。RBM模型是包含一种可观察变量(v)和单层隐藏变量(h)的无向概率图,RBM只有两层神经元,它是一个二分图,两层间的单元相互连接,层内的任何单元之间不存在连接。RBM结构见图3。
图3 RBM结构示意图
RBM是一种基于能量的模型,任何两个连接的神经元之间都有一个权重W来表示连接权重Wij, Wij表示可观察变量单元i和隐藏变量单元j之间的权重,观察层与隐藏层分别用v和h来表示,则连接权重与偏差决定的观察层变量v和隐藏层变量h的联合配置能量如下:
其中ai是可观察层单元的偏置,bj是隐藏层单元的偏置,Wij为可观察层单元与隐藏层单元之间的连接权重,基于能量函数的可观察层和隐藏层可以得到概率分布:
其中Z为配分函数的归一化常数,即所有参数下的能量之和,该函数累加所有可观察向量和隐藏向量的可能组合。
RBM中的每层中的神经元只存在两种状态0或1,给定任意层中的各神经元的状态,可以得到可观察层神经元和隐藏层神经元的状态概率如下:
根据Hinton在2002年提出的对比散度,可知参数的变化规则如下:
其中,ε是学习率,⟨⋅⟩data表示训练原始数据集的模型定义的分布,⟨⋅⟩recon表示一步重构后模型定义的分布。
⛄二、部分源代码
tic;
clear all
close all
format compact
format long
%% 1.数据加载
fprintf(1,‘加载数据 \n’);
load(‘drivFace600’);%其中1-173为1类,174-343为2类 344-510为3类 511-600为4类,各选择20%作为测试集
%第一类173组
[i1 i2]=sort(rand(173,1));
train(1:139,:)=input(i2(1:139)
【DBN数据预测】基于matlab粒子群算法优化DBN数据预测【含Matlab源码 1420期】相关推荐
- 【ELM回归预测】基于matlab粒子群算法优化ELM回归预测【含Matlab源码 036期】
一.获取代码方式 获取代码方式1: 完整代码已上传我的资源: [优化预测]基于matlab粒子群算法优化ELM神经网络预测[含Matlab源码 036期] 二.粒子群算法及ELM简介 1 粒子群算法简 ...
- 【ELM回归预测】基于matlab粒子群算法优化ELM回归预测【含Matlab源码 1722期】
一.粒子群算法优化极限学习机ELM简介 PSO-ELM优化算法预测模型 ELM模型在训练之前可以随机产生ω和b, 只需要确定隐含层神经元个数及隐含层神经元激活函数, 即可实现ELM预测模型的构建.在E ...
- 【SVM回归预测】基于matlab粒子群算法优化SVM回归预测【含Matlab源码 1424期】
⛄一.粒子群算法简介 1 引言 自然界中的鸟群和鱼群的群体行为一直是科学家的研究兴趣所在.生物学家Craig Reynolds在1987年提出了一个非常有影响的鸟群聚集模型,在他的仿真中,每一个个体都 ...
- 【ELM回归预测】基于matlab粒子群算法优化ELM回归预测【含Matlab源码 1586期】
一.粒子群算法简介 1 粒子群算法简介 1.1 引言 自然界中的鸟群和鱼群的群体行为一直是科学家的研究兴趣所在.生物学家Craig Reynolds在1987年提出了一个非常有影响的鸟群聚集模型,在他 ...
- 【ELM数据预测】基于matlab粒子群算法优化ELM数据预测(含前后对比)【含Matlab源码 449期】
一.粒子群算法优化极限学习机ELM简介 PSO-ELM优化算法预测模型 ELM模型在训练之前可以随机产生ω和b, 只需要确定隐含层神经元个数及隐含层神经元激活函数, 即可实现ELM预测模型的构建.在E ...
- 【数字信号去噪】基于matlab粒子群算法优化VMD分解分量选择数字信号降噪【含Matlab源码 1979期】
⛄一.获取代码方式 获取代码方式1: 完整代码已上传我的资源:[数字信号去噪]基于matlab粒子群算法优化VMD分解分量选择数字信号降噪[含Matlab源码 1979期] 点击上面蓝色字体,直接付费 ...
- 遗传算法_粒子群算法优化支持向量机分类预测-附代码
遗传算法/粒子群算法优化支持向量机分类预测-附代码 文章目录 遗传算法/粒子群算法优化支持向量机分类预测-附代码 1. 支持向量机简介与参数优化的原理 1.1 支持向量机SVM简介 1.2 优化参数的 ...
- 【飞行器】基于matlab蚁群算法飞行器巡检路径【含Matlab源码 268期】
一.获取代码方式 获取代码方式1: 完整代码已上传我的资源:[飞行器]基于matlab蚁群算法飞行器巡检路径[含Matlab源码 268期] 点击上面蓝色字体,直接付费下载,即可. 获取代码方式2: ...
- 【Matlab图像加密】正交拉丁方置乱算法图像加解密【含GUI源码 182期】
一.代码运行视频(哔哩哔哩) [Matlab图像加密]正交拉丁方置乱算法图像加解密[含GUI源码 182期] 二.matlab版本及参考文献 一.代码运行视频(哔哩哔哩) [Matlab图像处理]自动 ...
最新文章
- Windows下获取视频设备的一种改进实现
- 首个全球智慧城市在线社区启动 将锁定对城市发展构成挑战的困难
- Oracle下载汇聚
- 分享几点Android 开发中的小技巧吧。不知道算不算?
- java parameters用法_(四)Parameters,简单参数就用这个
- centos7 修改为任意网卡名_VirtualBox虚拟机双网卡配置实现与本机互通并上网
- 如何设置IIS实现无扩展名重写
- 从零开始学习Linux笔记
- 使用nodejs机器学习进行app流量判别
- Java SE(5)
- 微软又发布了一款命令行神器,功能太强了!
- 前端vue使用vue-socket.io与socket.io-client与后台使用netty-socketio建立实时通信
- cron表达式生成函数(小时部分自定义) 1小时30分钟,1小时20分钟,1小时40分钟..
- 逆向分析CrackMe系列——CrackMe004之注册码算法分析
- cpmp(compulsory)
- 论文简读《Harmonizing Transferability and Discriminability for Adapting Object Detectors》
- 数据标注的前景好不好
- java 反射操作工具类
- 在Windows中应用图标变成白色,恢复办法
- 【Python_PyQtGraph 学习笔记(六)】基于GraphicsLayoutWidget 实现 曲线对象PlotDataItem 隐藏功能
热门文章
- windows xp MBR结构分析
- mysql数据库语句左连接_MySQL 左连接 右连接 详解
- Get-Me方便的下载工具
- 区块链毕设源码开题论文-基于区块链的餐厅管理系统
- 《〈XNova/OGame〉源码笔记》(3-4)
- 2021-06-19Leetcode312.戳气球
- I2C详解(4) I2C总线的规范以及用户手册(3) I2C电气规格和时序
- DOM(三)-01-(示例-邮件列表)
- Spire.Office.NET Platinum(Hotfix) Version:7.7.2
- 技能提升之visio图不失真导入latex