天鹰优化的半监督拉普拉斯深度核极限学习机用于分类
0、前言
天鹰优化的半监督拉普拉斯深度核极限学习机分类方法:首先采用拉普拉斯半监督深度ELM-AE实现抽象特征提取,然后将提取的抽象特征用来训练一个天鹰优化的核极限学习机实现分类。半监督拉普拉斯深度核极限学习机实际上是由半监督拉普拉斯多层极限学习机+KELM构成。
1、理论简介
1.1 ELMAE
ELMAE与ELM都是三层网络结构,但是ELM-AE 是无监督学习算法 , 其输出与输入一致。
ELMAE的输出权重计算公式如下:
1.2 多层极限学习机ML-ELM
ML-ELM 使用 ELM-AE 逐层训练,ML-ELM 利用 ELM-AE 训练时,第 i 个隐层的输出和第(i-1)个隐层上的输出的数值关系可用以下公式表示:
1.3 半监督拉普拉斯深度ELM( Lap-ML-ELM)
文献《拉普拉斯多层极速学习机》 把流形正则化框架引入多层极速学习机模型 , 提出了拉普拉斯多层极速学习机( Lap-ML-ELM)。Lap-ML-ELM 模型结构与 ML-ELM 相同 , 但是 Lap-ML-ELM 把标记样本和未标记样本一起训练 .Lap-ML-ELM 和ML-ELM 最大的不同之处是最后的输出权值的求法不同 :ML-ELM 是直接通过最小化最小二乘估计的广义正则化代价函数求得, Lap-ML-ELM 是利用流形正则化框架求得。
假设 Lap-ML-ELM 有 k 个隐层 , 则可通过上述公式(2) 把第 k 隐层输出Hk求得。我们通过使以下代价函数最小化求出输出权值
其中 ,nk是 Lap-ML-ELM 中第 k 个隐层的节点数。
1.4 半监督拉普拉斯深度核极限学习机
半监督拉普拉斯深度核极限学习机首先利用半监督拉普拉斯深度ELM( Lap-ML-ELM)对输入数据进行逐层抽取从而得到更为有效的特征,有利于区分容易混淆的类型,提高分类精度;而基于这些更为抽象的特征而非原始的输入样本数据,利用核函数计算代替高维空间的内积运算,从而实现将特征映射到更高维空间进行决策,则有利于进一步提高分类的准确性和算法的泛化性能。半监督拉普拉斯深度核极限学习机结构如下:
2、天鹰优化半监督拉普拉斯深度核极限学习机
考虑到半监督拉普拉斯深度核极限学习机最后分类效果受核参数影响,因此采用天鹰优化算法进行优化,适应度函数为分类精度。
3、效果对比
普通ELM分类效果如下:
lap-ML-ELM分类效果如下:
半监督拉普拉斯深度核极限学习机分类效果如下:
可以看出半监督拉普拉斯深度核极限学习机分类精度最高。
天鹰优化的半监督拉普拉斯深度核极限学习机用于分类相关推荐
- 图半监督极限学习机用于分类
0.前言 前期博文适用于小样本时间序列预测的图半监督学习方法介绍了图半监督方法,本博文先将图半监督方法与ELM结合用于分类,检验图半监督学习方法的有效性.后期博文将复现博文适用于小样本时间序列预测的图 ...
- 灰狼算法(GWO)优化混合核极限学习机(HKELM)分类预测,多输入单输出模型,GWO-HKELM分类预测。
%采用混合核函数类型:RBF核函数和poly核函数 function omega = kernel_matrix(Xtrain,kernel_type1, kernel_type2,kernel_pa ...
- 基于深度混合核极限学习机的多变量输入时间序列预测
0.前言 深度混合核极限学习机的时间序列预测方法:首先采用多层ELM-AE实现抽象特征提取,然后将提取的抽象特征用来训练一个混合核极限学习机实现分类.深度混合核极限学习机实际上是由多层极限学习机+HK ...
- 【图像分割】基于萤火虫优化的半监督谱聚类彩色图像分割方法(Matlab代码实现)
目录 0 概述 1 萤火虫算法 1.1 思想来源 1.2 数学模型 1.2.1 萤火虫相对荧光亮度 1.2.2 萤火虫吸引度 1.2.3 位置更新 1.3 算法步骤 2 基于萤火虫优化的半监督谱聚类彩 ...
- 基于核极限学习机KELM、在线顺序极限学习机OS-ELM、在线贯序核极限学习机OSKELM
基于核极限学习机KELM.在线顺序极限学习机OS-ELM.在线贯序核极限学习机OSKELM.遗忘因子的在线贯列核极限学习F-OSKELM和自适应遗忘因子的在线贯列核极限学习AF-OSKELM数据预测, ...
- 【CVPR 2020】 旷视研究院提出SAT:优化解决半监督视频物体分割问题
IEEE国际计算机视觉与模式识别会议 CVPR 2020 (IEEE Conference on Computer Vision and Pattern Recognition) 将于 6 月 14- ...
- 【DELM回归预测】基于matlab多元宇宙优化算法改进深度学习极限学习机数据回归预测【含Matlab源码 2230期】
⛄一.多元宇宙优化算法 MVO是Seyedali Mirjalili受到多元宇宙理论的启发提出来的元启发式优化算法.主要根据多元宇宙理论的3个主要概念-白洞.黑洞和虫洞,来建立数学模型. MVO算法中 ...
- 【DELM回归预测】多元宇宙优化算法改进深度学习极限学习机数据回归预测【含Matlab源码 2230期】
⛄一.多元宇宙优化算法 MVO是Seyedali Mirjalili受到多元宇宙理论的启发提出来的元启发式优化算法.主要根据多元宇宙理论的3个主要概念-白洞.黑洞和虫洞,来建立数学模型. MVO算法中 ...
- 【回归预测-DELM】基于多元宇宙优化算法改进深度学习极限学习机实现数据回归预测附matlab代码
✅作者简介:热爱科研的Matlab仿真开发者,修心和技术同步精进,matlab项目合作可私信.
- 【预测模型-DELM分类】基于哈里斯鹰算法改进深度学习极限学习机实现数据分类附matlab代码
✅作者简介:热爱科研的Matlab仿真开发者,修心和技术同步精进,matlab项目合作可私信.
最新文章
- html 滚动条_数十种自定义多彩多样滚动条样式
- 问题解决:无法获得锁 /var/lib/dpkg/lock
- 使用TortoiseGit,设置ssh方式连接git仓库
- 计算本年 本月 本周的起始日期
- glClearDepth
- 手把手教你D2C,走向前端智能化
- 用pycharm写python老是提示错误_python pycharm错误集锦
- php 调试环境配置
- Python大数据分析LOL游戏胜率
- 不同行业的软件安全标准介绍和对比
- ARM920T MMU and Cache
- 计算机网络设备维修会计分录,设备维修记录什么会计科目
- linux防火墙黑白名单,iptables详解(9):iptables的黑白名单机制
- 更改WPS云文档数据存储位置
- turtle库画图单击鼠标获取坐标位置
- 生信格式 | bigwig,bw (基因组浏览器绘制)
- 常见排序算法时间复杂度和空间复杂度
- 为什么老程序员的效率如此高?编程速度快,Bug数量又少?
- APP分类及与web区别
- 业务架构 -- 序列4 -- 圈定边界(利益相关者分析)