matlab的稀疏表示分类,基于稀疏表示的分类方法
四天数模,做得不好,但收获不小。最后还通宵一宿,多日后得以重获新生,特做个小记,聊记心得。
本次选题为神经元的分类和聚类,前者给定种类,需要通过训练样本找寻分类特征,再用测试样本测试分类方法的正确性。后者未给定种类,需要根据相似度找出分类。分类方法众多,比如PCA,一种简单的线性统计主成分分析方法,见参考文献【1】;又或灰度关联法,不需要任何基础知识的分类法,见参考文献【2】。这里将总结一种基于稀疏表示的分类方法。
本科期间应该很多人都学过线性相关,即若y与x1、x2……xn相关,则必有y能被x1、x2……xn线性表示。稀疏分析即基于此,只需将y看成是测试样本,x1、x2……xn当作是训练样本,如果y能被x1、x2……xn表出,则认为y属于x1、x2……xn所在类型。当然,这仅是理想状况,由于有噪声等干扰因素的存在,要使y能由x1、x2……xn精确表出,要求过于严格,需要做具体的处理,比如寻求最小残差。
因为实际上测试样本y,初始时无法肯定属于哪一个类型,它可能属于n类中的任何一类,因此我们先定义一个矩阵A,A中包含所有类的训练样本信息,A如下:
因此对测试样本y可以表示成:
y=A*X0
其中X0是系数向量,
除了与测试样本相关的类外,其余元素均为0。
于是,判断y的所属类型,归结于解方程组y=AX,其中y是测试样本,A是整个训练样本集。
此方程组,往往解并不唯一,按照通常处理方法,我们可以采用取2-范数最小,
该法计算复杂度低,但由于误差等,使得y可以被多个不同训练样本逼近,这时解中会有大量来自不同训练样本类的非零元素,这对最后确定样本y属于哪个样本类的精度造成较大影响。
这时为了寻找哪个才是最优,也就是要满足,分类的组类距离最小,组间距离最大,同时考虑到,解向量中大部分元素为0,属稀疏阵,可以设立要求,定义0-范数,为解向量中非零个数,
显然只有非零个数最少时,其表示最为近似。但如此定义的0-范数求解中,会有NP难问题,不利求解。
于是将其等价为1-范数,
具体等价证明可参考文献【3】。
其几何直观解释如下图:
是将1-范数球,映射到1-范数多面体,由于边界点的一一对应关系,可得所定义的0-范数与1-范数等价。
最后用邻接性解决1-范数即可。其计算复杂度低。为多项式复杂度。
当然技术处理上需要考虑到噪声等,所以可以用残差量解决。
基于稀疏表示的分类算法:
Step 1:输入训练样本集:
,k为分类数目;
Step 2:输入测试样本:
,并选择最大误差允许值;
Step 3:解最小 -范数问题:
或
;
Step 4:计算残差量:
;
Step 5:输出y所属的类型:y所属的类型为
对应的标号i。
参考文献:
【3】D. Donoho, “For Most Large Underdetermined Systems of
LinearEquations the Minimal l1- Norm Solution Is
Also the SparsesSolution,” Comm. Pure and Applied Math., vol. 59,
no. 6, pp. 797829, 2006
matlab的稀疏表示分类,基于稀疏表示的分类方法相关推荐
- matlab bp神经网络的诊断,基于-BP神经网络的故障诊断方法.doc
<智能控制基础> 研究生课程设计报告 题 目 基于BP神经网络的故障诊断方法 学 院 机械与汽车工程学院 专业班级 车辆工程 学 号 221601852020 学生姓名 李跃轩 指导教师 ...
- NLP(新闻文本分类)——基于机器学习的文本分类
文本表示方法 在机器学习算法的训练过程中,假设给定NNN个样本,每个样本有MMM个特征,这样组成了N×MN×MN×M的样本矩阵,然后完成算法的训练和预测.同样的在计算机视觉中可以将图片的像素看作特征, ...
- matlab车辆测距,一种基于单目视觉的车辆测距方法
一种基于单目视觉的车辆测距方法 [专利说明]一种基于单目视觉的车辆测距方法 所属技术领域 [0001] 本发明属于目标检测与测距领域,尤其涉及一种基于单目视觉的车辆测距方法. [背景技术] [0002 ...
- c语言鸢尾花智能分类,基于LogisticRegression的鸢尾花分类
LogisticRegression中文叫做逻辑回归,是一种基础.常用的分类方法. 2018年8月24日笔记 1.数据集 Iris(鸢尾花)数据集是多重变量分析的数据集. 数据集包含150行数据,分为 ...
- 【表情识别】基于稀疏表示特征模板匹配算法实现人脸表情识别含Matlab源码
1 简介 随着模式识别.图像处理及机器学习的发展,快速有效的自动识别与验证技术由于其巨大的理论及实际应用价值吸引了广泛关注.作为生物识别中重要的验证手段,人脸识别在信息安全.刑事侦查和视频监控等领域获 ...
- 基于稀疏表示的分类方法 Sparse Representation based Classification Method
文章来源 Jia K, Chan T H, Ma Y. Robust and practical face recognition via structured sparsity[J]. Comput ...
- matlab稀疏贝叶斯,基于变分稀疏贝叶斯学习的DOA估计
作为阵列信号处理技术的重要研究方向之一,信号到达角(DOA)估计被广泛应用到雷达.声呐等领域.以MUSIC[和ESPRIT[为代表的传统空间谱估计算法,实现简单,且空间分辨率高,但要求高信噪比以及多快 ...
- 荔枝hsv空间图像分割程序matlab,基于稀疏场水平集的荔枝图像分割算法_毛亮
第4期毛亮等:基于稀疏场水平集的荔枝图像分割算法349 从表中可知,本文算法在计算速度上接近标准模糊C 均值聚类算法,优于水平集方法.因此,与水平集方法相比,本文算法有着更好的分割性能和实时性. 4结 ...
- 【IHS+稀疏表示】基于IHS小波变换和稀疏表示相结合的遥感图像融合算法matlab仿真
1.软件版本 matlab2013b 2.本算法理论知识 小波变换具有多尺度特性,其时域和频域均 具有表征信号局部特性的能力和多分辨率分析的 特点.在低频时具有高的频谱分辨率,在高频 时具有低的频谱分 ...
最新文章
- java二位数组biaoda_1 面向对象前部分
- docsify and awesome
- c++ map iterator 获取key_Java集合框架——Map接口
- Microsoft SQL Server Version List 版本列表
- java怎么实现同步到微博功能_新浪微博信息站外同步的完整实现
- wireshark源代码分析
- php 大批量的删除图片,PHP批量删除记录同时删除图片文件
- solr 3.5 配置及应用(二)
- 怎么把matlab仿真数据压缩,JPEG图像压缩编码及其MATLAB仿真实现(1)
- 鸿蒙系统下载地址_华为鸿蒙代码全开源,老规矩:先跑个Hello World....
- github note
- 解决问题--修改weblogic密码后无法启动以及如何解密weblogic的3DES密文
- MATLBA中最小二乘支持向量机原理+实例分析
- java查询三级树(三级目录)
- 英剧推荐【IT狂人】
- php larval 数据库when,Laravel DB类操作数据库
- 如何在 R 中计算条件概率
- 【Windows10下.sh文件的运行】‘bash’ is not recognized as an internal or external command
- docker 部署nginx,挂载nginx.conf
- php服务器内容修改时间,php设置服务器时间