稀疏表征：稀疏字典构建
在信号稀疏表征应用领域，获得适用的字典是一件十分关键的事情。现有的策略基本分为2种，第一是选择经典的字典，如undecimated wavelets , steerable wavelets, contourlets, curvelets。这些字典对于分块平滑且边界平滑的图像较为实用，泛化能力好。但是对于专一处理的信号可能不足够合理，为了获得更加稀疏的表征，亦可以构建字典，现有的经典算法是MOD（Method of Optimal Directions，by Engan）和 K-SVD(by Aharon)。
这一优化模型如下：
这一优化模型，描述的是在未知字典A上，给定信号y，y在A上具备稀疏表针x。
1.MOD-Method of Optimal Directions
上一模型本质上可以分为两个部分求解。可以先固定字典A，求解最稀疏表征x，继而固定稀疏表征x，求解字典A，前一个问题可以用正交匹配追踪的方式求解（OMP），后一问题是典型的MSE凸优化模型，具有唯一的伪逆解。
MOD本质上利用的是上一思想：
稀疏编码对应稀疏求解过程，字典优化本质是凸优化问题。A可以初始化为测量信号Y的随机线性组合
2.K-SVD
K-SVD与MOD的不同之处在稀疏编码后，构建字典的不同。K-SVD的基本思想是，固定字典的某一列，使用其他列更新当前列，这种方式进行并行运算，即更新一遍字典。
考虑上式的Disctionary Coding Stage，重构为：
这一优化问题，对于j0列，最优的a和x，是对E的rank-1近似，这本质上可以通过SVD求解。为了保证当前稀疏表针这一特性固定，实际的E往往只用a中非0项对应的x进行构建：
K-SVD算法总结如下：
考虑到SVD代价比较大，有一种替代的方法，即分别固定a和x去更新另外一个变量：
这里的P操作定义上叙排除非0元素对应原子的操作，即
参考:
[1]Sparse and Redundant Representations ：From Therory to Application in Signal and Image Processing, Michael Elad
稀疏表征：稀疏字典构建相关推荐
- 【论文极速读】VQ-VAE：一种稀疏表征学习方法
[论文极速读]VQ-VAE:一种稀疏表征学习方法 FesianXu 20221208 at Baidu Search Team 前言 最近有需求对特征进行稀疏编码,看到一篇论文VQ-VAE,简单进行笔 ...
- 稀疏表示和字典学习的简单理解
稀疏表示和字典学习的简单理解 特征分类 稀疏表示 字典学习 特征分类 相关特征:对当前有用的属性 冗余特征:所包含的信息有时能从其他特征中推演出来.如若某个冗余特征恰好对应了学习任务所需"中 ...
- 稀疏表示、字典学习、压缩感知的简单理解
注意:本文不涉及任何公式推导,仅对大致原理和作用进行介绍,不当之处欢迎指正. 为什么要稀疏? 1)特征选择 稀疏规则化能实现特征的自动选择,当Xi存在与输出Yi没有关系的特征(冗余特征)时,在最小化损 ...
- 2019年遥感图像稀疏表征_图片为：2019年网络最佳图像格式
2019年遥感图像稀疏表征 JPEG,WEBP,HEIC,AVIF? 本指南将帮助您选择. (JPEG, WEBP, HEIC, AVIF? This guide will help you choo ...
- 行稀疏 列稀疏 稀疏_稀疏分析的终极指南-数学观点
行稀疏 列稀疏 稀疏 In this article, I will try to demystify the idea of sparsity, one of the most important ...
- oracle有没有稀疏列,稀疏 BLAS -
Oracle® Developer Studio 12.5：性能库用户指南
稀疏 BLAS Oracle Developer Studio 性能库稀疏 BLAS 软件包基于以下两个软件包: Netlib Sparse BLAS 软件包,由 Dodson, Grimes 和 L ...
- Dictionary Learning(字典学习、稀疏表示以及其他)
第一部分 字典学习以及稀疏表示的概要 字典学习(Dictionary Learning)和稀疏表示(Sparse Representation)在学术界的正式称谓应该是 稀疏字典学习(Sparse D ...
- [转]字典学习/稀疏编码
本文转自https://zhuanlan.zhihu.com/p/26015351 机器学习--字典学习/稀疏编码学习笔记 Esquirrel 2 个月前 以下资料是小编学习字典学习/稀疏编码时,整理 ...
- 字典学习以及稀疏表示的概要
https://www.cnblogs.com/hdu-zsk/p/5954658.html https://www.cnblogs.com/endlesscoding/p/10090866.html ...
最新文章
- 移动互联网的下个十年猜想
- java get post 区别详解_[Java教程]GET 与 POST 其实没有什么区别
- 处理2D图像和纹理——显示文字
- replace into mysql去重_上传 phpexcel 类 入库并入库前去重
- C++实现教学信息管理系统
- 是用Entity.Save()，还是用DAL.Save(Entity e)
- jdbc pdf_JDBC教程– ULTIMATE指南（PDF下载）
- 人工智能和机器学习的前世今生
- JSP变量和方法声明
- 问题记录——com.mysql.jdbc.exceptions.jdbc4.CommunicationsException: Communications link failure...
- cocos2dx视频教程进阶篇--第2天--打砖块游戏-box2d物理引擎
- Lesson6 how to use HTML QT Widgets
- MySQL不区分大小写(Linux与WINDOWS)
- 分析百度的中文分词结果
- 面试被问离职原因该怎么回答？
- wangEditor 富文本框
- html gzip解压易语言,易语言GZIP解压缩源码
- ubuntu 恢复被删除的文件
- 易灵思FPGA烧写EFINIX 芯片下载使用步骤
- php实现加密解密,PHP实现的加密解密处理类