基于稀疏表示理论的图像去噪

1 稀疏表示
- 1.1 稀疏表示理论
- 1.2 稀疏表示模型
- - 1.2.1 信号的稀疏模型
  - 1.2.2 小块图像的稀疏模型
  - 1.2.3 整体图像的稀疏模型
  - 1.2.4 基于字典学习的图像稀疏去噪模型
2 稀疏分解算法
- 2.1 松弛优化算法
- - BP算法
- 2.2 贪婪追踪算法
- - 2.2.1 匹配追踪/MP算法
  - 2.2.2 正交匹配追踪/OMP算法
3 过完备字典设计
- 3.1 固定字典
- 3.2 学习型字典
- - 3.2.1 最优方向法（Method of Optimal Directions,MOD)
  - 3.2.2 K-奇异值分解（K-SVD)

学习笔记

1 稀疏表示

1.1 稀疏表示理论

1993年 Mallat提出超完备字典，基于超完备字典的稀疏表示是图像稀疏去噪的重要研究方向。

1.2 稀疏表示模型

1.2.1 信号的稀疏模型

信号的稀疏表示是通过选取最少量的基函数通过线性组合对信号进行表示的过程。
设信号x⊂RNx \subset R^Nx⊂RN,可由字典D=[d1,d2,⋅⋅⋅，dM]⊂RN×M（M>N)D=[d_1,d_2,···，d_M] \subset R^{N \times M}（M>N)D=[d1,d2,⋅⋅⋅，dM]⊂RN×M（M>N)中的少数基元线性组合来进行表示，即：
x=Dα(1)x=D\alpha \tag{1}x=Dα(1)
其中，α=[α1,α2,⋅⋅⋅，αM]T⊂RM\alpha=[\alpha_1,\alpha_2,···，\alpha_M]^T\subset R^Mα=[α1,α2,⋅⋅⋅，αM]T⊂RM是稀疏表示系数。
由于M>NM>NM>N,因此求解α\alphaα是一个欠定问题，解不唯一。稀疏表示算法寻找其中的最稀疏解，即
min∥α∥0,s.t.x=Dα(2)min \parallel\alpha\parallel_0,s.t. x=D\alpha\tag{2}min∥α∥0,s.t.x=Dα(2)
其中， ∥α∥0\parallel\alpha\parallel_0∥α∥0表示α\alphaα的l0l_0l0范数，即α\alphaα中的非0元素个数，α\alphaα为稀疏表示系数，DDD为稀疏变换矩阵，通常也被称作过完备字典（Overcomplete Dictionary)，dkd_kdk为字典中的原子。

1.2.2 小块图像的稀疏模型

图像的稀疏分解对于维数较小的字典更有利于分解。
考虑图像XXX(总像素点数个数为NNN)中的分块μ\muμ,大小为n×n\sqrt n\times \sqrt nn×n,n≪Nn\ll Nn≪N,将其排列成列向量x⊂Rnx\subset R^nx⊂Rn,假设冗余字典D⊂n×KD\subset {n\times K}D⊂n×K已知，K>nK > nK>n。图像块xxx基于字典DDD的稀疏表示模型为：
α^=argminα∥α∥0s.t.Dα=x(3)\hat{\alpha}=arg min_\alpha \parallel\alpha\parallel_0 s.t. D\alpha=x\tag{3}α^=argminα∥α∥0s.t.Dα=x(3)
其中，∥α∥0\parallel\alpha\parallel_0∥α∥0为向量α\alphaα的非0元素个数。
上述模型计算较为复杂，为了简化该模型，使之能更方便的计算，采用误差约束∥Dα−x∥22≤ϵ\parallel D\alpha-x\parallel _2^2 \leq \epsilon∥Dα−x∥22≤ϵ替换Dα=xD\alpha=xDα=x，同时定义稀疏度为LLL，使得∥α^∥≤L≤n\parallel \hat{\alpha}\parallel \leq L \leq n∥α^∥≤L≤n。于是(3)可以转换为：
α^=argminα∥α∥0s.t.∥Dα−x∥≤T(4)\hat{\alpha}=arg min_\alpha \parallel\alpha\parallel_0 s.t. \parallel D\alpha-x\parallel \leq T\tag{4}α^=argminα∥α∥0s.t.∥Dα−x∥≤T(4)
其中TTT的取值取决于ϵ\epsilonϵ与高斯白噪声标准差σ\sigmaσ，去噪后的块图像表达式为：
x^=Dα^(5)\hat{x}=D\hat{\alpha}\tag{5}x^=Dα^(5)
将(4)的约束项转换为惩罚项，可以得到模型：
α^=argminα∥Dα−x∥22+μ∥α∥0(6)\hat{\alpha}=argmin_\alpha\parallel D\alpha-x\parallel _2^2+\mu\parallel \alpha\parallel _0\tag{6}α^=argminα∥Dα−x∥22+μ∥α∥0(6)
其中，μ\muμ称为惩罚因子。

1.2.3 整体图像的稀疏模型

对一幅大小为N×N\sqrt N\times \sqrt NN×N的整体图像XXX，假设上述稀疏模型适用于图像中所有图像块。假定RijR_{ij}Rij是提取图像分块的矩阵，那么RijXR_{ij}XRijX则表示与图像分块矩阵相对应的图像块。于是整体图像的稀疏表示模型为：
αij^,X^=argminαij,Xλ∥X−Y∥22+∑i,jμij∥αij∥0+∑i,j∥Dαij−RijX∥22(7){\hat{\alpha_{ij}},\hat{X}}=argmin_{\alpha_{ij},X}\lambda\parallel X-Y\parallel_2^2+\sum_{i,j}\mu_{ij}\parallel \alpha_{ij}\parallel _0+\sum_{i,j}\parallel D\alpha_{ij}-R_{ij}X \parallel _2^2 \tag{7}αij^,X^=argminαij,Xλ∥X−Y∥22+i,j∑μij∥αij∥0+i,j∑∥Dαij−RijX∥22(7)
上式中，λ∥X−Y∥22\lambda\parallel X-Y\parallel_2^2λ∥X−Y∥22表明含噪图像Y和去噪图像X之间的相似程度；第二项表示稀疏性约束；第三项表示重建误差约束，RijXR_{ij}XRijX表示图像块，DαijD\alpha_{ij}Dαij表示重构后的图像块。

1.2.4 基于字典学习的图像稀疏去噪模型

若式（7）图像稀疏去噪模型中字典DDD是不确定字典而非固定型字典，因此加入字典学习后的图像稀疏去噪模型可以表述为：
αij^,D^,X^=argminD,αij,X(λ∥X−Y∥22+∑i,jμij∥αij∥0+∑i,j∥Dαij−RijX∥22)(8){\hat{\alpha_{ij}},\hat{D},\hat{X}}=argmin_{D,\alpha_{ij},X}(\lambda\parallel X-Y\parallel_2^2+\sum_{i,j}\mu_{ij}\parallel \alpha_{ij}\parallel _0+\sum_{i,j}\parallel D\alpha_{ij}-R_{ij}X \parallel _2^2) \tag{8}αij^,D^,X^=argminD,αij,X(λ∥X−Y∥22+i,j∑μij∥αij∥0+i,j∑∥Dαij−RijX∥22)(8)

2 稀疏分解算法

2.1 松弛优化算法

1.目的是得到原组合优化问题的解，通常利用凸的l1l_1l1范数来代替非凸的l0l_0l0范数，然后通过求解凸规划或非线性规划问题得到非凸组合优化问题的解。
2.松弛优化算法计算精度高，但运算速度慢。
3.松弛优化算法包括：基追踪算法（Basic Pursuit,BP)、最小全变差法（Toatal Variation，TV)

BP算法

1.对于过完备稀疏表示模型，由于l0l_0l0范数是非凸的，所以求解唯一解是一个NP-hard问题。
2.BP算法用l1l_1l1范数替换l0l_0l0范数，通过求解凸优化问题得到原组合优化问题的解。
3.算法计算复杂度高，运算速度慢。

2.2 贪婪追踪算法

1.贪婪追踪算法在每次迭代中从过完备字典中选择合适的原子，通过选择出来的原子对原始信号进行逼近。
2.具有代表性的有匹配追踪算法（Matching Pursuit, MP),正交匹配追踪（Orthogonal Matching Pursuit,OMP),最优正交匹配追踪(Optimized Orthogonal Matching Pursuit,OOMP),稀疏自适应匹配追踪(Sparsity Adaptive Matching Pursuit, SAMP)。
3.贪婪追踪算法相比于松弛优化算法，具有算法复杂度低，运算速度快的特点，但运算精度没有松弛优化算法高。

2.2.1 匹配追踪/MP算法

1.1993年Mallat和Zhang最早提出了匹配追踪算法。
2.该算法首先稀疏逼近一个过完备原子库DDD中与信号vvv最匹配的原子，并计算信号的残差，然后反复迭代求解与残差最匹配的原子。信号vvv就可以通过这些原子的线性组合来表示。
3.MP算法具有收敛性，在每次迭代后，残差会越来越小。
4.缺点是迭代结果不是最优解，算法收敛需要较多的迭代次数(因为残差与之前的原子不正交，有可能投影到之前选择的原子上）。

2.2.2 正交匹配追踪/OMP算法

基于MP算法进行改进：OMP算法在进行信号稀疏分解时会对之前投影过的原子进行正交化处理，从而克服了MP算法的缺点。

3 过完备字典设计

3.1 固定字典

1.实现容易，收敛速度快。
2.固定字典包括：离散余弦变换（DCT)字典，Gabor字典，小波变换字典等。

3.2 学习型字典

1.训练出具有针对性的稀疏字典。
2.处理时间长；每次训练完字典重构出图像后，字典需要重新训练。

3.2.1 最优方向法（Method of Optimal Directions,MOD)

1.1999年Engan提出。
2.为了找到字典DDD和稀疏系数aaa,使两者之间的表达误差最小。

3.2.2 K-奇异值分解（K-SVD)

1.该算法逐个更新字典原子，避免运算量大的矩阵求逆运算。
2.与MOD步骤类似，同样可分为稀疏分解和字典更新两大步骤，在字典原子更新中，采用了SVD。

[1]:程一峰. 基于稀疏表示理论的图像去噪算法研究[D]. 昆明理工大学, 2017.

基于稀疏表示理论的图像去噪相关推荐

基于支持向量机 (SVM) 和稀疏表示理论 (SRC) 的人脸识别比较
一背景 1.1 支持向量机简介支持向量机(Support Vector Machine,SVM)是AT&TBell 实验室的V.Vapnik等人提出的一种机器学习算法,是迄今为止最重要的机 ...
计算机工程与应用单像素成像,2011计算机工程与应用基于压缩感知理论的单像素成像系统研究_白凌云.pdf...
2011计算机工程与应用基于压缩感知理论的单像素成像系统研究_白凌云.pdf 116 2011 ,47 (33) Computer Engineering and Applications 计算机工程 ...
《深度学习入门——基于Python的理论与实现》笔记
PS:写这篇博客主要是记录下自己认为重要的部分以及阅读中遇到的些问题,加深自己的印象. 附上电子书及源代码: 链接:https://pan.baidu.com/s/1f2VFcnXSSK-u3wuvg ...
小波变换图像去噪matlab,基于小波变换的MATLAB汽车图像去噪
1.引言在图像中总是存在有许多的噪声,为了更好地对图像进行分析,就必须在图像预处理中减小图像中的噪声.近年来,小波分析技术在图像处理应用上取得了一些新的进展.小波分析是泛函分析.傅里叶分析.样条理论. ...
【表情识别】基于稀疏表示特征模板匹配算法实现人脸表情识别含Matlab源码
1 简介随着模式识别.图像处理及机器学习的发展,快速有效的自动识别与验证技术由于其巨大的理论及实际应用价值吸引了广泛关注.作为生物识别中重要的验证手段,人脸识别在信息安全.刑事侦查和视频监控等领域获 ...
【图像融合】基于稀疏表示多光谱图像融合含Matlab源码
1 简介高分辨率的多光谱图像应用广泛,比如变化监测,目标识别,场景解译.通常,商用光学卫星能够同时提供高空间分辨率的全色图像和低分辨率的多光谱图像.物理条件的限制使得单一传感器无法获得高质量的多光谱 ...
深度学习入门基于Python的理论与实现
作者:斋藤康毅出版社:人民邮电出版社品牌:iTuring 出版时间:2018-07-01 深度学习入门基于Python的理论与实现
ICCV 2021 | 基于稀疏多视角彩色相机的多人人体全身捕捉
点击上方"3D视觉工坊",选择"星标" 干货第一时间送达 Title Teaser 本文作者来自清华大学刘烨斌老师团队,作者提出了一种轻量级的基于稀疏多视角相机 ...
FusionNet：基于稀疏雷达点云和RGB图像的深度图补全
作者:Tom Hardy Date:2020-02-09 来源:FusionNet:基于稀疏雷达点云和RGB图像的深度图补全
基于稀疏表示的人脸识别 (SRC,LASRC,RASL,MRR)
FROM:http://blog.csdn.net/loadstar_kun/article/details/39453839 1. 问题背景信号的稀疏表示并不是新的东西.我们很早就一直在利用这一 ...

基于稀疏表示理论的图像去噪

基于稀疏表示理论的图像去噪

1 稀疏表示

1.1 稀疏表示理论

1.2 稀疏表示模型

1.2.1 信号的稀疏模型

1.2.2 小块图像的稀疏模型

1.2.3 整体图像的稀疏模型

1.2.4 基于字典学习的图像稀疏去噪模型

2 稀疏分解算法

2.1 松弛优化算法

BP算法

2.2 贪婪追踪算法

2.2.1 匹配追踪/MP算法

2.2.2 正交匹配追踪/OMP算法

3 过完备字典设计

3.1 固定字典

3.2 学习型字典

3.2.1 最优方向法（Method of Optimal Directions,MOD)

3.2.2 K-奇异值分解（K-SVD)

基于稀疏表示理论的图像去噪相关推荐

最新文章

热门文章