【零散知识】字典学习（Dictionary Learning）

前言：

{

之前的神经网络实践还卡在硬件上，不过目前已经打算先使用云设备，下次应该就会继续进行多目标识别的调试。这次就先写一点零散知识。

在专利[1]中我遇到了新的观点——字典学习（Dictionary Learning）。

}

正文：

{

资料[2]让我想起了之前学习的线性代数知识，当时学线性组成和线性相关时我也是想到了人对事物的理解（或者说我对事物的理解）：首先通过之前的经验形成一组基，之后通过这组基来线性组成（理解）新旧事物。我认为这和今天说的字典学习很像。

回到正题，设X代表源数据，D代表字典，Z代表稀疏编码矩阵，即得图1。

可以看到，字典就像一个编码解码器一样，Z的数据量比X的小。

字典的学习公式在[1]中如式1。

可见此式即考虑了解码数据与原数据的距离，又考虑了生成的编码的大小。

在[2]中，字典里的原子如图2。

其中每个原子都是训练得到的。值得注意的是，[2]中的原数据被划分成了与字典原子维度一致的pitch（块），也就是说上述X和Z实际上都是小块，并且这些原子都是基于pitch得到的（在资料[3]中原子就是部分pitch，更新也就是使用某个pitch来更换某个原子）；相应地，解码输出也是对应的pitch。

图2是一种方法的结果，其中image的左边是原数据，image的右边是解码数据，difference是image与原数据的差别。

可以看到，编码解码后还是会损失部分细节。

}

结语：

{

本来这次想记录对专利[1]的理解，但其中数学公式太多，也需要很多时间。所以这次就先简单记录一下字典学习的概念，现在的时间和精力还不能分配到这上面。

这次就先用点零散知识充数，我也尽量保持3天1更。

参考资料：

{

[1]《基于原子拉普拉斯图正则化的半监督字典学习的样本类别归类方法》（CN 108564107）http://so.lotut.com/patent/search/article.html?patent_id=5bbffae4d827b71f1b11b780

[2]https://www.cnblogs.com/hdu-zsk/p/5954658.html

[3]https://www.jianshu.com/p/f6e5d1cd21b9

}

【零散知识】字典学习（Dictionary Learning）相关推荐

字典学习 (Dictionary Learning) —— K-SVD 算法
文章目录论文问题描述求解原理 python 实现 KSVD 算法测试结果可视化函数论文 M. Aharon, M. Elad and A. Bruckstein, "K-SVD: ...
Dictionary Learning(字典学习、稀疏表示以及其他)
第一部分字典学习以及稀疏表示的概要字典学习(Dictionary Learning)和稀疏表示(Sparse Representation)在学术界的正式称谓应该是稀疏字典学习(Sparse D ...
『ML笔记』深入浅出字典学习1(Dictionary Learning)
目录一.预备知识二.字典学习以及稀疏表示的概要 2.1.我们为什么需要字典学习? 2.2.我们为什么需要稀疏表示? 三.下一节参考文献一.预备知识稀疏向量:假设向量中的元素绝大部分为零元素, ...
字典学习（Dictionary Learning）
字典学习(Dictionary Learning) SparseCoder和DictionaryLearning的关系是什么? sklearn.decomposition: Matrix Decomp ...
稀疏编码（sparse code）与字典学习（dictionary learning）
Dictionary Learning Tools for Matlab. 1. 简介字典 D∈RN×KD\in \mathbb R^{N\times K}(其中 K>NK>N),共有 ...
SCDL--稀疏编码（sparse code）与字典学习（dictionary learning）
转载自未雨愁眸 https://www.cnblogs.com/mtcnn/p/9421836.html 1. 简介字典 D∈RN×K(其中 K>N),共有 k 个原子,x∈RN×1 在字典 ...
（转） ML笔记：字典学习1（Dictionary Learning）
原 ML笔记:字典学习1(Dictionary Learning) 2019年02月27日 16:08:42 KaifangZhang 阅读数:215更多 <div class="ta ...
字典学习（Dictionary Learning, KSVD）详解
注:字典学习也是一种数据降维的方法,这里我用到SVD的知识,对SVD不太理解的地方,可以看看这篇博客:<SVD(奇异值分解)小结 >. 1.字典学习思想字典学习的思想应该源来实际生活中的 ...
『ML笔记』深入浅出字典学习2(Dictionary Learning)
深入浅出字典学习2(Dictionary Learning) 文章目录一.理解K-SVD字典学习二.K-SVD字典学习算法概述 2.1.随机初始化字典D 2.2.固定字典,求取每个样本的稀疏编码 ...

【零散知识】字典学习（Dictionary Learning）

【零散知识】字典学习（Dictionary Learning）相关推荐

最新文章

热门文章