数字图像处理:第十一章基于特征向量的变换
第十一章基于特征向量的变换
目录
1. 主分量分析(PCA)、K-L变换(Hotelling变换)
2. 奇异值分解(SVD)
3. DCT与K-L变换的关系
1. 主分量分析(PCA)、K-L变换(Hotelling变换)
一般而言,这一方法的目的是寻找任意统计分布的数据集合之主要分量的子集。相应的基向量组满足正交性且由它定义的子空间最优地考虑了数据的相关性。将原始数据集合变换到主分量空间使单一数据样本的互相关性(cross-correlation)降低到最低点。
设是N维向量的数据集合,m是其均值向量:
有了特征向量集合,任何数据x可以投影到特征空间(以特征向量为基向量)中的表示:
相反地,任何数据x可以表示成如下的线性组合形式:
如果用A代表以特征向量为列向量构成的矩阵,则AT定义了一个线性变换:
上述去相关的主分量分析方法可以用于降低数据的维数。通过略去对应于若干较小特征值的特征向量来给y降维。例如,丢弃底下N-M行得到的矩阵B,并为简单起见假定均值m=0,则有:
它只是被舍弃的特征向量所对应的特征值的和。通常,特征值幅度差别很大,忽略一些较小的值不会引起很大的误差。
上述方法是图象数据压缩的数学基础之一,通常被称为PrincipalComponent Analysis (PCA)或Karhunen-Loeve (K-L)变换。
K-L变换的核心过程是计算特征值和特征向量,有很多不同的数值计算方法。一种常采用的方法是根据如下的推导:
由于通常s<<N,这种方法将求高阶矩阵的特征向量转化为求较低阶矩阵的特征向量的过程在图象数据分析中是很实用的。
K-L变换是图象分析与模式识别中的重要工具,用于特征抽取,降低特征数据的维数。例如,MIT-Media Lab基于特征脸的人脸识别方法。http://www-white.media.mit.edu/vismod/demos/facerec/
(以上图片来自于MIT-Media Lab Photobook/Eigenfaces Demo)
2. 奇异值分解(SVD)
奇异值分解(SingularValue Decomposition)是矩阵分析中正规矩阵酉对角化的推广。设矩阵A是的秩为r,它的奇异值是指n阶方阵AHA(或m阶方阵AAH)的正特征值的平方根 (AH是A的共轭转置)。奇异值分解是指如下形式的分解:
对于图象数据而言,任意一个的矩阵A定义的奇异值变换为:
3. DCT与K-L变换的关系
马尔可夫(Markov)过程 一个静态随机序列称为一阶Markov序列,如果序列中每个元素的条件概率只依赖于它的前一个元素。一个的Markov序列的协方差矩阵具有以下形式:
其中,相邻两元素之间的相关系数:
这个协方差矩阵的特征值和特征向量(K-L变换正交矩阵的元素)为:
在ρ趋近1时有
与DCT变换相同。
对于自然景物,通常有。这时DCT的基向量可以很好地近似K-L变换的基向量。由于这个原因,在图象压缩算法中常被用来代替K-L变换,如JPEG算法。尽管DCT在降低谱的相关性方面不如K-L变换有效,但是其好处是它的基函数是固定的,而K-L变换的基函数取决于待变换图象的协方差矩阵。
其它参考文献:
- Markus Grob, Visual Computing---The Integration of Computer Graphics, Visual Perception and Imaging, Springer-Verlag, 1994.
- 余鄂西,矩阵论,高等教育出版社,1995。
作业
- 推导K-L变换前后的协方差矩阵之间的关系:
- 阅读有关人脸识别中的PCA方法资料。
返回主目录 返回本章目录
清华大学计算机系 艾海舟
最近修改时间:2001年7月18日
出处:http://media.cs.tsinghua.edu.cn/~ahz/digitalimageprocess/CourseImageProcess.html
数字图像处理:第十一章基于特征向量的变换相关推荐
- 数字图像处理第十一章——表达与描述
数字图像处理第十一章 数字图像处理---表达与描述 (一)背景知识 (二)表示 2.1 链码 2.2 使用最小周长多边形的多边形近似 2.3 标记 2.4 边界片段 2.5 骨骼 (三)边界描述子 3 ...
- 数字图像处理——第七章 小波和多分辨处理
数字图像处理--第七章 小波和多分辨率处理 文章目录 数字图像处理--第七章 小波和多分辨率处理 写在前面 1 多分辨率处理 1.1 图像金字塔 1.2 多尺度和多分辨率的区别 2 小波 2.1 连续 ...
- 数字图像处理——第六章 彩色图像处理
数字图像处理--第六章 彩色图像处理 文章目录 数字图像处理--第六章 彩色图像处理 1 彩色模型 1.1 RGB彩色模型 1.2 CMY 和CMYK彩色模型 1.3 HSI彩色模型 2 伪彩色图像处 ...
- 数字图像处理——第五章 图像复原与重建
数字图像处理--第五章 图像复原与重建 文章目录 数字图像处理--第五章 图像复原与重建 写在前面 1 图像退化/复原过程的模型 2 噪声模型 2.1 高斯噪声 2.2 椒盐噪声 3 仅有噪声的复原- ...
- input自适应_【正点原子FPGA连载】第十一章基于OV5640的自适应二值化实验-领航者ZYNQ之HLS 开发指南...
1)摘自[正点原子]领航者ZYNQ之HLS 开发指南 2)平台购买地址:https://item.taobao.com/item.htm?&id=606160108761 3)全套实验源码+手 ...
- 数字图像处理 第五章图像复原与重建
文章目录 数字图像处理 第五章 图像复原与重建 引言 5.1背景知识 5.2图像退化与复原 5.3噪声模型 高斯噪声 椒盐噪声 瑞丽噪声 伽马噪声 5.4只存在噪声的复原--空间滤波 均值滤波 统计排 ...
- 数字图像处理--第六章彩色图像处理基础
文章目录 6 彩色图像处理 6.1 彩色基础 6.2 彩色模型 6.2.1 RGB彩色模型 6.3 伪彩色图像处理 6.3.1 强度分层 6.4 全彩色图像处理 6.5 查色标(查找表)Look Up ...
- 频谱仪的更改ip_【正点原子FPGA连载】第五十一章 基于FFT IP核的音频频谱仪-摘自【正点原子】开拓者 FPGA 开发指南 (amobbs.com 阿莫电子论坛)...
本帖最后由 正点原子 于 2020-10-24 15:19 编辑 203429z6c3os33t8albi33.png (66.36 KB) 2019-7-28 15:14 上传 第五十一章 基于FF ...
- 数字图像处理第六章——彩色图像处理(上)
数字图像处理第六章 数字图像处理---彩色图像处理 (一) 在 MATLAB 中彩色图像的表示 1.1 RGB图像 1.2 索引图像 1.3 处理 RGB图像和索引 (二)彩色空间之间的转换 2.1 ...
最新文章
- 有人要在「动物森友会」上开AI学术会议,我看你们就是在家想玩游戏吧
- 2021-06-04
- linux分区语言,Linux磁盘分区(9)-Go语言中文社区
- JAVA入门级教学之(对象的使用)
- Wayland 协议的解析
- 占据语音入口?苹果或将在2020年WWDC上推出SiriOS
- Oracle常用小记
- pyplot.annatate
- jQuery设置iframe的高度
- Cannot read property 'style' of null 问题
- Excel —— 录制宏
- 【愚公系列】2022年05月 vue3系列 axios请求的封装(TS版)
- 世界各国国家名和英文名-mysql数据库设计
- JVM内存不足增大运行时内存
- 第二讲 单片机C语言之12864液晶显示
- win人工智能助手——小爱同学uwp版 (win10专属)
- CUMTOJ算法实验四
- 李航 统计学习方法 第二版 课后习题答案
- 元宇宙里的性、亲密关系与恋爱?你有没有想过这个问题?
- 计算机网络基础知识总结及思维导图(二)物理层
热门文章
- 独立开发者:新手做2D手游该用哪些工具?
- 数据分层/ODS/DW/DM
- 实战并发编程 - 01多线程读写同一共享变量的线程安全问题深入剖析
- c语言 自动包含头文件,C语言不要重复包含.h头文件和.c文件
- 学习笔记Hive(七)—— 自定义函数
- python知识:opencv下的轮廓和区域
- 语音识别系列1:语音识别Speech recognition综述
- 查看oracle自定义函数,Oracle自定义函数查询数据字典项
- jpa oracle mysql,oracle+jpa和mysql+mybatis的混合多数据源配置例子
- mysql keepalived双主双活_Keepalived单网络双活双主配置模式