机器学习中的群论方法

参考链接：http://m.blog.csdn.net/blog/iverson_49

群论最初应用于高次方程解析解可解性的研究，致力于寻找方程解集的规则化和抽象化，并提取可解性的一般规律。在机器学习方面，模式分类主要应用数学方法，剥离概率范畴，一些模式分离的方法与方程解析形式化的方法有几分相似，群论方法也应用于机器学习领域。

现如今，无论是计算机视觉和医学图像处理，都把视角从对欧式空间的研究转到了对模式分布流形(Manifold)的研究。因此对黎曼几何和李群的理解显得尤为重要。这里就从一些图像和视觉问题的实例来介绍黎曼几何和李群。

流形(Manifold)

流形，定义为具有局部欧式特性的拓扑空间，可以看做曲线(1D),曲面(2D)的高维扩展，即嵌入高维欧式空间的低维拓扑空间。

研究意义

机器学习的样本和真实世界的样本，因其内部的生存联系，大多数数据并不有序存在于欧式空间中，而是有序存在于某一个流形空间内。最简单的，用 v 表示一条数据 (先暂且把他看做一个 n 维向量，即一个高维空间中的点 )，可以是人脸部的形状特征，可以是一张CT图像的灰度，甚至可以是一段视频的内容。就比如 v表示一张照片中人脸的形状,每条数据记录了k个轮廓点的位置(v=x1,x2,...,xk). 为了去除不同照片大小带来的尺度差异，一般的做法是将数据归一化，即使得

$x_1^2+x_2^2+...+x_k^2=1$

我们发现这样一来，此类数据其实存在于k-1维的圆上。那么问题是，给定两个脸部形状数据v1和v2，怎么求平均的脸部形状呢？如果将其看成是欧式空间的数据，那么平均值为1/2(v1+v2)，但是这个结果根本就不在k-1维的圆上！

对于更复杂的问题，数据可能存在于圆以外的更复杂的流形之上，所以这就引出了对流形操作的概念。比如，数据求平均值不应该用一般的欧式平均，而应该采用流形上的Frechet Mean。欧式空间的线性回归( Linear Regression )对应了流形上的Geodesic Regresstion . 欧式空间中的 PCA 就变成了PGA (Principal Geodesic Analysis )。也有一些方法把数据转化到某个切平面中，在用一般的欧式空间方法分析。

另一方面，图像的形变与转化，比如平移，旋转，similarity transform，或者一般的微分同胚映射(Diffeomorphism)，这些转换即可以看成是群结构，也可以看成是流形。这就引出了李群 (Lie Groups：https://en.wikipedia.org/wiki/Lie_group ) 在图像处理中的应用。比如医学图像配准中，为了研究类似流体的平滑形变 (LDDMM) ，李群给出了一套很好的框架，使得对于平滑形变的求解和统计分析可以在单位形变的切平面上完成。

总而言之，对于黎曼几何和李群的了解有助于图像处理类工作的研究。

另外参考：通俗易解的机器学习方法入门

机器学习中的群论方法相关推荐

机器学习中的优化方法小结
来源|福大命大@知乎,https://zhuanlan.zhihu.com/p/158215009 前几天听了林宙辰老师的一个报告,讲的是机器学习中的优化方法[1],做个笔记.推荐机器学习的人去听听. ...
ML之Validation：机器学习中模型验证方法的简介、代码实现、案例应用之详细攻略
ML之Validation:机器学习中模型验证方法的简介.代码实现.案例应用之详细攻略目录模型验证方法的简介 1.Hold-out验证 2.K-折交叉验证 3.自助重采样模型验证方法的代码实现 ...
机器学习（十一）——机器学习中的矩阵方法（1）LU分解、QR分解
http://antkillerfarm.github.io/ 因子分析的EM估计(续) 去掉和各参数无关的部分后,可得: ∑i=1mE[logp(x(i)|z(i);μ,Λ,Ψ)]=∑i=1mE[1 ...
lu分解法matlab_MIT 18.065—机器学习中的矩阵方法02 矩阵乘法与矩阵分解
数据分析.信号处理和机器学习中的矩阵方法第02讲矩阵乘法与矩阵分解新MIT 线性代数|机器学习(中英机翻字幕)18.065 by Gilbert Strang_哔哩哔哩 (゜-゜)つロ干杯~- ...
MIT18.065 数据分析、信号处理和机器学习中的矩阵方法-学习笔记
文章目录 MIT18.065 数据分析.信号处理和机器学习中的矩阵方法 Lecture 1 The Column Space of A Contains All Vectors Ax A=CR A=C ...
MIT | 数据分析、信号处理和机器学习中的矩阵方法笔记系列 Lecture 6 Singular Value Decomposition (SVD)
本系列为MIT Gilbert Strang教授的"数据分析.信号处理和机器学习中的矩阵方法"的学习笔记. Gilbert Strang & Sarah Hansen | ...
机器学习（十三）——机器学习中的矩阵方法（3）病态矩阵、协同过滤的ALS算法（1）
http://antkillerfarm.github.io/ 向量的范数(续) 范数可用符号∥x∥λ\|x\|_\lambda∥x∥λ表示.常用的有: ∥x∥1=∣x1∣+⋯+∣xn∣\|x\|_ ...
机器学习（十三）——机器学习中的矩阵方法（3）病态矩阵、协同过滤的ALS算法（1）...
http://antkillerfarm.github.io/ 向量的范数(续) 范数可用符号∥x∥λ表示. 经常使用的有: ∥x∥1=|x1|+⋯+|xn| ∥x∥2=x21+⋯+x2n−−−−−− ...
【机器学习】机器学习中缺失值处理方法大全（附代码）
今天我们来看看数据预处理中一个有趣的问题:数据清理中,如何处理缺失值.在我们探讨问题之前,我们一起回顾一些基本术语,帮助我们了解为什么需要关注缺失值. 目录数据清洗简介填补缺失值的重要性缺失值导 ...

机器学习中的群论方法

机器学习中的群论方法相关推荐

最新文章

热门文章