Mahalanobis距离（马氏距离）的“哲学”解释

讲解教授：赵辉 (FROM : UESTC)

课程：《模式识别》

整理：PO主

基础知识：

假设空间中两点x，y，定义：

欧几里得距离，

Mahalanobis距离，

不难发现，如果去掉马氏距离中的协方差矩阵，就退化为欧氏距离。那么我们就需要探究这个多出来的因子究竟有什么含义。

第一个例子

从下往上的一段50米长的坡道路，下面定一个A点，上面定B一个点。假设有两种情况从A到B：

a)坐手扶电梯上去。

b)从手扶电梯旁边的楼梯爬上去。

两种情况下我们分别会产生两种不同的主观感受，坐电梯轻松愉快，感觉很快就从A到了B——“A与B真近~”；走楼梯爬的气喘吁吁很累，感觉走了好久才走到B——“A与B真远！”。

第二个例子

观看落日之时，由于大气的折射效应，太阳形状产生形变并且视觉位置也比真实位置高。

解释

以上两个例子看似和模式识别没有关系，实际上都引入了“相对论”的问题。回到问题本身，欧式距离就好比一个参照值，它表征的是当所有类别等概率出现的情况下，类别之间的距离。此时决策面中心点的位置就是两个类别中心的连线的中点。如图1所示。而当类别先验概率并不相等时，显然，如果仍然用中垂线作为决策线是不合理的，将出现判别错误（绿色类的点被判别为红色类），假设图1中绿色类别的先验概率变大，那么决策线将左移，如图2黄线。左移的具体位置，就是通过马氏距离来获得的。马氏距离中引入的协方差参数，表征的是点的稀密程度。

图1图2

从哲学上来说，用马氏距离处理数据时，不再把数据单纯的看作是冷冰冰的数字——那个引入的协方差，承认了客观上的差异性，就好像是有了人类的感情倾向，使得模式识别更加“人性化”也更加“视觉直观”。

（完）

Mahalanobis距离（马氏距离）的“哲学”解释相关推荐

What is Mahalanobis distance? 马氏距离
https://blogs.sas.com/content/iml/2012/02/15/what-is-mahalanobis-distance.html https://blogs.sas.com ...
机器学习—聚类（一）（L—P范数/闽可夫斯基距离/马氏距离/相关系数/夹角余弦）
机器学习中用样本之间的距离/相似度来表示样本差异,下面介绍几种常用的距离/相似度,顺便介绍一下L-P范数. 1.闽可夫斯基距离 L-P范数与闽可夫斯基距离的定义一样: Lp=(∑1nxip)1p,x= ...
马氏距离-Mahalanobis Distance
一.学习目的在训练one-shoting learning 的神经网路的时候,由于采用的是欧式距离,欧氏距离虽然很有用,但也有明显的缺点.它将样品的不同属性(即各指标或各变量)之间的差别等同看待,这 ...
简单粗暴理解与实现机器学习之K-近邻算法（三）：距离度量、欧氏距离、曼哈顿距离、切比雪夫距离、闵可夫斯基距离、标准化距离、余弦距离、汉明距离、杰卡德距离、马氏距离
K-近邻算法文章目录 K-近邻算法学习目标 1.3 距离度量 1 欧式距离**(Euclidean Distance):** 2 **曼哈顿距离(Manhattan Distance):** 3 ...
各种距离欧式距离、曼哈顿距离、切比雪夫距离、闵可夫斯基距离、标准欧氏距离、马氏距离、余弦距离、汉明距离、杰拉德距离、相关距离、信息熵...
1. 欧氏距离(Euclidean Distance) 欧氏距离是最容易直观理解的距离度量方法,我们小学.初中和高中接触到的两个点在空间中的距离一般都是指欧氏距离. 二维平面上点a(x1,y1)与b( ...
浅谈马氏距离【Mahalonobis Distance】
浅谈马氏距离[Mahalonobis Distance] 1. Introduction 2. 欧式距离对于多元数据会存在一些什么问题? 3 .什么是马氏距离 4.马氏距离背后的数学和intuitio ...
曼哈顿距离，欧式距离，明式距离，切比雪夫距离以及马氏距离
1.曼哈顿距离曼哈顿距离又称Manhattan distance,还见到过更加形象的,叫出租车距离的.具体贴一张图,应该就能明白. 上图摘自维基百科,红蓝黄皆为曼哈顿距离,绿色为欧式距离. 2.欧式 ...
matlab求距离判别函数,马氏距离判别法matlab
-2.7137 -3.9604 2.两个总体协方差矩阵不相等在MATLAB中mahal 计算马氏距离平方 d = mahal(Y,X) 输入:Y是要判别的样本点,通常是矩阵Ymn X是已知总体的. ...
NN中常用的距离计算公式：欧式距离、曼哈顿距离、马氏距离、余弦、汉明距离
1.欧氏距离Euclidean Distance: 2.曼哈顿距离Manhattan: 3.Mahalanobis马氏距离马氏距离的浅显解释,见我的博文:https://blog.csdn.net/ ...
metric learning -- 马氏距离与欧氏距离
一基本概念方差:(variance)是在概率论和统计方差衡量随机变量或一组数据时离散程度的度量.概率论中方差用来度量随机变量和其数学期望(即均值)之间的偏离程度.统计中的方差(样本方差)是每个样 ...

Mahalanobis距离（马氏距离）的“哲学”解释

Mahalanobis距离（马氏距离）的“哲学”解释相关推荐

最新文章

热门文章