距离的度量（Dissimilarity Measure、Distance Metric）

2024-04-12 03:44:36

0. ℓ1\ell_1 距离

d1(I1,I2)=∑p|Ip1−Ip2|

d_1(I_1,I_2)=\sum_{p}|I_1^p-I_2^p|
比如比较两幅图像之间的距离：

1. Minkowski Distance（闵式距离）

D=(∑i=1d|xi−yi|p)1p

D=\left ( \sum_{i=1}^d|x_i-y_i|^p\right )^{\frac 1p}

（1）适用于数值型数据（numeric data）
（2）欧氏距离是闵式距离在（p=2p=2）的特例

2. Simple Matching Distance（简单匹配距离）

δ(xj,yj)={0,1,xj=yjxj≠yjD=∑j=1dδ(xj,yj)

\begin{split} &\delta(x_j,y_j)=\left \{ \begin{array}{ll} 0,&x_j=y_j\\ 1,&x_j\neq y_j \end{array} \right.\\ &D=\sum_{j=1}^d\delta(x_j,y_j) \end{split}

（1）适用于类别型数据（categorical data）

3. 混合距离（Mixed Distance）

D=∑j=1m(xj−yj)2+β∑j=m+1dδ(xj,yj)

D=\sum_{j=1}^m(x_j-y_j)^2+\beta\sum_{j=m+1}^d\delta(x_j,y_j)

（1）适用于混合类型的特征向量（既包含数值型、又包含类别型）

4. 曼哈顿距离（马氏距离）

D=(x−y)TΣ−1(x−y)−−−−−−−−−−−−−−−√

D=\sqrt{(x-y)^T\Sigma^{-1}(x-y)}

（1）适用于数值型数据（numeric data）
（2）利用了Cholesky Transformation 来消除不同维度之间的相关性和尺度不同对距离的影响；

Σ=LLTz=L−1(x−μ)zTz=(L−1(x−μ))T(L−1(x−μ))=(x−μ)TΣ−1(x−μ)

\begin{split} &\Sigma = LL^T\\ &z=L^{-1}(x-\mu)\\ &z^Tz=(L^{-1}(x-\mu))^T(L^{-1}(x-\mu))=(x-\mu)^T\Sigma^{-1}(x-\mu) \end{split}

5. 距离度量纵横谈

（1）除马氏距离以外的所有的距离度量都只是单纯利用这两个特征向量本身，而不依赖其他样本。
（2）马氏距离是唯一一个计算两个特征向量的距离依赖整体样本的，Σ=XTX\Sigma=X^TX。

References

[1] 漫谈：机器学习中距离和相似性度量方法

距离的度量（Dissimilarity Measure、Distance Metric）相关推荐

漫谈度量学习（Distance Metric Learning）那些事儿
©作者 | 黄春喜单位 | 香港科技大学研究方向 | 智能交通前言上图为 2018 年 4 月在杭州阿里中心听 Michael Jordan 讲座时所摄,他本人也是 distance metr ...
距离度量(Distance Metric)方法
距离度量(Distance Metric)方法文章目录距离度量(Distance Metric)方法 1. 向量距离 ⚪ 欧几里得距离 Euclidean Distance ⭐ 计算两组向量的欧氏 ...
图像检索中的相似度度量：EMD距离（Earth Mover's Distance）
EMD距离即Earth Mover's Distance,是由2000年IJCV期刊文章<The Earth Mover's Distance as a Metric for Image Ret ...
文献学习(part41)--Locality constraint distance metric learning for traffic congestion detection
学习笔记,仅供参考,有错必纠关键词:距离度量学习;局部性约束;核回归文章目录 Locality constraint distance metric learning for traffic co ...
机器学习中的数学——距离定义（七）：兰氏距离（Lance and Williams Distance）/堪培拉距离（Canberra Distance）
分类目录:<机器学习中的数学>总目录相关文章: · 距离定义:基础知识 · 距离定义(一):欧几里得距离(Euclidean Distance) · 距离定义(二):曼哈顿距离(Manh ...
R语言distVincentyEllipsoid函数计算大圆距离实战（Great Circle Distance）
R语言distVincentyEllipsoid函数计算大圆距离实战(Great Circle Distance) 目录 R语言distVincentyEllipsoid函数计算大圆距离实战(Grea ...
R语言distVincentySphere函数计算大圆距离实战（Great Circle Distance）
R语言distVincentySphere函数计算大圆距离实战(Great Circle Distance) 目录 R语言distVincentySphere函数计算大圆距离实战(Great Circ ...
R语言distMeeus函数计算大圆距离实战（Great Circle Distance）
R语言distMeeus函数计算大圆距离实战(Great Circle Distance) 目录 R语言distMeeus函数计算大圆距离实战(Great Circle Distance) #导入ge ...
聚类(Clustering)定义、聚类思想及形式、距离的度量
聚类(Clustering)定义.聚类思想及形式.距离的度量目录聚类(Clustering)定义.聚类思想及形式.距离的度量聚类(Clustering)定义
Distance metric learning
转自:http://blog.csdn.net/lzt1983/article/details/7884553 一些DML的参考资源,以后有时间再详细谈谈. 1. Wikipedia 2. CMU的L ...

最新文章

热门文章