样本间相似度/距离计算方法总结

标签（空格分隔）：机器学习

闵可夫斯基距离

Minkowski距离，也成欧式距离，计算方法为：

dist(X,Y)=(∑ni=1|xi−yi|p)1p\begin{equation} dist(X, Y) = (\sum_{i=1}^{n}|x_{i}-y_{i}|^{p})^{\frac{1}{p}} \end{equation}
这是我们最常用的一种距离度量方式，俗称范数。
当p = 2时就是我们常用的欧式距离。

Jaccard相似系数

J(A,B)=|A∩B||A∪B|\begin{equation} J(A, B) = \frac{|A \cap B|}{|A \cup B|} \end{equation}

余弦相似度(consine similarity)

cos(θ)=XTY|X|·|Y|=∑ni=1XiYi∑ni=1X2i√∑ni=1Y2i√\begin{equation} cos(\theta) = \frac{X^{T}Y}{|X|·|Y|} = \frac{\sum_{i=1}^{n}X_{i}Y_{i}}{\sqrt{\sum_{i=1}^{n}X_{i}^{2}}\sqrt{\sum_{i=1}^{n}Y_{i}^{2}}} \end{equation}

Pearson相似系数

ρXY=cov(X,Y)σXσY=E[(X−μX)(Y−μY)]σXσY=∑ni=1(Xi−μX)(Yi−μY)∑ni=1(Xi−μX)2√∑ni=1(Yi−μY)2√\begin{equation} \rho_{XY} = \frac{cov(X, Y)}{\sigma_{X}\sigma_{Y}} = \frac{E[(X-\mu_{X})(Y-\mu_{Y})]}{\sigma_{X}\sigma_{Y}} = \frac{\sum_{i=1}^{n}(X_{i}-\mu_{X})(Y_{i}-\mu_{Y})}{\sqrt{\sum_{i=1}^{n}(X_{i} - \mu_{X})^{2}}\sqrt{\sum_{i=1}^{n}(Y_{i} - \mu_{Y})^{2}}} \end{equation}

相对熵(K-L散度)

D(p||q)=∑ni=1p(x)logp(x)q(x)\begin{equation} D(p||q) = \sum_{i=1}^{n}p(x)log\frac{p(x)}{q(x)} \end{equation}

Hellinger距离

Dα(p||q)=21−α2(1−∫p(x)1+α2q(x)1−α2dx)\begin{equation} D_{\alpha}(p||q) = \frac{2}{1 - \alpha^{2}}(1-\int p(x)^{\frac{1+\alpha}{2}}q(x)^{\frac{1-\alpha}{2}}dx) \end{equation}

余弦相似度 VS Pearson相关系数

可以看到，相关系数就是将x,y坐标向量平移到原点后的夹角余弦。
所以说，在文档间求距离时可以使用夹角余弦，因为它表征了文档取均值化后的随机向量间的相关系数。

在实际的应用中，我们可以根据应用的不同选择合适的距离度量标准。

样本间距离计算方法总结相关推荐

分类识别样本间“距离”总结
在做分类时常常需要估算不同样本之间的相似性度量(SimilarityMeasurement),这时通常采用的方法就是计算样本间的"距离"(Distance).采用什么样的方法计算距 ...
pvrect r语言聚类_R语言一条命令实现基于样本和距离的聚类分析
上一篇文章给大家介绍了利用 R语言的 hclust()进行聚类分析的步骤,已经很简单了,但是依然有不少小伙伴来问 "老师,还有更简单的方法吗,最好是一条命令那种",为了满足的大家的 ...
等效距离计算公式_实用的计算方法-架空输电线路导线线间距离计算
1. 10kV 及以下架空线路导线线间距离 380V及以下沿墙敷设的绝缘导线,当档距不大于20m时,其线间距离不宜小于0.2m:3kV以下架空线路,靠近杆塔的两导线间的水平距离不应小于0.5m:10k ...
曼哈顿算法公式_距离计算方法总结
计算推荐对象的内容特征和用户模型中兴趣特征二者之间的相似性是推荐算法中一个关键部分 ,相似性的度量可以通过计算距离来实现在做很多研究问题时常常需要估算不同样本之间的相似性度量(Similarity ...
曼哈顿算法公式_距离计算方法总结 | Public Library of Bioinformatics
在做分类时常常需要估算不同样本之间的相似性度量(Similarity Measurement),这时通常采用的方法就是计算样本间的"距离"(Distance).采用什么样的方法计算 ...
机器学习中常用的距离计算方法
我们已经知道了如何通过样本间的距离来评估簇间的距离,本节只剩下最后一个问题了,如何计算样本间的距离,假设样本是n维,常用的距离计算方法有: 1)欧拉距离(Euclidean distance): 2) ...
Mahout中相似度距离计算方法总结
在分类聚类算法,推荐系统中,常要用到两个输入变量(通常是特征向量的形式)距离的计算,即相似性度量.不同相似性度量对于算法的结果,有些时候,差异很大.因此,有必要根据输入数据的特征,选择一种合适的相似性 ...
【数据挖掘】基于层次的聚类方法 ( 聚合层次聚类 | 划分层次聚类 | 族间距离 | 最小距离 | 最大距离 | 中心距离 | 平均距离 | 基于层次聚类步骤 | 族半径 )
文章目录基于层次的聚类方法简介基于层次的聚类方法概念聚合层次聚类图示划分层次聚类图示基于层次的聚类方法切割点选取族间距离概念族间距离使用到的变量族间距离最小距离族间距 ...
论文阅读：基于多模态词向量的语句距离计算方法
论文信息华阳. 基于多模态词向量的语句距离计算方法[D].哈尔滨工业大学,2018. 1.主要工作简述语句间的距离问题:自然语言处理任务是度量文本间的距离:不同阶段语言学习的难度可以抽象为距离,本 ...

样本间距离计算方法总结