回忆下前四篇的内容，有没有发现一个共同点？没错，无论是用于统计聚类的K-means算法，还是拟合直线的最小二乘法，或是简单高效的KNN分类算法都提到了距离的计算。可见“距离”在机器学习中还是一个无法绕开的概念，本次我们就来谈谈机器学习中常用的距离度量方法。

什么是距离？

既然要讲“距离”，我们首先要知道，在机器学习中什么叫做距离。距离简单来说就是评价两个事物之间的在时间或空间上间隔的长度就像下面这样：

郑州至北京710km；

郑州至开封65km；

但是在机器学习领域中可有点不同，首先就是机器学习里的距离是抽象的但却是一个有方向的向量。在机器学习中，所谓的距离是用来度量两个样本的相似程度的概念。我们常在超市里听到这样一句话“这种苹果的味道和那种差距不大，但是却贵得多”。那么在这句话里，“两种苹果”就是两个样本，“味道和价格”就是两个要比较的特征，“差距不大”代表着相似，也就是在“味道”这个特征下两个样本的距离近。“贵得多”代表着在“价格”这个特征下，两个样本的距离远，相似度低。

那么这篇文章的目的就是介绍这种抽象的距离尺度需要用什么方法去衡量。

欧氏距离

欧氏距离是我们接触比较多的一种距离度量方式。没错！我们从初中开始就在在课堂上学到了！它表示在n维空间两个点之间的真实距离。在二维空间的欧式距离就是两点之间的直线距离,如图1所示：A,B两点的距离：

推广到n维空间中的两点A(x11 ,x12, …x1n)，B(x21,x22,….x2n)

欧氏距离虽然很有用，但也存在着缺点，它忽略了样本不同指标之间的差异，在实际问题中不能满足要求。例如，在教育研究中，经常遇到对人的分析和判别，个体的不同属性对于区分个体有着不同的重要性。为此，人们提出了标准化欧氏距离。

标准化欧氏距离的思路是：既然样本各个维度分布不一样，那么可以先将样本集进行“标准化”，映射到数学期望为0，方差为1的正态分布。假设样本集X的均值为m,方差为s，则标准化后的值为：

因此标准化欧氏距离的公式为：

如果把方差的导数看作权重，标准化欧氏距离也可以称为：加权欧氏距离。

欧氏距离能够体现个体数值特征的绝对差异，所以更多的用于需要从维度的数值大小中体现差异的分析，如使用用户行为指标分析用户价值的相似度或差异；

曼哈顿距离

曼哈顿距离又称城市街区距离，它的命名原因是从规划为方型建筑区块的城市(如曼哈顿)间，最短的行车路径而来。我们把方型街道简化到二维平面上，如果要从A点开车到B点，由于只能沿着街道行驶，因此A点到B点的曼哈顿距离便为图2中A到B的折线长度。

西班牙巴塞罗那的街道

图2 曼哈顿距离

二维平面两点A(x1,y1)与B(x2,y2)间的曼哈顿距离：

推广到n维空间点A(x11,x12,…,x1n)与B(x21,x22,…,x2n)的曼哈顿距离：

曼哈顿距离在一些寻路算法如A*算法常常作为度量距离的方法，比如在担保圈分析中，就可以尝试基于曼哈顿距离判断两个实体之间的关联是否紧密。要注意的是，曼哈顿距离依赖坐标系的转度，而非系统在坐标系的平移或映射。

切比雪夫距离

前面提到的欧氏距离只能直线走，而曼哈顿距离只能沿着划定的格子边缘走。而切比雪夫中说的距离则是两者的结合体(即可直线走，也可沿着格子走)。二个点之间的切比雪夫距离定义是其各坐标数值差绝对值的最大值。

二维平面两点A(x1,y1)与B(x2,y2)间的切尔雪夫距离：

推广到n维空间点A(x11,x12,…,x1n)与B(x21,x22,…,x2n)的切尔雪夫距离：

大家玩过国际象棋吗？在国际象棋中，国王只能往周围的8格中走一步，那么如果要从棋盘中(1，E)格走到(3，C)格最少需要走几步？最少步数如下：

这个距离便是切而雪夫距离。

在上面的距离介绍中可以看出该距离计算适用的场景。像曼哈顿距离一样，需要将空间划分成网格，然后以网格为单位来进行度量。但此距离中，允许你走8个方向。而曼哈顿距离中，只允许你走4个方向。在仓储物流中的数据分析工作便可以依赖切尔雪夫距离。

汉明距离

相对于上面的三种距离，汉明距离非常简单：即通过比较向量每一位是否相同，若不同则汉明距离加1，这样得到汉明距离。向量相似度越高，对应的汉明距离越小。如10001001和10110001有3位不同，则这两列数组的汉明距离为三。我们把上面的二进制数作为两个样本的指纹，比如前两位表示样本的特征1，第三到第五表示特征2，最后三个表示特征3……这样子就可以用汉明距离来比较两个样本的距离。在机器学习场景中，汉明距离可以广泛用于各类DNA序列分类研究，通常把一个或多个碱基对当作一类特征，用于评价两个DNA序列的差异性，实现DNA片段的功能预测。