K-means(tri)利用三角不等式性质加速k-means

paper:Using the Triangle Inequality to Accelerate k-means

主要利用三角不等式：第三边小于其他两边之和，那么就找到了上限。

k-means性质：如果通过条件可以知道 $d(x,c)/geq d(x,b)$ ，那么就不需要知道d(x，c)的值了，从而减少计算量。

公式1：x为某一个数据点，b和c是簇的中心。如果 $d(b,c)/geq 2d(x,b)$ 那么 $d(x,c)/geq d(x,b)$ 。

证明：利用 $d(x,c)/leq d(x,b)+d(x,c)$ ，即可得证。

公式2：x为某一个数据点，b和c是簇的中心。那么 $d(x,c)/geq max/left /{0, d(x,b)-d(b,c) /right /}$

因为 $d(x,c)/geq d(x,b)-d(b,c)$ ，而且d是距离，是大于等于0的值。

利用公式1：x为数据点，c为x当前分配的数据簇， $c{}'$ 是其他中心，根据公式1,可以知道如果 $/frac{1}{2}d(c,{c}')/geq d(x,c)$ ,那么 $d(x,{c}')/geq d(x,c)$ ,那么没有必要计算 $d(x,{c}')$ .

如果我们知道d(x,c)的上限u，假设 $u/leq /frac{1}{2}d(c,{c}')$ ,那么 $d(x,c)/leq u/leq /frac{1}{2}d(c,{c}')$ ,于是就不必计算 $d(x,{c}')$ 。

利用公式2：假设数据簇的中心点是从1到k，b是属于第j个簇中心点， ${b}'$ 是第j个簇在前一次迭代的过程中的中心点。如果已知 $d(x,{b}')/geq {l}'$ ,那么我们可以推出下限l:

综上所述，如果我们找到了d(x,c)的上限u, $d(x,{c}')$ 的下限l，那么

算法简介：

u(x)是x与被分配的中心点的距离，u是该距离的上限，c(x)是x被分配到的中心点，l(x,c)是x到任一中心点c的距离,l是该距离的下限。

重复一下过程，直至收敛：

1、计算s(c)

2、如果u(x)<=s(c(x))，那么根据公式1，x就应该还是分配给当前数据簇，d(x,c(x))小于x到其他中心点的距离。

3、为什么剩下点x会符合这三个条件呢，这是因为如果不符合ii和iii,那么就会符合上述条件2，也就是x不会被分配到其他中心点了。

3a：r(x)是u(x)是否更新的标志，u(x)=d(x,c(x))，如果d改变，那么u也要改变。

如果r(x)==true，说明u(x)已经改变，那么重新计算d(x,c(x))，并令u(x)=d(x,c(x)),否则，不用计算d(x,c(x))，直接用u(x)赋值，d(x,c(x))=u(x)

3b：如果出现d(x,c(x))>l(x,c)，表明当前x到分配数据簇的中心点距离比x到其他中心点的下限还要大，那么就表明这个点已经不是x该分配的中心点，故计算d(x,c)，更新c(x).

4、计算每个中心点的均值m(c)

5、修改l(x,c)，下限。

6、修改u(x),上限。上限会扩大一些，因为，x到c(x)的距离会比u(x)还要小，第三边小于其他两边之和。

7、用均值m(c)替换c.

K-means(tri)利用三角不等式性质加速k-means相关推荐

矩阵论：利用Cauchy柯西不等式证明三角不等式
利用Cauchy柯西不等式证明三角不等式编者注:作为一个学生,希望所有人都能够免费共享成果,一起进步,为祖国一起做贡献. 第一次写博客,先适应一下. 已知柯西不等式|(x,y)|<=||x|| ...
三角不等式的解法【初级和中阶辅导】
前言廓清认知:由于三角不等式属于超越不等式,故已经不能和解$x^2+3x+2>0$这样的代数不等式的解法同日而语,此时必须借助图像来解决:能借助的图像有三角函数的图像,还可以借助三角函数线 ...
20200915 椭圆范数的三角不等式证明：sqrt(x^T*Q*x)
椭圆范数的三角不等式证明实际上,这里没有用到的另一条关于正定矩阵的性质: 正定矩阵一定是对称的,而实对称矩阵一定存在正交矩阵PPP,满足PTQP=P−1QP=IP^TQP=P^{-1}QP=IPTQ ...
如何利用多核CPU来加速你的Linux命令
如何利用多核CPU来加速你的Linux命令原文出处: rankfocus 译文出处: 外刊IT评论你是否曾经有过要计算一个非常大的数据(几百GB)的需求?或在里面搜索,或其它操作--一些无法并 ...
线性代数(三十八) ：柯西-施瓦茨不等式与三角不等式
本节介绍欧几里得结构的两个基本不等式 1 柯西-施瓦茨(Cauchy–Schwarz)不等式对任意向量x,y有: 证明: 观察实变量t的函数: 根据范数的定义,以及标量积的性质可知: 在上式中假定y ...
Schwarz不等式三角不等式
内积定义 ∀x,y∈Rn,⟨x,y⟩=∑ni=1xiyi∀x,y∈Rn,⟨x,y⟩=∑i=1nxiyi\forall \mathbf{x}, \mathbf{y} \in \mathbb R^n, ...
Sysweld笔记：利用稳态算法加速算法模拟焊接过程的残余应力
作者:贾亚波博士,仿真秀专栏作者在进行热力耦合的仿真过程中,如果模型足够的长并且热源速度恒定,通常其热学,相变以及热力耦合都会达到稳态的过程,因此如何直接计算稳态问题成为了大家研究的热点问题. 由于 ...
如何写出运行速度更快的代码：软件篇——加速k均值的代码（OpenMP）
介绍并发concurrency VS 并行parallelism 解决问题的步骤了解当前状态内在表示找到替代办法从替代办法中选择符合的转载请注明出处:http://blog.csdn.ne ...
利用python—matplotlib绘制股票K线图
利用python-matplotlib绘制股票K线图成品展示: 用Python绘制股票K线图并不复杂,不过得做好一些准备工作例如相关库的安装,库的引入.日期格式的调整and表格转换文章目录利用p ...

K-means(tri)利用三角不等式性质加速k-means

K-means(tri)利用三角不等式性质加速k-means相关推荐

最新文章

热门文章