原文链接：http://tecdat.cn/?p=2981

原文出处：拓端数据部落公众号

聚类分析算法很多，比较经典的有k-means和层次聚类法。

k-means聚类分析算法

k-means的k就是最终聚集的簇数，这个要你事先自己指定。k-means在常见的机器学习算法中算是相当简单的，基本过程如下：

首先任取k个样本点作为k个簇的初始中心；
对每一个样本点，计算它们与k个中心的距离，把它归入距离最小的中心所在的簇；
等到所有的样本点归类完毕，重新计算k个簇的中心；
重复以上过程直至样本点归入的簇不再变动。

k-means的聚类过程演示如下：

k-means聚类过程

k-means聚类分析的原理虽然简单，但缺点也比较明显：

首先聚成几类这个k值你要自己定，但在对数据一无所知的情况下你自己也不知道k应该定多少；
初始质心也要自己选，而这个初始质心直接决定最终的聚类效果；
每一次迭代都要重新计算各个点与质心的距离，然后排序，时间成本较高。

值得一提的是，计算距离的方式有很多种，不一定非得是笛卡尔距离；计算距离前要归一化。

层次聚类法

尽管k-means的原理很简单，然而层次聚类法的原理更简单。它的基本过程如下：

每一个样本点视为一个簇；
计算各个簇之间的距离，最近的两个簇聚合成一个新簇；
重复以上过程直至最后只有一簇。

层次聚类不指定具体的簇数，而只关注簇之间的远近，最终会形成一个树形图。

层次聚类示例

通过这张树形图，无论想划分成几个簇都可以很快地划出。

以下以癌细胞细据为例，演示K-means和层次聚类法的过程。


nci.labels = NCI60$labs
nci.data = NCI60$data
sd.data = scale(nci.data)
data.dist = dist(sd.data)
plot(hclust(data.dist),labels = nci.labels, main = "Complete Linkage", xlab = "", sub = "", ylab = "") # 默认按最长距离聚类plot(hclust(data.dist,method = "average"),labels = nci.labels, main = "Average Linkage", xlab = "", sub = "", ylab = "") # 类平均法
> plot(hclust(data.dist),labels = nci.labels, main = "Single Linkage", xlab = "", sub = "", ylab = "") #最短距离法

Complete Linkage

Average Linkage

Single Linkage

可见选择不同的距离指标，最终的聚类效果也不同。其中最长距离和类平均距离用得比较多，因为产生的谱系图较为均衡。

> # 指定聚类数
> hc.out = hclust(dist(sd.data))
> hc.clusters = cutree(hc.out,4)> plot(hc.out,labels = nci.labels) > abline(h=139,col="red") # 切割成4类

层次聚类划分成4类

图中一条红线将簇划分成4类，很容易看出哪些样本各属于哪一簇。

以上是层次聚类法的结果，但如果用k-means聚类的话，结果很可能就不一样了。

> # k-means聚类
> set.seed(2)
> km.out = kmeans(sd.data,4,nstart = 20)
> km.clusters = km.out$cluster
> table(km.clusters,hc.clusters) # 两种聚类结果的确有差异，k-means的第2簇与层次聚类的第3簇一致

最受欢迎的见解

1.R语言k-Shape算法股票价格时间序列聚类

2.R语言中不同类型的聚类方法比较

3.R语言对用电负荷时间序列数据进行K-medoids聚类建模和GAM回归

4.r语言鸢尾花iris数据集的层次聚类

5.Python Monte Carlo K-Means聚类实战

6.用R进行网站评论文本挖掘聚类

7.用于NLP的Python：使用Keras的多标签文本LSTM神经网络

8.R语言对MNIST数据集分析探索手写数字分类数据

9.R语言基于Keras的小数据集深度学习图像分类

拓端tecdat|r语言聚类分析：k-means和层次聚类相关推荐

拓端tecdat|R语言逻辑回归（Logistic回归）模型分类预测病人冠心病风险
最近我们被客户要求撰写关于冠心病风险的研究报告,包括一些图形和统计输出. 相关视频:R语言逻辑回归(Logistic回归)模型分类预测病人冠心病风险逻辑回归Logistic模型原理和R语言分类预测冠 ...
r语言聚类分析：k-means和层次聚类
聚类分析算法很多,比较经典的有k-means和层次聚类法. k-means聚类分析算法 k-means的k就是最终聚集的簇数,这个要你事先自己指定.k-means在常见的机器学习算法中算是相当简单的, ...
拓端tecdat|R语言向量误差修正模型 (VECMs)分析长期利率和通胀率影响关系
最近我们被客户要求撰写关于向量误差修正模型的研究报告,包括一些图形和统计输出. 向量自回归模型估计的先决条件之一是被分析的时间序列是平稳的.但是,经济理论认为,经济变量之间在水平上存在着均衡关系,可以 ...
拓端tecdat|R语言用LOESS(局部加权回归)季节趋势分解（STL）进行时间序列异常检测
最近我们被客户要求撰写关于LOESS(局部加权回归)的研究报告,包括一些图形和统计输出. 这篇文章描述了一种对涉及季节性和趋势成分的时间序列的中点进行建模的方法.我们将对一种叫做STL的算法进行研究, ...
拓端tecdat|R语言线性回归和时间序列分析北京房价影响因素可视化案例
最近我们被客户要求撰写关于北京房价影响因素的研究报告,包括一些图形和统计输出. 目的房价有关的数据可能反映了中国近年来的变化: 人们得到更多的资源(薪水),期望有更好的房子人口众多独生子女政策: ...
R语言聚类分析之基于划分的聚类KMeans实战：基于葡萄酒数据
R语言聚类分析之基于划分的聚类KMeans实战:基于葡萄酒数据目录 R语言聚类分析之基于划分的聚类KMeans实战:基于葡萄酒数据
R语言聚类分析之基于划分的聚类KMeans实战：基于菌株数据
R语言聚类分析之基于划分的聚类KMeans实战:基于菌株数据目录 R语言聚类分析之基于划分的聚类KMeans实战:基于菌株数据
R语言ggplot2可视化：为层次聚类树状图dendrogram中的簇进行着色、在树状图dendrogram中为不同的层次聚类簇配置不同的色彩
R语言ggplot2可视化:为层次聚类树状图dendrogram中的簇进行着色.在树状图dendrogram中为不同的层次聚类簇配置不同的色彩 #层次聚类树状图dendrogram labs = pa ...
r语言聚类求和_R语言聚类分析：k-means和层次聚类
尽管我个人非常不喜欢人们被划分圈子,因为这样就有了歧视.偏见.排挤和矛盾,但"物以类聚,人以群分"确实是一种客观的现实--这其中就蕴含着聚类分析的思想. 前面所提到的机器学习算法主 ...
R语言聚类分析--cluster, factoextra
R语言聚类分析–cluster, factoextra 本文转载自"R语言中文社区",己获授权,宏基因组公众号编辑对内容进行测试.修改及补充. 原文链接:https://mp.we ...

拓端tecdat|r语言聚类分析：k-means和层次聚类