matlab 层次聚类
MATLAB的统计工具箱中的多元统计分析中提供了聚类分析的两种方法:
1.层次聚类 hierarchical clustering
2.k-means聚类
这里用最简单的实例说明以下层次聚类原理和应用发法。
层次聚类是基于距离的聚类方法,MATLAB中通过pdist、linkage、dendrogram、cluster等函数来完成。层次聚类的过程可以分这么几步:
(1) 确定对象(实际上就是数据集中的每个数据点)之间的相似性,实际上就是定义一个表征对象之间差异的距离,例如最简单的平面上点的聚类中,最经常使用的就是欧几里得距离。
这在MATLAB中可以通过Y=pdist(X)实现,例如
>> X=randn(6,2)
X =-0.4326 1.1892-1.6656 -0.03760.1253 0.32730.2877 0.1746-1.1465 -0.18671.1909 0.7258
>> plot(X(:,1),X(:,2),'bo') %给个图,将来对照聚类结果把
````
Y=pdist(x)
Y =
1 至 14 列
0.7728 0.4994 0.9336 0.6606 0.3346 0.6789 0.2830 0.1381 0.7942 0.9444 0.5422 0.7887 0.4075 0.8513
15 列
0.7286
````
例子中X数据集可以看作包含6个平面数据点,pdist之后的Y是一个行向量,15个元素分别代表X的第1点与2-6点、第2点与3-6点,…这样的距离。那么对于M个点的数据集X,pdist之后的Y
将是具有M*(M-1)/2个元素的行向量。Y这样的显示虽然节省了内存空间,但对用户来说不是很易懂,如果需要对这些距离进行特定操作的话,也不太好索引。MATLAB中可以用squareform把Y转换成方阵形式,方阵中<i,j>位置的数值就是X中第i和第j点之间的距离,显然这个方阵应该是个对角元素为0的对称阵。
squareform(Y)
ans =
0 0.7728 0.4994 0.9336 0.6606 0.3346
0.7728 0 0.6789 0.2830 0.1381 0.7942
0.4994 0.6789 0 0.9444 0.5422 0.7887
0.9336 0.2830 0.9444 0 0.4075 0.8513
0.6606 0.1381 0.5422 0.4075 0 0.7286
0.3346 0.7942 0.7887 0.8513 0.7286 0
这里需要注意的是,pdist可以使用多种参数,指定不同的距离算法。help pdist把。
另外,当数据规模很大时,可以想象pdist产生的Y占用内存将是很吓人的,比如X有10k个数据点,那么X占10k82Bytes=160K,这看起来不算啥,但是pdist后的Y会有10k10k/28Bytes=400M。怕了把,所以,废话说在前面,用MATLAB的层次聚类来处理大规模数据,大概是很不合适的。
确定好了对象间的差异度(距离)后,就可以用Z=linkage(Y)来产生层次聚类树了。
>> Z=linkage(Y)
>Z=linkage(Y)Z =2.0000 5.0000 0.13814.0000 7.0000 0.28301.0000 6.0000 0.33463.0000 9.0000 0.49948.0000 10.0000 0.5422
对于M个元素的X,前面说了Y是1行M*(M-1)/2的行向量,Z则是(M-1)*3的矩阵。
Z数组的前两列是索引下标列,最后一列是距离列。例如上例中表示在产生聚类树的计算过程中,第3和第4点先聚成一类,他们之间的距离是0.2228,以此类推。要注意的是,为了标记每一个节点,需要给新产生的聚类也安排一个标识,MATLAB中会将新产生的聚类依次用M+1,M+2,…依次来标识。比如第3和第4点聚成的类以后就用7来标识,第2和第5点聚成的类用8来标识,依次类推。
通过linkage函数计算之后,实际上二叉树式的聚类已经完成了。Z这个数据数组不太好看,可以用dendrogram(Z)来可视化聚类树。
可以看到,产生的聚类树的每一层都是一个倒置的U型(或者说是个n型,~~),纵轴高度代表了当前聚类中两个子节点之间的距离。横轴上标记出了各个数据点索引下标。
稍微注意以下的是,dendrogram默认最多画30个最底层节点,当然可是设置参数改变这个限制,比如dendrogram(Z,0)就会把所有数据点索引下标都标出来,但对于成千上万的数据集合,这样的结果必然是图形下方非常拥挤。看你的应用目的了,随你玩~
(3)初步的聚类树画完后,还要做很多后期工作的,包括这样的聚类是不是可靠,是不是代表了实际的对象分化模式,对于具体的应用,应该怎样认识这个完全版的聚类树,产生具有较少分叉的可供决策参考的分类结果呢?这都是需要考虑的。
MATLAB中提供了cluster, clusterdata, cophenet, inconsistent等相关函数。
cluster用于剪裁完全版的聚类树,产生具有一定cutoff的可用于参考的树。
clusterdata可以认为是pdist,linkage,cluster的综合,当然更简易一点。
cophenet和inconsistent用来计算某些系数,前者用于检验一定算法下产生的二叉聚类树和实际
情况的相符程度(就是检测二叉聚类树中各元素间的距离和pdist计算产生的实际的距离之间有
多大的相关性),inconsistent则是量化某个层次的聚类上的节点间的差异性(可用于作为
cluster的剪裁标准)。
matlab 层次聚类相关推荐
- matlab 层次聚类不均等巨雷,matlab层次聚类
层次聚类是基于距离的聚类方法,MATLAB中通过pdist.linkage.dendrogram.cluster等函数 来完成.层次聚类的过程可以分这么几步: (1) 确定对象(实际上就是数据集中的. ...
- matlab 层次聚类算法,层次聚类的Matlab实现代码
最近需要用到层次聚类,发现在Matlab上很容易实现,下面是代码加详细注释 clear all clc close all mdist=input('输入坐标文件名字\n'); disp('读取数据坐 ...
- matlab层次聚类中birch,Birch层次聚类
Birch层次聚类算法 标签(空格分隔): CF树建立 BIRCH算法比较适合于数据量大,类别数K也比较多的情况.它运行速度很快,只需要单遍扫描数据集就能进行聚类,当然需要用到一些技巧,下面我们就对B ...
- 三维层次聚类分析matlab,聚类分析(三) 层次聚类及matlab程序
一.层次聚类介绍 1.1 简介 层次聚类,主要是对给定的待聚类的数据集进行层次化分解.主要分为两大类: 1.从下到上的凝聚聚类 2.从上到下的分裂聚类 其他算法大部分是对样本之间距离度量或者类间凝聚/ ...
- Matlab聚类分析_层次聚类+kmeans聚类等
Matlab提供了两种方法进行聚类分析. 一种是利用 clusterdata函数对样本数据进行一次聚类,其缺点为可供用户选择的面较窄,不能更改距离的计算方法: 另一种是分步聚类:(1)找到数据集合中变 ...
- 分裂层次聚类matlab实现,凝聚层次聚类算法matlab源码
<凝聚层次聚类算法matlab源码>由会员分享,可在线阅读,更多相关<凝聚层次聚类算法matlab源码(3页珍藏版)>请在人人文库网上搜索. 1.共享一个在数据挖掘课程中作为示 ...
- matlab 实现分层聚类算法,[转载]MATLAB层次聚类分析法(转)
层次聚类是基于距离的聚类方法,MATLAB中通过pdist.linkage.dendrogram.cluster等函数来完成.层次聚类的过程可以分这么几步: (1) 确定对象(实际上就是数据集中的每个 ...
- 层次聚类多维度matlab实现_第34集 python机器学习:凝聚聚类
凝聚聚类:凝聚聚类是指许多基于相同原则构建的聚类算法.这一原则是:算法首先声明每个点是自己的簇,然后合并两个最相似的簇,直到满足某种停止条件为止. scikit-learn中实现的停止准则是簇的个数, ...
- 层次聚类 matlab代码_聚类算法解析一
01 概述 本次针对聚类算法进行讲解,因为内容较多,会分多篇文章进行讲解,主要的内容包括聚类算法的整体介绍,针对不同类别的聚类算法比如划分聚类.层次聚类.密度聚类等算法进行介绍,在讲解每类算法时会结合 ...
最新文章
- extjs grid renderer用法
- EIGRP 实验2: 邻居关系
- 互联网秒杀设计--转载
- 接收蓝牙广播onReceive中getStringExtra()出现错误
- 探讨磷酸铁锂电池在UPS的应用
- Linux下用ls和du命令查看文件以及文件夹大小
- mkenvimage
- CSS3实现轮播图效果
- python入门第二十五天--反射 通过字符串的形式操作对象中的成员
- NYOJ题目48-小明的调查作业
- app--查看包名的五种常用方法
- html登陆滑动验证,JavaScript实现登录滑块验证
- 下班后两小时,决定你将会成为怎样的人
- iQOO手机如何打开高清通话volte?
- java 数组总结(赋值,反转,添加,查找)
- 小白也能行--李洵同款--动态爱心代码《附可跳动版本代码》
- STM32学习之SPI协议(读写FLASH)
- 150本畅销书已选好,快来认领!!
- C盘存储空间不够?拓展C盘空间的方法
- 杰理之PAP接口【篇】
热门文章
- pigeon hole
- what courses to choose at Cambridge?
- speech_to_text_demo powered by IBM!
- 管理心得之学术,交通,作息,心态
- U3D 场景切换时 脚本对象,GO对象,资源对象的问题
- 【转】Unity C# 调用C++ dll 问题集锦
- Discovery CentOS6.4 issue
- 对于防止匿名评论/访问的操作
- Hudson:持续集成工具的安装、使用
- Web Service 附件技术的发展及演变