1.聚类算法

1.1 聚类

聚类算法分为两类：

Partitioning Clustering:
- K-means/K=medoids
- Gaussian Mixture Model(高斯混合模型)
- Spectral Clustering(谱聚类)
- Centroid-based Clustering
Hierarchical Clustering：
- Single-linkage
- Complete-linkage
- Connectivity-based Clusting

聚类算法的应用：

数据压缩
数据层次化组织

1.2 K-means算法

目标：将n个数据点分成K类

min⁡μ1,...,μk∑i=1nmin⁡j=1,...,k∣∣xi−μj∣∣2\displaystyle\min_{\mu_1,...,\mu_k} \sum_{i=1}^n \displaystyle\min_{j=1,...,k}||x_i-\mu_j||^2 μ1,...,μkmini=1∑nj=1,...,kmin∣∣xi−μj∣∣2

L2距离平方对距离数据与中心之间的距离进行度量
最优的选择中心点，对于d>1,全局最优是NP-hard问题
聚类结果：对于空间的Voronoi分割：将空间分割成多个多边形，每个多边形对应一个cluster中心μ\muμ

1.3 K-medoids算法

限制数据中心必须来自中心点
使用L1函数作为聚类函数

1.4 层次聚类

层次聚类假设类别之间存在层次结构，将样本聚到层次化的类中。
因为每个样本只属于一个类，所以层次聚类属于硬聚类。

无监督学习之聚类方法相关推荐

无监督学习之聚类方法（K-Means、层次聚类）
一.导入无监督学习中需要对无标记样本进行训练学习进而找到数据的内在性质和逻辑结构,聚类方法是为了为无监督学习的数据分析提供的基础学习方法. 聚类将数据集划分为若干个子集(每个子集称为类或者簇),如果 ...
python 线性回归与逻辑回归区别（有监督学习【分类、回归】、无监督学习【聚类、强化学习】、损失函数、梯度下降、学习率、过拟合、欠拟合、正则化）
引用文章1 https://blog.csdn.net/viewcode/article/details/8794401 引用文章2:一.线性回归和逻辑回归一.什么是机器学习利用大量的数据样本,使 ...
无监督学习--K-means聚类算法学习
无监督学习–K-means聚类算法学习介绍:k-means算法以k为参数,把n个对象分成k个簇,使簇内具有较高的相似度,而簇间的相似度比较低. 其处理过程如下: 1.随机选择k个点作为初始的聚类中心 ...
(数据挖掘 —— 无监督学习（聚类）
数据挖掘 -- 无监督学习(聚类) 1. K-means 1.1 生成指定形状的随机数据 1.2 进行聚类 1.3 结果 2. 系统聚类 2.1 代码 2.2 结果 3 DBSCAN 3.1 参数选择 ...
易百教程人工智能python修正-人工智能无监督学习（聚类）
无监督机器学习算法没有任何监督者提供任何指导. 这就是为什么它们与真正的人工智能紧密结合的原因. 在无人监督的学习中,没有正确的答案,也没有监督者指导. 算法需要发现用于学习的有趣数据模式. 什么是聚 ...
【机器学习基础】(六)：通俗易懂无监督学习K-Means聚类算法及代码实践
K-Means是一种无监督学习方法,用于将无标签的数据集进行聚类.其中K指集群的数量,Means表示寻找集群中心点的手段. 一. 无监督学习 K-Means 贴标签是需要花钱的. 所以人们研究处理无标 ...
【机器学习基础】通俗易懂无监督学习K-Means聚类算法及代码实践
K-Means是一种无监督学习方法,用于将无标签的数据集进行聚类.其中K指集群的数量,Means表示寻找集群中心点的手段. 一. 无监督学习 K-Means 贴标签是需要花钱的. 所以人们研究处理无标 ...
吴恩达机器学习（十一）K-means（无监督学习、聚类算法）
目录 0. 前言 1. K-means的算法流程 2. 代价函数(优化目标函数) 3. K 的选择学习完吴恩达老师机器学习课程的无监督学习,简单的做个笔记.文中部分描述属于个人消化后的理解,仅供参考 ...
无监督学习 | 层次聚类之凝聚聚类原理及Sklearn实现
文章目录 1. 层次聚类 1.1 凝聚聚类 1.2 层次图 1.3 不同凝聚算法比较 2. Sklearn 实现 2.1 层次图可视化参考文献相关文章: 机器学习 | 目录机器学习 | 聚类评估 ...

无监督学习之聚类方法